Угрозы искусственного интеллекта: фантастика или реальность. Интервью с главой комитета по развитию ИИ в Украине Алексеем Молчановским

01 Серпня 2023 16:55

Об угрозах искусственного интеллекта, мировых практиках регулирования и контроля применения этой технологии, а также возможностях регулирования ИИ в Украине - в интервью UA.NEWS рассказывает Алексей Молчановский, руководитель магистерской программы науки о данных, заместитель декана факультета прикладных наук Украинского католического университета, председатель экспертно-консультационного комитета по развитию искусственного интеллекта в Украине при Министерстве цифровой трансформации, а также спикер iForum в Киеве 10 августа.

Алексей Молчановский
Руководитель магистерской программы науки о данных, заместитель декана факультета прикладных наук УКУ, глава комитета по развитию искусственного интеллекта в Украине

Какие сегодня существуют этические дилеммы вокруг искусственного интеллекта? Какие опасения в отношении ИИ реальны, а какие - из области фантастики?

Алексей Молчановский: Существует самая большая дилемма, уничтожит ли искусственный интеллект человечество. Хотим ли мы об этом поговорить? (Смеется).

Среди специалистов, занимающихся ИИ, есть целый спектр взглядов. Можно найти таких, кто считает, что это значительная угроза. Есть те, кто полагает, что никакой угрозы от технологии, от математики нет, и все зависит от того, как люди используют ИИ. Яркий пример – ядерная физика. Изучение ядерной физики, открытие этих законов позволило нам создать атомную бомбу и атомные реакторы. От одного мы получаем уничтожение, от другого – электричество и тепло в наших домах.

Но технология ИИ мощная – никто с этим не спорит.

Я стою на позиции, что нужно оценивать, как используется технология. Тот же дипфейк можно использовать как для манипуляций, так и в кинематографе - когда оживают умершие актеры или текущих актеров омолаживают и т.д.

Если реалистично говорить о разных сценариях, то сценарий который описан в "Матрице" или "Терминаторе" - это фантастический сценарий. Автономные роботы, которые ходят и уничтожают человечество, захватили и тому подобное – это фантастика.

Есть интересный вопрос, а почему вы решили, что искусственный интеллект захочет уничтожить человечество? Это люди хотят захватывать других. Но совсем не обязательно, что искусственный интеллект будет заинтересован это делать, и что у него вообще возникнет такая цель.

Мы сейчас выносим за скобки термин сознание, ни разу не вспомнив его в нашем разговоре – и это правильно. Потому что мы до конца не знаем, что такое сознание. И наделять таким сознанием эти системы – это слишком сильный аргумент, пока рано о таком говорить.

Плюс понимание и модель мира – один из важных факторов. Пока эти системы не способны понимать. Возможно, они постепенно научатся это делать. Мы не знаем, спустя сколько лет это будет. К примеру то же появление робота гуманоидного типа, который будет с вами ходить и помогать. Не того робота, который пылесосит ваш дом, а такого, который будет вашим ассистентом и будет понимать ваши запросы. Когда это появится? Трудно сказать, потому что множество вопросов не только по искусственному интеллекту, но и по инженерии, робототехнике. Даже вопрос батареи, насколько он долго будет работать, чтобы был достаточно велик.

Важное направление в нашей отрасли – alignment problem – или проблема согласования. И речь идет о согласовании наших целей как отдельного человека или общества, или даже целого человечества с "пониманием" систем искусственного интеллекта. Чтобы их поведение, их достижение цели было согласовано с нашими целями. И здесь есть большой вызов.

Мы можем вспомнить три закона робототехники Айзека Азимова. Первый закон – робот не должен навредить человеку. Выставляя определенную цель, жестко ее описывая, мы не всегда можем предусмотреть все возможные сценарии в будущем, которые могут нарушать эту цель. Или наоборот - цель будто придерживается, но все идет кувырком, не так, как мы хотели.

Поэтому сейчас есть исследования, предполагающие, что робот или система заранее не были осведомлены в наших целях и не знали, чего мы хотим. А единственный способ, как они узнают о целях – наблюдают за нами. Представьте себе робота, которого вы покупаете, распаковываете дома и он “нулевой”. Вы начинаете с ним знакомиться и робот потихоньку начинает за вами наблюдать, чтобы понять, что вы хотите. К примеру, вы любите утром пить кофе, и робот начинает это делать и таким образом согласуется с его владельцем. А кто-то купит такого же робота, но в другом культурном контексте у него будут совершенно другие факторы.

Если рассуждать таким образом, мы проблему вызовов использования этих инструментов опускаем на проблемы, которые человечество и так пытается решать - взаимопонимание между различными культурами, сообществами.

Даже если брать систему GPT. Возникает вопрос, нужно ли нам что-то такое украинское, хотим ли мы такой сервис, но разработанный украинцами? Потому что существующая система обучена на текстах, которую разработчики OpenAI подобрали для нее. Эта система видела украинские тексты и осведомлена об украинском контексте. Но в одном источнике указывалось, что украинских текстов там в 10 раз меньше, чем российских. И это вопрос безопасности. Поэтому не исключено, что в будущем, через 5-10 лет, каждая страна может иметь свою модель, которая будет помогать гражданам этой страны.

Технология одна и та же, но ее внедрение в разных странах (даже в одной стране, но в разных сообществах) будет по-разному происходить, чтобы согласовываться с ценностями, потребностями всех отдельных сообществ.

В детстве я думала, что в будущем людей не будут привлекать к боевым действиям непосредственно, а будут использоваться роботы… В какой перспективе могут быть созданы роботы-гуманоиды, которые используют искусственный интеллект, и будут максимально близки по своим способностям к человеку, в том числе физическим? В каких областях могут применяться такие роботы?

Алексей Молчановский: Я не очень верю прогнозам, что совсем скоро будут созданы роботы, подобные человеческому телу и с приближенными к человеку когнитивными возможностями. Пытаюсь пессимистично на них смотреть. Потому что во времена взрыва интереса к этой сфере нам хочется считать, что это очень близко. Но если взять пример, который вы привели, то даже за вашу жизнь не сбылись подобные ожидания.

Я думаю, что это займет десятки лет, если не 50+ лет. Не факт, что я увижу таких роботов в своей жизни, возможно, мои дети увидят. А, возможно, я существенно ошибаюсь, и у нас такая технология где-то за углом, просто она еще малодоступна и через 10 лет мы уже будем иметь таких роботов. В такие бурные времена, когда все настолько быстро развиваются, очень трудно делать соответствующие оценки.

Один нейроученый из Института Аллена (Allen Institute for Neuroscience) сказал, что нам еще 100 лет до того, чтобы понять, как работает мозг. Да, мы уже многое знаем, но на самом деле – это очень мало по сравнению с тем, сколько там еще узнавать.

Если представить, что такие роботы появятся и они будут такие же, как люди по способностям, то нет ограничений, где они могут использоваться.

Единственное возникающее ограничение - экономическое. Это можно ярко показать на примере нашей войны. Мы видим, что россиянам куда дешевле сугубо экономически привлечь заключенных и гнать штурмами на наших военных, потому что это дешево. Если у вас будет робот, который стоит несколько миллионов долларов, то возникнет вопрос, захотите ли его использовать в таких условиях? Я предполагаю, что эти роботы не будут дешевыми, поэтому они будут использоваться в особых ситуациях.

Возможно, появятся универсальные работы, с которыми можно поговорить, он может выполнять какие-то задачи. Но скорее всего мы пойдем в нишевые направления. Где-то нам потребуется робот, умеющий ходить и у которого 6 рук, а где-то - робот, которому вообще не нужно ходить, он по комнате перемещается на колесах или летает.

То есть от роботов нам нужен функционал в первую очередь. А то, что он выглядит как человек, может нам вообще не пригодиться. Может мы и не захотим этого, а пожелаем сохранять уникальность человеческого тела. Ведь, с одной стороны, есть большой интерес ко всему генеративному, генерируемому, искусственному. И противовес этому – все человеческое. Когда люди начинают больше ценить эту теплоту человеческого прямого общения в противовес всему искусственно-сгенерированному. Возможно, мы тогда решим, что “Нет стоп, мы не хотим иметь роботов, которые похожи на нас”.

Регулирование искусственного интеллекта и его контроль. Какие существуют тенденции в этом направлении?

Алексей Молчановский: Регулирование и контроль очень важная проблема, и действия правительств в этом направлении демонстрируют, что технология вышла за пределы лабораторий и развлечений.

Первенство с точки зрения введения регуляторки занимает Евросоюз. Закон, называемый AI Act, в ЕС еще не принят, только завершили его написание. Как законопроект он должен приниматься либо осенью, либо следующей весной. Этот закон будет продолжать историю, связанную с работой с данными, персональными данными и т.д.

В США и Британии подход несколько иной – на основе английского права, предусматривающего более рамочную историю. У вас есть какие-то общие принципы, а внутри общих принципов, если и возникают какие-то случаи, они рассматриваются, и таким образом формируются правовое тело.

Если говорить о правах искусственного интеллекта, то первое право, о котором можно говорить – это авторское право. Можно ли ИИ-системе дать авторское право? И если мы даем авторское право, это означает, что мы признаем субъектность. А если мы признаем субъектность, то на этом спектре в будущем может возникнуть ситуация, когда мы будем иметь роботов, которых не сможем выключить, потому что они имеют право на существование. Спрашивается, готовы ли мы давать авторские права искусственному интеллекту?

И у нас уже есть такие кейсы. Несколько лет назад был создан патент на изделие, разработанное с помощью искусственного интеллекта. Был сгенерирован определенный объект и описан патент. Но в США заявку не утвердили, патент не выдали. Потому что у американцев ясно прописано в законодательстве, что автором патента может быть только живой человек. Впрочем, такой патент выдали, кажется, в ЮАР. На этом примере мы видим различия между странами, разные юриспруденции, где по-разному будут трактовать регулирование ИИ.

Другая история – ограничение для ИИ. К примеру, Китай тоже пытается регулировать ИИ. Но для него важно, чтобы генеративные модели искусственного интеллекта были согласованы с ценностями коммунистической партии. На демократическом Западе тоже есть свои требования - там декларируют, что эти технологии должны быть согласованы с демократическими ценностями. Это означает, что тексты или изображения, противоречащие определенным ценностям, не могут быть включены в набор данных, на которых будет тренироваться ИИ в конкретной юрисдикции.

В наработке регуляторной базы сейчас впереди Европейский Союз, поэтому другие страны будут подстраиваться. Ведь ЕС – это в первую очередь значительный рынок, где компаниям интересно присутствовать, поэтому они будут к правилам прислушиваться. ЕС, в свою очередь, заинтересован в ИИ, они не могут просто взять и отключить доступ своих граждан к этим технологиям. Ибо в таком случае Европа будет неконкурентоспособна в сравнении с той же Северной Америкой. Поэтому европейские бюрократы заинтересованы в том, чтобы подтянуть работающие с ИИ компании к своим стандартам.

Должна ли Украина принимать собственные законы по ИИ?

Алексей Молчановский: Одна из целей нашего Комитета по развитию сферы искусственного интеллекта – выяснить, что должно быть в Украине.

Один сценарий – написать свой закон об искусственном интеллекте, руководствуясь мнением о том, что мы двигаемся в Европейский Союз. И соответственно, стоит согласовать это.

Другой вариант – подождать, выдержать паузу. И принять какое-либо рамочное концептуальное законодательство: что мы признаем важность таких технологий, и подчеркнуть ключевые аспекты (например, безопасность персональных данных). Но не входить в угрозы или градации этих угроз, как это сделали в ЕС (где запрещено, где разрешено, где полностью зеленый свет). Потому что мы сейчас можем быть не в состоянии это оценивать – для этого нужны дополнительные ресурсы.

Еще один вариант – просто позаимствовать. К примеру, если в ЕС что-то принимается, то мы автоматически тоже это одобряем.

Украина сейчас находится на самой ранней стадии по этому вопросу. Поэтому мы планируем создать дискуссионную площадку, посвященную вопросам регулирования искусственного интеллекта в Украине и будем постепенно об этом говорить.

В ООН предлагали создать международный орган, регулирующий искусственный интеллект, как МАГАТЭ. Нужно ли это и в какой перспективе может быть создан такой орган?

Алексей Молчановский: Как гражданин Украины, я не очень верю в мощь ООН и создание какого-то действенного механизма. Максимум, что они могут сделать – это дискуссионная площадка, которая будет обмениваться мнениями и к которой могут прислушиваться, а могут и не прислушиваться.

Здесь мне больше нравится то, что делает ОБСЕ. Они уже несколько лет двигаются в этом направлении, ведут дискуссии по искусственному интеллекту, дают свои рекомендации. И в этом участвуют наиболее развитые страны мира - те, кто продуцирует искусственный интеллект, и кто его в первую очередь использует. Поэтому я бы наверняка смотрел скорее на них, чем на ООН.

Расскажите, о чем будет ваш доклад на iForum 10 августа, поделитесь какими-нибудь инсайдами?

Алексей Молчановский: На iForum я буду участвовать в двух активностях.

Первое – презентую доклад об искусственном интеллекте. Будем говорить о текущей ситуации вокруг ИИ, будущем отрасли и куда она будет двигаться. Коснемся вопросов, которые затронули и в этом интервью. Какие ограничения есть, что нужно делать, чтобы эти ограничения преодолеть, и куда мы можем смотреть с точки зрения бизнеса.

Мы сегодня упоминали модели мира, поэтому хотелось бы, чтобы и ИИ-системы имели такие модели мира. Ученые уже работают над этим. Бизнес может начать смотреть немного вперед и присматривать, как это может быть использовано. Условно люди смогут в будущем купить искусственный интеллект для своих нужд, определенную модель. А потом к этой модели докупить модель мира, которая натренирована под конкретного потребителя.

Сейчас есть большой чрезмерный интерес к этой технологии, и я стараюсь показывать больше не темную сторону – это отдельная история, а ловушку, в которую мы попадем, если будем выдвигать к этой технологии чрезмерные ожидания. .

Вторая моя вовлеченность на iForum – участие в панельной дискуссии о будущем, в частности, образования и рынка труда. Там мы с коллегами будем говорить о том, как и к каким профессиям нам нужно готовиться. Здесь нет каких-нибудь сильных инсайтов. Как я уже говорил, важно смотреть, как эти технологии меняют текущие профессии. Конечно, мы можем фантазировать обо всех этих профессиях, но что-то реально новое трудно спрогнозировать, потому что оно еще не создано. Поэтому я стараюсь не быть спекулятивным в этом плане.

***

Медиа UA.NEWS является информационным партнером iForum-2023 и приглашает всех желающих принять участие в главной ИТ-конференции Украины 10 августа в МВЦ в Киеве. Детали на сайте iForum по ссылке: https://2023.iforum.ua/

Читайте также:

Как работает искусственный интеллект и почему он генерирует фейки: интервью с главой комитета по развитию ИИ в Украине Алексеем Молчановским

Как искусственный интеллект изменит сферы образования и труда: рассказывает председатель комитета по развитию ИИ в Украине Алексей Молчановский

Угрозы искусственного интеллекта: фантастика или реальность. Интервью с главой комитета по развитию ИИ в Украине Алексеем Молчановским

Ілона Завальнюк