Финские профессора оценили риски искусственного интеллекта — YLE News
В Финляндии профессор Арно Солин из Университета Аалто и профессор Пекка Абрагамссон из Университета Тампере по-разному оценивают вероятность наиболее тяжёлых сценариев развития искусственного интеллекта. Как сообщает YLE News, оба учёных считают актуальным риском злонамеренное использование технологии, тогда как их оценки возможности потери контроля над ИИ различаются.
Злонамеренное использование ИИ
Один из трёх сценариев, рассмотренных ChatGPT и Claude, предполагает использование искусственного интеллекта людьми или организациями для кибератак, разработки вирусов или получения доступа к оружию массового уничтожения. Обе языковые модели назвали этот вариант наименее вероятным из трёх, поскольку он предполагает человеческое управление, а не собственные цели ИИ.
Солин считает, что главная нынешняя опасность заключается именно в злонамеренном использовании технологии. По его словам, ИИ уже может помогать создавать более убедительные онлайн-мошенничества и персонализированное воздействие на общественное мнение. Он также отметил, что в дальнейшем с помощью ИИ может стать проще создавать бомбы, биологическое или химическое оружие.
Абрагамссон также назвал использование ИИ в злонамеренных целях наибольшим текущим риском. По его мнению, недобросовестные субъекты могут привлечь «армию» ИИ-агентов для захвата созданной людьми инфраструктуры.
Конфликт между крупными государствами
Второй сценарий предполагает, что гонка вооружений, управляемая ИИ, может нарушить баланс сил между крупными государствами и ускорить принятие решений об атаках. Например, автоматизированная кибератака на критическую инфраструктуру одного из государств может быть истолкована как военное действие, что способно вызвать ответный удар и дальнейшую эскалацию до применения оружия массового уничтожения.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Языковые модели оценили этот сценарий как промежуточный по вероятности. Риск возрастает, если решения о реагировании на атаки передают ИИ без участия человека. Абрагамссон подчеркнул, что автономность системы, широкие полномочия и доступ к большому объёму данных без человеческого надзора создают сложную проблему.
Потеря контроля над системами
По мнению опрошенных языковых моделей, наиболее вероятным из трёх сценариев является ситуация, при которой ИИ станет настолько автономным, что люди передадут ему всё больше полномочий, а цели системы перестанут соответствовать человеческим. В таком случае, согласно описанию сценария, систему может быть невозможно остановить.
Абрагамссон выразил обеспокоенность тем, что недостаточно понятная модель ИИ может создавать следующие поколения систем, которые будет ещё труднее понимать и контролировать. Солин, напротив, оценивает вероятность выхода ИИ из-под контроля как небольшую, но считает, что к такому риску стоит готовиться из-за высокой потенциальной цены ошибки.
По словам Солина, современные языковые модели работают на серверах и в вычислительных кластерах, поэтому люди могут остановить процесс. Он отметил, что нет доказательств того, что ИИ самостоятельно перенёс собственный код на другой сервер и запустил его там.
