Финские эксперты разошлись в оценках риска ИИ — YLE News
В Финляндии специалисты по информатике по-разному оценивают заявления руководителей технологических компаний о рисках искусственного интеллекта для человечества. Генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ, ввести независимый надзор за моделями и глобальное регулирование, сообщает YLE News.
Амодеи ссылался на прогнозы, согласно которым вероятность того, что ИИ может уничтожить человечество в течение следующего десятилетия, может превышать 10%. Бывший ведущий исследователь Anthropic Джейкоб Коксон, покинувший компанию, также заявил в X, что люди, создающие ИИ, всерьез допускают такой сценарий в ближайшие годы.
Подобные предостережения о необходимости сдерживать развитие технологии высказывал глава OpenAI Сэм Альтман. Глава SpaceX Илон Маск также заявлял, что согласен с Амодеи относительно ограничения развития ИИ. В то же время Anthropic на прошлой неделе сообщила, что выявила и остановила лиц, пытавшихся использовать ее технологию, в частности для разработки биологического оружия и кибершпионажа.
Риски связывают с действиями людей
Профессор информатики Хельсинкского университета Лаура Руотсалайнен назвала абсурдными разговоры об ИИ, способном уничтожить человечество. По ее мнению, системы, потенциально способные причинить вред такого масштаба, изолируют от сетей из-за киберугроз, а передача машинам решений об уничтожении не является реалистичным сценарием.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
По мнению экспертов, разделяющих эту позицию, сценарии из научной фантастики могут отвлекать внимание от уже существующих угроз: влияния на выборы, мошенничества с дипфейками, взломов и проблем авторского права. Профессор машинного обучения Университета Аалто Арно Солин признал обоснованность опасений, но считает, что основные риски связаны с тем, как люди будут применять все более мощные модели.
Регулирование и конкуренция
Профессор информатики Университета Тампере Пекка Абрагамссон серьезнее относится к рискам в ближайшем будущем. Он упомянул возможную сингулярность — ситуацию, при которой ИИ начнет самостоятельно совершенствовать себя без человеческого управления. В то же время Абрагамссон считает, что публичные заявления руководителей ИИ-компаний имеют также политическое и маркетинговое измерение.
В материале отмечается, что строгое глобальное регулирование и дорогостоящие механизмы безопасности могут создать значительные барьеры для разработчиков открытого кода, университетов и небольших компаний. Это потенциально способно усилить позиции крупных игроков, в частности Anthropic и OpenAI, которые, по данным YLE News, готовят масштабные раунды финансирования или биржевые размещения.
