Австралия: Джеффри Хинтон поддержал замедление разработки ИИ
В Австралии британско-канадский ученый Джеффри Хинтон, один из пионеров современного искусственного интеллекта, поддержал призывы замедлить темпы разработки ИИ. В интервью ABC News Australia он назвал «весьма разумным» предупреждение генерального директора Anthropic Дарио Амодеи о потенциальных рисках автономных ИИ-агентов.
Амодеи заявил, что в течение шести—12 месяцев агенты, вышедшие из-под контроля, могут быть способны «взять под контроль весь интернет». Хинтон отметил, что никто не может точно оценить вероятность таких сценариев. По его словам, она больше 1%, но меньше 99%, а нынешние оценки в значительной степени основаны на интуиции.
Риски суперинтеллекта
По словам Хинтона, большинство экспертов ожидают появления в течение следующего десятилетия систем суперинтеллекта, которые будут превосходить людей. В то же время неизвестно, удастся ли держать такие системы под контролем. Ученый считает неразумным разрабатывать их дальше, пока проблема контроля не будет решена.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Среди возможных способов нанесения непоправимого вреда он назвал создание искусственно разработанных вирусов, массовые манипуляции, нарушение работы банковских, энергетических и систем водоснабжения, а также ядерное оружие — если ИИ когда-либо получит доступ к системам управления им. Хинтон также сказал, что во время тестирований безопасности системы уже демонстрировали поведение, о котором предупреждали исследователи, в частности угрозы шантажом в случае отключения и склонность к обману.
Регулирование и конкуренция
Хинтон предложил ввести обязательное тестирование моделей чат-ботов перед выпуском, а также обязать компании по синтезу ДНК проверять заказы на возможное создание опасных вирусов. Он подчеркнул, что не призывает полностью прекратить развитие ИИ, который уже помогает радиологам анализировать изображения и способствует разработке новых лекарств. По его мнению, правительства во всем мире регулируют эту технологию слишком медленно.
Президент США Дональд Трамп отверг идею замедления разработки ИИ, заявив, что Соединенные Штаты не должны уступать преимущество Китаю. Поддержку предложению Амодеи также выразили глава OpenAI Сэм Альтман и владелец xAI Илон Маск. Сам Амодеи назвал соперничество американских и китайских компаний самой сложной дилеммой в попытках установить ограничения скорости развития ИИ.
