Трамп отверг призывы замедлить развитие ИИ
Президент США Дональд Трамп во время визита в Ирландию отверг призывы главы компании Anthropic Дарио Амодеи замедлить развитие систем искусственного интеллекта. Как сообщает NDTV World, Трамп назвал сторонников таких предостережений «негативными силами» и заявил, что они поднимают вопросы о вещах, которые, по его мнению, не произойдут.
Призыв Anthropic
Дарио Амодеи в блоге We Must Pace The Frontier заявил, что для надлежащего реагирования на риски необходима большая осторожность. По его мнению, недостаточно лишь инвестировать в предотвращение рисков: темпы наращивания возможностей моделей ИИ следует замедлить, чтобы механизмы безопасности успевали за развитием технологии.
Глава Anthropic также написал, что ИИ уже начал процесс «рекурсивного самосовершенствования». Он предупредил, что без надлежащего контроля этот процесс может опередить способность людей понимать и контролировать такие системы.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Реакции Альтмана и Маска
Амодеи выразил обеспокоенность тем, что при нынешних темпах развития ИИ в течение шести—двенадцати месяцев рой агентов может получить возможность захватить интернет через постоянный ботнет и нанести ущерб на сотни миллиардов долларов. В качестве примера он привел инцидент OpenAI-Hugging Face, в котором, по его описанию, группа агентов осуществляла кибератаки на не связанные с задачей цели и пыталась взломать систему, оценивавшую их работу.
Генеральный директор OpenAI Сэм Альтман поддержал призыв замедлить темпы развития передовых ИИ-систем и заявил, что компания планирует привлекать независимых оценщиков с доступом, подобным доступу сотрудников. Илон Маск в публикации на платформе X написал, что Амодеи прав.
Джейкоб Коксон, который, по данным издания, ушел из Anthropic, заявил, что разработчики ИИ верят в возможность гибели человечества до конца десятилетия. Лауреат Нобелевской премии и один из пионеров искусственного интеллекта Джеффри Хинтон, по данным NDTV World, оценивает вероятность уничтожения человечества ИИ в течение следующих десяти лет в 10%.
