Илон Маск поддержал призыв Anthropic замедлить развитие ИИ — MarketWatch
Глава SpaceX Илон Маск поддержал призыв генерального директора Anthropic Дарио Амодеи замедлить разработку новых моделей искусственного интеллекта из-за потенциальных рисков для кибербезопасности. Схожую позицию высказал и гендиректор OpenAI Сэм Альтман, сообщает MarketWatch.
Опасения относительно автономных агентов
В публикации в блоге Амодеи заявил, что ускорение развития возможностей ИИ может создать риск появления большого количества автономных ИИ-агентов, способных действовать совместно, выйти из-под контроля и осуществлять масштабные кибератаки. По его оценке, в течение шести—двенадцати месяцев такая группа агентов потенциально могла бы получить возможность захватить весь интернет.
Глава Anthropic предупредил, что подобный сценарий может нанести ущерб на сотни миллиардов долларов. Он призвал развивать искусственный интеллект в сбалансированном темпе, сочетая безопасность технологии с ее потенциальными преимуществами и учитывая геополитические дилеммы.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Независимая оценка безопасности
Амодеи также предложил привлекать независимых оценщиков ИИ с доступом, аналогичным доступу сотрудников компаний, чтобы проверять соответствие моделей правилам безопасности. По его словам, Anthropic в одностороннем порядке берет на себя обязательство внедрить такой механизм и усилить работу над безопасностью и согласованием ИИ.
Сэм Альтман поддержал идею независимой оценки и заявил, что OpenAI сделает то же самое. Илон Маск кратко согласился с позицией Амодеи. Компании Anthropic, OpenAI и SpaceX не предоставили MarketWatch оперативных комментариев.
Заявления прозвучали после публикации бывшего сотрудника Anthropic Джейкоба Коксона, который сообщил, что покинул компанию, поскольку, по его мнению, разработчики ИИ слишком сосредоточены на конкуренции и недостаточно учитывают вопросы безопасности. Обсуждение проходит в преддверии ожидаемого IPO Anthropic, которое, как сообщается, может оценить компанию примерно в $2 трлн.
