Цукерберг заявил, что у ИИ-компаний есть стимулы заботиться о безопасности
В США генеральный директор Meta Марк Цукерберг заявил, что конкуренция и юридическая ответственность дают компаниям, разрабатывающим искусственный интеллект, достаточные стимулы самостоятельно заботиться о безопасности своих моделей. Об этом он написал 15 сентября в социальной сети X, сообщает Channel NewsAsia.
По словам Цукерберга, каждая лаборатория имеет ответственность и стимулы развивать модели в темпе, необходимом для их безопасного обучения, а также может самостоятельно принимать меры для этого. Он также заявил, что доверие и согласованность будут всё больше отличать ИИ-агентов и модели разных разработчиков.
Разногласия относительно темпов разработки
Заявление Цукерберга прозвучало через три дня после призыва генерального директора Anthropic Дарио Амодеи замедлить темпы совершенствования возможностей моделей ИИ. Амодеи поднял этот вопрос на фоне предупреждений ряда исследователей об экзистенциальных рисках технологии. Его призыв публично поддержали глава OpenAI Сэм Альтман и основатель xAI Илон Маск.
Президент США Дональд Трамп 14 сентября преуменьшил опасения относительно потенциального вреда от ИИ, заявив, что у страны уже есть меры предосторожности в этой сфере. Он также сказал, что сомнения в развитии технологии могут сыграть на руку Китаю. Позицию о том, что регулирование может ослабить конкурентоспособность американских компаний, разделяет, в частности, генеральный директор Nvidia Дженсен Хуанг.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Позиция Meta по вопросам безопасности
Цукерберг заявил, что у лабораторий есть весомый стимул не допустить вреда от своих моделей, поскольку в противном случае они могут столкнуться со значительной юридической ответственностью. Он привёл пример Meta, которая в этом году отложила выпуск ИИ-агента Muse, чтобы усилить его защиту.
Глава Meta также сообщил, что компания направила значительное большинство своих вычислительных ресурсов на продукты для текущих потребностей пользователей, а не на системы ИИ, способные к самосовершенствованию. По его словам, подразделение Meta Superintelligence Labs уже привлекает независимых оценщиков по нескольким направлениям и считает это лучшей отраслевой практикой.
Председатель Федеральной торговой комиссии США Эндрю Фергюсон 15 сентября призвал с подозрением относиться к ИИ-компаниям, которые добиваются антимонопольных исключений, одновременно лоббируя новые правила. Издание отмечает, что Амодеи на прошлой неделе просил предоставить такое разрешение, чтобы конкуренты могли координировать замедление развития ИИ из соображений безопасности.
