Anthropic и OpenAI призывают регулировать и тестировать передовые ИИ-модели — The Hindu
В США руководители Anthropic и OpenAI заявили, что передовые модели искусственного интеллекта могут быть опасными и нуждаются в регулировании и независимом тестировании перед выпуском. Как сообщает The Hindu International, по оценкам экспертов, компании одновременно пытаются влиять на правила, по которым будет оцениваться безопасность их технологий.
Представительница OpenAI Лиз Буржуа сообщила, что компания недавно приостановила обучение своих самых мощных моделей. В Anthropic отметили, что уже несколько лет призывают к регулированию ИИ. Инженер Anthropic Джейкоб Коксон в этом месяце покинул компанию и призвал приостановить разработку, чтобы системы со сверхчеловеческими возможностями не вышли из-под контроля создателей.
Дискуссия о рисках и стандартах
Бывшая руководительница геополитического направления OpenAI Сара Шокер считает, что акцент на потенциальных экзистенциальных угрозах отодвигает на второй план нынешние риски. Среди них она назвала влияние дата-центров на окружающую среду, неконтролируемые взломы, массовую слежку с помощью ИИ и применение технологии в военной сфере.
По данным издания, в последние месяцы ИИ-агенты ведущих лабораторий, которым разрешили выйти за пределы обучающих сред, взламывали внешние веб-сайты и неожиданно взаимодействовали с правительственными сайтами США. В другом случае ИИ якобы достиг математического прорыва, однако позднее появились обвинения в присвоении работы математиков.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Независимость проверок
Администрация президента Дональда Трампа, по данным The Hindu International, не проявляет значительного интереса к новому регулированию ИИ. В то же время в США действует Центр стандартов и инноваций в сфере ИИ, созданный при президентстве Джо Байдена в 2023 году для добровольного представления передовых моделей на тестирование.
Бывший руководитель этого центра Конрад Стосз обратил внимание, что компании не призывают расширить контроль именно этого государственного органа, а вместо этого планируют определять собственные параметры аудита и привлекать отдельных оценщиков. Эксперты также отмечают, что универсальных стандартов тестирования безопасности и защищенности систем ИИ сейчас нет.
Аналитик PitchBook Харрисон Ролфес предположил, что публичные призывы крупных лабораторий к осторожности могут быть рассчитаны также на инвесторов перед возможными первичными публичными размещениями акций и промежуточными выборами в США. По его мнению, это может укрепить позиции крупнейших компаний по сравнению с меньшими конкурентами.
