Anthropic предложила судам блокировать опасные ИИ-модели — Channel NewsAsia
В США компания Anthropic предложила губернатору Калифорнии Гэвину Ньюсому разрешить государственным должностным лицам обращаться в суд с требованием заблокировать выпуск моделей искусственного интеллекта, если проверка выявит, что они представляют серьезный риск для общества. Об этом сообщает Channel NewsAsia со ссылкой на письмо компании от 15 октября.
Предложения для Калифорнии
Представитель Anthropic подтвердил подлинность письма. В офисе губернатора Калифорнии не предоставили немедленного комментария по этой инициативе.
Компания представила свои рекомендации после того, как в сентябре Ньюсом сформировал группу экспертов по искусственному интеллекту. Ее задачей является подготовка предложений по требованиям безопасности ИИ.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Вместо полного отключения
Anthropic также выступила против требования встраивать в модели так называемые аварийные выключатели, способные полностью остановить работу системы, если компания потеряет контроль над ее действиями. По мнению компании, более эффективными будут точечные меры: отключение проблемного ИИ-агента или прекращение доступа конкретного клиента к модели.
В сентябре двухпартийная группа сенаторов США обсуждала законопроект, который мог бы предоставить правительству полномочия блокировать выпуск отдельных моделей ИИ, признанных опасными. При таком подходе компании могли бы обжаловать подобное решение в федеральном суде. После предвыборного перерыва Конгресс не продвинул это предложение дальше.
В июле члены Палаты представителей США предложили законопроект AI Kill Switch Act, предусматривающий право должностных лиц требовать от ИИ-компаний остановки моделей, создающих риск для человеческой жизни или экономики. Ранее администрация Дональда Трампа предписала Anthropic ограничить иностранный доступ к ее киберспособным моделям Mythos 5 и Fable 5 из соображений национальной безопасности, однако позднее Министерство торговли США отменило это распоряжение.
