Губернатор Калифорнии Ньюсом поручил изучить выключатели для ИИ — Al Jazeera
Губернатор Калифорнии Гэвин Ньюсом подписал указ, предусматривающий независимую проверку моделей искусственного интеллекта и создание экспертного комитета для разработки механизмов аварийного отключения ИИ-агентов, способных выйти из-под контроля и причинить вред. Как сообщает Al Jazeera, Ньюсом также намерен расширить определение инцидентов, связанных с безопасностью ИИ.
Возвращение к ранее ветированным требованиям
В 2024 году Ньюсом наложил вето на законопроект SB 1047, принятый ассамблеей штата. Тогда губернатор заявил, что предложенные правила могут помешать перспективам этой технологии. Законопроект предусматривал более широкие требования к безопасности разработки передовых моделей ИИ, в частности механизмы их остановки.
После вето Ньюсом попросил автора инициативы, сенатора штата Скотта Винера, переработать документ с участием экспертного комитета. В октябре 2025 года губернатор подписал закон о передовом ИИ, который требует от крупных разработчиков раскрывать данные об определенных инцидентах безопасности. Среди них — гибель 50 или более человек, масштабные кибератаки или хищение средств.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Оценки экспертов и дальнейшие шаги
Заместительница директора Центра политики в сфере ИИ и цифровых технологий Кристабель Рендолф отметила, что SB 1047 содержал более конкретную архитектуру безопасности. По ее словам, указ охватывает механизмы отключения или остановки, тогда как ветированный законопроект требовал мер предосторожности еще до начала обучения моделей.
Директор по исследованиям Distributed AI Research Institute Алекс Ханна считает, что указ демонстрирует внимание Ньюсома к рискам ИИ без намерения вводить радикальные ограничения. Она также связала этот шаг с ростом обеспокоенности американских избирателей безопасностью ИИ, центрами обработки данных и потерей рабочих мест.
Ньюсом поручил Управлению служб по чрезвычайным ситуациям Калифорнии представить рекомендации по регулированию ИИ до 15 ноября. Он также может созвать специальную сессию законодательного собрания штата для обсуждения их внедрения до окончания своего срока.
