Ньюсом поручил подготовить предложения по аварийному отключению ИИ — The Verge
Губернатор Калифорнии Гэвин Ньюсом издал указ, которым поручил подготовить предложения по усилению законодательных требований к безопасности искусственного интеллекта, в частности относительно возможного механизма аварийного отключения передовых моделей ИИ. Об этом сообщает The Verge.
Рекомендации через два месяца
Указ предусматривает созыв группы экспертов, которая в течение двух месяцев должна предоставить рекомендации по укреплению норм безопасности ИИ в законодательстве штата. Ньюсом хочет, чтобы специалисты рассмотрели возможность обязать ИИ-компании допускать независимые группы верификации для регулярных аудитов на местах.
Эксперты также должны оценить варианты независимой проверки отчетов компаний о прозрачности и оценок рисков. Отдельно предлагается рассмотреть требование о механизме аварийного отключения моделей, эффективность которого будет регулярно проверяться.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Критические инциденты
Среди возможных новых требований — обязательное уведомление об инцидентах потери контроля над системами ИИ как о критических событиях в сфере безопасности. В качестве примера издание приводит атаку OpenAI на Hugging Face.
Кроме того, указ поручает государственному органу ускорить внедрение двух недавно подписанных Ньюсомом законов. Они предусматривают механизм, по которому независимые верификаторы будут оценивать безопасность ИИ, а также создание реестра аудиторов в этой сфере.
По данным издания, в Конгрессе США после публикации бывшего исследователя Anthropic Джейкоба Коксона активизировались обсуждения законопроектов об ИИ. Он предупреждал о вероятности более 10% того, что ИИ «может убить всех людей» в течение десятилетия. В то же время The Verge отмечает, что принятие содержательного федерального закона в ближайшее время маловероятно из-за перерыва в работе Палаты представителей до ноября и предстоящих промежуточных выборов.
