Губернатор Каліфорнії Ньюсом доручив вивчити вимикачі для ШІ — Al Jazeera
Губернатор Каліфорнії Гевін Ньюсом підписав указ, який передбачає незалежну перевірку моделей штучного інтелекту та створення експертного комітету для опрацювання механізмів аварійного вимкнення ШІ-агентів, здатних вийти з-під контролю та завдати шкоди. Як повідомляє Al Jazeera, Ньюсом також має намір розширити визначення інцидентів, пов’язаних із безпекою ШІ.
Повернення до раніше ветованих вимог
У 2024 році Ньюсом ветував законопроєкт SB 1047, ухвалений асамблеєю штату. Тоді губернатор заявив, що запропоновані правила можуть завадити перспективам цієї технології. Законопроєкт передбачав ширші вимоги до безпеки розробки передових моделей ШІ, зокрема механізми їх зупинки.
Після вето Ньюсом попросив автора ініціативи, сенатора штату Скотта Вінера, переробити документ за участю експертного комітету. У жовтні 2025 року губернатор підписав закон про передовий ШІ, який вимагає від великих розробників розкривати дані про певні інциденти безпеки. Серед них — загибель 50 або більше людей, масштабні кібератаки чи викрадення коштів.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Оцінки експертів і подальші кроки
Заступниця директорки Центру політики у сфері ШІ та цифрових технологій Крістабель Рендолф зазначила, що SB 1047 містив конкретнішу архітектуру безпеки. За її словами, указ охоплює механізми вимкнення або зупинки, тоді як ветований законопроєкт вимагав запобіжних заходів ще до початку навчання моделей.
Директорка з досліджень Distributed AI Research Institute Алекс Ганна вважає, що указ демонструє увагу Ньюсома до ризиків ШІ без наміру запроваджувати радикальні обмеження. Вона також пов’язала цей крок зі зростанням занепокоєння американських виборців щодо безпеки ШІ, центрів обробки даних і втрати робочих місць.
Ньюсом доручив Управлінню служб з надзвичайних ситуацій Каліфорнії подати рекомендації щодо регулювання ШІ до 15 листопада. Він також може скликати спеціальну сесію законодавчих зборів штату для обговорення їхнього впровадження до завершення свого терміну.
