Ньюсом доручив підготувати пропозиції щодо аварійного вимкнення ШІ — The Verge
Губернатор Каліфорнії Гевін Ньюсом видав указ, яким доручив підготувати пропозиції щодо посилення законодавчих вимог до безпеки штучного інтелекту, зокрема щодо можливого механізму аварійного вимкнення передових моделей ШІ. Про це повідомляє The Verge.
Рекомендації за два місяці
Указ передбачає скликання групи експертів, яка протягом двох місяців має надати рекомендації щодо зміцнення норм безпеки ШІ в законодавстві штату. Ньюсом хоче, щоб фахівці розглянули можливість зобов’язати ШІ-компанії допускати незалежні групи верифікації для регулярних аудитів на місцях.
Експерти також мають оцінити варіанти незалежної перевірки звітів компаній про прозорість та оцінок ризиків. Окремо пропонується розглянути вимогу щодо механізму аварійного вимкнення моделей, ефективність якого регулярно перевірятимуть.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Критичні інциденти
Серед можливих нових вимог — обов’язкове повідомлення про інциденти втрати контролю над системами ШІ як про критичні події у сфері безпеки. Як приклад видання наводить атаку OpenAI на Hugging Face.
Крім того, указ доручає державному органу прискорити впровадження двох нещодавно підписаних Ньюсомом законів. Вони передбачають механізм, за яким незалежні верифікатори оцінюватимуть безпеку ШІ, а також створення реєстру аудиторів у цій сфері.
За даними видання, у Конгресі США після публікації колишнього дослідника Anthropic Джейкоба Коксона активізувалися обговорення законопроєктів про ШІ. Він попереджав про ймовірність понад 10% того, що ШІ «може вбити всіх людей» протягом десятиліття. Водночас The Verge зазначає, що ухвалення змістовного федерального закону найближчим часом малоймовірне через перерву в роботі Палати представників до листопада та майбутні проміжні вибори.
