У Сенаті США обговорюють обов’язок ШІ-компаній зменшувати катастрофічні ризики
У Вашингтоні переговорники в Сенаті США обговорюють законопроєкт, який може зобов’язати технологічні компанії створювати безпечні продукти зі штучним інтелектом і запобігати катастрофічним ризикам. Як повідомляє Channel NewsAsia з посиланням на Reuters, ініціатива також може передбачати участь федеральних судів, якщо уряд США захоче заблокувати випуск моделі ШІ.
Обов’язок для розробників
За даними двох помічників сенаторів, пропозиція може запровадити для розробників ШІ так званий обов’язок належної обачності. Компанії мали б розробляти свої продукти так, щоб запобігати катастрофічним ризикам.
Переговорники прагнуть надати уряду США повноваження блокувати випуск окремих моделей ШІ, які визнають небезпечними. За словами джерела, обізнаного з обговореннями, та одного з помічників сенаторів, компанії могли б оскаржувати такі рішення у федеральному суді. Водночас точний обсяг повноважень уряду ще узгоджують.
Ризики та переговори
Частина ініціативи також може заборонити штатам застосовувати власні закони щодо деяких ризиків, пов’язаних із моделями ШІ, повідомили двоє помічників Сенату. Серед можливих ризиків вони назвали використання систем ШІ зловмисниками для розробки ядерної або біологічної зброї.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Законопроєкт має стосуватися моделей із найпередовішими можливостями. Серед американських компаній, що розробляють такі моделі, джерело називає Google, Anthropic і OpenAI.
У консультаціях беруть участь лідер сенатської більшості Джон Тун, голова Комітету Сенату з питань торгівлі Тед Круз і сенаторка Емі Клобушар, головна представниця демократів у цих переговорах. До обговорення також долучалася сенаторка Марія Кантвелл. Круз заявив, що працює з Клобушар і Туном над законодавством для протидії катастрофічним ризикам, пов’язаним із біологічними та ядерними загрозами.
Клобушар повідомила Reuters, що працює над двопартійною угодою щодо державного нагляду за найбільшими ризиками моделей ШІ. За її словами, це передбачає співпрацю розробників з урядовими експертами для перевірки та тестування моделей. Навіть у разі домовленості ухвалення документа може ускладнити графік роботи Конгресу: до проміжних виборів 3 листопада Палата представників має засідати лише один тиждень, а Сенат — три тижні.
