В Сенате США обсуждают обязанность ИИ-компаний снижать катастрофические риски
В Вашингтоне переговорщики в Сенате США обсуждают законопроект, который может обязать технологические компании создавать безопасные продукты с искусственным интеллектом и предотвращать катастрофические риски. Как сообщает Channel NewsAsia со ссылкой на Reuters, инициатива также может предусматривать участие федеральных судов, если правительство США захочет заблокировать выпуск модели ИИ.
Обязанность для разработчиков
По данным двух помощников сенаторов, предложение может ввести для разработчиков ИИ так называемую обязанность проявлять должную осмотрительность. Компании должны будут разрабатывать свои продукты так, чтобы предотвращать катастрофические риски.
Переговорщики стремятся предоставить правительству США полномочия блокировать выпуск отдельных моделей ИИ, признанных опасными. По словам источника, знакомого с обсуждениями, и одного из помощников сенаторов, компании могли бы оспаривать такие решения в федеральном суде. В то же время точный объем полномочий правительства еще согласовывается.
Риски и переговоры
Часть инициативы также может запретить штатам применять собственные законы в отношении некоторых рисков, связанных с моделями ИИ, сообщили два помощника Сената. Среди возможных рисков они назвали использование систем ИИ злоумышленниками для разработки ядерного или биологического оружия.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Законопроект должен касаться моделей с наиболее передовыми возможностями. Среди американских компаний, разрабатывающих такие модели, источник назвал Google, Anthropic и OpenAI.
В консультациях участвуют лидер большинства в Сенате Джон Тун, председатель Комитета Сената по торговле Тед Круз и сенатор Эми Клобушар, главная представительница демократов в этих переговорах. К обсуждению также присоединялась сенатор Мария Кантвелл. Круз заявил, что работает с Клобушар и Туном над законодательством для противодействия катастрофическим рискам, связанным с биологическими и ядерными угрозами.
Клобушар сообщила Reuters, что работает над двухпартийным соглашением о государственном надзоре за крупнейшими рисками моделей ИИ. По ее словам, это предполагает сотрудничество разработчиков с правительственными экспертами для проверки и тестирования моделей. Даже в случае достижения договоренности принятие документа может осложнить график работы Конгресса: до промежуточных выборов 3 ноября Палата представителей должна заседать лишь одну неделю, а Сенат — три недели.
