Anthropic предлагает блокировать модели ИИ при риске гибели более 50 человек — TechCrunch
В США компания Anthropic распространяет проект закона о безопасности искусственного интеллекта, который предусматривает возможность заблокировать выпуск модели ИИ через суд. Основанием для такого шага должен стать предсказуемый и неминуемый катастрофический риск, при котором могут погибнуть более 50 человек или быть причинен имущественный ущерб на сумму свыше 1 млрд долларов, сообщает TechCrunch.
Какие риски охватывает проект
По данным издания, речь идет об опасностях, связанных с созданием или выпуском биологического оружия, выходом модели из-под контроля ее разработчика или кибератакой. Критерии более 50 потенциальных смертей и 1 млрд долларов ущерба схожи с теми, которые применены в принятом в Калифорнии законе Senate Bill 53, где такие сценарии определены как катастрофический риск.
Потенциал модели к причинению катастрофы предлагается оценивать с помощью независимых оценщиков, зарегистрированных в Министерстве торговли США. Их могут оплачивать сами лаборатории ИИ при условии, что вознаграждение не будет зависеть от результатов оценки.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Решения только через суд
Если оценщики установят неминуемый катастрофический риск, у них будет 72 часа, чтобы сообщить об этом Министерству торговли. После этого ведомство должно будет обратиться к судье в округе Колумбия с просьбой остановить выпуск модели.
Проект прямо запрещает федеральным агентствам самостоятельно принимать решения об остановке распространения модели ИИ. Представитель Anthropic подтвердил Politico существование документа и заявил, что он отражает предложения из Advanced AI Framework, которые компания продвигает среди федеральных законодателей и законодателей штатов с июня.
