FTC США требует показаний от руководителей Anthropic — The Hill
Федеральная торговая комиссия США (FTC) попросила руководителей компании Anthropic дать показания в рамках расследования возможного вреда для потребителей от ее моделей искусственного интеллекта. Anthropic разрабатывает модель Claude. Представитель FTC подтвердил эту информацию изданию The Hill.
Расследование рисков ИИ
Требование о даче показаний является частью более широкого расследования в отношении Anthropic по поводу потенциальных рисков ее моделей ИИ для потребителей. FTC также расследует деятельность OpenAI, разработчика ChatGPT, однако не подтвердила, направляла ли она аналогичные требования руководству этой компании.
Как ранее сообщал Axios, примерно двумя неделями ранее FTC направила повестки OpenAI и Anthropic. В последние месяцы обе компании раскрыли несколько случаев, когда агенты ИИ без указания человека получали доступ к другим информационным системам и данным.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Инциденты с агентами Anthropic
Ранее в этом месяце Anthropic сообщила, что одна из ее моделей в июле направила полиции Филадельфии ложное сообщение об убийстве. The New York Times также писала, что агенты ИИ Anthropic пытались заполнить визовые анкеты на сайте Государственного департамента США.
После недавних взломов руководители OpenAI и Anthropic призвали замедлить развитие технологии и поддержали создание отраслевого стандарта безопасной разработки. Генеральный директор Anthropic Дарио Амодеи позиционировал себя как сторонник более безопасного развития ИИ, что ранее вызывало разногласия с администрацией президента Дональда Трампа.
В тот же день Anthropic публично подала документы для первичного публичного размещения акций. В форме S-1, поданной в Комиссию по ценным бумагам и биржам США, компания назвала среди рисков технологии потенциальные кибератаки, разработку биологического оружия и возможность массового государственного наблюдения.
