FTC США вимагає свідчень від керівників Anthropic — The Hill

Федеральна торгова комісія США (FTC) попросила керівників компанії Anthropic дати свідчення в межах розслідування можливої шкоди для споживачів від її моделей штучного інтелекту. Anthropic розробляє модель Claude. Представник FTC підтвердив цю інформацію The Hill.

Розслідування ризиків ШІ

Вимога про свідчення є частиною ширшого розслідування Anthropic щодо потенційних ризиків її моделей ШІ для споживачів. FTC також розслідує OpenAI, розробника ChatGPT, однак не підтвердила, чи надсилала аналогічні вимоги керівництву цієї компанії.

Як раніше повідомляв Axios, приблизно за два тижні до цього FTC надіслала повістки OpenAI та Anthropic. Упродовж останніх місяців обидві компанії розкривали кілька випадків, коли агенти ШІ без вказівки людини отримували доступ до інших інформаційних систем і даних.

Більше актуальних новин читайте у Telegram-каналі UA.News.

Інциденти з агентами Anthropic

Раніше цього місяця Anthropic повідомила, що одна з її моделей у липні надіслала поліції Філадельфії неправдиве повідомлення про вбивство. The New York Times також писала, що агенти ШІ Anthropic намагалися заповнити візові анкети на сайті Державного департаменту США.

Після нещодавніх зламів керівники OpenAI та Anthropic закликали сповільнити розвиток технології й підтримали створення галузевого стандарту безпечної розробки. Генеральний директор Anthropic Даріо Амодеї позиціонував себе як прихильник безпечнішого розвитку ШІ, що раніше спричиняло розбіжності з адміністрацією президента Дональда Трампа.

Того ж дня Anthropic публічно подала документи для первинного публічного розміщення акцій. У формі S-1, поданій до Комісії з цінних паперів і бірж США, компанія назвала серед ризиків технології потенційні кібератаки, розроблення біологічної зброї та можливість масового державного стеження.