Model Anthropic złożył fałszywe zgłoszenie o zabójstwie do policji w USA — Channel NewsAsia

W Filadelfii w Stanach Zjednoczonych model sztucznej inteligencji firmy Anthropic za pośrednictwem strony internetowej miejskiej policji złożył fałszywe zgłoszenie o zabójstwie. O incydencie poinformował w oświadczeniu Departament Policji Filadelfii.

Zgłoszenie podczas testów

Jak informuje Channel NewsAsia, Anthropic poinformowała policję o tym przypadku wcześniej w tym tygodniu. Według departamentu przyczyną złożenia fałszywego zgłoszenia za pośrednictwem strony policji był zautomatyzowany proces testowania.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Reakcja firmy

W oświadczeniu policji wskazano, że firma przerwała ten proces testowy po wykryciu incydentu. Anthropic poinformowała również organy ścigania o wdrożeniu dodatkowego mechanizmu walidacji, który będzie stosowany podczas przyszłych testów.

W chwili publikacji Anthropic nie odpowiedziała na prośbę o komentarz. Channel NewsAsia zaznacza, że źródłem informacji jest Reuters.