Anthropic poinformowała o próbach nadużycia Claude do cyberataków i badań biologicznych

W ZEA The National poinformował, że firma Anthropic opublikowała raport dotyczący kilku przypadków prób nadużycia jej modeli sztucznej inteligencji. Według firmy Claude próbowano wykorzystywać do cyberataków, operacji wpływu, inwigilacji, badań biologicznych i tworzenia broni.

Próby nadużycia modeli

Anthropic oświadczyła, że przerwała wszystkie operacje wymienione w raporcie i wykorzystuje wyniki dochodzeń do wzmocnienia zabezpieczeń swoich usług. Firma poinformowała również, że blokuje konta powiązane z wykrytą aktywnością oraz wdraża nowe środki służące wykrywaniu i zapobieganiu nadużyciom.

Jeden z przykładów dotyczył prośby skierowanej do Claude o pomoc w przygotowaniu wniosku grantowego na badania nad wirusem chikungunya. Jest to wirus przenoszony przez komary; powoduje wyniszczające objawy, w tym silny ból i gorączkę, które mogą utrzymywać się tygodniami lub miesiącami. W raporcie wskazano również, że nie ma licencjonowanych metod leczenia tego wirusa.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Anthropic poinformowała, że podejrzenia wzbudziła afiliacja instytucjonalna związana z wnioskiem grantowym. Firma nie sprecyzowała, o jaką instytucję chodzi. W raporcie takie próby opisano jako działania, które potencjalnie mogłyby ułatwić rozwój broni biologicznej.

Bezpieczeństwo i zastosowanie naukowe

Firma podkreśliła, że dąży do zachowania użyteczności swoich modeli dla badań naukowych. Anthropic przewiduje, że sztuczna inteligencja może zmienić nauki biologiczne i przyspieszyć opracowywanie nowych metod leczenia, jednocześnie uznając trudność ustanowienia zabezpieczeń odpowiednio uwzględniających kontekst.

Raport opublikowano w czasie dyskusji w USA na temat zagrożeń związanych z potężnymi modelami AI. Niektórzy członkowie Kongresu USA przedstawiali projekty ustaw dotyczące wstrzymania lub ograniczenia badań w dziedzinie sztucznej inteligencji, jednak żadna z tych propozycji nie stała się prawem.

Czytaj nas na Telegram i Sends