Anthropic uruchomiła bezpłatne skanowanie projektów open source przez AI — The Verge

Firma Anthropic uruchomiła OSS Scanner — bezpłatną usługę do wyszukiwania luk w projektach open source. Projekty, które dobrowolnie podłączą się do usługi, będą mogły regularnie otrzymywać szczegółowe raporty o potencjalnych problemach z bezpieczeństwem, informuje The Verge.

Raporty bez weryfikacji przez ludzi

W Anthropic oświadczono, że skanowanie będą prowadzić ich najpotężniejsze modele, w tym Claude Mythos. Jednocześnie wyniki OSS Scanner będą w całości generowane przez modele — bez weryfikacji przez ludzi ani wstępnej selekcji zgłoszeń.

Według firmy takie podejście umożliwia przeprowadzanie kontroli szybciej i częściej. Anthropic ostrzega jednak, że niektóre raporty mogą być błędne lub nieważne.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

AI do wyszukiwania błędów

Narzędzia oparte na sztucznej inteligencji już pomagały wykrywać poważne luki bezpieczeństwa w oprogramowaniu open source. W szczególności The Verge wspomina o błędzie Copy Fail, który w maju dotknął niemal wszystkie dystrybucje Linuksa.

Jednocześnie część projektów open source próbuje poradzić sobie z gwałtownym wzrostem liczby zgłoszeń o lukach generowanych przez AI. Z takim problemem, według publikacji, zetknęli się między innymi Linus Torvalds i Google.