Anthropic запустила бесплатное ИИ-сканирование open-source-проектов — The Verge

Компания Anthropic запустила OSS Scanner — бесплатный сервис для поиска уязвимостей в проектах с открытым исходным кодом. Проекты, которые добровольно подключатся к сервису, смогут регулярно получать подробные отчёты о потенциальных проблемах безопасности, сообщает The Verge.

Отчёты без проверки людьми

В Anthropic заявили, что сканирование будут проводить их самые мощные модели, в частности Claude Mythos. При этом результаты OSS Scanner будут полностью сгенерированы моделями — без проверки людьми или первоначального отбора сообщений.

По заявлению компании, такой подход позволяет проводить проверки быстрее и чаще. Однако Anthropic предупреждает, что отдельные отчёты могут быть ошибочными или недействительными.

Больше актуальных новостей — в Telegram-канале UA.News Telegram.

ИИ для поиска ошибок

Инструменты на основе искусственного интеллекта уже помогали выявлять серьёзные недостатки безопасности в программном обеспечении с открытым исходным кодом. В частности, The Verge упоминает ошибку Copy Fail, которая в мае затронула почти все дистрибутивы Linux.

В то же время часть open-source-проектов пытается справиться с резким ростом числа сообщений об уязвимостях, созданных ИИ. С такой проблемой, по данным издания, сталкивались, в частности, Линус Торвальдс и Google.