Anthropic запустила безплатне ШІ-сканування open-source проєктів — The Verge

Компанія Anthropic запустила OSS Scanner — безплатний сервіс для пошуку вразливостей у проєктах із відкритим кодом. Проєкти, які добровільно підключаться до сервісу, зможуть регулярно отримувати детальні звіти про потенційні проблеми безпеки, повідомляє The Verge.

Звіти без перевірки людьми

В Anthropic заявили, що сканування проводитимуть їхні найпотужніші моделі, зокрема Claude Mythos. Водночас результати OSS Scanner будуть повністю згенеровані моделями — без людської перевірки чи первинного відбору повідомлень.

Такий підхід, за заявою компанії, дає змогу проводити перевірки швидше й частіше. Однак Anthropic попереджає, що окремі звіти можуть бути помилковими або недійсними.

Більше актуальних новин читайте у Telegram-каналі UA.News.

ШІ для пошуку помилок

Інструменти на основі штучного інтелекту вже допомагали виявляти серйозні вади безпеки у відкритому програмному забезпеченні. Зокрема, The Verge згадує помилку Copy Fail, яка у травні торкнулася майже всіх дистрибутивів Linux.

Водночас частина open-source проєктів намагається впоратися з різким зростанням кількості повідомлень про вразливості, створених ШІ. Із такою проблемою, за даними видання, стикалися, зокрема, Лінус Торвальдс і Google.