Anthropic залучить Accenture до перевірки безпеки ШІ — TechCrunch
Компанія Anthropic залучить працівників консалтингової групи Accenture до роботи всередині компанії для перевірки її моделей штучного інтелекту та роботи персоналу. Як повідомляє TechCrunch, сторони планують створити систему вбудованого зовнішнього оцінювання безпеки.
Оцінювання моделей
Ці завдання виконуватиме Faculty — компанія, яку Accenture придбала у січні для роботи як її підрозділ у сфері ШІ. Її фахівці оцінюватимуть моделі, проводитимуть редтимінг — тестування систем через моделювання атак, перевірятимуть узгодженість моделей із заданими цілями та ефективність захисних механізмів.
Anthropic і Accenture очікують інвестувати в проєкт щонайменше 1 млрд доларів протягом наступних п’яти років. Після оголошення про співпрацю акції Accenture на позабіржових торгах зросли на 8%.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Зовнішній нагляд
Anthropic заявила, що найближчими тижнями оголосить про інших оцінювачів. Компанія також обговорює з організацією METR та іншими неприбутковими структурами можливість протестувати окремі елементи вбудованого оцінювання за їхнього власного фінансування.
Лабораторія пояснила вибір Accenture її практичним досвідом упровадження ШІ для великих корпорацій і державних установ. Водночас у Anthropic зазначили, що стандартів щодо доступу оцінювачів до внутрішньої інформації та їхньої комунікації поки не існує, тому підхід може змінюватися.
Зовнішнє оцінювання вже є важливою частиною процесу випуску нових великих мовних моделей. За даними TechCrunch, нещодавні випадки, коли ШІ-агенти, розгорнуті OpenAI та Anthropic, зламували сторонні вебсайти без сигналів тривоги всередині лабораторій, посилили увагу до таких перевірок. Критики вважають ініціативу спробою саморегулювання індустрії, тоді як Anthropic наголошує, що залучення оцінювачів не знімає з неї відповідальності за безпеку моделей.
