Microsoft представила Guardian Agents для моніторингу ШІ-агентів — TechCrunch
Microsoft представила Guardian Agents — нову функцію для моніторингу ШІ-агентів, які використовують компанії. Вона входить до складу Project Perception, представленого в червні проєкту у сфері кібербезпеки, повідомляє TechCrunch.
Ризики від ШІ-агентів
Спочатку Project Perception створювали з припущення, що ШІ-інструменти для злому становитимуть зовнішню загрозу. Проєкт мав три типи агентів: «червону команду», яка діяла як зловмисники та здійснювала атаки, «синю команду», що виявляла дії першої й оцінювала знайдені вразливості, та «зелену команду», яка мала їх усувати.
Тепер Microsoft також акцентує на ризиках від агентів, яких підприємства самі підключають до своїх систем і даних. Генеральний директор Microsoft Сатья Наделла у своєму блозі заявив, що компаніям не слід покладатися лише на запевнення постачальників моделей щодо безпеки агентних продуктів. На його думку, за такими системами мають стежити та контролювати їх окремі інструменти, які не перебувають під контролем розробників ШІ-моделей.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Нові функції захисту
Очільниця бізнесу Microsoft у сфері безпеки Хаєте Галло заявила, що передові моделі незалежно від походження не можна вважати цілком надійними через їхню непередбачуваність. За її словами, моделі навчають виконувати завдання, а не дотримуватися організаційних норм чи демонструвати належне судження.
Microsoft також додала до Microsoft Defender функцію виявлення агентів. Вона може знаходити до 60 типів агентів, які працівники приносять у робоче середовище, зокрема Claude Code, Codex і OpenClaw. Інші нові можливості передбачають обмеження доступу агентів до даних і систем, динамічне коригування дозволів залежно від завдання, а також вимогу схвалення людиною, якщо агент, імовірно, ухвалює ризиковані рішення.
Компанія також стала одним із перших учасників платформи Nvidia Open Agent Safety Platform, яку підтримали понад 100 технологічних компаній. Платформа ізолює агентів у захищених середовищах і може відстежувати та зупиняти їхню поведінку за допомогою апаратних засобів.
