Microsoft zaprezentował Guardian Agents do monitorowania agentów AI — TechCrunch
Microsoft zaprezentował Guardian Agents — nową funkcję do monitorowania agentów AI wykorzystywanych przez firmy. Jest ona częścią Project Perception, projektu z zakresu cyberbezpieczeństwa przedstawionego w czerwcu, informuje TechCrunch.
Ryzyka związane z agentami AI
Project Perception początkowo tworzono przy założeniu, że narzędzia AI do włamań stanowią zagrożenie zewnętrzne. Projekt miał trzy rodzaje agentów: „czerwony zespół”, który działał jak złośliwi aktorzy i przeprowadzał ataki, „niebieski zespół”, który wykrywał działania pierwszego i oceniał znalezione podatności, oraz „zielony zespół”, który miał je usuwać.
Microsoft podkreśla teraz również ryzyka ze strony agentów, których przedsiębiorstwa same podłączają do swoich systemów i danych. Dyrektor generalny Microsoftu Satya Nadella napisał na swoim blogu, że firmy nie powinny polegać wyłącznie na zapewnieniach dostawców modeli dotyczących bezpieczeństwa produktów agentowych. Jego zdaniem takie systemy powinny być monitorowane i kontrolowane przez odrębne narzędzia, które nie znajdują się pod kontrolą twórców modeli AI.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Nowe funkcje ochrony
Szefowa biznesu Microsoftu w obszarze bezpieczeństwa Hanyatte Gallo oświadczyła, że modeli frontowych, niezależnie od ich pochodzenia, nie można uznać za w pełni niezawodne ze względu na ich nieprzewidywalność. Jak powiedziała, modele są szkolone do wykonywania zadań, a nie do przestrzegania norm organizacyjnych czy wykazywania właściwej oceny sytuacji.
Microsoft dodał również do Microsoft Defender funkcję wykrywania agentów. Może ona znaleźć do 60 typów agentów, których pracownicy wprowadzają do środowiska pracy, w tym Claude Code, Codex i OpenClaw. Inne nowe możliwości obejmują ograniczanie dostępu agentów do danych i systemów, dynamiczne dostosowywanie uprawnień zależnie od zadania, a także wymóg zatwierdzenia przez człowieka, jeśli agent prawdopodobnie podejmuje ryzykowne decyzje.
Firma została również jednym z pierwszych uczestników platformy Nvidia Open Agent Safety Platform, którą poparło ponad 100 firm technologicznych. Platforma izoluje agentów w chronionych środowiskach i może śledzić oraz zatrzymywać ich zachowanie za pomocą sprzętu.
