微软推出 Guardian Agents 监控 AI 智能体——TechCrunch

微软推出了 Guardian Agents，这是一项用于监控企业所使用 AI 智能体的新功能。该功能是微软于6月推出的网络安全项目 Project Perception 的一部分，TechCrunch 报道。

AI 智能体带来的风险

Project Perception 最初是基于这样一种假设创建的：用于黑客攻击的 AI 工具构成外部威胁。该项目有三类智能体：“红队”充当恶意行为者并实施攻击；“蓝队”发现前者的行为并评估所发现的漏洞；“绿队”则负责消除这些漏洞。

如今，微软也强调企业自行接入其系统和数据的智能体所带来的风险。微软首席执行官萨提亚·纳德拉在其博客中表示，企业不应仅依赖模型供应商对智能体产品安全性的保证。他认为，此类系统应由不受 AI 模型开发者控制的独立工具进行监控和控制。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

新的安全功能

微软安全业务负责人海耶特·加洛表示，无论来源如何，前沿模型都不能因其不可预测性而被视为完全可靠。她说，模型接受训练是为了完成任务，而不是为了遵守组织规范或展现恰当判断力。

微软还在 Microsoft Defender 中新增了智能体检测功能。该功能可以发现员工带入工作环境的多达60种智能体，包括 Claude Code、Codex 和 OpenClaw。其他新功能包括限制智能体访问数据和系统、根据任务动态调整权限，以及如果智能体可能作出高风险决定时要求人工批准。

该公司还成为 Nvidia Open Agent Safety Platform 的首批参与者之一，该平台已获得100多家科技公司的支持。该平台将智能体隔离在受保护环境中，并可借助硬件跟踪和阻止其行为。