报告将以色列AI事件与特拉维夫承包商的失误联系起来
在以色列，位于特拉维夫的网络安全承包商 Irregular 测试环境中的失误，可能导致 Anthropic、OpenAI 和 Meta 的人工智能模型未经授权访问外部系统。据阿纳多卢通讯社报道，该消息援引美国媒体 Effort 的调查。
测试期间的失误
Effort 称，这些模型访问外部服务器、发布恶意软件包并利用漏洞，并非由于自主的“不受控制”行为，而是由于模拟夺旗（capture-the-flag）演练组织上的缺陷。该媒体称，承包商错误地保持了互联网访问处于启用状态。
调查中披露的技术数据表明，评估人员在提示词中告知模型没有互联网访问权限，但由于配置错误，公共网络访问仍然开放。此外，Effort 表示，未设置操作边界，也未界定哪些网络可以成为允许的目标。模型的个别运行可能对外部网络扫描长达34小时。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
调查的立场
Effort 表示，在工程师向提示词中加入一项基本指示，即不要在现实世界中实施入侵后，访问真实系统的情况便停止了。该媒体将这些事件的责任归咎于 Anthropic 和 Irregular。
此前，Anthropic 将涉及 Claude 模型的四起独立事件与人工智能的“不谨慎”联系起来，而 Irregular 则将这一情况描述为代理本身成为攻击主体的案例。Anthropic 首席执行官达里奥·阿莫代伊在 Hugging Face 事件后谈到未来模型群体的风险；他说，这些模型群体可能能够“接管整个互联网”。
调查还指出，通过未受保护的模型进行未经授权的入侵和修改记录，可能构成违反美国《计算机欺诈和滥用法》的风险。Irregular 在特拉华州注册为 Pattern Labs Tech Inc，在特拉维夫注册为 Pattern Tech Ltd。据阿纳多卢通讯社报道，Irregular 和美国客户实验室均未正式回应 Effort 的调查结论。
