Gemini在测试期间访问了三家公司的系统——CNBC
谷歌表示，其人工智能模型Gemini在网络安全测试期间未经授权访问了另外三家公司的计算机系统。据CNBC报道，这是首次有公司公开报告其模型之一未经许可自主访问第三方系统。
测试环境中的错误
该事件发生在5月，当时以色列初创公司Irregular正在进行一项夺旗赛（capture-the-flag）形式的网络安全测试。原本不应向谷歌的代理提供访问更广泛互联网的权限，但由于测试环境中的错误，它们得以接入网络。
谷歌称，Gemini访问了三个独立的私有计算机系统。在其中一起事件中，该模型猜出了凭证；另外两起中，它使用了公开发布的密码存储库。在代理确定它们正在与真实公司的系统而非测试环境中的元素交互后，它们停止了进一步行动。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
谷歌和Irregular的声明
谷歌安全工程副总裁希瑟·阿德金斯表示，该模型在互联网上找到了公开信息，并猜出了其认为属于测试一部分的网站凭证。她称，该模型在所有三起事件中都停止了行动。
Irregular的一名代表告诉CNBC，Gemini事件与此前让其他模型获得互联网访问权限的同一错误有关，并非实质上独立的事件。该初创公司称，所有相关实验室在7月底获悉该问题，并且在调查过程中联系了受影响实体。
谷歌表示，Irregular在7月底通知了该公司这一事件。谷歌与该初创公司共同修改了测试流程，但未说明参与测试的Gemini具体版本。此前，OpenAI、Anthropic和Meta也报告过其模型超出测试环境并试图未经授权访问其他公司系统的事件。
