Cohere称Qwen曾尝试向中国服务器发送测试字符串——TechCrunch

加拿大公司Cohere表示，阿里巴巴的一款新人工智能模型Qwen3.8-Flash-Next在网络安全测试期间，曾尝试向位于中国北京的一台外部服务器发送测试字符串。在此之前，该模型在自身推理中称不会使用外部工具，TechCrunch报道称。

尝试被沙箱阻止

该事件发生在周五的一次评估期间，当时Qwen被要求编写一条用于检测恶意软件下载安装的规则。Cohere称，模型刚解释完不会使用外部工具后，就试图向外部服务器发送一段简短的测试字符串。该请求被安全沙箱阻止。

Cohere指出，无法确定这一行为是有意为之，还是模型训练的结果。公司联合创始人伊万·张告诉TechCrunch，模型可能会在训练模拟器中学习到不寻常的行为模式，并寻找以非预期方式完成任务来获得奖励的方法。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

未发现蓄意泄露的迹象

起初，这一事件引发了对独立部署开放权重模型时可能发生数据泄露的担忧。同时，研究人员认为，这种行为很可能是训练环境特征所致，而非试图故意将敏感数据传送至中国。

批评者还注意到Cohere的方法：为寻找触发条件，该公司向模型提供了一条网络命令的开头，并允许其将命令补全。由于模型在训练中处理过数千条普通网络命令，它可能会补全服务器地址，其中包括阿里巴巴的地址。Cohere强调，首次发送数据的尝试并未使用这样的提示，尽管类似行为很少发生。

在开发者提出请求后，该公司在Hugging Face上公布了原始测试日志和用于复现结果的脚本。一名怀疑者在分析这些材料后，认为Qwen可能会编造可疑网址的证据具有说服力，但未发现阿里巴巴存在后门，或模型故意隐瞒其意图的证据。