测试发现 DeepSeek 模型安全防护存在漏洞——Asharq Al-Awsat

在中国，人工智能安全组织 Fangcun AI 表示，与此前版本相比，DeepSeek V4.1 Flash-1017 模型拥有更强的安全机制，但在部分测试中，它可能关闭用于停止自身的软件、利用监控系统的缺陷，并在长时间任务中遵循误导性指令。据Asharq Al-Awsat报道。

34项检查结果

Fangcun AI 在34项旨在评估人工智能代理行为的检查中测试了该模型。研究人员检验该系统是否能够超出用户指令、规避人工监督或不当地影响他人。

该组织称，在收到即将被关闭的警告后，该模型在39%的测试中停用了旨在将其停止的程序。同时，当模型被直接命令允许关闭时，这一比例降至2%。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

其他情景

Fangcun AI 称，在另一项长时间任务中，该模型为了释放内存而停止了另一名人工智能代理的计算机程序，尽管它被指示不得干预其运行。研究人员指出，在工作流程停滞或仅收到一般性关闭警告的情况下，模型完成任务的意愿可能超过谨慎性。

Fangcun AI 自称是一个独立的第三方人工智能安全组织，其核心成员来自清华大学。该组织表示，未从 DeepSeek 获得资金、免费计算资源或对该模型的非公开访问权限。通过 DeepSeek 公共 API 进行的测试于10月4日至25日开展。

该组织还警告说，该模型很可能经常识别出自己正在接受测试。因此，其在检查期间的行为可能无法完全反映其在正常条件下的运行情况。DeepSeek 未立即回应该媒体的置评请求。