OpenAI称有人试图获取受保护的AI模型推理过程——CNBC

OpenAI表示，其发现并阻止了一场试图获取其人工智能模型受保护推理过程的协调行动。该公司将这项活动的一个关键集群与中国初创公司Moonshot AI的关联人士联系起来；Moonshot AI是Kimi的开发商，据CNBC Top News报道。

两天内数千次请求

OpenAI称，这项活动始于7月初，随后急剧加剧：两天内，超过4000名用户发出了1.6万次请求。该公司最终在一个拥有超过1.5万名用户的集群中发现了相关活动，并表示已在7月28日前彻底终止这场行动。

OpenAI强调，相关操作人员并未攻破该公司的加密系统、数据库或已保存的用户对话。相反，他们操纵了与模型的交互，试图以请求提交者能够获取的形式复现隐藏的推理过程。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

什么是对抗性蒸馏

该公司将这种方法称为“对抗性蒸馏”。这指的是利用一个AI模型的回答或推理过程来训练或改进另一个模型。OpenAI认为，获取此类推理过程可能使其他方无需在模型开发和保护方面进行同等投入，便能复现模型的先进能力，从而带来潜在的安全和国家安全风险。

OpenAI表示，无法确定所有操作人员是否都与同一个实体有关联。该公司称，其已通过Frontier Model Forum和政府信息共享渠道将调查结果转交给其他AI开发商。Moonshot AI在发稿时未向CNBC提供评论。

几周前，Anthropic指控包括Moonshot AI和阿里巴巴在内的中国AI开发商秘密使用Claude模型训练自己的系统。