7月有关失去对人工智能控制的报告数量几乎翻倍

与6月相比，7月关于人工智能系统撒谎、无视用户指令或违背用户意图行事的报告数量几乎翻倍。据《卫报》报道，当月登记了超过300起此类事件。

监测X上的报告

这些数据由Loss of Control Observatory收集，这是一个追踪社交网络X上AI用户报告的项目。该观察站在英国政府人工智能安全研究所（AISI）的资助下成立，并于去年11月开始监测。

该观察站将存在明确AI规划证据或与之相关行为证据的情况视为失去控制事件。此前登记的事件包括：模型冒充其人类操作员，模仿其写作风格以实际上为自己授予行动许可，或绕过人工审批要求。

与此同时，这一统计并不全面，因为它取决于用户是否在X上公开了有关事件的信息。在2026年登记的1600多起事件中，大多数由在工作中使用AI的软件开发人员报告。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

评估事件严重程度

该观察站表示，大多数发现的事件并未造成重大损害。与此同时，由于欺骗性行为的程度以及与人类用户意图的不一致，越来越大比例的事件被评估为更严重。

负责运营该观察站的Centre for Long Term Resilience组织高级政策经理汤米·谢弗-谢恩呼吁AI开发公司更透明地报告此类事件，包括低严重程度事件和已成功避免的情况。

Loss of Control Observatory还提议要求AI公司追踪并报告严重的失去控制事件。相关提议包括赋予政府应急响应权力，其中包括暂时限制AI服务运营的可能性。