因人工智能错误,美国取消拦截中国船只——NDTV
在一份借助人工智能聊天机器人编制的情报报告出现后,美国军方准备在中东拦截一艘中国船只。在核查该文件所依据的信息后,行动被取消,因为有关货物的数据被证实是错误的,NDTV报道,援引CNN的一项调查。
货物数据错误
据CNN报道,美国某特种作战司令部的一名分析师在分析一艘途经中东的中国船只的情报时使用了聊天机器人。该聊天机器人错误识别了货物,报告中因此出现了错误说法,称该船运载了与核武器研制计划有关的部件。
该文件在美国军事机构内流传,随后开始准备实施拦截。CNN称,军用飞机当时已在空中,武装人员正准备登上该船。官员随后更详细地核查了报告的依据,发现错误并取消了计划中的行动。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
使用人工智能的风险
CNN的一名消息人士表示,该报告完全是错误的,险些引发战争。军事冲突并未发生,但针对这艘中国船只的行动本可能引发外交危机。
这起事件被CNN与2026年早些时候美国和伊朗之间的冲突联系起来,并引发了对所谓生成式人工智能“幻觉”风险的关注。这类系统能够生成看似令人信服的回答,但这些回答未必基于准确或经证实的数据。人工智能可以帮助分析师处理大量信息,但其结论不应自动被视为可用于决定使用武力的经过核实的情报。