美国研究显示：AI摘要可能导致记忆扭曲风险——The National

乔治城大学和华盛顿大学发布的一项美国同行评审研究显示，人工智能生成的不准确文章和视频摘要可能影响人们对事件的记忆方式。正如《The National》报道，这类概述常常遗漏至关重要的细节，或错误描述内容。

遗漏的细节与错误记忆

报告《AI-Enabled Human Memory Manipulation》指出，在所有使用的提示词和模型中，摘要平均遗漏了51.6%的关键细节。研究人员测试了多个AI模型，包括OpenAI的ChatGPT和谷歌的Gemini。

这些模型在描述一段涉及汽车和行人的事故动画视频时尤其不准确。研究人员发现，AI摘要的内容影响了参与者随后对于所见内容的回答。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

实验结果

阅读了准确视频概述的参与者中，83.6%回答正确。在阅读了误导性摘要的人中，44.8%的受访者给出了正确答案。

协助领导这项研究的华盛顿大学博士生Yael Eiger对警方部门可能在未经充分测试、且未意识到错误风险的情况下使用视频摘要技术表示担忧。乔治城大学助理研究教授Mattea Sim表示，这些结果应有助于确定应避免使用AI摘要的情况，尤其是在关键案件中。

该研究将于10月在瑞典举行的人工智能、伦理与社会会议上发表，该会议由人工智能促进协会组织。