南非专家警告操纵人工智能回答的风险——《每日马弗里克》

在南非，从事生成式搜索系统优化工作的费利克斯·诺顿对这样一种风险表示担忧：人工智能可能复述的并非捏造的说法，而是被有意发布在互联网上的说法。正如《每日马弗里克》所写，这涉及对ChatGPT、Google AI及其他系统生成推荐和回答所依据来源的影响。

LinkedIn实验

诺顿表示，他曾开玩笑地在LinkedIn上发布称，自己是南非GEO和AEO领域的顶尖专家。根据他的说法，三天后，Google AI Overviews开始将这一说法作为事实重复，并引用了他的LinkedIn帖子。

作者认为，这一例子展示了一个不同于所谓人工智能幻觉的问题：在这种情况下，模型会自信地编造事实、引语或事件。他认为，即使人工智能准确复述了有人预先发布、供系统后续使用的信息，也可能误导人们。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

人为制造共识的风险

作为可能施加影响的例子，诺顿列举了由被排在第一位的公司付费的所谓独立排名、以普通Reddit用户名义发布的品牌推荐，以及虚假的正面评价和发布关于竞争对手的负面信息。

他评估称，在许多网站上重复同一说法，可能造成其已是既定事实的印象，尽管这些来源未必相互独立。他将此称为人为制造的共识，并指出，搜索引擎过去主要向用户提供链接列表，而人工智能正越来越多地将信息概括为现成结论。

作者强调，人工智能回答中的链接本身并不能保证其可靠性：来源可能带有偏见、经过协调，或出于商业目的而创建。他呼吁不仅评估网站，也要评估系统据以形成回答的信息来源。