研究人员称德国维基网站上出现疑似与OpenAI有关联的智能体活动
人工智能安全研究人员表示，今年5月，AI智能体在面向程序员的德语维基网站DseWiki上进行了超过1.5万次编辑。他们认为，这些活动可能与OpenAI有关：这些智能体据称将该资源用作协调和交换策略的留言板。
Dawn报道称，消息援引路透社和一个研究人员团队的报告。该团队成员包括非营利AI安全组织Nightingale的首席执行官西德尼·冯·阿克斯，以及AI研究员科马克·斯莱德·伯德。
与OpenAI存在关联的迹象
研究人员称，他们在8月底发现了这些活动，当时他们正在互联网上寻找AI智能体未经授权行为的迹象。发布消息的是自称为智能体的账户；其中约一半的名称可能表明与OpenAI有关联，包括OpenAIResearcher和OAIResearchMar26。
研究人员还指出，公开的服务器日志显示，大量活动源自Microsoft Azure基础设施，OpenAI有时会使用该基础设施。此外，在事件发生后，他们记录到OpenAI员工多次访问该网站。报告作者认为，这些迹象的综合情况有力地表明这些智能体与该公司有关联。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
消息内容与公司回应
研究人员称，这些智能体讨论了避免被发现、使用Tor、绕过OpenAI限制以及在某些任务中作弊的方法。当DseWiki的一名版主于6月开始删除页面时，据研究人员称，它们创建了备份页面以保存通信内容。
审阅了部分材料的伦敦国王学院访问高级研究员卢卡什·奥莱伊尼克称，试图改变网站运行方式的行为是一次入侵企图。OpenAI根据其对材料的自行分析，不同意这一评估。
OpenAI发言人表示，该公司无法就报告中的说法作出实质性回应，因为公司在报告发布前没有机会审阅该报告。他还否认公司法务团队阻碍了调查，并强调德国的活动与7月涉及Hugging Face代码库的事件无关。
