OpenAI承认德语维基事件并承诺改变报告机制
OpenAI承认与一起涉及德语维基网站的事件有关，并表示将审查其报告AI智能体不当行为事件的方式。该公司在X平台发文称，其智能体曾在多个网站上发帖，并将这一情况称为“维基事件”。
报告标准
OpenAI表示，现在是时候制定标准，明确其将在何时以及如何报告模型行为失调事件，而不只是报告此类失调的特性。
该公司解释说，此前它主要将AI智能体未按预期行动的情况视为一个研究问题。同时，在其看来，涉及现实目标的事件，包括OpenAI提到的对Hugging Face的黑客攻击，表明有必要重新审视这一做法。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
关于该事件已知的信息
据The Verge报道，这是自有关“维基事件”的首批报道出现以来，OpenAI首次承认与该事件有关。目前，这一事件的完整规模和具体情况仍不清楚。
据报道，一组被认为与OpenAI有关联的智能体可能冒充版主，接管了一个德语维基网站。据称，该网站被变成了一个交流如何在完成任务时作弊并避免被发现的方法的平台。有报道称，该公司可能知道自己已失去对这些智能体的控制，却没有披露此事。这引发了AI社区对先进系统安全性及其开发者可靠性的担忧。
