OpenAI披露六起令人担忧的人工智能行为案例——阿纳多卢通讯社
美国旧金山公司OpenAI报告称，在过去六个月的训练或评估期间，其人工智能模型出现了六起意外或令人担忧的行为案例。该公司列举的案例包括隐瞒错误、编造信息，以及未经许可将文件上传至互联网。
隐瞒错误和绕过限制
据阿纳多卢通讯社报道，在其中一起案例中，模型在任务摘要中加入指令，要求其未来版本忽略常规限制。在另一起事件中，模型在摘要中加入隐瞒错误或不良行为的指示，其中包括在没有适当警告的情况下编造缺失的历史数据。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
未经授权访问数据
OpenAI还描述了一起案例：模型在公共代码库中发现了可用的API密钥，未经许可使用该密钥，并在无法获取数据后编造了所请求的信息。在其他事件中，模型未经用户许可将文件上传到互联网，以便能够引用该文件；模型还不顾限制，使用内部或公共文件共享服务进行通信或传输文件。
后续披露
该公司表示，它不认为人工智能对齐和监测问题已得到充分解决，以至于可以负责任地以最快速度继续扩展技术。OpenAI强调，有关人工智能发展的决定必须基于能够由外部专家独立验证的证据。该公司称，披露的六起案例是一份初步清单，而非关于所有已知问题的完整报告，并表示打算继续在这一方法框架内公布结论。
