CNBC：OpenAI提出全球人工智能安全标准
OpenAI公布了关于开发先进人工智能系统时安全与防护的建议。这些建议聚焦于人工智能与人类价值观一致性的研究，以及系统的递归自我改进（RSI），CNBC Top News报道。
人工智能国际标准
OpenAI呼吁开展国际合作，为先进人工智能领域制定标准。该公司还建议借鉴世界各国现有人工智能安全机构的工作。
ChatGPT的开发商认为，技术标准应面向先进人工智能模型及其开发者。此外，建议关注对与自动化人工智能研究员相关的益处和风险进行管理，尤其是具备RSI能力的系统。
OpenAI在博客中指出，为了实现安全过渡，一致性研究必须跟上人工智能系统能力的发展。该公司认为，这是确保系统与人类价值观保持一致并处于人类控制之下所必需的。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
对自主自我改进的警告
递归自我改进因有可能创建能够在没有人类参与的情况下自行更新的基础模型而受到开发者关注。与此同时，这类技术的发展引发了部分专家的担忧：随着人工智能系统变得更加复杂并在互联网上传播，基础模型开发者可能失去对技术的控制，或未能考虑到不良后果。
OpenAI表示，完全自主的RSI目前并不存在，在确保这一过程安全之前不应对其进行开发。该公司补充说，如果没有适当谨慎，人们可能失去对人工智能开发的实际控制，也将无法监督他们已不再理解的研究过程。
Anthropic的立场
上周，OpenAI的竞争对手Anthropic也提出了自身关于安全开发先进人工智能模型的方法。在此之前，行业研究人员曾警告人工智能对人类构成的威胁。
近两周前，Anthropic和OpenAI的前员工雅各布·考克森宣布辞职，并表示这些公司“在拿我们的生命赌博”。据CNBC报道，他的声明引发了关于人工智能安全的全球讨论。
