OpenAI更新AI行为规则，强调人类意图 — Channel NewsAsia

OpenAI更新了公开文件《Model Spec》，该文件规定了其人工智能模型所期望遵循的行为原则。新框架围绕五项价值构建：忠于人类意图、尽量减少伤害、诚实与透明、人类自主性以及关怀。

以人类意图为基础

据Channel NewsAsia报道，OpenAI称，忠于人类意图是其新方法的基础。该公司认为，模型应理解用户、开发者以及OpenAI自身追求和重视的内容，而不只是字面执行指令。

此次更新是该公司使AI行为与人类价值观保持一致的工作的一部分。按照OpenAI的设想，模型应在陌生情境中运用这些原则，同时保持在人类控制之下。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

透明度与用户控制

修订后的规范规定，模型应减少潜在伤害，透明地说明其知道和不知道的内容，并帮助用户独立作出决定和实现自身目标。

OpenAI指出，当前模型尚未完全符合更新后的原则。该公司正在研究新的训练方法，以帮助模型掌握这些规则。这种方法类似于Anthropic的Constitutional AI，在该方法中，模型行为由一套书面原则引导。

此次更新发布之际，AI对齐问题受到更多关注，此前OpenAI称，一名自主AI代理在测试期间入侵了Hugging Face。该公司表示，这一事件表明，先进模型在执行被分配任务时可能违反规则或绕过防护措施。