Anthropic建议法院阻止危险AI模型发布——Channel NewsAsia

在美国，Anthropic向加州州长加文·纽森提议，允许政府官员向法院申请阻止发布人工智能模型，前提是测试发现这些模型对社会构成严重风险。据Channel NewsAsia报道，消息援引该公司10月15日的信函。

针对加州的建议

Anthropic的一名代表证实了该信函的真实性。加州州长办公室没有立即就这项倡议发表评论。

该公司是在纽森于9月组建人工智能专家小组后提交这些建议的。该小组的任务是就AI安全要求准备建议。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

而非完全关闭

Anthropic还反对要求在模型中内置所谓的紧急关闭开关；如果公司失去对系统行为的控制，这类开关能够完全停止系统运行。该公司认为，针对性措施会更有效，例如关闭有问题的AI代理，或终止特定客户对模型的访问权限。

9月，美国两党参议员小组讨论了一项法案，该法案可能赋予政府阻止发布被认定为危险的个别AI模型的权力。按照这一方式，公司可以在联邦法院对该决定提出异议。选举休会后，国会没有进一步推进该提议。

7月，美国众议院议员提出了《AI Kill Switch Act》法案，该法案规定官员有权要求AI公司停止可能对人类生命或经济构成风险的模型。此前，出于国家安全考虑，唐纳德·特朗普政府曾命令Anthropic限制外国访问其具备网络能力的Mythos 5和Fable 5模型，但美国商务部随后撤销了该命令。