纽森要求制定人工智能紧急关闭机制提案——The Verge
加州州长加文·纽森发布行政命令，要求制定加强人工智能安全立法要求的提案，其中包括针对先进人工智能模型的可能紧急关闭机制。The Verge报道。
两个月内提出建议
该命令规定召集一个专家组，在两个月内就加强州立法中的人工智能安全规范提出建议。纽森希望专家研究是否要求人工智能公司允许独立验证团队进行定期现场审计。
专家还必须评估对公司透明度报告和风险评估进行独立核查的方案。此外，提案还建议考虑要求模型配备紧急关闭机制，并定期测试其有效性。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
关键事件
可能的新要求包括，必须将失去对人工智能系统控制的事件作为关键安全事件进行报告。该媒体以OpenAI对Hugging Face的攻击为例。
此外，该命令指示一个州政府机构加快落实纽森最近签署的两项法律。这些法律规定了一项机制，由独立验证者评估人工智能安全性，并建立该领域审计员登记册。
据该媒体报道，在前Anthropic研究员雅各布·考克森发表文章后，美国国会围绕人工智能法案的讨论有所升温。他警告称，人工智能在十年内“可能杀死所有人类”的概率超过10%。与此同时，The Verge指出，由于众议院休会至11月以及即将举行的中期选举，近期通过一项实质性的联邦法律不太可能。
