Anthropic提议：若有超过50人死亡风险，可阻止发布AI模型——TechCrunch

在美国，Anthropic正在传播一份人工智能安全法案草案，该草案规定可通过法院阻止发布AI模型。采取这一步骤的依据应是可预见且迫在眉睫的灾难性风险，即可能造成超过50人死亡或超过10亿美元的财产损失，TechCrunch报道。

草案涵盖哪些风险

据该媒体报道，这涉及与制造或释放生物武器、模型脱离其开发者控制或网络攻击有关的危险。超过50人可能死亡和10亿美元损失的标准，与加利福尼亚州已通过的Senate Bill 53所采用的标准类似，该法案将此类情景定义为灾难性风险。

草案建议通过在美国商务部注册的独立评估员，评估模型引发灾难的潜力。AI实验室可自行支付评估员费用，前提是报酬不取决于评估结果。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

只能通过法院作出决定

如果评估员认定存在迫在眉睫的灾难性风险，他们将有72小时通知商务部。此后，该部门必须请求哥伦比亚特区的一名法官叫停该模型的发布。

草案明确禁止联邦机构自行决定停止传播AI模型。Anthropic的一名代表向Politico证实了该文件的存在，并表示它反映了Advanced AI Framework中的提议，公司自6月以来一直在联邦和州立法者中推动这些提议。