Anthropic负责人阿莫代伊呼吁美中就人工智能管控达成协议
Anthropic首席执行官达里奥·阿莫代伊呼吁美国和中国将对人工智能发展的克制与就相互限制风险达成协议结合起来。他在接受美国电视台CBS采访时表示，与中国的战略竞争是放缓技术发展的主要障碍，阿纳多卢通讯社报道。
美国与中国的协议
阿莫代伊提议限制向“威权”国家供应先进半导体芯片，以争取与北京谈判的时间。他认为，美国和中国应尝试就人工智能系统的危险使用设立相互限制。
他将此类谈判比作美国与苏联之间的核军备控制协议。这位Anthropic负责人表示，即使拥有数千枚导弹的对手，也承认有必要通过谈判减少潜在破坏的规模。同时，阿莫代伊强调，冷战本身不应被视为可效仿的模式。
在美国总统唐纳德·特朗普与中国国家主席习近平计划举行双边会晤前夕，他呼吁双方达成具体协议，以降低灾难性风险。阿莫代伊将把《生物武器公约》的条款扩展到人工智能系统列为优先措施之一，以防止国家利用这些系统制造病原体，也防止发布可能被生物恐怖分子利用的模型。他强调，此类协议的关键问题是核实其执行情况。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
对实验室的外部监督
阿莫代伊还提议，在模型训练期间让来自非营利组织或政府机构的外部评估人员直接进入实验室。这类检查人员将核查开发者是否遵守其声明的协议，类似于食品安全领域的审计人员。
据该通讯社报道，这一想法获得了OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克的初步支持。阿莫代伊认为，企业应与政府部门共同确定发布新系统的标准。
Anthropic首席执行官反对立法禁止先进人工智能模型，因为在他看来，这可能会阻碍能够带来医学突破的研究，并削弱该国的技术地位。他还警告说，紧急关闭并非充分的保护措施：他说，强大的系统可能会绕过停止它的尝试。相反，阿莫代伊支持由多个相互补充的屏障构成的多层保护系统。
