马斯克支持Anthropic放缓人工智能发展呼吁——MarketWatch
SpaceX负责人埃隆·马斯克支持Anthropic首席执行官达里奥·阿莫代伊因潜在网络安全风险而放缓开发新人工智能模型的呼吁。OpenAI首席执行官萨姆·奥尔特曼也表达了类似立场，MarketWatch报道。
对自主智能体的担忧
阿莫代伊在一篇博客文章中表示，加速人工智能能力的发展可能带来大量自主AI智能体出现的风险，它们能够共同行动、失去控制并发动大规模网络攻击。按他的评估，在六至十二个月内，这样一组智能体可能获得接管整个互联网的能力。
Anthropic负责人警告称，这种情景可能造成数千亿美元的损失。他呼吁以平衡的速度发展人工智能，将技术安全与其潜在益处结合起来，并考虑地缘政治困境。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
独立安全评估
阿莫代伊还提议引入独立的AI评估人员，他们拥有类似公司员工的访问权限，以核查模型是否符合安全规则。他表示，Anthropic单方面承诺引入这一机制，并加强在AI安全与对齐方面的工作。
萨姆·奥尔特曼支持独立评估的想法，并表示OpenAI也将这样做。埃隆·马斯克简短地同意了阿莫代伊的立场。Anthropic、OpenAI和SpaceX没有及时向MarketWatch提供评论。
这些声明是在Anthropic前员工雅各布·考克森发布帖子后作出的。考克森表示，他离开该公司是因为在他看来，AI开发者过于专注于竞争，且没有充分考虑安全问题。相关讨论正值Anthropic预计进行IPO之前；据报道，此次IPO可能使该公司的估值达到约2万亿美元。
