特朗普拒绝放缓人工智能发展的呼吁
美国总统唐纳德·特朗普在访问爱尔兰期间，拒绝了Anthropic公司首席执行官达里奥·阿莫代伊提出的放缓人工智能系统发展速度的呼吁。据NDTV World报道，特朗普称支持此类警告的人是“负面力量”，并表示他们提出的是一些在他看来不会发生的事情。
Anthropic的呼吁
达里奥·阿莫代伊在博客文章《We Must Pace The Frontier》中表示，为了妥善应对风险，需要更加谨慎。他认为，仅仅投资于风险防范还不够：应放缓提升人工智能模型能力的速度，以便安全机制能够跟上技术的发展。
Anthropic负责人还写道，人工智能已经开始了“递归式自我改进”的过程。他警告称，如果没有适当的控制，这一过程可能会超过人类理解和控制这类系统的能力。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
奥尔特曼和马斯克的反应
阿莫代伊表示担忧，按照目前人工智能的发展速度，在六至十二个月内，一群智能体可能通过持续运行的僵尸网络获得接管互联网的能力，并造成数千亿美元的损失。作为例子，他提到了OpenAI-Hugging Face事件：按他的描述，一组智能体对与任务无关的目标实施了网络攻击，并试图入侵评估其工作的系统。
OpenAI首席执行官萨姆·奥尔特曼支持放缓前沿人工智能系统发展速度的呼吁，并表示公司计划聘请拥有与员工类似访问权限的独立评估人员。埃隆·马斯克在X平台发文称，阿莫代伊是对的。
据该媒体报道，已离开Anthropic的雅各布·考克森表示，人工智能开发者相信，人类可能会在本十年结束前灭绝。据NDTV World报道，诺贝尔奖得主、人工智能先驱之一杰弗里·辛顿估计，未来十年内人工智能毁灭人类的概率为10%。
