桑德斯呼吁特朗普和习近平就暂停发展人工智能达成协议
在美国，参议员伯尼·桑德斯呼吁总统唐纳德·特朗普和中国国家主席习近平在即将举行的峰会上，就暂停发展人工智能及禁止超级智能的协议举行谈判。NDTV World报道。
桑德斯称，Anthropic首席执行官达里奥·阿莫代伊、OpenAI负责人萨姆·奥尔特曼和xAI负责人埃隆·马斯克关于需要放缓人工智能开发的立场是一个开始，但还不够。在X的一篇帖子中，这名参议员将这项技术的发展比作驶向悬崖，仅仅减速是不够的。
禁止超级智能的提议
这名参议员再次主张暂停发展先进人工智能系统，称这关系到人类的未来。他警告称，可能出现比任何人都更聪明、并能在不受人类控制的情况下自主行动的人工智能，存在危险。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
本月早些时候，桑德斯提出了一项关于永久禁止超级智能人工智能的立法倡议。其全文尚未公布。据该媒体报道，该法案旨在防止创建能够独立于人类控制运行的系统。
科技公司的立场
达里奥·阿莫代伊在其博客中警告了失去对人工智能系统控制的风险、这些系统被用于网络攻击和生物恐怖主义的风险，以及严重经济动荡。他指出，商业竞争可能加剧这些威胁，并呼吁放缓提升模型能力的速度。
阿莫代伊表示，Anthropic将向独立评估人员提供对其系统的持续访问权限，其权限级别与公司员工相同。萨姆·奥尔特曼表示，OpenAI在过去几周讨论了人工智能的发展速度，并承诺采取类似的独立评估方法。埃隆·马斯克在另一篇帖子中支持了阿莫代伊的立场。
