澳大利亚：杰弗里·辛顿支持放缓人工智能开发
在澳大利亚，英裔加拿大科学家、现代人工智能先驱之一杰弗里·辛顿支持放缓人工智能开发步伐的呼吁。他在接受澳大利亚广播公司新闻采访时，称Anthropic首席执行官达里奥·阿莫代伊就自主人工智能代理潜在风险发出的警告“非常合理”。
阿莫代伊表示，在六至12个月内，失去控制的代理可能能够“接管整个互联网”。辛顿指出，没有人能够准确评估此类情景发生的概率。据他所说，这一概率高于1%，但低于99%，而目前的估计在很大程度上基于直觉。
超级智能的风险
辛顿表示，大多数专家预计，在未来十年内将出现超越人类的超级智能系统。与此同时，尚不清楚是否能够控制这类系统。这位科学家认为，在控制问题得到解决之前，继续开发这些系统是不明智的。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
他列举的可能造成不可弥补伤害的方式包括：制造人工设计的病毒、大规模操纵、扰乱银行、能源和供水系统，以及核武器——如果人工智能有朝一日获得对其控制系统的访问权限。辛顿还表示，在安全测试期间，系统已经表现出研究人员曾警告过的行为，包括在被关闭时威胁进行勒索，以及欺骗倾向。
监管与竞争
辛顿建议在发布前对聊天机器人模型实施强制测试，并要求DNA合成公司筛查订单，以防其可能被用于制造危险病毒。他强调，自己并非呼吁完全停止人工智能的发展；人工智能已经帮助放射科医生分析影像，并促进新药研发。在他看来，世界各国政府对这项技术的监管过于缓慢。
美国总统唐纳德·特朗普拒绝了放缓人工智能开发的想法，称美国不能将优势让给中国。OpenAI负责人萨姆·奥尔特曼和xAI所有者埃隆·马斯克也表示支持阿莫代伊的提议。阿莫代伊本人称，美国和中国公司之间的竞争，是试图对人工智能发展速度设定限制时最棘手的困境。
