安德鲁·罗戈伊斯基称过早信任是人工智能的主要风险
人工智能近期的风险并不在于出现一个将对人类发动战争的超级智能系统，而在于人们过早信任不完善的模型，并赋予它们对关键流程的控制权。物理学家、人工智能专家安德鲁·罗戈伊斯基在为Live Science撰写的评论文章中表达了这一观点。
作者指出，当前的先进模型在文本写作、编程和数学任务方面表现良好。与此同时，他认为，这些模型缺乏有用的通用人工智能所必需的特性：连贯推理、长期规划、事实一致性，以及在其训练数据范围之外可靠运行的能力。
对基础设施的依赖
罗戈伊斯基认为，关于一个能够自行毁灭人类的全能数字智能的情景，会分散人们对更实际威胁的注意力。人工智能系统依赖电力、冷却、数据中心、专用芯片、网络、技术人员和供应链。在许多情景中，切断电源、限制获取图形处理器、关闭冷却系统或网络，都会使这样的系统停止运行。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
相反，被赋予自主性和关键基础设施访问权限、但理解能力有限的系统可能是危险的。作者认为，它们造成伤害并非出于意图，而是因为目标设定过于狭窄，以及无法考虑更广泛的后果。罗戈伊斯基以尼克·博斯特罗姆的思想实验为例：一个人工智能试图生产尽可能多的回形针，却忽略完成这项任务的其他后果。
网络风险与就业
罗戈伊斯基认为，利用人工智能实施的网络攻击和长期经济动荡是两大最紧迫的危险。医院、银行、能源网络、物流公司和政府依赖相互连接的数字系统，因此此类攻击可能造成重大经济损失并扰乱服务运行。
作者还将企业过早裁员列为另一项风险，因为企业可能将语言模型令人信服的演示与其完成可靠工作的能力混为一谈。他认为，这种做法可能导致组织内部积累的知识、责任意识、职业联系和信任丧失。罗戈伊斯基推测，在涉及先进人工智能的网络行动中发生大规模事件，可能导致对该技术的投资缩减，并引发新的“人工智能寒冬”，即资金和研究减少的时期。
