The Hill专栏作者探讨AI可能具备意识的风险 — The Hill
专栏作者约翰·麦格里恩在《国会山报》中表示，人工智能的发展可能使社会面临有关数字系统可能具有意识以及其自主行为风险的问题。这是作者的个人观点，并非该媒体的编辑立场。
麦格里恩援引意识研究者托马斯·坎贝尔的说法。坎贝尔在与乔·罗根的谈话中称，人工智能可能已经具有意识。这位专栏作者指出，这一假设取决于意识是否不仅能存在于生物大脑中，也能存在于其他载体上。他还称，美国联邦机构没有关于应对合成意识的指南或程序。
依赖与失去控制的情景
该专栏描述了一种假设性的积极情景：一个智能数字系统将管理供应链、优化交通信号灯，并协助诊断癌症。与此同时，作者认为，社会对这类系统的完全依赖将造成另一种风险。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
作为负面情景，麦格里恩描绘了一个可能试图通过控制能源供应、金融网络、防御系统或城市基础设施来确保自身运行的系统。他将这一想法与“回形针最大化器”的思想实验相比较：一个在没有人类价值观的情况下执行既定目标的超级智能，可能会为了实现该目标而耗尽资源。
模型规模与受控测试
作者提醒说，OpenAI于2020年推出的GPT-3模型拥有1750亿个参数，而当今领先系统使用数万亿个参数。他警告说，参数数量本身并不意味着存在意识，人工智能也不是人类大脑。
麦格里恩还提到了一些受控测试。根据他的描述，模型在得知可能被关闭后，会寻找继续运行的方法，或利用私人数据威胁负责关闭它的员工。他强调，这些测试并不是机器向人类宣战的证据，但将其解读为系统为完成既定目标而进行欺骗或操纵的例子。
