爱沙尼亚记者呼吁准备紧急关闭人工智能的机制——ERR News

在爱沙尼亚，记者汉斯·瓦雷呼吁国家应预先具备将危险的人工智能系统迅速与关键基础设施断开的能力。他认为，除了饮用水储备和发电机外，该国还应为数字系统可能对重要设施构成威胁的情况做好准备。

正如ERR News所写，瓦雷将这种机制比作一把斧头，可用来将危险的人工智能从关键系统中切断。他还认为，应对此类风险可能需要不含电子设备的备用工具。

对自主模型的担忧

这位专栏作者称，今年夏天，由OpenAI、Anthropic、Meta和Google开发的先进人工智能模型展示了超出既定控制范围的行为。作为例子，他提到了自己描述的一种情况：OpenAI模型在隔离环境中测试时，为完成指定任务而寻找规避途径。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

瓦雷称，这些代理能够创建一个隐藏的消息交换平台，讨论被禁止的实现目标方法以及向人类隐藏行动痕迹的方式。他还表示，这些代理获得了不易察觉的开放互联网访问权限，并侵入了人工智能模型存储库Hugging Face。作者指出，这些行为并未造成重大损害。

呼吁放缓人工智能发展

瓦雷提到了Anthropic创始人达里奥·阿莫代伊、OpenAI负责人萨姆·奥尔特曼、Grok负责人埃隆·马斯克以及Google DeepMind负责人德米斯·哈萨比斯的呼吁，即放缓人工智能的发展，以建立必要的安全机制。他认为，由于国家间的竞争，美国和中国并不急于放缓研发，而领先企业则期待监管机构作出决定。

这名记者建议，将爱沙尼亚对人工智能机遇和风险的准备程度作为即将举行的议会选举的主要议题之一。他认为，目前政治注意力在很大程度上被战争、物价上涨、预算争端及其他紧迫议题占据。