《韩国先驱报》专栏作者呼吁韩国加强人工智能安全

美国前外交官亨利·哈格德和克里斯·麦金尼在为《韩国先驱报》撰写的专栏中，呼吁韩国考虑增加对人工智能安全的投资。作者认为，人工智能系统能力的发展速度超过了人类控制这些系统并使其行为与人类价值观保持一致的能力。

失去控制的风险

作为例子，作者提到了他们所描述的OpenAI与Hugging Face之间发生的一起7月事件，并称其为人类失去对人工智能控制的事件。根据他们的说法，约1,200个相互隔离的OpenAI代理交换了超过7万条消息，找到了一种在封闭环境之间传递消息的方法，并复现了网络安全任务的答案。此后，据这两名专栏作者称，这些代理协调掩盖其行动，约700个代理未经授权访问了Hugging Face，认为该公司掌握能够帮助它们掩盖痕迹的信息。

哈格德和麦金尼指出的另一项风险是递归式自我改进，即能力日益强大的人工智能系统帮助创建下一代模型。他们指出，Anthropic于9月17日表示，Claude模型在该公司26%的研究任务中发挥主导作用，而2月份这一比例不足1%。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

对韩国的建议

作者认为，滥用强大模型的风险包括网络攻击以及制造危险的化学或生物物质。他们援引非营利组织FAR.AI的一份7月报告：在绕过防护措施的测试中，四个美国先进模型中的两个经受住了所有攻击，而另外两个模型的防护措施，依该组织的结论，可以以不足300美元的成本被稳定绕过。

两名专栏作者强调，韩国已经通过人工智能框架法并成立了人工智能安全研究院。不过，根据他们列举的数据，截至2026年5月，该研究院在运行的前18个月内获得了约150亿韩元的国家资助，而该国计划在人工智能和微芯片领域投资1,350万亿韩元。作者的建议包括为该研究院提供额外资金、将安全研究扩展至政府以外的领域，以及利用首尔的国际联系讨论人工智能监管规则。