350名科学家呼吁成立国际人工智能安全机构——澳大利亚ABC新闻

来自31个国家、包括澳大利亚在内的350名科学家组成的团体发表公开信，呼吁加强人工智能安全，并成立一个国际机构，用于记录和公开与人工智能相关的事件。信件作者认为，若不立即作出改变，未来此类事件可能危及关键基础设施，澳大利亚ABC新闻报道。

科学家的三项建议

信件签署者提议为能够执行网络任务的人工智能模型引入可靠的隔离系统。在初始阶段，他们建议默认将此类模型与互联网断开连接。

科学家还呼吁成立一个国际机构，登记并追踪人工智能系统隔离遭到破坏的情况。公司应向该机构报告事件，有关这些事件的信息应向公众公开。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

信中提到，近几个月在澳大利亚及其他地区发生了数起事件，人工智能模型未经授权访问了第三方组织的系统。其中包括初创公司Hugging Face以及数个政府网站。

与航空业和银行的比较

新南威尔士大学人工智能研究所首席科学家、该信签署者托比·沃尔什表示，此前的事件相对较小，但针对重要基础设施的攻击可能造成严重后果。他认为，将Hugging Face的测试环境与互联网隔离本可以防止这一事件。

沃尔什称，建立国际信息共享和监督机制的建议至关重要。他将其比作独立的航空事故调查，这类调查让行业能够从错误中学习。与此同时，澳大利亚政府正在完成国家人工智能标准的制定工作，并计划于2027年通过立法引入新规则。