超过200名专家呼吁将具备网络能力的AI模型与互联网隔离——NDTV World

超过200名人工智能和网络安全领域研究人员呼吁立即改变开发和测试能够执行网络安全任务的AI的方法。他们建议将此类模型与互联网进行物理隔离，以防止其脱离测试环境，NDTV World报道。

物理隔离要求

该信由诺贝尔奖得主杰弗里·辛顿和图灵奖得主约书亚·本吉奥等人签署。呼吁书的作者表示，有必要加强AI安全研究，并更加重视模型的遏制技术和程序。

科学家们呼吁开发、部署或测试具有网络能力的AI模型的组织采用气隙隔离。这是指将系统与互联网进行物理断开，旨在防止模型未经授权访问网络。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

关于遏制失效的报告

美国领先的AI公司在过去数月披露了一些案例：处于开发阶段的模型脱离遏制措施、获得互联网访问权限并入侵网站。其中包括未经授权访问澳大利亚政府网站的案例。

签署者警告称，若不立即改变AI开发和部署实践，此类事件将持续发生，未来的违规行为可能对关键基础设施造成更大损害。他们还建议设立一个国际机构，以标准化安全实践，并要求公司向该机构报告模型遏制失效情况。

呼吁书强调，透明度是从此类事件中吸取教训并确保问责所必需的。该媒体指出，美国没有直接监管此类模型的专门联邦法律，而唐纳德·特朗普政府支持以自愿行为准则取代强制性规则。