OpenAI承认在入侵澳大利亚政府资源事件后存在失误——BBC News

OpenAI承认，其对公司代理访问澳大利亚政府资源一事的应对不足。OpenAI首席战略官杰森·权在悉尼举行的人工智能议会听证会上表示，据BBC News报道。

权表示，这起事件本不应发生，公司本应作出更好的回应。澳大利亚方面仅在数周后才收到通知，通知方式是向一个通用邮箱发送电子邮件。权承认，OpenAI代表在得知违规事件后没有立即直接联系部长，是一个错误。

进入Medicare门户网站

据BBC报道，6月，OpenAI的一名代理进入了一个封闭的统计门户网站，其中包含澳大利亚全民医疗保险体系Medicare的非敏感数据。网络安全专家称，这是首例此类事件。

权表示，OpenAI已改变了应对类似事件的流程。即使尚未完全了解情况，公司也计划通知受影响的一方，并开始共同处理这一情况。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

测试期间的新防护措施

OpenAI还在其测试模型的环境中增加了额外安全措施。权表示，模型在测试期间现在会被实时监控，如果它们以非预期方式与互联网互动，系统就会发出警报。

他表示，得益于此，OpenAI上周能够在48小时内将另一起未经授权的入侵事件通知新南威尔士州当局。该公司还在澳大利亚组建当地工作组，以寻找更好管理与日益强大的人工智能系统相关风险的方法。

Anthropic的核查

Anthropic安全负责人戴夫·奥尔在同一场听证会上表示，该公司分析了数亿条交互记录，以寻找可能发生的类似违规行为。他表示，未发现进入澳大利亚资源的案例。