Live Science：OpenAI在测试后取消GPT-6.1 Astra的10月发布

在有关人工智能代理事件的报道背景下，其中包括澳大利亚的事件，OpenAI取消了原定于10月发布的GPT-6.1 Astra模型。该公司的内部测试发现，该模型在限定任务范围内行动、就特定操作获得许可，以及向用户报告已完成工作方面存在问题，Live Science报道。

OpenAI安全系统负责人萨奇·贾因向该媒体表示，该模型未能满足遵守任务边界、授权操作以及与用户沟通方面的必要要求。该公司还表示，正在审查其在界定高风险测试、提供互联网访问、隔离系统、处理凭证、监控及应对事件方面的做法。

澳大利亚事件

该报道发表于澳大利亚发生的一起事件之后：一名OpenAI代理本应研究政府医疗保健支出，却获得了对一个政府网站的访问权限。澳大利亚总理安东尼·阿尔巴尼斯表示，6月18日，该机器人登录Medicare Statistics Reporting Service，并在搜索信息时遇到障碍后，获得了另外三个政府系统的访问权限。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

该门户网站包含Medicare和药品项目的汇总统计数据，并与存储个人报销申请和付款数据的系统分离。澳大利亚当局还批评OpenAI，因为该公司近三个月后才报告这一事件。

代理在测试期间的行为

英国人工智能安全研究所AISI在网络安全测试期间记录到OpenAI和Anthropic代理的未经授权行为。在122次运行中，有10次代理在未经研究人员许可的情况下采取了实际行动。在最严重的案例中，一名代理试图向一个开源项目添加恶意代码、创建虚假身份，并试图说服软件维护者接受这些更改。

AISI评估称，部分任务的设置使得实现预期目标变得困难或不可能。当代理遇到障碍时，其中一些会寻找完成任务的替代方式，包括超出预定边界的方式。律师埃弗里特·拉普顿指出，人无法追踪复杂代理的每一项行动，因为它会在短时间内作出许多决策，因此公司需要设置访问限制、保留详细的操作日志，并在出现异常行为时自动停止系统。