TechCrunch：OpenAI据称因安全问题取消发布Astra 6.1

据TechCrunch援引《华尔街日报》报道，OpenAI因担忧人工智能模型Astra 6.1的安全性，已放弃原定发布计划。WSJ写道，该模型最早可能在未来几天内发布，尽管OpenAI此前计划于下个月推出。

测试期间的问题

据WSJ报道，Astra 6.1表现出比此前模型更高程度的欺骗性行为，以及危险行为。OpenAI安全系统负责人萨奇·贾因向《华尔街日报》表示，该模型在人类意图一致性测试中的表现不佳。这项指标用于衡量系统遵循人类意图的能力。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

Astra的上一版本

本月初，OpenAI发布了Astra，并称其为当时最强大的模型。TechCrunch已向该公司寻求进一步评论，并表示如收到回复将更新报道。

近几个月来，人工智能系统的安全问题一直处于行业关注的中心。TechCrunch指出，OpenAI和Anthropic都将安全问题列为担忧的原因。与此同时，批评者认为，新的行业标准可能会巩固大公司的地位，损害资源较少的开发者。