Claude在Anthropic 26%的研发工作中发挥主导作用——阿纳多卢通讯社
土耳其方面报道称，人工智能模型Claude在Anthropic开发新AI系统的约26%研究与开发任务中承担主导作用。阿纳多卢通讯社报道，消息援引《华盛顿邮报》。
指标大幅上升
Anthropic的一项内部评估显示，Claude能够根据一般提示完成任务的大部分内容，而人类负责监督并确定工作方向。就在今年2月，这一指标实际上为零。
该公司强调，Claude目前尚未在任何经评估的研究或开发流程中完全自主工作。与此同时，其超过90%的研究与开发目前处于模型要么与研究人员协作、要么承担主导作用的水平。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
自我改进与智能体监管
Anthropic认为，该指标的快速增长可能表明正朝着递归自我改进迈进——在这种状态下，AI系统能够在越来越少的人类参与下创造出更先进的后继系统。该公司没有说明当前系统距离这一状态有多近。
截至8月，约3万个AI智能体在Anthropic使用最广泛的内部平台上开展研究和工程工作。该公司表示，拥有用于发现智能体潜在问题活动并将此类情况交由人工审查的监控系统。Anthropic还呼吁其他领先的AI开发商披露类似的衡量数据。
在Anthropic首席执行官达里奥·阿莫代伊呼吁领先开发商协调放缓先进AI系统的开发、以获得更多时间采取安全措施后，这一消息出现在有关人工智能安全的讨论背景下。
