中国研究人员提出人工智能自我改进的五个层级——Live Science

中国研究人员提出了一种人工智能发展模型，在该模型下，系统能够自主引导自身训练，并创建下一代模型。Live Science对此进行了报道。该研究的作者正在研究递归自我改进的概念，这一概念或许能帮助应对开发日益复杂的人工智能模型所带来的不断上升的资金和计算成本。

五个自主性层级

在9月10日上传至arXiv数据库、尚未经同行评审的一篇预印本中，科学家提出按照自我改进能力将人工智能系统分为五个层级。在较低层级，模型开发主要由人类控制。在较高层级，系统愈发能够识别自身弱点、确定解决方法，并最终改进自身改进的过程。

递归自我改进涉及一个反馈循环：模型利用每个训练阶段的结果来调整下一阶段。理论上，这可能让人工智能在极少人类干预的情况下，创造出更强大的自身版本。报道将这种假设性系统描述为“由人类创造的最后一个人工智能”。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

实验与局限

今年早些时候，A-Evolve-Training系统在四个周期内略微提高了一个拥有300亿参数的语言模型在基准测试中的成绩。为此，它测试了不同的训练方法，并根据获得的结果调整后续实验。

伦敦大学学院数字生物学教授彼得·本特利质疑，这类实验是否是通往完整递归自我改进的可信路径。他指出，通过反馈改进自身表现的系统已经存在数十年，其中包括进化计算和强化学习。据他评估，创建能够自主开展研究、发展自身训练和硬件，并在现实条件下验证结果的人工智能要困难得多。

预印本作者也承认，需要大量计算资源和人类监督。另一个问题是验证模型能力是否真正提升：人工智能可能通过利用测试的弱点或选择有利结果来提高测试分数。牛津大学研究人员凯拉·布洛姆奎斯特认为，这项工作没有提供实用的路线图，但可能有助于评估更具自主性的系统所面临的技术困难和安全风险。