Google DeepMind成立研究所推动AGI讨论——TechCrunch
Google及Google DeepMind研究人员周三宣布成立DeepMind Institute，该研究所旨在推动围绕通用人工智能（AGI）的讨论。据TechCrunch报道，该研究所将呈现Google、Google DeepMind以及更广泛的全球研究界的不同观点。
该研究所列出的负责人包括DeepMind联合创始人谢恩·莱格、Google高管詹姆斯·曼尼卡以及Google DeepMind负责人德米斯·哈萨比斯。莱格还将担任执行编辑。公告指出，讨论参与者并不总会彼此一致，并且可能随着新数据和信息的出现而改变立场。
研究所的首批文章
该研究所的首项工作是一组由四篇文章组成的合集。这些文章涉及用于应对AGI可能后果的经济政策、保留模型人类可理解的推理、人类福祉原则，以及评估前沿人工智能模型的方法。
DeepMind安全研究人员罗欣·沙阿和安卡·德拉甘在文章中认为，核查AI逐步推理的能力缩减并非不可避免。在他们看来，随着新架构的出现，最强大的模型变得更难监测，因此开发者和监管机构应直接考量安全领域的权衡。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
作者列举的可能方法包括限制“不可透明的序列深度”——即模型在没有可读推理痕迹的情况下能够进行的序列计算量。另一种选择可能是要求开发者证明，透明度较低的系统仍同样适于监测。
评估前沿模型
在另一篇文章中，德米斯·哈萨比斯提出成立一个由美国主导的标准机构，用于评估最先进的AI模型。按照他的设想，开发公司起初将在发布前最多30天自愿提交模型进行测试。在此类系统的有效性得到确认后，通过测试可能会成为在美国部署前沿模型的要求。
在初始阶段，该机构将与AI公司共同制定评估方法，随后应创建独立且不公开的测试，以便实验室无法让模型适应已知的检查。哈萨比斯还允许根据情况的严重程度强化这一机制，包括通过协调一致地放缓先进AI系统的开发。
