初创企业开发工具核查美中人工智能协议——《南华早报》

在美国总统唐纳德·特朗普与中国国家主席习近平计划于美国华盛顿举行会晤前夕，研究人员和初创企业正在开发技术，这些技术可帮助核查有关遏制人工智能发展的潜在协议是否得到履行。这类工具旨在让政府和第三方核查有关AI模型训练和使用的特定信息，或许无需直接访问模型本身或计算基础设施，《南华早报》报道。

拟核查的内容

英国咨询公司Amodo Design联合创始人汤姆·米尔顿指出，华盛顿与北京可能达成的国际协议面临两个关键问题。这包括核查数据中心是在训练新模型，还是仅为已创建的模型提供服务，以及确认已部署的模型与所声明的模型相符。

米尔顿表示，为已创建的模型提供服务，即推理，与训练新模型不同。各国政府还可能希望核查另一国的数据中心是否使用被认为安全的模型，而非可能存在危险的系统。

来自20个国家的公开信作者呼吁成立一个可实施AI核查的国际治理机构。同时，这封信并未说明应以何种具体方式开展此项工作。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

技术测试

其中一种拟议方法被称为重新计算。该方法通过在另一套系统上使用相同的输入数据和设置运行同样的计算，来核查AI结果。机器智能研究所估计，为数据中心配备这类工具的成本可能仅占设施初始成本的一小部分，而通过检查随机抽样的活动，可降低计算成本。

Lucid Computing本月初在瑞典启动了对其解决方案的18个月测试，测试在由国家研究机构RISE提供的一个配备16枚英伟达H100芯片的集群上进行。Amodo Design正就将测试扩大至配备128个图形处理器的集群进行磋商。米尔顿承认，这些研发成果仍需在先进数据中心的规模上进行测试，那里可能安装超过100万个图形处理器。

密码学方法

以色列初创企业Attestable上个月获得2000万美元种子轮融资，该公司采用零知识证明。该公司建议利用这项密码学技术，核查对请求作出回应的确为指定的AI模型，同时不披露有关底层模型或数据的信息。

Lucid Computing、Amodo Design和Singapore AI Safety Hub表示，计划公布其研究结果。Lucid政策与战略负责人康纳·邓洛普估计，全球约有50人正在从事AI核查技术研发。