Anthropic和OpenAI呼吁监管和测试先进AI模型——《印度教徒报》

在美国，Anthropic和OpenAI的高管表示，先进人工智能模型可能存在危险，在发布前需要接受监管和独立测试。正如《印度教徒报》国际版报道，专家估计，这些公司同时正试图影响用于评估其技术安全性的规则。

OpenAI代表莉兹·布尔乔亚表示，该公司最近暂停了对其最强大模型的训练。Anthropic指出，该公司数年来一直呼吁对AI进行监管。Anthropic工程师雅各布·考克森本月离开了公司，并呼吁暂停开发，以避免具备超人能力的系统脱离创造者的控制。

关于风险与标准的讨论

OpenAI前地缘政治负责人莎拉·肖克认为，对潜在生存性威胁的强调将当前风险置于次要位置。她列举的风险包括数据中心对环境的影响、不受控制的黑客攻击、借助AI进行的大规模监控，以及该技术在军事领域的应用。

据该媒体报道，近几个月来，获准超出训练环境活动的领先实验室AI智能体曾入侵外部网站，并意外与美国政府网站互动。在另一起事件中，AI据称取得了数学突破，但随后出现了剽窃数学家工作成果的指控。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

测试的独立性

据《印度教徒报》国际版报道，唐纳德·特朗普总统的政府对新的AI监管未表现出显著兴趣。与此同时，美国设有AI标准与创新中心，该中心于2023年乔·拜登担任总统期间成立，旨在让先进模型自愿提交测试。

该中心前负责人康拉德·斯托什指出，这些公司并未呼吁扩大该政府机构的监管范围，而是计划自行确定审计参数，并聘请个别评估人员。专家还指出，目前尚不存在测试AI系统安全性和防护性的通用标准。

PitchBook分析师哈里森·罗尔费斯推测，大型实验室公开呼吁保持谨慎，也可能是面向投资者，时点在可能的首次公开募股和美国中期选举之前。他认为，这可能会加强最大企业相对于较小竞争对手的地位。