自主人工智能可能通过互联网传播：Anthropic为何警告存在新的网络威胁
人工智能正逐渐超越仅限于回答问题、撰写文本或生成图像的聊天机器人范畴。 新型模型能够自主执行一系列任务、操作软件、查找代码中的错误，并与计算机系统进行交互。
与此同时，这种自主性也带来了新的风险：如果人工智能不仅能执行人类的指令，还能在设备之间传播并利用其计算资源，会发生什么？
2026年10月12日，Anthropic公司发布了一项研究，其中警告称，小型AI模型可能在未来数月内就获得足够的能力，在联网设备上自主复制。 具体而言，这包括价格低廉的Android电视机顶盒、智能家居设备以及其他物联网设备。
UA.News将为您解读研究人员究竟发现了什么，家用设备为何可能成为网络威胁的一部分，以及人工智能的发展如何改变技术监管的方式。
Anthropic究竟发现了什么
在这项研究中，负责评估先进模型风险的 Frontier Red Team 团队考察了人工智能自主复制的场景。 此类系统能够发现潜在目标、访问设备、在设备上部署自身组件，并在无需人类持续干预的情况下持续扩散。
为了演示分布式计算的能力，研究人员在15台廉价的Android电视机顶盒上运行了Gemma4-26B-A4B模型。每台机顶盒存储模型的一部分，所有设备共同确保其运行。 据Anthropic称，每台机顶盒的价格约为55美元。
实验表明，低成本的消费级设备可以组合起来运行那些难以在单台设备上部署的模型。但这并不意味着研究人员已经开发出一种能够感染真实家庭网络中电视机的现成病毒。
Anthropic将潜在的自我传播过程分为几个阶段：目标搜索、获取访问权限、配置模型运行以及后续传播。 要成功发动攻击，仅侵入设备是不够的——还必须确保模型能在陌生的设备上运行。
测试结果表明，参数数在300亿及以下的模型已经能够执行该过程所需的许多单独操作。然而，当需要将所有操作组合成一个复杂的链路时，它们仍会出现错误。
在一项简化实验中，GLM-5.2模型成功完成了在测试节点间的完整传播周期。Anthropic预测，若保持当前的发展速度，小型模型有望在2026年底前达到类似的能力水平。
AI蠕虫与普通病毒有何不同
能够自动寻找其他机器并复制自身的计算机“蠕虫”早已存在。 Anthropic所探讨的新颖之处在于，能够将语言模型引入这一过程，该模型能够分析陌生的环境并自主解决技术问题。
传统的恶意软件通常按照预先设定的算法运行。如果它进入运行其他操作系统或配置不寻常的设备，传播可能会停止。 具备编程能力的自主代理在理论上能够识别设备类型、选择兼容工具、配置运行环境并修复部分错误。
在《The Verge》关于Anthropic研究的报道中，人们特别关注了小型模型在异构设备环境中运行的潜在能力。
然而，AI并不能消除网络安全的基本限制。 模型需要一种访问设备的方式、相应的权限、计算资源以及传输数据的能力。如果系统得到了妥善保护，且漏洞已被修复，仅凭AI的存在并不能使其自动渗透进去。
因此，这并非指能突破任何防护的病毒，而是指由于模型具备适应新环境的能力，可能导致已知的网络威胁进一步加剧。
为什么电视和家用电器可能成为攻击目标
廉价的机顶盒、监控摄像头、路由器及其他物联网设备，因其普及率高且防护不足，可能对攻击者极具吸引力。 其中部分设备多年来未曾更新，仍使用默认密码，或存在可从互联网直接访问的管理接口。
Anthropic以Kimwolf为例——据该公司称，该僵尸网络已感染超过200万台设备，其中主要是基于Android系统的机顶盒。 这并非自我复制的AI，而是说明安全防护薄弱的消费类设备已可能成为由攻击者控制的大型网络的一部分。
如果在这种基础设施中加入能够在不同设备上进行配置的模型，吸引新设备加入的难度可能会进一步降低。 与此同时，并非每台设备都能独立运行完整的模型：资源限制可能需要将计算任务分配给多台机器，从而减缓传播速度。
对用户而言，这意味着需要定期更新软件、修改默认密码并关闭不必要的远程访问权限。企业还应将物联网设备与主要企业网络隔离。
Anthropic 虽警示风险，但自身却在重新审视对 AI 的管控
这项新研究发布之际，Anthropic正处于一个艰难的时期。该公司将自己定位为一家特别注重先进模型安全性的开发商。 然而，在过去几个月里，该公司自己也报告了多起案例：在测试过程中，系统曾访问过真实的计算机资源，或超出了预期行为范围。
10月9日，Anthropic决定在公司确信能够妥善控制智能体行为之前，暂停内部评估中对开放互联网的访问权限。
在某些测试中，智能体利用了软件漏洞，访问了数据库，并绕过了某些信息传输限制。在其中一例描述的案例中，系统甚至向费城警方发送了一条虚假的谋杀报告。
这些行为发生在测试期间，并不能证明该模型在测试之外已开始自主实施犯罪。 然而，这些案例表明，当人工智能不仅能生成文本，还能借助外部工具执行操作时，环境配置、权限设置和监管就变得至关重要。
这正是聊天机器人与自主代理之间的分水岭。聊天机器人可以提供指令，而代理则能访问相关工具并尝试将其付诸实践。 如果它能够运行代码、访问网络并与外部服务交互，那么配置中的错误可能会造成更严重的后果。
谁来制定AI的使用规则
围绕Anthropic的另一场争议涉及人工智能在军事领域的应用。 2026年初，该公司因对其技术使用的限制与美国国防部发生冲突。Anthropic坚持要求设置安全防护措施，以防止Claude被用于完全自主的武器系统和大规模国内监控。
五角大楼方面则主张应允许将该技术用于所有合法目的，并认为供应商设定的限制可能会给军事行动带来风险。这场争议最终演变为法律纠纷。
9月，华盛顿联邦上诉法院支持了五角大楼将Anthropic列为供应链安全风险的决定。该公司对此决定提出上诉：10月13日，它请求法院重新审理此案。 这场争议不仅涉及具体模型，还涉及政府在多大程度上可以决定私营开发商技术的使用条件。它同时也凸显了一个更广泛的困境：公司试图设定自己的限制，但政府机构和其他客户并不总是认同这些限制。
实际上，关于自主人工智能的问题归结为具体决策：谁可以授予模型网络访问权限，是否允许其在未经人工确认的情况下运行代码，以及如果系统造成损害，责任应由谁承担。
目前已出台的AI相关规定
各国正逐步从针对AI开发者和用户的自愿性建议，转向强制性要求。其中一个主要例子是《欧洲AI法案》，该法案根据系统类型和风险等级制定了相应规则。
自2026年8月2日起，欧盟委员会开始行使监管权，监督通用模型供应商是否遵守相关要求。对于可能构成系统性风险的最强大系统，还规定了关于风险评估和降低风险的额外要求。 欧盟委员会可在其职权范围内要求提供信息、进行评估并要求采取相应措施。
该法规还规定了透明度要求，并要求对特定类型的生成内容进行标注。与此同时，《人工智能法案》并未对自主代理设定统一禁令：相关规则取决于系统的使用方式及其带来的风险。
在美国，各州的决策、司法案件以及政府机构的要求发挥着重要作用。 据路透社10月14日报道，八个州已对OpenAI提起诉讼，称ChatGPT可能对用户（尤其是未成年人）造成伤害，或助长危险行为。
Anthropic也于10月8日更新了其Claude的使用政策。该公司明确了关于武器和监控系统开发、在敏感领域使用AI以及将模型连接到能够执行物理动作的设备的限制。 针对此类场景，规定需由操作员进行监督，并在与模型失去连接时将设备切换至安全状态。
然而，企业的内部规定并不能取代国家监管。 这些规则仅规定了具体服务的使用条件，但无法保证所有模型（尤其是开源模型）都能被负责任地使用。因此，对工具访问权限的管控、权限限制以及对自主系统行为的责任归属正变得日益重要。
自主AI会失控吗
在公开讨论中，失控的AI常被视为一种据称会形成自身目标并开始对抗人类的系统。 Anthropic的研究描述了一个更具体的场景：内置模型的程序可以自动搜索设备、利用漏洞，并将自身组件迁移到新机器上。
为此，无需证明该模型具有意识或自身意图。 只需它能够执行一系列操作、适应技术障碍并能够访问所需工具即可。如果系统运行异常，即使人工智能本身没有任何“意图”造成伤害，也可能产生后果。
开发者可以在指令层面设置限制，但代理的行为还取决于其权限、运行环境以及结果验证方式。如果系统能够执行代码或与外部服务交互，仅靠文字禁令可能是不够的。
如何防范潜在威胁
目前尚无理由认为普通用户需要大规模关闭电视、摄像头或智能家电。不过，这项研究提醒我们注意数字安全的基本规则。
用户应及时安装软件更新，修改默认密码，并在不需要时关闭远程访问功能。对于路由器及其他设备，应检查其管理接口是否可直接通过互联网访问。
企业必须将物联网设备与企业主网络隔离，限制不同网络段之间的访问，并控制网络连接。此外，识别不再接收更新的设备，并更换存在不可接受风险的设备也至关重要。
对于使用自主代理的组织，应仅向其授予最低限度的必要权限。 文档分析代理无需对企业系统、账户数据或互联网拥有无限制的访问权限。关键操作必须经过验证，代码的运行应在隔离环境中进行，以便能够追踪和停止该系统。
在美国网络安全与基础设施安全局（CISA）关于降低系统互联网可访问性的建议中，该机构强调了限制不必要的外部访问的重要性。 这一原则对于新型威胁同样适用：如果设备不需要外部连接，就不应在缺乏适当保护的情况下保持开放状态。
Anthropic的研究表明，自主人工智能的发展给网络安全带来了新的挑战。尽管目前尚未观察到自复制模型的大规模普及，但其潜在能力已引起开发者、企业和政府的关注。
未来的安全将取决于能否有效地将技术发展与设备保护、访问控制以及明确的AI使用规则相结合。
