欧洲开始对人工智能进行监管：《人工智能法案》将如何改变技术、商业和人们的生活
自2026年8月2日起，《人工智能法案》（AI Act）——全球首部关于人工智能的综合性立法——的主要条款在欧盟正式生效。 从现在起，欧洲监管机构不仅可以向人工智能开发者提出建议，还可以监督规则的执行、处理投诉、要求提供文件并处以罚款。
其中最引人注目的创新之一是透明度要求。聊天机器人及其他交互系统必须告知用户，其对话对象并非真人客服，而是人工智能。
深度伪造内容必须进行相应标注，而通过人工智能创建或修改的材料则应包含机器可读的标记，以帮助平台和专用工具确定其来源。
然而，若断言《AI法案》自8月2日起已全面生效，则未免过于简单化。该法案将分阶段实施： 部分禁令早在2025年就已生效，通用模型的相关规定将于2025年8月生效，而欧盟将针对高风险系统的一些最复杂的要求推迟至2027年至2028年实施。
UA.News将为您解读什么是欧洲《AI法案》，它禁止哪些技术，以及ChatGPT和其他生成式模型的使用将发生怎样的变化。
什么是《AI Act》，欧盟为何决定对人工智能进行监管
《AI法案》（即《人工智能法案》）是欧盟的一项法规，旨在为欧洲市场上的AI系统开发、销售和使用制定统一规则。
该文件于2024年最终通过，并于同年8月1日正式生效。 不过，欧洲立法设定了过渡期，以便企业、政府机构和监管机构有时间为新要求做好准备。因此，《AI Act》的条款是逐步实施的，而非一次性全部实施。
该文件的核心理念并非禁止人工智能这项技术本身。欧盟试图根据人工智能系统可能造成的潜在危害程度对其进行分类。
普通的垃圾邮件过滤器、电子游戏中的算法或推荐系统，不应受到与评估求职者、判定个人信用状况、进行人脸识别或协助执法部门预测犯罪的程序同样严格的监管。
正因如此，《AI法案》的核心是所谓的“风险导向”方法：算法所作出的决策或建议越重要，其开发者和用户就承担越多的责任。
《欧洲人工智能法案》规定了哪些风险等级
欧盟将人工智能系统大致分为四类：不可接受风险、高风险、有限风险和最低风险。
第一类包括欧盟认为与基本人权不相容的技术。此类技术被禁止使用，或仅在极其有限的特殊情况下才被允许使用。
高风险系统包括那些能够对教育、就业、社会服务获取、信贷、保险、移民程序、司法、医疗保健、关键基础设施或执法机构的工作产生重大影响的算法。
有限风险主要涉及透明度。用户必须清楚自己正在与人工智能互动，或所见内容是由人工智能生成的。
据欧盟委员会评估，绝大多数日常应用程序属于最低风险或零风险类别。对于这些应用程序，《人工智能法案》并未引入显著的额外限制。 例如，反垃圾邮件过滤器、部分推荐算法以及电子游戏中的AI功能均属此类。
因此，欧盟并不试图控制每一个算法。其主要关注点在于那些自动化决策可能影响特定个人安全、福祉或基本权利的情况。
欧盟已禁止哪些人工智能技术
《AI法案》的首批禁令已于2025年2月2日开始实施。这些禁令针对的是欧洲立法者认定具有不可接受危险性的做法。
具体而言，被禁止的系统包括那些使用隐蔽的操纵性或欺骗性手段，并可能显著改变人类行为的系统。此外，也不允许利用人们的年龄、残疾或复杂的经济社会状况等弱点。
禁止建立社会评级系统，即根据公民的行为、个人特征或生活方式对其进行评估，并据此限制其权利和机会。
另有专门规定禁止仅基于个人性格或特征分析，预测特定个人是否可能实施犯罪。
此外，禁止从互联网或监控摄像头中不加筛选地收集照片，用于创建或扩充人脸识别数据库。除个别例外情况外，教育机构和工作场所不得使用情绪识别系统。
2026年7月，立法还新增了针对人工智能系统的禁令，禁止利用此类系统在未经当事人同意的情况下生成其性化图像， 特别是所谓的“数字脱衣”程序，以及用于生成儿童性虐待材料的系统。这些新增禁令将于2026年12月2日起生效。
自2026年8月2日起，ChatGPT、聊天机器人和生成式AI将发生哪些变化
对于普通用户而言，《AI法案》中最引人注目的部分是第50条，该条款规范了AI系统的透明度。
自8月2日起，聊天机器人、虚拟顾问、语音助手及其他交互式系统必须明确告知用户，其正在与人工智能进行交互。若从上下文中已显而易见，则可豁免此要求。
例如，企业不得将自动化的客服机器人冒充为真人客服。用户应知晓回复是由算法生成的，并在做出决策时将此因素纳入考量。
生成图像、视频、音频或文本的系统供应商，必须确保此类内容带有技术标记。该标记应具备机器可读性，以便数字平台、搜索引擎和专业服务能够识别内容的来源。
同时，并非所有生成式模型的应用场景都需要显示“由AI生成”的标识。 对于深度伪造内容以及涉及社会重要议题的文本，如果它们是由AI生成且未经人工核查或编辑把关就发布，则适用特殊要求。
如果编辑部使用AI准备了初稿，但记者核实了事实、编辑了内容并承担了编辑责任，则相关规定可能不会要求像完全自动发布的文章那样进行标注。
此外，还需向公众说明是否使用了情绪识别系统或生物特征分类系统。
对于2026年8月2日前已投放市场的某些生成式系统，将设有过渡期。这些系统必须在2026年12月2日前满足关于机器可读标记的特定技术要求。
《AI法案》对ChatGPT、Gemini及其他通用模型有何规定
该法案的另一部分专门针对通用人工智能模型（GPAI）。 这些是大规模模型，能够执行广泛的任务：生成文本和图像、分析文档、编写程序代码、进行翻译、汇总信息，或作为其他程序的基础。
ChatGPT、Gemini、Claude及其他类似服务所采用的模型均可能属于这一类别。
针对GPAI供应商的主要要求已于2025年8月2日开始实施。 企业必须维护技术文档，向将模型集成到自身产品中的开发者提供必要信息，遵守欧盟版权法，并公布用于训练模型的材料的详细说明。
对于可能引发系统性风险的最强大模型，还设定了额外要求。其开发者必须评估模型的潜在风险，进行测试，降低风险，报告严重事件，并确保达到适当的网络安全水平。
欧洲人工智能办公室可要求供应商提供相关文件，对模型进行评估，并责令企业纠正违规行为。
对于全球科技巨头而言，这意味着若不在欧洲说明新模型的测试方式及其可能带来的风险，就将其投放市场将变得越来越困难。
何为高风险人工智能
《人工智能法案》对高风险系统规定了最严格的实际要求。
此类系统可能包括用于招聘候选人、员工评估、教育机构招生、考试成绩核查、信用评级、确定人寿或健康保险费率， 审核社会救助申请或管理移民程序的算法。
生物识别系统、关键基础设施运行程序、部分医疗设备、机器、汽车、电梯及其他实体产品的组件也可能被归入这一类别。
在将此类系统推向市场之前，开发者必须建立风险管理体系，验证数据质量，维护技术文档，确保算法操作日志记录，并预留人工干预机制，同时保证适当的准确性、可靠性和网络安全水平。
在许多情况下，该系统必须通过符合性评估。如果其运行可能对人权产生重大影响，政府机构和相关企业还必须进行对基本权利的影响评估。
然而，《AI法案》的这一部分目前尚未得到全面实施。2026年7月，《AI综合法案》（AI Omnibus）正式生效，该法案调整了最初的时间表。
针对高风险领域清单中所列系统（特别是教育、就业、信贷、移民和执法活动）的要求，将于2027年12月2日开始实施。 对于嵌入受监管实体产品中的AI，过渡期已延长至2028年8月2日。
推迟的原因包括：企业需依据技术标准证明其产品符合法规要求，而相关标准的制定工作出现延误。
谁将负责监督《人工智能法案》的执行
监管职责由欧盟委员会和各成员国的国家机构共同承担。
其中，欧洲人工智能办公室（AI Office）将发挥核心作用。该办公室主要监管通用模型供应商以及具有系统性风险的顶级模型。
该办公室可要求提供技术文件、评估模型、要求采取纠正措施并实施财务制裁。自2026年8月2日起，欧盟各成员国的相应国家机构也将参与监管和执法工作。
此外，还建立了一个协调机制，其中包括欧洲人工智能理事会、独立专家科学小组和咨询论坛。
用户和组织可针对人工智能系统提出投诉。在法律规定的情况下，因基于高风险算法作出的决定而受到实质性影响的个人，有权获得关于人工智能在该决定中作用的通俗易懂的解释。
例如，如果某人因高风险系统的结论而被拒绝贷款、社会福利或就业机会，他应有权了解算法如何影响了这一结果。
企业违反《AI法案》将面临哪些处罚
《AI法案》规定的罚款额度与违反欧洲个人数据法规的处罚相当。
最严重的违规行为——使用被禁止的人工智能实践——可能使公司面临高达3500万欧元或其上一财年全球总年营业额7%的罚款，以金额较高者为准。
对于《AI法》的其他违规行为，同样规定了数百万欧元的罚款，具体金额取决于违规性质、企业规模、问题持续时间、责任程度以及与监管机构的配合程度。
对于中小企业，应采取更为相称的监管措施。《AI Omnibus》还将部分简化措施扩展至中小型企业，并扩大了企业对监管“沙盒”的访问权限，企业可在监管机构监督下对产品进行测试。
《AI法案》将如何影响欧洲以外的科技公司
《AI Act》的适用范围不仅限于在欧盟注册的公司。
如果其他国家的开发者和供应商在欧盟市场提供其AI系统、在欧盟境内使用这些系统，或者系统运行的结果在欧盟境内产生影响，相关规定同样可能适用于他们。
因此，希望与欧洲客户开展业务的美国、英国、中国、乌克兰及其他国家的科技公司，都必须将《AI法案》纳入考量。
这可能会引发所谓的“布鲁塞尔效应”。大型企业通常不会为每个市场开发完全不同的产品版本，而是逐步将最严格的标准推广到所有国家。
类似的情况此前在《通用数据保护条例》（GDPR）中已经发生。欧洲的隐私规则影响了远在欧盟以外的网站、广告平台和数字服务。
《人工智能法案》（AI Act）有可能重演这一情景。合成内容的机器标注、模型文档、风险评估以及人工审核，都可能逐渐成为全球标准。
新规将如何改变普通用户的生活
对大多数人而言，《AI法案》并不意味着ChatGPT、图像生成器或推荐算法会消失。
变化虽不那么激进，但仍会显而易见。用户将更频繁地看到关于与AI交互的警告、深度伪造内容的标记，以及关于使用生物识别或情绪分析系统的提示。
长远来看，人们将有更多机会对算法发挥重要作用的决策提出异议。这尤其涉及就业、教育、信贷、保险及公共服务等领域。
企业方面，则必须更好地管控其系统用于训练或运行的数据。如果某项决定严重影响了人权，企业将不能简单地以“这是算法的决定”为由推脱责任。
《人工智能法案》的核心原则可概括为：人工智能对人类的控制权越大，对其透明度、安全性和可控性的要求就应越高。
《AI法案》会阻碍欧洲人工智能的发展吗
该法规的批评者担心，繁琐的文件要求、法律风险以及高额罚款可能会推高欧洲人工智能的研发成本。对于初创企业而言，与那些拥有庞大法律部门和产品认证资源的大型企业竞争将变得更加困难。
此外，还存在部分公司推迟在欧盟推出新功能，或优先在监管较宽松的市场发布新功能的风险。
正是这些担忧促使《AI Omnibus法案》得以通过。欧洲立法者延长了高风险系统的合规期限，简化了部分行政要求，并扩大了在监管沙盒中测试技术的可能性。
相反，《AI Act》的支持者认为，清晰的规则可以增强公众对AI的信任，并打造一个可预测的市场。在欧盟证明产品安全性的企业，将能够以此作为在其他国家的竞争优势。
实际效果不仅取决于法律条文本身，还取决于各国监管机构如何具体执行。过于严苛的监管可能会抑制创新，而仅在缺乏实质性核查的情况下形式上遵守要求，则无法保护民众免受危险算法的危害。
欧盟实际上正试图对人工智能采取与此前对待个人数据相同的策略：制定一套规则，鉴于欧洲市场的规模，这些规则将逐渐被全球各地所采纳。
对于科技界而言，这意味着将逐步从“开发者先发布系统，再考虑后果”的时代，过渡到“必须在产品发布前就评估风险”的模式。
这种做法究竟能取得多大成功，还要等到几年后才能见分晓。但现在已经很明显：欧洲率先建立了针对人工智能的综合规则体系，全球科技公司都将不得不遵守这一体系。
