2025年6月13日，欧盟联合研究中心（JRC）发布了《生成式人工智能展望报告》（Generative AI Outlook Report），旨在为欧盟的政策制定过程提供循证科学支持，深入探讨了生成式人工智能（GenAI）在技术、社会和政策交叉领域带来的机遇与挑战。报告指出，GenAI作为一种颠覆性技术，能够以史无前例的规模生成类似人类的内容，预示着医疗、教育、科学和创意产业等多个领域的巨大进步。然而，它也带来了显著的挑战，包括可能加剧错误信息、偏见、劳动力中断和隐私问题。鉴于这些跨领域问题，报告强调需要采取多学科方法来全面理解GenAI的影响。
该报告围绕以下主要方面展开：
技术层面：
概述GenAI的当前能力和新兴趋势。
经济影响：
审视GenAI如何改变行业动态并对技能和战略提出新要求。
社会影响：
关注GenAI带来的包容性机遇以及偏见和过度依赖的风险。
监管框架：
阐述欧盟现有的立法框架，如《人工智能法案》和横向数据立法，以促进值得信赖和透明的AI实践。
行业深入探讨：
详细分析GenAI在特定领域的机会和挑战。
技术层面的演进与挑战。
GenAI定义为一类专注于创建新内容的AI，无论是文本、图像、视频、音乐还是代码，其通过学习大量数据集来生成模仿人类创造力的原创输出。推动GenAI兴起的关键技术包括：能够处理和学习大型数据集的AI算法、高性能计算（GPU和TPU）、深度学习架构（如Transformer）、海量数据集的可用性以及5G/6G连接和大型语言模型（LLMs）的发展。
报告揭示了GenAI技术格局的持续演进，表现出以下新兴能力趋势：
代理式AI（Agentic AI）：
能够自主决策、发起行动并从结果中学习的系统，将AI从被动工具推向半自主协作者。
多模态AI（Multi-modal AI）：
整合文本、图像、音频、数据乃至触觉或嗅觉等多种数据格式的系统，提供更丰富、更多样化的应用。
高级AI推理（Advanced AI Reasoning）：
通过分析复杂信息和得出逻辑结论来增强决策能力。
AI可解释性（Explainability in AI）：
AI系统提供可理解决策理由的能力，增强信任和监管合规性。
这些进步虽然能显著提升生产力、决策能力和跨行业通用性，但也带来了问责制、治理和偏见等挑战。报告强调，为了建立对GenAI模型的信任，开发标准化评估方法至关重要，并需让人类在评估中发挥关键作用。此外，GenAI也引入了复杂的网络安全挑战，包括数据和模型中毒、对抗性攻击和提示注入等AI特有的漏洞。
经济影响：机遇与竞争格局。
欧盟在全球GenAI格局中占据重要地位，尤其在研究和创新方面表现突出，GenAI相关学术出版物数量位居全球第二。然而，与美国和中国相比，欧盟在吸引投资和资金方面面临挑战，其GenAI初创企业面临显著的风险投资资金缺口。欧盟在全球GenAI参与者中的份额仅为7%，低于中国（60%）和美国（12%）。在专利申请方面，欧盟仅占全球的2%，远低于中国（80%）以及韩国和美国（均为7%和6%）。
尽管面临这些挑战，GenAI为欧盟带来了显著的经济增长和创新机会。报告强调，欧盟对道德和可信赖AI的承诺是其关键的差异化优势，这可以吸引重视负责任AI实践的全球合作伙伴和客户。GenAI正在推动各行各业的转型，例如制造业、零售业、医疗保健和创意产业。数字化成熟度是GenAI采纳的关键因素，特别是对于中小型企业（SMEs）而言，它们需要发展数字技能、业务流程和基础设施才能充分利用GenAI的潜力。目前，欧盟大型企业采纳AI技术的比例高于中小型企业，这可能加剧市场差距。
社会影响与关键挑战——GenAI对社会进步既提供了机遇也带来了挑战。
技能差距与AI素养：
GenAI的普及将导致劳动力市场技能需求的变化，对数字和数据科学技能的需求增加，并需要互补的认知和通用技能。欧盟在数字技能方面设定了具体目标，但仍有较大差距。《人工智能法案》要求AI系统的提供者和部署者确保其员工具备足够的AI素养。欧洲数字能力框架（DigComp 3.0）正在整合AI相关能力，强调对AI系统的批判性、反思性和平衡使用。
信息操纵：
GenAI使得创建高度可信的操纵性内容变得极其容易，并能迅速、大规模地传播，包括深度伪造和误导性信息。这可能影响选举结果，侵蚀媒体信任，并扭曲信息格局。报告也指出，GenAI也能用于打击信息操纵。
媒体描绘：
主流媒体对GenAI的描绘通常两极分化，既有对其变革潜力的乌托邦式展望，也有对其道德影响、失业和隐私问题的反乌托邦式担忧。
数字公地：
数字公地（如开源软件、维基百科）是AI训练数据集的关键组成部分。然而，它们受到“围墙花园”、自愿贡献减少、AI生成错误内容污染以及财务压力的威胁。保护数字公地对于确保公平和先进的AI发展至关重要。
环境影响：
GenAI基础设施消耗大量能源和水资源，并涉及矿产资源开采和电子垃圾问题。欧盟已通过《能源效率指令》和《欧盟分类法》等措施来应对数据中心的环境影响。新兴技术如能效晶体管和神经形态芯片有望降低AI的能耗。
儿童权利与心理健康：
GenAI为儿童带来了教育、创意和信息获取的机会。但同时也带来了欺骗性操纵、AI有害内容、隐私缺失和心理健康风险（如过度依赖、成瘾、数字冒充、深度伪造导致的骚扰和网络欺凌）等挑战。报告强调需在GenAI设计中嵌入儿童保护措施，并加强批判性思维和媒体素养教育。
隐私与数据保护：
GenAI对个人隐私和数据保护构成重大社会影响，尤其是在数据分析和关系推断方面。报告指出了GenAI生命周期中数据保护和隐私的挑战，包括海量数据需求、数据质量与偏见、信息推断、网络爬取、以及对通用AI模型用途的控制和用户理解能力不足等问题。
监管框架：平衡创新与信任欧盟在AI（包括GenAI）方面建立了全面的政策和监管框架，旨在促进创新、信任和基本权利保护。
《人工智能法案》（AI Act）：
作为全球首个AI监管法案，它采取风险管理方法，对不同风险水平的AI系统和模型（最低、有限、高风险和不可接受风险）施加不同要求。对于GenAI应用，主要涉及“有限风险”级别的透明度义务（如告知用户正在与机器互动、标识AI生成内容，特别是深度伪造）以及与“不可接受风险”实践（如有害的AI操纵和欺骗）的关联。法案还促进了水印和指纹等可信赖AI相关技术创新。
《数字服务法案》（DSA）：
该法案要求在线平台和搜索引擎处理其服务中的系统性风险，包括GenAI带来的风险，例如幻觉、深度伪造以及对公民话语和选举过程的风险。DSA还要求平台密切监控和缓解由GenAI加剧的现有和新兴风险，特别是在涉及未成年用户时。同时，GenAI在内容审核方面也提供了机遇，有助于构建更安全的在线环境。
《通用数据保护条例》（GDPR）：
GDPR作为全球数据保护标准，在GenAI涉及个人数据处理的各个阶段（开发和部署）均适用。报告强调，尽管《人工智能法案》有不同的适用范围，但GDPR将作为补充法律框架持续适用。然而，在GenAI背景下，GDPR的实施仍存在挑战，例如个人数据概念、数据处理的合法性（特别是合法权益）、问责制（责任归属）以及数据主体权利（如访问、纠正、删除、自动化决策）的行使等问题。
版权挑战：
GenAI革命影响了版权格局。主要问题包括：GenAI模型训练过程中对受版权保护材料（通过文本和数据挖掘TDM）的使用，以及AI生成内容可能侵犯第三方版权时的责任归属。欧盟《数字单一市场版权指令》（DSM Directive）提供了TDM例外，但其“适当方式”保留权利的定义（如机器可读方式）仍存在复杂性，需要标准化和统一方法。
横向数据立法：
欧盟的《数据战略》旨在通过《数据治理法案》、《数据法案》和《高价值数据集实施条例》等横向立法，提升数据可用性和云基础设施，以支持AI和GenAI应用。这些措施的目标是建立共同的欧洲数据空间，促进安全、可信赖的数据共享，从而最大限度地发挥AI的潜力。
行业深入探讨——报告还提供了GenAI在关键行业的具体应用和挑战的深入分析：
医疗保健：
GenAI有望通过创建和利用电子健康记录、加速药物开发、增强个性化医疗、促进疾病预防和早期诊断、提高医疗效率、解决健康不平等以及赋能患者，为医疗健康领域带来巨大的社会经济效益。但其风险包括数据偏见、健康不平等加剧、临床医生技能退化、自动化偏见和过度依赖导致的人性化护理缺失。
教育：
GenAI有潜力通过提供个性化学习体验、民主化辅导、培养解决问题和批判性思维能力，改变教学和学习。但报告也警示了过度依赖AI、可能削弱批判性思维、以及教师角色被侵蚀等风险。欧盟正在通过开发AI素养框架（如DigComp 3.0和欧盟委员会/OECD合作框架）来应对这些挑战。
科学：
GenAI正在重塑科学研究过程的各个环节（如问题提出、文献回顾、假设构建、实验、数据分析、结论得出、成果交流和社区建设）。它提高了效率和创造力，使科学工具更普及，并促进跨学科合作。然而，潜在的偏见和强化主导叙事的风险要求AI与人类专业知识的平衡整合。
网络安全：
GenAI能够增强威胁检测和响应能力，从而实现更强大的主动网络安全措施，造福专家和普通用户。GenAI可用于防御社会工程攻击、自动化威胁检测与响应、安全测试以及安全培训和意识提升。但GenAI也引入了新的复杂网络安全挑战，包括传统威胁和AI特有的漏洞。
公共部门：
GenAI有潜力变革公共部门管理和服务交付，提高效率、透明度和响应能力。然而，其采纳需要有效的治理和监管方法，以确保安全、道德和合法使用。欧盟已推出多项倡议（如《人工智能大陆行动计划》、《互操作欧洲法案》和《应用AI战略》）来支持AI在公共服务中的战略性部署。
报告总结认为，GenAI有潜力为欧盟带来重大的社会和经济影响。要有效应对其社会和竞争影响，需要采取全面而细致的政策方法。报告强调，确保技术发展与民主价值观和欧盟法律框架完全一致至关重要，并指出科学证据在指导GenAI相关政策制定中的核心作用。
本文转自：清华大学智能法治研究院，转载此文目的在于传递更多信息，版权归原作者所有。如不支持转载，请联系小编demi@eetrend.com删除。
