伴随人工智能的迅速发展和广泛应用，人类正在进入一个“人机物”相融合的万物智能互联时代。人工智能技术应用在带来机遇的同时，也引发了系列伦理挑战。为应对人工智能技术应用带来的风险，世界各国积极推动人工智能伦理治理与合作。我国不断健全人工智能伦理治理体系和机制，加快推动人工智能伦理治理技术化、工程化、标准化落地，促进人工智能向善发展。
2023年12月26日，中国信息通信研究院（简称“中国信通院”）在“2024中国信通院ICT深度观察报告会”科技伦理治理分论坛上发布了《人工智能伦理治理研究报告（2023年）》。
报告在总结人工智能伦理治理有关概念和特点的基础上，对人工智能生成内容、自动驾驶、智慧医疗三个典型应用场景的伦理风险进行分析，并结合国内外人工智能伦理治理实践，提出人工智能伦理治理的四点展望，以期为更加广泛深入的讨论提供参考。
报告核心观点
1. 人工智能伦理风险挑战亟需关注
目前，人工智能引发的伦理挑战已从理论研讨变为现实风险。在技术研发阶段，由于人工智能技术开发主体在数据获取和使用、算法设计、模型调优等方面还存在技术能力和管理方式的不足，可能产生偏见歧视、隐私泄露、错误信息、不可解释等伦理风险。在产品研发与应用阶段，人工智能产品所面向的具体领域、人工智能系统的部署应用范围等将影响人工智能伦理风险程度，并可能产生误用滥用、过度依赖、冲击教育与就业等伦理风险。对于人工智能生成内容、自动驾驶、智慧医疗等典型应用场景，需要根据风险发生频率、影响范围、影响程度等评估主要风险。
2. 人工智能伦理治理是应对人工智能风险的有效机制
人工智能伦理治理是人工智能治理的重要组成部分，是应对人工智能风险挑战的主要机制。人工智能伦理治理把以人为本、公平非歧视、透明可解释、人类可控制、责任可追溯、可持续发展等作为核心内容，并根据人工智能技术发展和应用情况，及时提出调整人与人工智能关系和应对人工智能风险的方法。
3. 各国积极推进人工智能伦理治理
为应对人工智能技术应用带来的风险，世界各国积极推动人工智能伦理国际治理合作。各国政府通过出台人工智能伦理原则、发布人工智能伦理治理指引、提供技术治理工具等加强本国本地区的人工智能伦理治理监管。我国通过积极完善人工智能伦理制度规范，探索人工智能伦理治理技术化、工程化、标准化落地措施，引导行业自律，加强人工智能治理国际合作等举措推动人工智能向善发展。
4. 人工智能伦理治理四点展望
在治理理念方面，坚持促进创新与防范风险相统一，统筹发展与安全。在治理举措方面，健全多学科多主体合作、探索分类分级治理、推动治理技术工具开发。在能力建设方面，重视科研人员、开发人员、社会公众等各主体科技伦理素养提升。在开放合作方面，积极参与全球人工智能伦理治理合作，推动人工智能技术造福人类。
报告目录
一、人工智能伦理治理概述
（一）人工智能伦理的概念与特点
（二）人工智能伦理治理的必要性
二、人工智能伦理治理关切
（一）人工智能伦理挑战
（二）典型应用场景的人工智能伦理风险
三、人工智能伦理治理实践
（一）国际组织人工智能伦理治理方案
（二）域外国家和地区人工智能伦理治理机制
（三）我国人工智能伦理治理实践
四、人工智能伦理治理展望
（一）协调人工智能产业创新发展与伦理治理
（二）完善人工智能伦理治理举措
（三）提升各主体人工智能伦理风险应对能力
（四）加强人工智能伦理治理国际交流合作
本文转自：中国信通院CAICT，转载此文目的在于传递更多信息，版权归原作者所有。如不支持转载，请联系小编demi@eetrend.com删除。
