“澄清你与谁或什么互动的困惑”——作者：Nell Watson
介绍
人工智能 (AI)、深度伪造和自动决策系统的迅速崛起，使得人们越来越难以分辨自己是在与另一个人、人工智能，还是两者的混合体进行交流。这引发了关于信任、安全和社会凝聚力的严峻问题，尤其是在医疗、金融和媒体等影响深远的领域。
IEEE 3152（正式名称为《透明人机代理识别标准》 ）旨在解决这一日益严重的问题，它通过定义清晰的标记和准则来识别我们正在与谁（或什么）交互。它建立在这样一个原则之上：个人不应被误导，误以为他们正在与一个隐藏其本质的实体对话或接收其内容。通过提供结构化的音频、视频和基于元数据的“标记”，该标准为提高透明度奠定了基础，并促进了值得信赖的人工智能与人类协作。
标准概述
目的和范围
IEEE 3152的核心是提供一个透明的框架，确保人们能够识别他们是否正在与以下对象进行通信：
1. 一个真实的人（未经过滤或未经改变）。
2. 一个自主的人工智能系统。
3. 在人类监督下运作的混合实体。
4. 人类的行为受到人工智能的操控。
5. 被人工智能（合成或深度伪造）显著改变的媒体。
该标准不再关注人工智能系统如何在“幕后”做出决策，而是聚焦于谁或什么在控制内容或通信。这种清晰性对于减少在线聊天、电话通话、社交媒体帖子、视频或任何其他平台上的混乱和欺骗至关重要。
相关领域和应用
IEEE 3152 可以在多种用例中实现：
● 客户服务：标记部分或全部由人工智能驱动的呼叫中心支持。
● 远程医疗：披露健康应用程序或远程呈现机器人是否处于人类主动控制之下。
● 媒体和娱乐：标记合成的、人工智能生成的内容，例如深度伪造视频。
● 财务：让用户了解财务建议是自动化的还是人工主导的。
● 社交媒体：识别人工智能生成的帖子或账户。
主要特点和优点
1. 清晰的识别标记：
○ 在交互开始时出现的视觉图标（在屏幕上或物理显示在机器人/设备上）。
○ 电话或仅语音频道的音频免责声明。
○ 元数据“标签”可实现自动化工具检测和跨平台的可追溯性。
2. 提高信任度和安全性：
○ 有助于防止恶意冒充企图，例如深度伪造诈骗或人工智能驱动的欺诈。
○ 通过明确对话背后是人还是机器，降低情感或心理伤害的风险。
3. 降低监管和法律风险：
○ 协助组织遵守新兴的国家和国际人工智能披露法规。
○ 提供一致的标签方法，减轻企业创建临时透明度解决方案的负担。
4. 增强的互操作性：
○ 该标准的元数据模型与 EXIF、XMP、DID 或 C2PA 等现有框架集成，以确保内容真实性。
○ 可能补充与人工智能伦理、安全和数据治理相关的其他标准。
5. 跨行业适应性：
○ 足够灵活，适用于面向消费者的系统和更复杂、安全关键的环境（例如医疗机器人或大型企业平台）。
采用和影响
● 当前采用者：越来越多专注于人工智能的组织和媒体正在尝试或试行此类“机构识别”标记，特别是在远程医疗或数字银行等高风险环境中。
● 行业和社会效益：当人们能够自信地区分人机交互时，就能构建一个更加诚实可靠的数字生态系统。误解和操纵将变得更加难以发生。
● 广泛应用的潜力：随着人工智能在主流应用中的持续增长，IEEE 3152等标准可以成为行业规范，有助于建立对人工智能增强型产品和服务的广泛信任。
未来发展
● 正在进行的修订：随着人工智能的快速发展，IEEE 3152 的未来迭代将完善“混合”系统的定义以及下一代沉浸式技术（例如增强现实）的强大标记。
● 与新工具的互操作性：预期与加密水印、合成媒体的高级“指纹识别”以及新的监管框架（如欧盟或国家人工智能法）的集成将确保该标准的持续相关性。
● 工作组：
○ 人类或人工智能交互透明度工作组领导核心开发，广泛代表学术界、工业界和道德界。
○ C/AISC（IEEE 计算机学会人工智能标准委员会）负责协调与其他相关标准的更广泛协调，并与 IEEE 的全球网络保持联络，以保持标准的最新状态。
结论
在人工智能能够无缝模仿人类语音、面部表情和决策的时代， IEEE 3152是透明度的重要灯塔。它使我们能够识别交互背后的“谁或什么”，增强了人们对人工智能驱动通信的信任，并为更合乎道德、更负责任地开发新兴技术奠定了基础。
如果您希望探索IEEE 3152或在您的组织中采用它，请访问官方 IEEE 标准商店了解更多信息或购买已发布的标准：https://standards.ieee.org/。
本文转自：IEEE电气电子工程师学会，转载此文目的在于传递更多信息，版权归原作者所有。如不支持转载，请联系小编demi@eetrend.com删除。
