本文最初出现在IT Pro 20/20的第11期中，可在此处获得。
在机器学习和人工智能(AI)方面，丑闻层出不穷。在过去的几个月中，人们已经看到微软公司的新闻记者用有关LittleMix乐队成员错误的形象来说明有关种族主义的文章，LittleMix是英国政府的A-Level算法，根据过去学生的表现对学生进行惩罚，并且，最近，Twitter的人工智能驱动的图像裁剪工具似乎更喜欢白人而不是黑人的面部。
但是，人工智能的偏见不仅限于知名公司和备受瞩目的丑闻。凯捷(Capgemini)公司最近的一份报告对800个组织和2,900名消费者进行了调查，结果显示90%的组织至少知道一个人工智能系统导致其业务出现道德问题的情况。
此外，调查结果显示，虽然三分之二(68%)的消费者期望人工智能模型是公平的且没有偏见，但只有53%的企业拥有负责人工智能系统道德的领导者，例如首席道德官。对其人工智能系统的道德影响进行了独立审计的甚至更少(只有46%)。
显而易见，随着人工智能融入我们生活的方方面面，公司需要做更多的工作来确保其系统不受偏见影响，甚至需要找到使用该技术来减轻有害偏见的方法，以便做出更公平的业务决策。
多元化的团队
那么我们该怎么做呢？首先要建立一支多元化的团队，而这个行业仍然无法做到。根据AI Now Institute发布的研究报告显示，80%的人工智能教授是男性，Facebook的AI研究人员中只有15%是女性，谷歌的AI研究人员中只有10%是女性。
Sopra Steria公司的数字道德与技术负责人Jen Rodvold表示：“多样性不仅是成功实施人工智能策略的关键，而且对于企业的底线至关重要。多元化的员工队伍将提供各种不同的观点，标记出开发过程中涉及的任何偏见，并帮助询问更广泛的组织流程，这些流程可能会延续偏见，并以不可预见的方式影响你的技术开发方式。”
Imagination Technologies 公司的视觉及 AI 部门高级总监 Andrew Grant也同意这一观点，他表示，确保拥有一批多样化的数据科学家，对于开发合乎道德的人工智能至关重要。
“为了确保在建立用于训练人工智能的数据集时实现最佳实践，首先需要一批多样化的数据科学家收集和分析数据。训练人工智能的任何部分都不应由个人来监督，通过交叉检查工作，可以更有效地消除个人偏见。”他表示。
多样化的数据集
还需要多样化的数据集。通过在历史数据上训练机器学习模型(例如，显示男性更常被提升为高级职位的数据，或者大多数技术行业的工人是白人)，编码人工智能的偏见几乎是不可避免的。
埃森哲公司负责人工智能的经理Caryn Tan表示：“组织构建和设计人工智能的组织必须记住，它受到所提供信息的限制。一种算法无法分辨出什么时候不公平，它只是沿用了历史模式。如果我们不采取措施缓解这种情况，可能会导致不良的反馈循环，从而可能根据人们的出身，经历甚至刻板印象来定义他们。因此，组织必须采取积极措施，在潜在的偏见有机会显现之前解决它。”
Code First Girls 的首席执行官Anna Brailsford补充说，为了确保使用各种数据集对模型进行训练，至关重要的是“多样性和包容性是业务决策基础的一部分”。
她表示，“在科技行业，有充分的证据表明，机器学习和人工智能系统天生就有偏见——这是用于训练它们的智能的数据集的结果。”哈佛大学的研究人员发现，公司正在使用有缺陷的历史数据集来训练其人工智能以进行招聘；这意味着有色人种和女性在面试之前就已经被歧视了。
“自上而下的方法不是解决之道，并且可能会进一步加剧现有的人工智能偏见。相反，企业需要将多样性和包容性视为一个持续的学习过程。”
透明度是关键
当然，企业还必须考虑人工智能准则和透明度，尤其是在监管审查日益严格的情况下。例如，欧洲委员会已经发布了有关应在设计人工智能应用程序时使用的关键道德原则的指南，而美国联邦贸易委员会(FTC)在2020年初呼吁“透明人工智能”。
后者指出，当启用人工智能的系统做出不利决定(例如拒绝信用卡申请)时，组织应向受影响的消费者展示做出决定所使用的关键数据点，并赋予他们更改权任何不正确的信息。
NTTDATAUK新创企业和创新副总裁Tom Winstanley表示：“随着人工智能在整个经济中的规模不断扩大，至关重要的是，企业必须制定稳健的道德标准，并在其运营核心体现人工智能准则。透明度至关重要：公司不能依赖'黑匣子'数据集，而应该公开其如何训练人工智能以及为确保以负责任的方式使用人工智能所采用的标准。因此，NTTDATA去年公开宣布了自己的人工智能道德准则。”
Rodvold补充说：“确保技术的透明度以及强大的多样性做法，将有助于消除偏见并确保您建立公众信任。全面的数字道德方法在人工智能开发中考虑多样性，透明性，隐私和安全性的交集，将确保您在人工智能之旅中吸引客户，并提供有效的，可持续的技术。”
随着人工智能在各行各业中变得越来越普遍，并且这些系统中的内置偏差问题已得到充分记录，对于企业而言，立即采取行动以确保其软件和流程不受偏差是至关重要的。值得庆幸的是，尽管在疫情期间它的采用率猛增，但还需要采取一些措施。
这意味着，通过战略多元化努力，仍然可以更好地塑造人工智能的未来。
来源：itpro.com
作者: Carly Page
英文连接：https://www.itpro.com/technology/artificial-intelligence-ai/358223/why-d...
转载此文目的在于传递更多信息，版权归原作者所有。
