人工智能背景下的“算法歧视”及其治理

    摘要：基于大数据和机器学习的算法在公域和私域领域的应用越来越广泛，依靠技术自主决策所产生的歧视问题已然显现。这种歧视呈现出隐蔽性高不易察觉、自上而下的结构性、系统连锁性等特点，增加了其识别与规制难度。本文从算法歧视具体表现出发，探讨了算法在运行前、中、后期偏见的肇因，并从技术理性、主流价值引领、完善法规和用户自身素质四个方面对其加以规制。

    关键词：人工智能 “算法歧视” 差别对待 算法规制

    算法是个技术概念，可将其定义为解决问题而进行计算、数据处理和自动推理的一系列指令。当前人工智能时代下算法在教育、家政劳动、医疗卫生、娱乐行业、公共等领域都从不同层面改变着我们的意识与生活。通常认为算法依靠海量的数据作出决策，其决策的精确度和正确性远远高于人的决策，由此会带来更加公平的社会环境。然而，事实却非如此，算法的运算法则绝非完全客观中立且公平，特别是在媒体平台信息推荐领域的应用，以用户的个性化数据为基础，向用户不断推荐相似的内容，这些高相似度的内容在一定程度上侵蚀且固化了人们的思想，也就是我们常说的茧房效应。此外，算法应用到生活中的各个领域，“算法歧视”所引发的负面效应已不容忽视。

    人工智能时代下的“算法歧视”

    “算法歧视”指的是利用算法的过程中，进行收集、数据整合、生产与分发中所产生的歧视。2019 年欧盟委员会 AI 高级专家组发布《可信 AI 的伦理指南》，报告指出人工智能发展的核心价值便是人的尊严。提出了可以构成可信 AI 的七项准则，准则包括对人自主性的保护，即人工智能不能对其进行随意践踏，也不能随意被算法操纵或胁迫，对于算法做出的每一个决定，其管理者都有权力对其进行干预。当前人工智能算法在公域和私域的应用越来越广泛，尤其是在当前依靠算法来作出决策的就业、教育、司法以及公共领域等高价值领域，算法的不正确应用很有可能会造成负面的社会效果。

    “算法歧视”的具体表现可以简单概述为种族歧视、男女上的性别歧视、价格上的消费歧视、社会中的弱智群体歧视和年龄歧视等。以消费歧视为例，互联网时代，网络服务商通过收集用户在网络平台中的活动数据，可以精准绘制消费者用户画像、洞悉消费者偏好，并针对其特征进行差别定价，由此来实现利润的最大化。淘宝网站、亚马逊在线购物、携程、高德等也曾操纵大数据“杀熟”，体现在搜索某一商品时会出现“千人千价”，给予自己的老用户以不同的产品或服务价格。

    除上述歧视外，算法在媒体平台上的歧视也值得重视。基于大数据运行的算法技术对传统的把关权力冲击是巨大的，这就使的把关权力不断向算法技术的创造者转移，对用户画像有针对性的信息推送是该权利的主要运用，但个人数据的质量高低或数据多寡同样会导致推送内容质量的好坏。这种隐形歧视所导致个人信息的窄化和信息茧房风险也是不容忽视的。

    由此可见，算法所造成的有意或无意的歧视体现在社会生活的诸多方面，这种歧视也是当前算法发展过程中最大的争议，其负面影响在很大程度上阻碍了人工智能技术的健康应用。

    “算法歧视”肇因

    当前算法的飞速发展，应用范围之广，可以看作是利益的重新分配工具。在这种分配机制下，技术的优先使用者会占有绝大部分优势，从而获取更多利益，而另一部分未拥有或落后使用者则被抛弃。

    “算法歧视”不仅是现实歧视在虚拟网络世界的延伸，更有扩大的趋势，这种大规模的“杀伤性”能够在网络世界产生倍增效果。“算法歧视”产生的原因多样，主要可归结为以下三种情况 ：算法设计引起的初始偏见、算法运行产生的偏见和算法外部干扰导致的偏见。

    算法设计引起的初始偏见分为两种 ：一种是程序设计本身所导致的偏见。另一种情况是程序的设计者对于程序设计的干扰。程序员作为有着主观意识的人，本身就有着不同的政治立场、意识形态、文化背景及学术研究背景的不同，而这种思维也会有意无意植入到算法技术中，也就是说因人形成的算法本身就带有偏见。

    算法运行产生的偏见主要在可以进行学习的人工智能算法上，根据人为是否对机器学习的过程进行干预可以划分为两种类型，分别是半自主式学习和自主式学习。半自主式学习可以理解为，机器在算法加持下进行临摹，对数据进行感悟。因此“喂”给程序是否被污染过的数据对于最后结果的形成至关重要。①自主式学习则如其字面意思，指的是程序通过自动抓取大量数据进行自我分析并为此建立相关模型，当然数据中的不精确性同样会造成结果的偏差，也就是“算法歧视”的产生。据此推测，半自主式学习所产生的偏见在社交媒体平台尤为多见，这类歧视主要源于对“精准”推送的需要，导致特定群体对特定信息的自我强化和刻板印象。

    算法外部干扰导致的偏见范围更广，类型也更多。常见的有 ：

    外部隐形权力干涉导致算法歧视的发生、盈利需求驱动“算法歧视”的产生、程序的不规范使用导致“算法歧视”的产生等。

    当前从日常的智能手机到公共领域的道路监控以及安检系统等已经基本实现人工智能技术的集成应用。算法在提升了便捷度和安全感的同时，也应该注意其隐私的泄漏以及限制表达自由等方面的负面效应。对此不同主体应当从多方面入手，对“算法歧视”进行规制。

    “算法歧视”的规制

    面对“算法歧视”所带来的负面影响，互联网管理必须从被动应对转向主动治理。既要从算法本身出发，对其技术进行规制，使工具理性与价值理性得到平衡，用主流价值观来引领算法的发展 ；也要从其外部入手，完善相关法规从根本上消除算法所带来的风险，提升互联网平台的自律意识以及平台用户自身使用算法的媒介素养。全方位、多层次、多维度协同治理，让算法与公共责任、商业价值以及社会价值之间形成良性互动。

    利用技术手段规制算法

    首先要扩大算法采集信息和推荐信息的维度，打造个性化和多元化的信息推送，使其形成动态平衡的算法推荐生态。利用技术从源头扩大数据可选择范围、扩充其维度，提高优质内容的传播权重。同时可以利用反向思维，在精准描述用户画像基础上利用算法给用户推荐并不感兴趣、并不喜欢但是却需要的内容，改善算法所带来信息茧房等负面问题。

    其次，提高算法运行过程的公开透明度，实现算法与算法使用者之间的实时共通，减少信息差所带来的失衡情况。提升算法透明度也可以简单地理解为让算法最大程度向算法的使用者公开，同时用户也能够 对算法程序的运作过程进行全程监督，缩小用户与算法之间的数据差。

    最后，实现“人 + 算法”的人机合作信息分发模型，提高了信息传递效果和公共责任之间的动态平衡。将人的主体性融入算法设计和应用过程中，尤重视专业人员对算法所提出的具有专业价值的意见。

    注重软权力在算法发展中的应用

    首先，将把关理论运用到算法信息分发过程中，尤其是主流价值观的把关。算法技术发展尚处在初级阶段，智能化水平低于平均值，机器的信息分发还存在很多缺点，因此主流价值观的引领必不可少。与此同时，重视人机协同，在发挥技术优势的基础之上，发挥人工价值引领，二者结合才能最大程度净化算法的内容生态。

    其次，主流媒体借助算法实现传播优化，能够利用算法实现正能量的更优质传播，积极拥抱人工智能算法技术，与优势互联网企业合作，将主流媒体的优势内容与互联网平台的算法精准推荐结合起来，实现主流价值观的点对点传播。

    最后，主流媒体可以利用自身的数据资源优势构建自己的算法平台。人民日报的“人民号”作为一个以价值观引领算法发展的成功案例是值得学习的。与互联网公司通常运用算法打造内容与分发信息不同，“人民号”更注重价值观对内容的引领。以此为参照，我们可以创造更多类似的党媒算法平台，基于媒体融合，在平台优势和内容优势的基础上抢占舆论制高点。

    推进算法相关法律法规的完善与发展

    相对于算法技术的不断更迭，与之相关的法律体系的建设却处于落后的状态，传统法律对于新技术的适应性也显现了乏力。正如尼葛洛庞帝所言“原子世界与数字世界有很大的不同，原子世界制定的法律体系一旦进入数字世界，就像刚捕的鱼被扔在了船的甲板上一样。”②虽然，我国已经出台了如《中华人民共和国网络安全法》等法律法规，为互联网的发展提供了基础性保障，但是关于新技术的算法领域仍然存在较大的缺位。除有关法律亟须完善外，算法使用者的法律意识、法律思维也是算法发展完善过程中不可缺少的一环。

    推动平台自律与用户素质提升

    就平台自律而言，要做到互联网平台的技术扩张与其社会责任之间实现协调与平衡，从行业整体来看，中国互联网协会、互联网金融协会、网络空间安全协会可以说是规模相对较大且具有影响力的行业组织。但这些组织从管理角度上看也存在着审批不严格、僵化等特点。除平台自律外，用户的自我约束、自我把关以及自我管理也是规范人工智能算法的重要措施之一。这方面就不得不提及用户自身素养，对于信息如何认知以及其态度如何是用户在面对事物时素养的集中体现，当用户能够用理性的态度对待事物，且能够用辩证的态度来看待事物，我们便可以说此时用户素养较高。只有高素养的用户才能在使用算法的过程中探究算法技术背后技术逻辑和理解算法背后的内涵与本质，才能够驾驭算法，使其更好地服务于使用者。

    技术的目的是更好地为人服务

    数字化时代，社会各方面都存在着算法的应用，算法作为一种的新的社会力量已然成为社会变革的重要驱动力和社会秩序的规范力量。2021 年 9 月 26 日在乌镇召开的“2021 年世界互联网大会乌镇峰会”，对算法发展过程中存在的问题做了重要报告。了解算法背后的设计理论、如何运作以及所产生的社会问题，有助于对算法内涵逻辑有更好的认识，推进算法秩序的构建。算法是由人创造，人类社会中的歧视或多或少会延伸到算法世界。与人类世界不同的是“算法歧视”更加隐蔽，同时数据经过多重运算其产生的社会影响也呈指数级放大，且一旦形成就很难消除。但值得高兴的是，虽然算法具有一定的负面效应，但仍然在可控范围内。正确且恰当地应用应该成为未来算法的发展方向，同样也是社会良性运作中的重要一环。

    （作者高丽华系北京工商大学人文社科处处长，教授 ；刘尧系北京工商大学传媒与设计学院硕士研究生）

    责任编辑 ：杨芳秀

    注释 ：

    ①董青岭、朱玥 ：《人工智能时代的算法正义与秩序构建》，《探索与争鸣》2021 年第 3 期。

    ②张林 ：《智能算法推荐的意识形态风险及其治理》，《探索》2021 年第 1 期。