✪ 贾 开 | 电子科技大学公共管理学院
【导读】2021年8月2日,中央宣传部等5部门印发《关于加强新时代文艺评论工作的指导意见》,其中要求“开展网络算法推荐综合治理,不给错误内容提供传播渠道”。不久前的7月16日,人社部等8部门印发《关于新就业形态劳动者劳动保障权益的指导意见》,其中要求督促企业修订涉及劳工权益的平台算法。为什么中央部门直接对算法治理提出要求?事实上,近年来“困在算法里”已成为一种社会焦虑,要求变革算法及其背后资本机制的声音越来越多。人们认识到,作为新技术的算法并不是中立的,相反,它有着鲜明的选择性和倾向性——“算法的政治性”这一问题由此浮出水面。
本文从近些年有关“零工经济”的争议出发,分析了算法为什么无法中立而必然具有政治性的深层原因。随着网络平台兴起的零工经济,给了个人更多灵活性和空间,但也出现了对劳动者的“监管”、“控制”和“替代”。从表面上看,这是工程师在设定算法目标时以平台经济效率为导向而忽略了社会和人性因素,所造成的极端化结果。但仅仅把算法看作平台逐利的技术工具还不够。算法所内嵌的社会机制的复杂性,算法对不同劳动者影响结果的差异性,算法在运行过程中的自我强化性,都使得算法最终演化为带有价值判断和选择功能的政治性算法。作者指出,在技术为王的潮流下,技术也不应被置于政治讨论之外,只有认识到技术的政治性,才可能以更完整的视角审视我们面临的机遇选择和风险挑战。
本文原载《文化纵横》2021年第4期,原标题为“算法可以中立吗?——“零工经济”的新可能”,文章仅代表作者本人观点,供诸君思考。
算法可以中立吗?——“零工经济”的新可能
▍零工经济的演化与争议:从“大众生产”到“平台依赖”
近年来,得益于数字技术的进步与互联网业态的快速发展,以电子商务、网约车、外卖、内容付费、短视频、灵活用工等为主要体现形式的“零工经济”逐渐兴起,成为当前时代的重要劳动和生产组织形式。2016年麦肯锡报告显示,美国和欧洲参与零工经济的劳动力已经达到了1.63亿人;而在中国范围内,相关研究报告估计2020年后参与者也将过亿。伴随规模和影响的扩大,“零工经济”引发的争议也日趋激烈。内容平台上的盗版侵权、网约车的准入门槛、外卖员的劳动保护,都成为引发广泛关注的经济、社会乃至政治议题。“零工经济”一方面被视为技术创新推动社会进步的代表,另一方面又被质疑为新兴资本逃避传统规制体系的“帮凶”。针对同一现象的不同解释,构成了当前围绕“零工经济”的主要争论。
值得注意的是,上述两种观点或许都走向了极端。无论“进步”抑或“帮凶”,都只揭示了“零工经济”的一个侧面。事实上,数字技术推动的“零工经济”,早在上世纪90年代互联网商业化进程加速之时就已经开始。彼时主要体现为以开源软件、维基百科为代表的“大众生产”(Peer Production)模式,其在短时间内迸发出巨大生产力,被视为互联网创新的不竭源泉。不同于工业化大生产时代的福特制,“大众生产”强调分散个体参与生产过程的重要性,并通过多元化的激励机制和开放式的组织模式实现了规模效应。以开源软件为例,可被免费获取的源代码使得任何人都可以在此基础上进行“再生产”,由此形成了海量的代码知识库,奠定了数字经济的技术基础。
从生产力理论视角来看,“大众生产”的重要意义正在于它成为数字时代“最先进生产力”的代表。哥伦比亚大学法学院教授Tamara Lothian指出,不同历史阶段的“最先进生产力”并不是最有效率(投入产出比最高)的生产模式,而是能不断超越既有模式并最大程度释放人类创造力的生产模式。在工业时代,这表现为基于分工的流水线式生产(如“福特制”);而在数字时代,这具体是指通过调动分散主体生产积极性而形成的规模经济,在世纪之交便主要体现为“大众生产”模式。
伴随互联网商业化进程的发展,“零工经济”从开源软件、维基百科等领域逐渐扩散,但其作为“最先进生产力”代表的进步意义仍然保留了下来。以灵活用工为例,传统基于地域或熟人关系的用工模式限制了非本地、非熟人关系圈的分散劳动力的劳动参与,但借助数字平台的交易撮合能力,这些门槛大大降低,使得跨地域、跨语言的任何人都有机会参与生产并获益;网约车、外卖服务与此类似,其价值同样体现为降低生产参与门槛,以将更多分散劳动者纳入生产过程的普惠性和创造性。
但另一方面,“零工经济”始终面临着如何协调分散个体的生产过程,进而实现规模经济的组织挑战。“大众生产”更多依托分散式、自组织的网络社群解决这一问题,虽然从产出结果来看,同样体现了强大的生产力(例如庞大且丰富的开源软件代码和维基百科词条),但其组织过程却充满了冲突、变化与不稳定。相比之下,“零工经济”在当前的商业化转型进程,决定了其不得不依赖平台作为交易撮合者、过程管理者和产出控制者,因此部分褪去了分散性、自组织的传统特征,而更多地受制于平台。正因此,平台权力扩张、侵害劳动者权益、冲击市场秩序,才成为反思“零工经济”的主要内容。已有研究指出,当前形态下的“零工经济”生态中,劳动者并不独立,平台限制已经使他们成为“平台依赖型创业者”(Platform Dependent Entrepreneur),在享受平台给予便利的同时,也面临着来自平台的诸多约束与威胁。此时,平台反而成为制约“最先进生产力”的瓶颈,“零工经济”也变成了平台逃避劳动者权益保护责任的手段和工具。
基于上述分析,我们便发现了“零工经济”从“大众生产”到“平台依赖”的完整图景:前者体现了降低生产门槛并释放分散劳动者创造力的进步意义,同时伴之以自组织的灵活性和不稳定性;后者虽然继承了分散劳动者的劳动模式,但更多以维持消费导向的商业化目的而强化了组织性和控制性。人们对于“零工经济”的称赞或批判,都可以在这一框架下获得理解和讨论。随之而来的问题便是,如何兼顾劳动者自主性和商业化组织性的不同需求?或者说,什么因素会影响“零工经济”在二者之间的移动,以使我们可以找到一个最佳平衡点?
现有解决方案或者从资本与劳动的对立关系出发,强调通过改变平台的所有权性质(例如成立平台合作社)解决平台与劳动者之间的冲突;或者在现有产权关系基础上,通过强化监管或社会责任压力以约束平台行为。尽管二者都有可取之处,但也存在明显短板:平台合作社本身的资源限制和内部治理难题,决定其难以与现有平台展开竞争;强化监管压力则始终伴随着可能阻碍创新的质疑,强调平台应将分散劳动者纳入正式员工范畴的政策思路,往往忽略了“零工经济”所包含的进步意义。
相比之下,本文提出的补充观点认为,应重视“算法”在影响“零工经济”发展过程中的重要作用,在充分认识到算法具有“政治性”内涵的基础上,寻找更广阔的思想解放空间和制度创新路径。
▍“零工”与“平台”博弈的算法纽带:算法政治的三重内涵
平台之于“零工经济”的重要性在于协调分散劳动者的劳动过程,而算法在其中扮演着关键作用,承担了交易撮合、过程管理、结果评估等重要职能。但在围绕“零工经济”的相关讨论中,人们往往将算法视为平台的工具,忽略了对其丰富内涵与影响机制的探究,这主要体现为以下三点:
第一,算法往往以性能和效率为客观标准,被认为只存在唯一最优方案以解决供需匹配、过程管理、结果评估等具体问题;
第二,算法被视为价值中立的技术方案,其自动化、无差别的处理方式避免了人类主观判断的干扰和变化;
第三,算法是无所不能的数字化管理技艺,不仅能够覆盖生产过程的各个环节,而且能够深入每个生产环节,洞悉包括人类情感、偏好在内的相关因素。举例而言,在对视频内容精准分类和用户偏好精准识别的基础上,短视频平台算法可以实现一致、稳定的最佳匹配;外卖平台算法可以根据局部区域内的供需动态实现最优规划,通过过程监控和结果管控确保最短时间内的服务送达。
上述认识虽然有助于我们理解算法的作用,但工具性思维仍然限制了对“零工经济”内在“黑箱”的揭示,使得相关讨论陷入劳资对立的尖锐冲突和艰难平衡。关键问题在于,如果算法只能作为平台控制劳动者并实现商业化目标的技术工具,那么如何才能释放分散劳动者的创造力,是否只能走向极端而难以找到中间平衡点?就此而言,算法政治的分析视角可能会给予我们更多洞察与启发,其主要观点是要求认识到算法作为技术过程和技术结果的非决定性和非中立性(政治性),这又具体体现为算法演化路径的多样性、算法属性的内生政治性、算法应用过程与结果的不确定性三个方面。
首先,算法演化路径的多样性是指,针对同一问题往往存在不同的算法解决方案,最终采纳何种技术路线是技术因素与非技术因素共同影响下的政治结果。国际象棋算法的发展历史便是典型例证。就技术方案而言,国际象棋算法大致有两条路径:其一是通过“蛮力”计算方式穷尽所有策略以寻找最优解,其二是通过“启发式”逻辑识别对弈局势以聚焦最有可能获胜的特定策略。从结果来看,前者取得了巨大成功而后者逐渐淡出人们的视野,但这并非源于不同算法在技术效率上存在高低差别,而是缘于特殊的时代背景。技术发展史的研究指出,美苏冷战以及20世纪70年代各研究组为争取人工智能研究资助的竞争,直接导致了国际象棋算法研究过程中“比赛”文化的盛行。“蛮力”算法能够充分利用计算机硬件性能提升的发展红利,及其模块化结构易于调试组合的技术特征,因此更适应具有明确评价指标的比赛场景。但这一结果却称不上“最优选择”,过于迎合比赛规则反而限制了国际象棋算法在其他领域的应用,并最终导致时代背景转换后相关研究的衰落。
其次,算法内生政治性的观点更加重视算法的“政治倾向”,即算法可能使某些群体的行为更加容易,但同时使其他群体更加困难。刘易斯·芒福德曾指出,“人类史上存在两种技术,一种是威权型的,另一种是民主型的。前者以系统为中心,功能强大却不稳定;后者以人为中心,灵活持久但功能却相对弱小”。技术政治的经典研究曾指出,纽约长岛立交桥的限高要求虽然只是建筑规划方面的技术参数,但由于它限制了公共汽车的通行,自然也限制了只能乘坐公共汽车的平民的进入,从而在事实上造成了局部地区贫富分隔的政治后果。虽然相比于建筑、核能源、工业机械等技术而言,算法的易变性可能让人们认为其“政治倾向性”并不明显,但事实并非如此。例如,当前以机器学习为代表的人工智能算法,由于极度依赖海量数据资源和庞大计算资源,更有利于拥有资源优势的大型平台企业,但对中小企业并不友好。由此带来的可能结果,便是强化了寡头平台在人工智能时代的权力集中,甚至可能阻碍边缘创新以及技术发展成果的普惠共享。
最后,数字化、模型化的算法并不一定是现实社会的精准映射,这使得算法在应用于具体环境时可能产生难以预知结果的不确定性,从而给不同人群带来差异化影响。作为人类社会具体问题的数字化、模型化解决方案,算法伴随着人类社会数字化转型进程的深入而不断普及应用,但这是否意味着算法能成为现实社会的精准映射,却仍然存在极大争议。一方面,围绕“人”是否可被计算化的问题,尽管马文·明斯基提出“人类本质上就是机器”,但罗杰·彭罗斯早在1989年出版的《皇帝新脑》中就已经更为系统地论证了“人类意识(或精神)不可计算”的结论。另一方面,围绕“社会机制”是否可被计算化问题,尽管舍恩伯格在《大数据时代》与《重塑资本主义》等畅销书中热情洋溢地推崇了智能算法的作用,认为它将代替市场“价格机制”;而信息经济学的丰富讨论却指出,制度背景、社会共识等因素同样对价格形成过程具有重要影响,但它们都无法被算法精准测量。围绕可计算性的持久争议表明,算法只是现实社会的简化模型,在应用于具体环境并面临多重复杂性时,往往会产生难以预知的不确定结果,并因为利益相关方在算法应用系统中的不同位置和不同角色而带来差异化影响。
▍算法政治视野下“零工经济”的“平衡解”
惯常以来,人们倾向于将“零工经济”的发展问题理解为平台在资本裹挟下对劳动者的异化或剥夺,这虽然反映了一定程度的客观事实,但因局限于劳资冲突的思维范畴而限制了政策改革的可能空间。算法政治的三重内涵,在揭示算法作为技术过程和技术结果的非决定性与非中立性的同时,也为反思“零工经济”下劳动者与平台的博弈选择提供了新思路。
首先,算法演化路径的多样性启发我们,应跳出仅仅将算法管理视为“泰勒主义2.0”的狭隘思维,更多重视算法在释放劳动者创造力和主动性方面的潜力。已有研究对“零工经济”的反思,往往关注算法控制与监视劳动者的功能,并指出其在范围和深度方面甚至超越了百年前的“泰勒主义”。沿袭行为科学对泰勒主义的反思,研究者更多批判算法对劳动者的全面监控和去人性化管理的弊端。此类研究固然体现了对“算法管理”这一新兴模式的辩证观察,但没有注意到算法并非只能作为泰勒主义的工具。算法功能及其演化路径的多样性预示着,算法同样可以扮演“辅助人”而非“管理人”“代替人”的政治角色。
例如,技术发展史的研究揭示,数控机床事实上存在两种可能的程序编制法:一种是由管理者初始时就给机器编制好统一程序;另一种则是由熟练工人将自己的操作录制后,再由机器编制程序指令并不断进行调整(即“录制加重放”)。前者类似于泰勒主义,试图以管理者的知识替代工人劳动,后者则仍然相信熟练工人劳动技艺的重要性并给予其自主空间。两种编制方法在技术效率层面并无绝对优劣之分,美国企业界采纳了前者,将自动化技术系于福特生产方式之中,从而提高了标准化生产的效率,却丧失了生产的灵活性;德国和日本的数控机床制造业更多采用“录制加重放”的技术路径,最终实现了更为灵活的“精益生产模式”。
“零工经济”下的“算法管理”与此类似,细致分解劳动行为进而精确制定劳动规则,同时全面监控并要求劳动者严格执行,这仅仅只是一种算法思路;尊重劳动者自身的劳动经验与智慧,以减少重复性劳动并释放劳动者自主性为目的的赋能型算法,则是不同于“泰勒主义2.0”的另一思路。举例而言,2018年BMG的一份调研报告显示,82%的优步用户希望司机能得到更好的权利保障;2019年5月英国创业企业Xooox平台顺应司机的要求,改变了为司机指定乘客和价格的算法设置,给予司机在一定范围内选择顾客和价格的自由权,便体现了赋能司机思路下不同于“泰勒主义2.0”的其他算法管理模式的可能性。对于外卖平台而言,不再严格要求外卖员必须遵守算法指示,而是更多吸收来自外卖员的劳动过程反馈,并适时调整算法(例如算法为外卖员提供反馈途径,使得外卖员在发现算法规划路径上存在“逆行”时可以要求算法做出调整),也是探索不同算法管理模式的具体体现。
其次,算法的内生政治性要求重新认识“零工经济”中不同算法的价值权衡与政治后果。“零工经济”建立在多种类型的算法基础上,算法对不同利益方存在着差异化影响。例如,工作推送算法以最大化交易匹配概率作为基本原则,但事实上更有可能将高工资工作机会推荐给男性而非女性;内容推送算法以满足用户偏好为原则,但往往强化头部创作者的“马太效应”,不利于中小创作者的内容呈现;外卖送达时间的预估算法和路线规划算法,以实现全局最优为目标,却忽略了外卖员的劳动强度和劳动时间约束,从而可能不断突破劳动保护底线,并在事实上提高行业门槛,使得不能满足苛刻要求的劳动者(往往是女性)被排除在外。
与前文提到的立交桥限高要求类似,每种算法优化目标看似中立、客观,但因为不同劳动者的能力差别或缺乏明确的规制标准,而可能对不同利益相关方产生不同影响,即产生差异化的政治后果。基于此视角可发现,“零工经济”发展过程中出现的异化劳动者问题,并不一定能完全归咎于资本逐利的主观意图,或者劳资对立的矛盾冲突。“零工经济”平台的创业者与算法工程师,在设计算法时,可能只是为了实现更高效的匹配、调度、规划等功能性需求。但算法具有内生政治性的理论视角却提醒我们,算法并非价值中立,它内嵌于社会机制的复杂性,它对不同劳动者影响结果的差异性,它在运行过程中的自我强化性,都使得以实现客观技术指标为目的的功能性算法,最终演化为带有价值判断和选择功能的政治性算法。
由此,我们更应加强对算法设计者、应用者的技术伦理教育,让他们认识到看似“客观”的算法设计和应用过程,事实上将带来差别化、歧视性的政治后果,从而提前做好应对。例如,外卖平台算法的设计者应认识到“送达时间”这一“客观指标”的不断优化,将导致外卖员的过量劳动以及对不同劳动者的差别歧视,从而调整算法规则或施加边界限制,以满足社会劳动规范的基本要求。
最后,算法应用过程和结果的不确定性提醒利益相关方应全面理解算法可能带来的衍生结果及其影响,以避免在简化社会复杂性的过程中忽略重要价值的考量。举例而言,内容创作和推送平台致力于精准挖掘并识别用户的潜在偏好,灵活用工平台聚焦管控并衡量线下服务的过程与质量,外卖配送平台着重解决复杂配送环境下的规划难题,但算法能否实现上述目标仍然取决于“线上数字空间”对于“线下劳动场景”的精准映射程度。阻碍“零工经济”算法全面调度、管控、评估劳动过程与结果的原因,一方面源自人类意识或感情计算的技术挑战(是否可以及如何通过数据来精准体现人类需求),另一方面也源于社会数字化转型不足的客观约束(例如外卖配送平台难以获得楼宇内部电梯的数据)。
承认“线上数字空间”只能是“线下劳动场景”简化模型的客观现实,使得我们不得不重视在此简化过程中被忽略的劳动异化或价值遗漏问题。例如,外卖员配送过程中天气状况的突然变化,或者遭遇道路管制、车祸事故等临时性冲击,都可能因未被外卖平台算法纳入考量范畴,而影响对外卖员劳动过程的管控与评估。这一问题虽然可以通过不断扩大可得数据的范围和深度加以部分解决,但算法政治视角提醒我们,现实社会的复杂性决定了算法永远不能完全覆盖线下劳动场景的全部内容,因此可能导致算法做出错误决策,如恶劣天气下仍然要求外卖员按时送达。由此,我们应该在算法管理之外,更加重视其他配套机制的建设与完善。例如,明确涉及劳动者利益的算法正当程序要求,便有利于在因天气、事故等客观原因导致外卖员未按时送达而产生惩罚时提供撤销和救济。
▍讨论与结论:技术、劳动与资本
世界银行2019年发展报告指出,新兴经济体有高达三分之二的非正式工人,在低收入和中等收入国家该比例甚至达到90%。这一数据既体现了“零工经济”的潜在规模和巨大潜力,同时也意味着建设对人类更友好、可持续的“零工经济”的重要性和迫切性。
从开源软件、维基百科的历史经验来看,“零工经济”的进步意义在于降低了劳动者的生产门槛,释放了分散劳动者参与生产过程的灵活性和创造性;但为满足商业化需求而不断强化的平台控制,则可能使之滑向另一个极端。从劳资关系或所有权角度出发的既有反思具有深刻性,却往往将算法视为“泰勒主义2.0”,或者将算法简化为平台逐利动机下的技术工具,从而忽略作为“零工经济”关键组织管理要素而可能扮演的重要角色。
对监管者而言,应认识到算法本身的多样性及其对劳动者影响结果的差异性,进而跳出局限在“工资劳动”框架下的制度改革思路。对平台而言,也应认识到,平台相比于传统福特制生产模式的成功,并不完全因为其技术优势或者在降低交易成本方面的积极作用,更本质的原因还在于其调动了分散劳动者的积极性并保护了劳动自主性。平台仅仅将算法视为实现“泰勒主义2.0”的技术工具的陈旧思路,反而可能使平台失去这一优势,最终被更具包容性、普惠性、发展性的新模式所替代。在技术创新加速推动社会变革的背景下,我们不能简单地视技术为劳动、资本等政治力量的工具,技术也不应被置于政治讨论之外,只有认识到技术的政治性,才可能以更完整的视角审视我们面临的机遇选择和风险挑战。
本文原载《文化纵横》2021年第4期,原标题为《算法可以中立吗?——“零工经济”的新可能》。图片来源于网络,欢迎个人分享,媒体转载请联系本公众号。