人工智能与变革管理专栏之八 治理之变:数字化权力

发布者:张钰歆发布时间:2020-02-10浏览次数:57


齐佳音

 

上海对外经贸大学,人工智能与变革管理研究院,院长,教授,博士生导师

 

在“人工智能与变革管理专栏之七——企业形态之变:平台化”中,我对数字经济时代企业形态的特征描述为平台化。企业形态平台化一方面对于降低交易成本、提高资源配置效率等方面发挥了积极的作用,但是随之而来的,也会引发一系列新的公司治理问题。数字平台所拥有的海量数据资源以及强大的智能算法,正不断地将员工和消费者笼罩在其“数字苍穹”之下。随着数据资源日益成为更加重要的生产要素,随着企业形态的日益平台化,随着人工智能技术应用的不断泛在化,企业正在日益获得一种由于数字化应用部署所带来的权力,我们暂且将其称作“数字化权力”。

第一,企业的数字化权力正在重建员工与企业的关系,需要针对这种数字化权力来构建相应的治理机制。当前,全球的企业都在推动数字化转型,将企业的运营建立在数字化技术的基础之上,以最低的人力成本、最小的资源消耗、最优的业务流程,实现最大化的商业价值。在企业的数字化转型中,如何保障员工不被物化,员工作为人的主体性能够得到充分的保障?如何构建员工与数字化应用间的积极合作关系,确保数字化应用使得员工感受到了高效的支持并获得了更有意义的职业发展?随着数字化应用的广泛部署,员工作为数字化连接的一部分,其工作状态不断透明化,工作效果日益可测量化,工作过程全面可监控,员工在企业的数字化应用过程中,日渐失去过去因信息不对称所拥有的工作模糊度、灵活度和自由度,这一方面带来企业人力资源管理的优化,但另一方面也有可能使员工作为有创造性个体的决断权丧失,可控感下降,成就感受挫,职业的倦怠感、焦虑感和压力陡增,不仅不利于员工的身心健康,也容易使企业陷入短期绩效评价的陷阱中,从而不利于大的创新和颠覆性的突破。确定性环境下的小步快跑或许可以通过时间的积累而实现超越,但是不确定环境下的小步快跑或许会将企业葬送在方向错误的“勤奋”中。在八小时之外的员工个人生活中,由于各种数字化应用的实时连接,员工的个人空间不断受到工作空间的侵蚀,个人生活与工作空间的边界逐渐模糊,个人生活与工作要求之间的冲突也日益加剧。斯坦福大学的三位教授Goh, PfefferZenios2019)的研究发现,在美国每年有12万多的死亡以及差不多5%-8%的年医保支出是由于工作中的过长的工作时间、工作的不安全感、工作-家庭关系紧张、高的工作要求以及低的社会支持所带来的工作压力造成的。2019年,被称作中国的付费自习室元年。短短一年里,上海、北京已经开业超过80家付费自习室,沈阳、西安、成都也有60家。根据公众号“一条”(IDyitiaotv,闫坤沐)的调查,AI浪潮迅猛,许多人担心自己中年失业,学习者中女性占7成,高知、高薪群体是主要人群。据《河北新闻网》文章“微信工作群该‘减减肥’了”一文,现在微信工作群已经成为了很多人的工作梦魇。很多人24小时都处于工作待命状态,不少上班族要不时地查看手机,很多人因此得上了严重的焦虑症。

第二,企业的数字化权力正在重构企业与消费者之间的关系,需要建立起对这种数字化权力的治理机制。数字化权力是基于掌握强大的数字化技术平台而拥有,数字化权力天然是平台化企业的优势。Web2.0时代,由于社交媒体的广泛应用,消费者在人类历史上第一次广泛联合起来,获得了强大的数字化权力。但是,当下平台型企业所拥有的大数据资源以及人工智能技术所支撑的强大算法已经超越了任何个体消费者的能力或者个体消费者联合起来的能力,并使数字权力再次回到企业手中。不仅如此,平台型企业对于数字化权力的滥用也对消费者造成伤害。“大数据杀熟”是2018年的年度热词,是指通过消费者的大数据分析,专门针对老客户来赚取更多利润。据新华网“大数据缘何变身‘杀熟’帮凶”一文分析,国外一些网站也就有大数据“杀熟”的现象;国内对2008名受访者进行的一项调查显示,51.3%的受访者遇到过互联网企业利用大数据“杀熟”的情况。更有甚者,一些平台型企业利用平台的权力,剥夺了消费者的选择权。本人近期乘坐国内某知名航空公司的航班,以前网上订票之后,可以在值机时进行座位挑选,近期值机时却没有选择座位这个环节,系统直接就为乘客分配了座位,而且每次分配的都是最靠后,或者夹在两人中间,是大多数乘客不愿意选择的座位。经过电话咨询后,才知是系统通过算法分配的。由于各大企业平台都掌握着大量的消费者数据,消费者隐私数据泄露便成了最大隐患。20193月爆出的脸书用户数据泄露事件就为这种担忧敲响了警钟。除此之外,算法黑箱使得消费者由于性别、种族、肤色、宗教等方面的不同,在人工智能算法的训练中可能产生算法“歧视”,进而造成在实际商业实践中的消费者歧视,如Google的图像识别算法就因为将黑人识别为大猩猩造成轩然大波。

第三,企业的数字化权力正在重塑社会公众的日常生活,需要政府尽快建立健全相关治理体系。Thaler2017年诺贝尔经济学得主)和Sunstein2003年的学术论文中将“助推”(nudging)定义为:一种在保留个体选择自由的情况下授权私营和公共机构引导人们朝着促进其福利的方向发展的方法。Mols, Haslam, Jetten Steffens (2015)在助推的思路下,根据英国卡梅伦政府的治理经验,提出了互联网的助推治理(nudging governance)模式。WeinmannSchneiderBrocke (2016) 提出了数字助推(digital nudging)的概念,并将其定义为使用用户界面设计元素在数字化选择环境中引导人们行为的方法。至此,大量数字化助推不仅在实践中被企业广泛应用,也开始得到了研究者越来越多的关注。企业借助着大数据、人工智能以及对于人-机界面的掌控力,不断探寻数字助推的商业力量,进而对社会公众的日常生活产生有待评估的干预与影响。如,某知名电商平台关于口红产品的广告词为“不使用口红,你还是女人吗?”;某知名消费贷款平台针对年轻人的广告词为“年轻不留白,任性花钱”;以某知名信息服务商为代表的互联网服务/产品,正是以帮大家建造信息“茧房”为生,利用大数据和算法,迎合公众的判断和认知,导致公众片面信息获取,影响其更为理性的决策行为;大型的约会交友平台,正在通过算法左右我们的社交以及婚姻,在无形中改变了我们今后生活的轨道。2019年,由MIT媒体实验室领衔,哈佛、耶鲁等研究院所和微软、谷歌、脸书等公司的多位研究者共同在Nature上以“Machine behavior”为题撰写文章,其中特别谈到了AI带来的助推可以在预期的目标下为人类带来正面积极作用,也有可能在未曾预期到的目标下为人类带来负面消极作用。当技术在缺乏价值观评估和伦理约束的情况下,未曾预期到的负面消极影响的破坏力之大或将难以在短期内准确评估。正因为如此,世界各国都已经共识到信仰、价值观、伦理对于数字经济时代企业的社会责任感是前所未有之重要,必须纳入到治理的框架,予以高度重视。

上海对外经贸大学人工智能与变革管理研究院对于数字经济时代的数字化权力治理问题非常关注,我们和国际同行一起,正在推动这一领域的研究和实践。2019年我们先后在美国管理学会年会(AOM2019,波士顿,美国)、美洲信息系统年会(AMCIS2019,坎昆,墨西哥)、国际信息系统年会(ICIS2019,慕尼黑,德国)等重要国际学术平台上引领这一领域的研讨。2020年,我们还将在美国管理学会年会(AOM2020,温哥华,加拿大)、国际信息系统年会(ICIS2020海德拉巴,印度)等大型国际学术会议上继续推动这一领域的进展。

党的十九届四中全会审议通过了《中共中央关于坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化若干重大问题的决定》,明确指出“推进国家治理体系和治理能力现代化”。这为数字经济治理提供了顶层设计与理论指导,也提出了更高的治理要求(数字经济治理白皮书,2019,中国信息通信研究院)。数字经济让平台型企业所拥有的数字化权力,必须要在国家治理体系和治理能力的现代化构建中得到充分监管,才能推动我国数字经济的健康发展与人民福祉的全面提升。