人工智能与变革管理研究院AI小组活动之十一

发布者:张钰歆发布时间:2019-10-29浏览次数:57

1022日,AI小组第11次活动在信息楼409会议室举办。会议开始前,乐攀、杨成意、张亚、池雅琼同学做了自我介绍,齐老师建议杨成意同学在时间富余时,看完相关文献,可以学习贸易和科技,经济互动的历史内容,梳理贸易的演进历史等。

会议开始后,首先是郁春做汇报,汇报的主题是通过理性行为理论与计划行为理论的比较,研究哪一个是更适用于不道德行为预测的理论。以下是郁春同学针对本次汇报的总结:

在引言部分,作者首先对过去的研究做了总结,认为其不能对理论的发展做出实质性的贡献,且大部分模型并没有被验证有效,接着谈到TRATPB是可以用来预测人的行为的,最后提出本研究的目的:验证TRATPB在预测使用盗版软件中的有效性,比较TRATPB哪一个预测得更好,检验修正过的模型是否能够提高预测的准确性。

作者在第二部分介绍了TRATPB,它们都认为人的行为是由人的意图所决定的,而态度和主观规范决定了意图。计划行为理论是理性行为理论的延伸,认为可感知行为控制也会影响人的意图。

在文献综述部分,作者先是对RandallGibson的研究医疗从业人员面临道德决策时的情形做了回顾,其研究结果为:态度比主观规范更能解释人的意图,而可感知的行为控制不能增加预测人的意图的准确性。接着回顾了Vallerand的体育中道德行为的研究,结果表明:TRA能够解释非道德行为的决策。作者认为过去的文献只是检验了理论中的态度、主观规范和可感知行为控制,而许多研究都已表明主观规范与态度并不是独立的,因此本研究中将在模型中引入态度和主观规范的因果路径。

在实验实施阶段,作者选取了181名大学生,邀请他们填写评分量表。在数据分析阶段,使用验证因素分析来检验TRATPB是否有效,然后使用结构方程模型来检验TRATPB哪个理论更适合预测人使用盗版软件,并检测修正过的模型是否能够提高数据的拟合度。

最后通过观察比较拟合系数(CFI)的大小,得出结论TRATPB是有效的,可感知行为控制是最重要的预测变量,而增加了态度和主观规范因果路径的模型对预测人使用盗版软件的效果最好。 

1郁春在汇报

    郁春同学在汇报中,齐老师也穿插进行了指导,可以查资料将TRATPB的提出者以及相关的文献、涉及变量的解释附在汇报内容里。如果扎根信息不丰富的话,可以用定量模型去替代。同时,在最后,齐老师指出,流程自动化在执行时不能停下来,是否要考虑备选方案;作为一套标准,流程自动化没有移情的作用,在面向复杂问题上,不能站在别人的角度上考虑等等,考虑在流程自动化研究中添加特有变量。

    第二个汇报的是李佳,汇报的主题是人工智能的道德设计与伦理准则进程分析。以下是李佳整理的汇报总结:

     首先在情感计算中引入三个界定:被用来协调整个智能生命中的行动,即使是在缺乏神经系统的物种中。被设计成以改变我们社会的方式来模拟人类与情感的互动。本章的伦理一致性设计解决了与情绪相关的问题,以及在人与A/IS的交互和设计中的情绪控制。

    第二节系统关怀,个人觉得翻译的不是很标准,在Section 1—跨文化系统中有三个建议,

建议1:确保A/IS的情感系统在特定文化中培养有效的沟通,部署情感系统的社区的规范和价值观至关重要。一个设计良好的情感系统将有一套特定于其预期文化使用背景的基本规范。建议2:与缺乏文化敏感性的情感产物的长期互动是否会改变人类的社会互动。需仔细评估促进之间有益情感互动的机制,通过镜像学习与机器的交互可能影响个人的规范以及社会和文化规范。 A/IS的潜力是以强有力的方式、大规模地施加文化影响,这是一个值得关注的领域。建议3:当情感系统跨文化部署与它们相互作用的文化等产生冲突时,情感系统都需要尊重它们所嵌入的文化的价值观。没有普遍的伦理原则,伦理规范因社会而异。

    Section 3-系统操纵/轻推/欺骗尤为重要,有以下建议:建议1:轻推可能会鼓励对个人和/或社会产生意想不到的长期影响的行为,无论是积极的还是消极的。A/IS的设计应充分体现A/IS对人的影响,如可能侵蚀或鼓励个人自由,或表达有利于他人的行为。建议2:未来可能引起争议的做法:允许机器人或其他情感系统为社会的利益推动用户。如一个设计良好的机器人能够有效地鼓励人类进行慈善活动,那么机器人这样做在道德上是否合适?

因此:在政府行为的背景下,追求这种设计路径是否合乎道德,这一点值得关注。实现预期目标,需要有透明度。展开强有力的跨学科的深入研究,如不仅仅是指AI在法律中的应用,提高办事效率,或者是法律如何限定AI的道德规范,这两者应互补相成,一方进步另一方随之进步紧跟时代变化。

   此外,系统纪律随时可供查看,如偷偷发明一个超音速aip,如果这被人类控制,且有着可控制手段,这没什么,假如aip有自己独立的思想,并为之可怕的情感,且不可控制,未来可能真的会有aip说为了自由然后搞独立,反对人类,建立aip王国取代人类嘛??仅仅一个超音速aip就是人类不可打败的存在,难道还要依靠着aip打败aip

   关于法律部分和后面的如何在AI中引入符合伦理的设计,下个pre会更详细的解读这份报告内容。

在汇报过程中,齐老师不断穿插着补充解释,轻推好比人做不出决策,需要机器帮助,协助人无意识的选择,例如机场的指路箭头,网页的个性化推荐,标题党,贷款标题等。对此,齐老师提出问题,引发同学们的思考,什么情况下用轻推?轻推的过程中涉及哪些伦理? 

2李佳在汇报

    最后汇报的是张亚同学,汇报的主题是在未来工作和改变社会的机会中,人工智能和自动化所起的作用。以下是张亚同学汇报后的整理:

    在引言部分,作者首先介绍技术在当今世界的重要作用,引申出自动化技术的发展的需要。通过列举实际生活中的案例,得出自动化在很多方面给我们的生活带来好处,使我们的任务更容易、更快、更方便的结论。

    在文献综述部分,作者主要用两个经济学原理,讲述人类工作的经济价值重要性,强调对人类工作的需要。由于存在对机器控制的依赖,所以专门人员的价值增加了。

    在研究方法上,作者本想采用问卷调查的方式,但实际中,向操作员提出这些问题可能会对他们对公司未来将实施的新自动化技术的看法产生负面影响,并在工作环境中造成一些不适。所以作者选择分析大量的文献和真实案例,来分析哪些工作更有可能被机器取代。

    在理论模型部分,作者主要分析自动化对社会不同阶层人们的就业影响。认为高等教育和高薪工作很可能不会被机器取代,甚至会增加就业岗位的数量。至于中等技能的工作,可用的数量正在减少。 

在讨论这一部分,作者主要提出一个解决方案全民基本收入(UBI),用以解决因为自动化发展导致大规模失业的问题。并提出支付UBI的两个方法,一是停止所有的福利并使用免费资金来资助,二是提高税收。

在最后结论的一部分,作者主要总结全文的思想。即未来几年,创新的步伐会更加迅猛,人类应找到适应自动化发展的方法,以及UBI应结合社会责任意识和资本主义发展。

     齐老师首先对张亚同学汇报的逻辑表示肯定,其次,提出针对阅读的英文文献,应该以英文格式的演示文稿呈现。同时,齐老师指出,在文章中,作者采用分析文献和案例的方法来做结论,对中产阶级受自动化影响最大的结论应该存有质疑的态度。 

3张亚在汇报