许丽颖：心理学研究发现人对技术不了解造成算法厌恶

　　中新经纬客户端6月26日电 (张燕征)近日，由中国人民大学高瓴人工智能学院等单位主办的“推荐算法社会价值与可持续发展”研讨会在中国人民大学举行。清华大学社科学院心理学系博士后许丽颖在研讨会上表示，要解决算法歧视和算法厌恶等问题，需要更多实证道德心理学研究，了解更多民众的观点。“平台收集人们的数据，做用户画像和用户分类，需要探索一个合适的‘度’。”

　　清华大学社科学院心理学系博士后许丽颖。来源：主办方供图

　　许丽颖表示，心理学领域对算法有很多研究。数据表明，很多人知道算法决策表现是更优的，但是人们还是不太喜欢让算法做决策，更愿意让人类做决策，人们称这种心理为算法厌恶。当这种决策任务有道德性质时，这个厌恶就更加强烈。

　　那么算法厌恶形成的原因是什么？又该如何解决？许丽颖指出，可在实证研究基础上再去探讨一些解决方式。比如研究发现，人们对于算法不了解，从而导致人们产生算法厌恶，那么可以提高算法的透明度，提高普通人的算法知识。也有实证研究发现，人们对于算法能力不信任，那么可提高算法的决策能力、专业化和个性化。

　　“还有一些人了解算法，也信任它的能力，但是内心就是不愿意用，针对这种现象，可以增强人类和算法的合作，不是把决定权交给算法，而是共同做决策，一定程度可以减少算法厌恶。”许丽颖称。

　　许丽颖介绍道，她所在的研究团队从人工智能的社会心理学、道德心理学研究领域，将算法研究划分成了三个层面：最底层的数据和算法包括隐私泄露问题，中层是人机交互辅助决策和冲突问题，上层探讨算法歧视问题。“从下至上是越来越社会化的，从上至下是越来越基础。剥离人的因素，然后在这个框架下进行系列研究。”

　　针对算法歧视方面的研究，许丽颖团队采用了情境实验的范式，“通过对比分析性别、学历、民族、年龄等要素，我们发现无论是什么样的歧视，相比算法歧视来说，人们对人类的歧视更加愤怒、更加生气。”许丽颖称。

　　在许丽颖看来，要理解算法歧视现象，还需要进一步探讨中介机制。“算法歧视行为是没有意图，不是主动去做的，没有自由意志，而如果我们将算法拟人化，算法就有更多意图，更多的自由意志，那民众可能对它更愤怒，更想要惩罚它。”

　　“道德心理学对于人工智能研究是一个以人为本的研究，无论是算法厌恶还是算法歧视，其实都是从民众中来的，要研究如何解决也要到民众中去，看民众怎么想，在了解他们意见的基础上，我们再提出一些针对性的措施去解决。”许丽颖称。(中新经纬APP)

>相关《许丽颖：心理学研究发现人对技术不了解造成算法厌恶》内容：

理财鱼小提示：无锡数字经济研究院执行院长吴琦：乡村振兴要与新型城镇化有机结合 上证报中国证券网讯（记者 陈雨康）中央农村工作会议强调，加大对乡村振兴重点帮扶县倾斜支持力度，抓紧完善和落实监测帮扶机制，加强产业和就业帮扶，确保不发生规模性返贫。要...【继续阅读】

原标题：光大期货农产品研究总监王娜：生猪稳价保供政策将持续发力 上证报中国证券网讯（记者 陈雨康）中央农村工作会议12月25日至26日在北京召开。会议强调，要全力抓好粮食生产和重要农产品供给，强化“菜篮子”市长负责制，稳定生猪生产，确保畜禽水产...【继续阅读】

蔚来汽车副总裁曲玉本科是北大的 研究生却为何读上海财经大学？ 2021-12-26 16:13:27 运营商财经网 实习生万欢喜/文 蔚来汽车近年来的发展态势还是非常可喜的，而其商业运转也离不开成熟的财务系统进行支撑。运营商财经将试图揭秘有关蔚来汽车现任财务副总...【继续阅读】