“道德机器”的道德偏差与无人驾驶技术的伦理设计

doi:10.15936/j.cnki.1008-3758.2021.03.002

东北大学学报（社会科学版） ›› 2021, Vol. 23 ›› Issue (3): 8-16.DOI: 10.15936/j.cnki.1008-3758.2021.03.002

“道德机器”的道德偏差与无人驾驶技术的伦理设计

钱圆媛

(中共中央党校(国家行政学院)哲学教研部，北京100091)

发布日期:2021-05-21
通讯作者: 钱圆媛
作者简介:钱圆媛(1985-)，女，重庆人，中共中央党校(国家行政学院)讲师，哲学博士，主要从事西方哲学研究。
基金资助:
国家社会科学基金重大资助项目(20&ZD041)。

Moral Deviations of “Moral Machines” and Ethical Approaches to Autonomous Vehicles

QIAN Yuanyuan

(Department of Philosophy， Party School of the Central Committee of C.P.C.， Beijing 100091， China)

Published:2021-05-21
Contact: -
About author:-
Supported by:
-

摘要/Abstract

摘要： 无人驾驶技术的飞速发展催生了“电车困境”的现实新讨论。其中，MIT的“道德机器”实验声称，通过收集公众的道德偏好，有望解决无人驾驶汽车的道德算法问题。然而，该实验并不有助于无人驾驶技术的伦理设计，这部分源于试图抽象普遍地构建“电车困境”问题的方式，同时单靠一套自上而下的义务论或功利论去匹配数据结构和算法模拟，难以处理非线性、多因素、多冲突且情境敏感的现实道德问题。通过结合自下而上的机器学习与自上而下的符号推理，运用更相适配的联结主义网络与德性伦理学来发展具有诸良好特质或“德性”的无人汽车计算机系统，并与外部系统连接以达成整体系统的多功能融合，被认为是更有可能且更观照道德本性的无人驾驶伦理设计进路。

关键词: 无人驾驶汽车; 道德机器; 电车困境; 神经网络; 德性伦理学

Abstract: The rapid development of autonomous vehicles (AV) has brought the “trolley dilemma” into new discussions. Among them， MIT's “moral machines” claim the potential to figure out the moral algorithm of AV by collecting the public's moral preferences. However， this experiment does not contribute much to the ethical designs of AV， partly because of the abstract and universal way to construct the “trolley dilemma”. Also， it is difficult to deal with the non-linear， multi-factor， multi-conflict and context-sensitive moral problems by using a set of top-down deontological or utilitarian algorithm. In fact， combining bottom-up machine learning with top-down symbolic reasoning and using connectionist networks and virtue ethics to develop virtuous AV systems is considered to be more promising and fruitful in taking account of the essence of morality.

Key words: autonomous vehicle(AV); moral machine; trolley dilemma; neural network; virtue ethics

中图分类号:

N031

钱圆媛. “道德机器”的道德偏差与无人驾驶技术的伦理设计[J]. 东北大学学报（社会科学版）, 2021, 23(3): 8-16.

QIAN Yuanyuan. Moral Deviations of “Moral Machines” and Ethical Approaches to Autonomous Vehicles[J]. Journal of Northeastern University(Social Science), 2021, 23(3): 8-16.

参考文献

[1]Awad E，Dsouza S，Kim R，et al. The Moral Machine Experiment［J］. Nature， 2018，563:59-64.
[2]Dewitt B，Fischhoff B，Sahlin N. “Moral Machine” Experiment Is No Basis for Policy Making［J］. Nature， 2019，567:31.
[3]BMVI. Ethics Commission Automated and Connected Driving Report［EB/OL］. ［2020-05-20］. https:∥www.bmvi.de/SharedDocs/EN/publications/report-ethics-commission.pdf?__blob=publicationFile.
[4]Foot P. The Problem of Abortion and the Doctrine of the Double Effect［J］. Oxford Review， 1967，5:5-15.
[5]Thomson J. The Trolley Problem［J］. The Yale Law Journal， 1985，94(6):1395-1415.
[6]Bruers S，Braeckman J. A Review and Systematization of the Trolley Problem［J］. Philosophia， 2014，42(2):253-258.
[7]Wallach W，Allen C. Moral Machines: Teaching Robots Right from Wrong［M］. Oxford: Oxford University Press， 2009.
[8]Yu J. The Practicality of Ancient Virtue Ethics: Greece and China［J］. Dao， 2010，9:289-302.
[9]Nussbaum C. Virtue Ethics: a Misleading Category?［J］. The Journal of Ethics， 1999，3(3):163-201.
[10]Berberich N，Diepold K. The Virtuous Machine-old Ethics for New Technology? ［EB/OL］. (2018-06-27)［2020-05-20］. https:∥arxiv.org/pdf/1806.10322.pdf.
[11]Bentham J. Introduction to the Principles of Morals and Legislation［M］. Kitchener: Batoche Books， 2000:129.
[12]Stahl C. Information， Ethics， and Computers: the Problem of Autonomous Moral Agents［J］. Mind and Machines， 2004，14(1):67-83.
[13]Gips J. Towards the Ethical Robot［C］∥Ford M， Glymour C， Hayes P. Android Epistemology. Cambridge: MIT Press， 1995:249.
[14]Bendel O. Towards Machine Ethics［C］∥Michalek T，Hebkov L，Hennen L，et al. Technology Assessment and Policy Areas of Great Transitions: Proceedings from the PACITA 2013 Conference in Prague. Prague: Technology Centre ASCR， 2014:345-346.
[15]Churchland P. Toward a Cognitive Neurobiology of the Moral Virtues［J］. Topoi， 1998，17(2):83-96.
[16]Casebeer W. Natural Ethical Facts Evolution［M］. Cambridge: MIT Press， 2005.
[17]DeMoss D. Aristotle， Connectionism， and the Morally Excellent Brain［EB/OL］. ［2020-05-20］. https:∥www.bu.edu/wcp/Papers/Cogn/CognDemo.htm.
[18]Churchland P. The Neural Representation of the Social World［C］∥May L，Friedman M，Clark A. Mind and Morals. Cambridge: MIT Press，1996:150.
[19]Churchland P. The Engine of Reason， the Seat of the Soul: a Philosophical Journey into the Brain［M］. Cambridge: MIT Press， 1995.
[20]Larrivee D，Gini A. Is the Philosophical Construct of “Habitus Operativus Bonus” Compatible with the Modern Neuroscience Concept of Human Flourishing Through Neuroplasticity? A Consideration of Prudence as a Multidimensional Regulator of Virtue［J］. Frontiers in Human Neuroscience， 2014，8:731.
[21]Robinson V. Prototypes， Virtues and the Ethics of Practice［J］. Journal of Educational Administration， 2001，39(6):521-538.
[22]Cohen H，Lefebvre C. Bridging the Category Divide［C］∥Cohen H，Lefebvre C. Handbook of Categorization in Cognitive Science. Oxford: Elsevier， 2005:2.(下转第21页)

“道德机器”的道德偏差与无人驾驶技术的伦理设计

Moral Deviations of “Moral Machines” and Ethical Approaches to Autonomous Vehicles

RichHTML

PDF (PC)

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价

[1]	曹康康. 绿色技术创新伦理何以可能[J]. 东北大学学报（社会科学版）, 2021, 23(3): 16-21.
[2]	贾璐萌，陈凡. 当代技术伦理实现的范式转型[J]. 东北大学学报（社会科学版）, 2021, 23(2): 1-7.
[3]	武青，陈红兵. 大数据时代的隐私经济及其批判[J]. 东北大学学报（社会科学版）, 2021, 23(2): 8-14.
[4]	高华，陈红兵. 论人工智能与人类智能之差异[J]. 东北大学学报（社会科学版）, 2021, 23(2): 15-21.
[5]	崔中良，［美］布蕾特·布罗嘉德. 人工智能研究中“他心问题”研究对人机交互的启示——从维特根斯坦对“他心问题”的论述谈起[J]. 东北大学学报（社会科学版）, 2020, 22(6): 1-9.
[6]	张娇，王健. 技术向度:设计史分期的新视角[J]. 东北大学学报（社会科学版）, 2020, 22(6): 10-16.
[7]	荆珊，王珏. 工程共同体“多手问题”及其伦理超越[J]. 东北大学学报（社会科学版）, 2020, 22(6): 17-23.
[8]	陈凡，彭康宁. 论预期技术伦理的方法论特征[J]. 东北大学学报（社会科学版）, 2020, 22(5): 1-7.
[9]	杨庆峰. 记忆研究中的心理主义及其当代超越[J]. 东北大学学报（社会科学版）, 2020, 22(5): 7-15.
[10]	王慧莉，李雪娇. 现象学视域下人机交互的主体间性分析[J]. 东北大学学报（社会科学版）, 2020, 22(5): 16-22.
[11]	王斌，孔燕. 技术恐惧的中国文化心理分析[J]. 东北大学学报（社会科学版）, 2020, 22(4): 1-6.
[12]	车辕. 论新兴人类增强技术与残疾人尊严的保障和提升[J]. 东北大学学报（社会科学版）, 2020, 22(4): 7-13.
[13]	谷晓丹，罗玲玲，陈红兵. 环境设计概念的生态维度新理解——基于吉布森可供性理论的思考[J]. 东北大学学报（社会科学版）, 2020, 22(4): 14-20.
[14]	朱春艳，潘宝君. 人道主义视野中的早期技术哲学[J]. 东北大学学报（社会科学版）, 2020, 22(3): 1-7.
[15]	张慧，王以梁. 论技术情境及其对工匠创造力的影响[J]. 东北大学学报（社会科学版）, 2020, 22(3): 8-13.