人工智能体“有意不为”的伦理意蕴

doi:10.15936/j.cnki.1008-3758.2020.03.003

东北大学学报（社会科学版） ›› 2020, Vol. 22 ›› Issue (3): 14-20.DOI: 10.15936/j.cnki.1008-3758.2020.03.003

人工智能体“有意不为”的伦理意蕴

王淑庆

(湖南师范大学公共管理学院，湖南长沙410081)

收稿日期:2019-07-09 修回日期:2019-07-09 出版日期:2020-05-25 发布日期:2020-05-25
通讯作者: 王淑庆
作者简介:王淑庆(1986-)，男，湖南耒阳人，湖南师范大学讲师，哲学博士，主要从事人工智能伦理、行动哲学研究。
基金资助:
国家社会科学基金重大资助项目(17ZDA023)。

Ethical Implications of Artificial Agents' “Intending Not to Do”

WANG Shu-qing

(College of Public Administration， Hunan Normal University， Changsha 410081， China)

Received:2019-07-09 Revised:2019-07-09 Online:2020-05-25 Published:2020-05-25
Contact: -
About author:-
Supported by:
-

摘要/Abstract

摘要： 人工智能的发展使得人们期待人工智能体具有明辨道德是非的部分能力，特别是要求人工智能体能够主动地不做违背道德的行动。基于道德能动性的功能主义，说明人工道德主体在何种意义上是可能的。与人类有意不做某事类似，人工智能体在有意抑制或忽略做某事的时候，也应该出于道德理由考量。由此，人工智能体在“有意不为”上应当具备两种道德特性，即对可能伤害的强敏感性和对道德决策的弱自主性。最后，从控制论的角度设想如何将这两种特性嵌入到人工智能体中去，并论证对于自主人工智能体的伦理控制来说，“有意忽略”是更为困难的问题。

关键词: 人工道德智能体, 有意不为, 强敏感性, 弱自主性, 伦理控制

Abstract: With the development of AI， artificial agents have been expected to own the partial ability to distinguish between “morality” and “non-morality”， in particular not to perform immoral actions by themselves. Based on the functionalism of moral agency， it was discussed in what sense artificial moral agents are made possible. Similar to the mankind's negative actions， artificial agents should also be considered for some moral reasons when they intentionally refrain or ignore doing something. Therefore， artificial agents should possess two moral characteristics; namely， strong sensitivity to possible harms and weak autonomy in moral decision-making. Finally， from the perspective of cybernetics， the ways to embed these two characteristics into artificial agents are envisaged， and it is proved that “intentional negligence” is a more difficult problem for the ethical control of autonomous artificial agents.

Key words: artificial moral agent, intending not to do, strong sensibility, weak autonomy, ethical control

中图分类号:

N031

王淑庆. 人工智能体“有意不为”的伦理意蕴[J]. 东北大学学报（社会科学版）, 2020, 22(3): 14-20.

WANG Shu-qing. Ethical Implications of Artificial Agents' “Intending Not to Do”[J]. Journal of Northeastern University(Social Science), 2020, 22(3): 14-20.

参考文献

[1]李伦，孙保学. 给人工智能一颗“良芯(良心)”——人工智能伦理研究的四个维度［J］. 教学与研究， 2018(8):72-79.
[2]Asaro P. What Should We Want from a Robot Ethic?［M］∥Capurro R， Nagenborg M. Ethics and Robotics. Amsterdam: IOS Press， 2009.
[3]Allen C，Varner G，Zinser J. Prolegomena to any Future Artificial Moral Agent［J］. Journal of Experimental and Theoretical Artificial Intelligence， 2000，12(3):251-261.
[4]Anderson M，Anderson S L. Machine Ethics: Creating an Ethical Intelligent Agent［J］. AI Mag， 2007，28(4):15-26.
[5]Etzionil A， Etzioni O. Incorporating Ethics into Artificial Intelligence［J］. The Journal of Ethics， 2017，21:403-418.
[6]温德尔·瓦拉赫，科林·艾伦. 道德机器: 如何让机器人明辨是非［M］. 王小红，译. 北京: 北京大学出版社， 2017.
[7]Bringsjord S，Thero D，Sundar N. Akratic Robots and the Computational Logic Thereof［C］∥ IEEE International Symposium on Ethics in Engineering， Science， and Technology. Chicago: IEEE， 2014:1-8.
[8]王淑庆，程和祥. “否定性行动”的合法性之争［J］. 哲学动态， 2018(3):102-108.
[9]Floridi L，Sanders J W. On the Morality of Artificial Agents［J］. Minds and Machine， 2004，14:349-379.
[10]Himma K E. Artificial Agency， Consciousness， and the Criteria for Moral Agency: What Properties Must an Artificial Agent have to be a Moral Agent?［J］. Ethics and Information Technology， 2009，11:19-29.
[11]Walton D N. Omissions and Other Negative Actions［J］. Metamedicine， 1980(1):305-324.
[12]Wallach W. Artificial Morality: Bounded Rationality， Bounded Morality and Emotions［M］∥Smit I，Lasker G，Wallach W. Proceedings of the Intersymp 2004 Workshop on Cognitive， Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence. Baden-Baden: IIAS， 2004:1-6.
[13]马文·明斯基. 情感机器［M］. 王文革，程玉婷，李小刚，译. 杭州:浙江人民出版社， 2016:9.
[14]玛格丽特·博登. 人工智能的本质与未来［M］. 孙诗惠，译. 北京:中国人民大学出版社， 2017:69.
[15]徐英瑾. 如何设计具有自主意图的人工智能体——一项基于安斯康“意图”哲学的跨学科探索［J］. 武汉大学学报(哲学社会科学版)， 2018，71(6):79-92.
[16]Podschwadek F. Do Androids Dream of Normative Endorsement? On the Fallibility of Artificial Moral Agents［J］. Artificial Intelligent Law， 2017，25:325-339.
[17]Hew P C. Artificial Moral Agents are Infeasible with Foreseeable Technologies［J］. Ethics and Information Technology， 2014，16(3):197-206.
[18]Gips J. Towards the Ethical Robot［M］∥Android Epistemology. Cambridge: MIT Press， 1991.
[19]维纳. 控制论: 或关于在动物和机器中控制和通讯的科学［M］. 2版. 郝季仁，译. 北京: 科学出版社， 1963.
[20]Pearl J. Theoretical Impediments to Machine Learning with Seven Sparks from the Causal Revolution［C］∥Proceeding of the 11th ACM International Conference on Web Search and Data Mining. Los Angeles: Association for Computing Machinery， 2017:1-8.
[21]Pearl J，Mackenzie D. The Book of Why: The New Science of Cause and Effect［M］. New York: Basic Books， 2018.
[22]Zhang Kun，Schlkopf B，Spirtes P，et al. Learning Causality and Causality-related Learning: Some Recent Progress［J］. National Science Review， 2017(11):26-29.
[23]潘天群. 意向性、心智模态与心智逻辑［J］. 浙江大学学报(人文社会科学版)， 2010，40(6):125-133.
[24]Gensler H J. Formal Ethics［M］. New York: Routledge， 1996.

人工智能体“有意不为”的伦理意蕴

Ethical Implications of Artificial Agents' “Intending Not to Do”

RichHTML

PDF (PC)

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价

[1]	崔中良，［美］布蕾特·布罗嘉德. 人工智能研究中“他心问题”研究对人机交互的启示——从维特根斯坦对“他心问题”的论述谈起[J]. 东北大学学报（社会科学版）, 2020, 22(6): 1-9.
[2]	张娇，王健. 技术向度:设计史分期的新视角[J]. 东北大学学报（社会科学版）, 2020, 22(6): 10-16.
[3]	荆珊，王珏. 工程共同体“多手问题”及其伦理超越[J]. 东北大学学报（社会科学版）, 2020, 22(6): 17-23.
[4]	陈凡，彭康宁. 论预期技术伦理的方法论特征[J]. 东北大学学报（社会科学版）, 2020, 22(5): 1-7.
[5]	杨庆峰. 记忆研究中的心理主义及其当代超越[J]. 东北大学学报（社会科学版）, 2020, 22(5): 7-15.
[6]	王慧莉，李雪娇. 现象学视域下人机交互的主体间性分析[J]. 东北大学学报（社会科学版）, 2020, 22(5): 16-22.
[7]	王斌，孔燕. 技术恐惧的中国文化心理分析[J]. 东北大学学报（社会科学版）, 2020, 22(4): 1-6.
[8]	车辕. 论新兴人类增强技术与残疾人尊严的保障和提升[J]. 东北大学学报（社会科学版）, 2020, 22(4): 7-13.
[9]	谷晓丹，罗玲玲，陈红兵. 环境设计概念的生态维度新理解——基于吉布森可供性理论的思考[J]. 东北大学学报（社会科学版）, 2020, 22(4): 14-20.
[10]	朱春艳，潘宝君. 人道主义视野中的早期技术哲学[J]. 东北大学学报（社会科学版）, 2020, 22(3): 1-7.
[11]	张慧，王以梁. 论技术情境及其对工匠创造力的影响[J]. 东北大学学报（社会科学版）, 2020, 22(3): 8-13.
[12]	吴国林，刘小青. 技术人工物何以是艺术品?[J]. 东北大学学报（社会科学版）, 2020, 22(2): 1-9.
[13]	魏春艳，李兆友. 基于三螺旋理论的产业共性技术创新研究[J]. 东北大学学报（社会科学版）, 2020, 22(2): 9-16.
[14]	王仕民，黄诗迪. 互联网技术重塑社会行为的发生逻辑[J]. 东北大学学报（社会科学版）, 2020, 22(2): 17-22.
[15]	姚禹. 重新理解经验转向——一种海德格尔技术哲学的视角[J]. 东北大学学报（社会科学版）, 2020, 22(1): 1-6.