东北大学学报(社会科学版)  2015,Vol. 17 Issue (6): 561-566       
老人护理机器人伦理风险探析
李小燕    
东南大学 人文学院, 江苏 南京 211189
摘要: 在全球人口老龄化的速度不断加快和医疗护理资源相对短缺的背景下,老人护理机器人的发展和使用将会为维护老人的身心健康带来巨大的希望和前景:它既可以帮助老人完成各种日常事务,也可以对老人的健康状况进行监督管理,同时还可以为老人提供社会关怀。与此同时,它也可能会对老人的社交生活、隐私、自由自主等带来巨大的威胁。减小或避免这些威胁需要机器人技术专家、伦理学家、医生、护理人员,以及老人本身的共同努力。这种努力主要体现在三个方面:以价值敏感性设计为老人护理机器人的设计路径,合理规定老人护理机器人的使用方式,以及提高老人及相关护理人员对老人护理机器人及其与人类关系的本质的认识。
关键词: 人口老龄化     老人护理机器人     伦理风险     风险预防    
Study on the Ethical Risks of the Aged Care Robots
LI Xiao-yan    
School of Humanities, Southeast University, Nanjing 211189, China
Abstract: Given the ever increasing rate of global population aging and the relative shortage of medical care resources, the development and use of the aged care robots will bring about great hope and prospect in improving the physical and mental health of the elderly. The aged care robots can assist the elderly in daily tasks, help monitor their behavior and health, and provide them with companionship. In the meantime, however, the aged care robots can also endanger the social contact, privacy, freedom and safety of the elderly. Roboticists, ethicists, doctors, caregivers and the elderly themselves should make joint efforts to diminish or prevent these risks. Such efforts can be mainly divided into three aspects—designing the aged care robots through value-sensitive design approaches, stipulating reasonably the ways the aged care robots are used, and understanding correctly the essence of the aged care robots and their relationship with human beings.
Key words: population aging     aged care robot     ethical risk     risk prevention    

随着全球人口老龄化速度的不断加快,老年人口的比例和总量都将不断增加。据统计,在2000—2050年之间,60岁以上的全球人口比例将增加一倍[1],而60岁以上的全球人口总量则将达到20亿[2]。在全球医疗护理资源相对短缺的情况下,这将进一步增加对医疗护理资源的需求,扩大医疗护理需求和供给之间的鸿沟,进而给维护老人的身心健康带来巨大的威胁。正是在此背景下,老人护理机器人应运而生,它为缓解医疗护理资源的短缺和维护老人的身心健康带来了巨大的希望和前景。不过,这一希望和前景同时伴随着巨大的伦理风险:它可能会对老人的身心健康和生命质量产生巨大的威胁。要确保老人的身心健康和生命质量,防止老人护理机器人对其产生的潜在威胁,首先就必须深入分析和理解发展和使用老人护理机器人所潜在的伦理风险。本文以老人护理机器人的功能为前提,从老人的身心健康和生命质量的角度探究发展和使用老人护理机器人所潜在的伦理风险,并在此基础上提出适当的预防策略。

一、 老人护理机器人的功能

老人护理机器人就是能够为老人的日常事务和基本需求提供帮助和支持的机器人。它具有不同的功能,能够为老人提供多方面的帮助和支持,阿曼达·夏基和诺埃尔·夏基的研究指出[3],这些功能主要体现在三个方面:帮助老人完成各种日常事务,如为老人的起居饮食提供帮助;对老人的健康状况进行监督管理,如提醒老人按时吃药;为老人提供社会关怀,如作为交流对象与老人进行简单的交流。目前,很多发达国家的研究机构和公司都已经开始设计和测试各种不同功能的老人护理机器人,而且部分机器人已经进入了商业生产阶段,如日本开发的能够对老人的健康状况进行监督管理的机器人Wakamaru和能够为老人提供社会关怀的机器人NeCoRo、Paro及AIBO。在此,我们有必要根据老人护理机器人的发展现状具体介绍老人护理机器人的各种功能,为进一步研究其潜在的伦理风险提供背景支持。

1. 帮助老人完成各种日常事务

大量的老人护理机器人能够被用于帮助老人完成各种日常事务。例如,日本开发的具有玩具熊面部特征的机器人RIBA能够帮助老人从床上移动到轮椅上,其开发的贝壳形状的机器人HRIB具有帮助老人洗澡的功能。美国开发的机器人EI-E能够像导盲犬一样执行各种指定的任务,如打开指定的房门和抽屉、捡起指定的对象物等。意大利开发的机器人MOVAID不仅能够帮助老人完成基本的家常杂务,如为老人置换床单、清理厨房等,还能够使用标准的家用电器,它可以使用微波炉为老人加热食物并传送食物。法国开发的机器人AILISA不仅能够监测老人的生理状况和跌倒情况,还能够帮助老人行走,在图卢兹和巴黎的老人医院的初步实验中,该机器人获得了积极的反响[1]。德国开发的机器人Care-O-bot也能够为老人提供一系列服务:导航服务、安全性管理、清洁服务、衣服分类整理、为植物浇水、使用微波炉加热食物等。除此之外,还有很多其他的机器人具有此种功能,如美国开发的真空吸尘机器人Roomba可以用于帮助老人完成清洁事务,爱尔兰开发的机器人Guido能够为老人提供导航服务,日本松下发布的洗头机器人可以用于帮助老人洗头,等等。

2. 对老人的健康状况进行监督管理

对老人的健康状况进行监督管理也是老人护理机器人的主要功能之一。例如,日本开发的机器人Wakamaru、Teddy和Robobear具有监测老人健康状况、提醒老人按时服药等功能,其中,机器人Wakamaru还能够记录老人的日常活动,并在异常情况下(如在跌倒的情况下)向他人发送邮件,同时,它还能够识别十个不同的面孔,能够在老人外出的情况下监测住所的安全。日本生产的机器人Hopis则具有测量血压、血糖和体温的功能。欧洲开发的机器人Hector除了具有记录老人的日常行程和监测老人的跌倒情况的功能之外,还具有家庭环境管理、服药提醒和紧急救助评估等功能。美国开发的自治型机器人Pearl能够提醒老人的日常活动安排,如提醒老人按时服药和提醒老人与医生的预约,还能够监测老人的健康状况等,它主要用于为疗养院的老人提供健康管理服务。新西兰开发的机器人Cafero和韩国开发的机器人IRobiQ不仅能够监测并记录老人的健康状况,还能够为老人提供认知训练,从而防止老人认知功能的进一步退化。此外,机器人uBot5、CareBot和RP-7等也能够为老人提供此类服务。uBot5不仅能够监测老人跌倒的迹象和检测其中风的迹象,还可以为老人提供远程社交服务,为老人接受家人和朋友的虚拟探访提供平台;CareBot能够为老人传送药剂,提醒老人服药及其他约会,同时,它还具有视像监测的功能;而RP-7则是一种远程操作机器人,它能够促进医生和病人之间的远距离交流和互动。

3. 为老人提供社会关怀

老人护理机器人还可以用于为老人提供社会关怀。例如,日本开发的娱乐型机器人Paro、AIBO、NeCoRo、Tama和Wandakun都具有此种功能。其中,具有海豹形状的机器人Paro能够发出类似海豹的声音,还能够通过摇动尾巴和眨眼对老人的爱抚行为作出反应,它白天虽然很活跃,但晚上却喜欢睡觉;索尼生产的具有小狗形状的机器人AIBO可以行走、追逐球状物体,能够通过它的尾巴、身体活动及眼睛的颜色和形状表达包括高兴、生气、害怕、悲伤、惊讶和厌恶在内的六种情感;机器人NeCoRo的行为取决于它与使用者互动的历史,对它的爱抚和拥抱能够引发其积极的反应,而粗暴的行为则能引发它愤怒的反应,它与Paro一样,白天活跃,晚上睡觉,同时,它还具有向使用者索要拥抱的功能。美国开发的机器人Huggable和Homie与荷兰开发的机器人Icat也能够作为娱乐型机器人为老人提供社会关怀,其中,机器人Huggable还具有发送和接受拥抱的功能。此外,机器人Pleo、ifbot、Primo Puel及iRobot等都具有此类功能。其中,机器人Primo Puel最初旨在服务于年轻的单身女性,但却意外地受到日本老年女性的欢迎,它具有交谈、傻笑和索要拥抱的功能;而机器人iRobot则能够眨眼、吮吸大拇指或瓶子,它可以根据其被对待的方式而表达不同的情感,还可以随机发出很多的只言片语。

当然,老人护理机器人的功能并不局限于此。随着人工智能和机器人技术的不断发展,我们相信,在未来,老人护理机器人将具有更多的功能,能够为老人提供更加全面和细致的服务,从而大大减少老人对于护理人员、家人和朋友的依赖程度,增强其独立生活的能力。但与此同时,老人护理机器人的发展和使用也潜藏着巨大的伦理风险,在一定的条件下,这种伦理风险还可能会进一步转化为伦理悲剧。深入分析和理解老人护理机器人的伦理风险正是避免其进一步转化为伦理悲剧的前提和必要条件。

二、 老人护理机器人的伦理风险

任何高科技的发展和使用都存在着一定的伦理风险,老人护理机器人也不例外。对此,部分学者已经提高了警觉,并开始从各方面探究老人护理机器人所潜在的伦理风险。例如,罗伯特·斯帕罗、琳达·斯帕罗、阿曼达·夏基和诺埃尔·夏基就从老人的生命质量的角度探究了发展和使用老人护理机器人的伦理风险。香龙·华莱则从护理实践对于护理人员的不同德性的培养的角度研究了发展和使用老人护理机器人的伦理风险。本文并不试图从各个不同的角度对老人护理机器人的伦理风险作全面的分析,而主要从老人的身心健康和生命质量的角度来探究老人护理机器人的伦理风险。总体而言,该伦理风险主要体现在如下几个方面:

1. 减少老人的社交生活总量

社交生活对老人的身心健康有着重大的影响。大量研究表明,丰富的社交生活能够减缓老人认知功能下降的速度、降低其患老人痴呆症的风险;而贫乏的社交生活则会增加老人认知功能下降的速度和患老人痴呆症的风险。例如,简·S.萨钦斯基和丽萨·A.佩费弗尔等在研究社交生活与痴呆症的关系时发现低水平的社交生活更容易引发痴呆症[4];伊丽莎白·L.桑普森和阿斯特丽德·E.弗莱彻等在研究认知功能和社交生活对老人的影响时发现认知功能的下降和社交生活的减少都能够增加老人死亡的风险[5]。可见,保持一定量的社交生活是维护老人身心健康的必要条件,同时也是老人护理的必然要求。护理人员、家人和朋友在为老人提供各种帮助的同时恰恰可以为满足老人的社交生活提供平台和机会。老人可以在接受帮助的过程中与护理人员、家人或朋友进行各种形式的交流,从而实现其社交需求。另一方面,随着年龄的逐渐增长和身体功能与认知功能的逐渐下降,老人从事社交生活的能力也将逐渐下降甚至丧失,相应地,老人社交生活的范围也就会受到极大的限制。在很多情况下,护理人员、家人和朋友可能成为老人社交生活的主要的甚至唯一的源泉。所以,对于老人而言,源自护理人员、家人和朋友的社交生活并不是可有可无的,而是非常重要的和不可或缺的。然而,当老人护理机器人取代护理人员、家人和朋友而为老人提供各种帮助和支持时,老人与护理人员、家人或朋友的潜在交流机会就减少了甚至被剥夺了,而老人社交生活的唯一重要的源泉也就丧失了,这将大大减少老人社交生活的总量,进而对老人的身心健康带来极大的威胁。正是基于如上考虑,罗伯特·斯帕罗和琳达·斯帕罗相信:“那种认为通过发展机器人来承担本由人类所承担的护理角色不会减少被护理者与人类交流的想法是幼稚的”,并进一步指出:“把清洁任务及其他家常杂务交给机器人Robocare、Rosie、Yumel、Wakamaru或Mentorbot或者它们的等同物极可能会伤害老人的健康”[6]。也许,部分伦理学家和机器人技术专家会认为娱乐型机器人的发展和使用能够在一定程度上弥补老人社交生活的不足,但将老人的社交需求委托给娱乐型机器人的做法是值得怀疑的甚至是危险的,因为娱乐型机器人的发展和使用本身就面临着巨大的伦理困境。关于这一点,我们将在后面作具体分析。

2. 侵犯老人的隐私

根源于羞耻感和对身体的完整性、私人空间及亲密的人际关系的需求的隐私不仅因其作为个体的自主、同一性和完整性等的必要条件而被认为具有工具价值[7],而且还因其作为安全这一核心价值的表达而被认为具有内在价值[8],也正因为如此,它被看做是“一种需要、权利、必要条件或人类尊严的一个方面”[9]。这就意味着老人护理机器人的发展和使用必须以尊重老人的隐私为前提和内容。然而这一要求恰恰可能会成为反对发展和使用老人护理机器人的理由,因为它极可能会威胁甚至侵犯老人的隐私。这种威胁和侵犯主要存在于使用具有监测管理功能的老人护理机器人的过程之中。例如,在医生、家人等使用老人护理机器人远程监测老人的健康状况时,老人的各种不愿被他人所知的行为如更衣、洗澡等都可能被他人所知晓;对于那些患痴呆症的老人而言,这一情况可能会更加严重和复杂,因为他们随时都可能会忘记机器人的存在而自以为处于私密的环境中,因此,他们随时都可能做出仅在私密的环境中才能做出的行为,而这就使得他们的隐私完全彻底地暴露于他人面前。当然,在特定的条件下,我们可能会为了老人的安全着想而适当地忽略老人对隐私的需求,但我们决不能以老人的安全为理由彻底放弃对老人隐私的保护,因为这一做法本身就陷老人于一种不安全的境地。

3. 损害老人的自由和自主

对于老人而言,自由和自主不仅是身心健康的必要条件,而且是有尊严地生活的必然要求,因此,维护老人的自由和自主也是老人护理的主要内容之一。但在一定的条件下,老人护理机器人的发展和使用可能会威胁和减少老人的自由和自主,这主要体现在以下方面。首先,老人护理机器人的发展和使用可能会通过限制老人的活动范围和种类而威胁和减少老人的积极自由。例如,一些能够识别危险信号的机器人不仅能够对老人的危险行为发出警告,而且还能够进一步阻止老人从事此类危险性活动,如阻止老人攀爬、阻止老人外出等,这就在一定程度上限制了老人的活动范围和种类,从而损害了老人的积极自由。此外,随着老人护理机器人的功能不断完善和能力不断增强,这种限制和损害可能会越来越明显。其次,老人护理机器人的发展和使用可能会通过侵犯老人的隐私而威胁和减少老人的消极自由,因为隐私与消极自由有着紧密的联系。在《隐私的自由价值》一文中,布鲁因指出:“侵犯他人的隐私不仅可能会减少他人的消极自由,而且还可能会减少他人对其所拥有的消极自由的认识”[10]。此外,罗伯特·斯帕罗和琳达·斯帕罗还指出,老人护理机器人的发展和使用可能会减少甚至剥夺他人对老人自由和自主的尊重和承认的机会,因为对老人的自由和自主的尊重和承认需要通过老人与他人的交往才能实现,而老人护理机器人的发展和使用恰恰可能会减少老人与他人的交往。

4. 欺骗性风险

这一风险主要源于娱乐型机器人的发展和使用。大量经验研究表明,娱乐型机器人的发展和使用能够减轻老人的孤寂和抑郁、增强老人的交流沟通能力等。例如,玛丽安·R.班克斯、丽萨·M.威落比和威廉·A.班克斯在研究娱乐型机器人AIBO对老人的影响时发现,它能够像真实的小狗一样减少长期居住于疗养院的老人的孤寂[11]。可见,娱乐型机器人的发展和使用对于老人的身心健康有着积极的促进作用,而这似乎也可能成为发展和使用娱乐型机器人的充分理由。尽管如此,部分伦理学家还是对此表示怀疑和担忧,因为,这一积极的效用极有可能是建立在对机器人及其与人类关系的本质的模糊的甚至虚假的认识之基础上的,在某种程度上,这可以通过人们描述机器人及其与人类关系的特征时所使用的诸如“情感”“理智”“朋友”和“伙伴”等词汇体现出来。对此,罗伯特·斯帕罗指出:“虽然宠物机器人可能会给孤独的老人带来一系列明显的益处,但绝大部分和最重要的部分都是建立在有意识或无意识的误解之基础上的:误认机器人为真实的动物”[12]。这种误解本身就是不道德的,因为,正确认识和理解世界本身就是人类的道德义务。另一方面,由这种误解而产生的对机器人的期望是不可能得到真正实现的,因为它超出了机器人的能力范围。对此,罗伯特·斯帕罗和琳达·斯帕罗宣称:“如果机器人能够使人们更幸福的原因仅仅在于它的真实本质没有得到恰当的认识和理解,那么,它就没有对人类的康乐提供任何实质性的改进;事实上,机器人的使用还可能会对人们产生伤害。因此,试图让机器人承担护理角色是愚蠢的,更是不道德的”[6]

5. 对象化风险

当老人护理机器人对待老人就像对待一堆无生命的物质时,老人就被对象化了,这既与老人护理机器人的使用方式相关联,同时也与老人的主观感受息息相关。例如,在帮助老人进食或挪动老人的过程中,老人护理机器人那机械和冷酷的行为方式就可能会令老人产生一种被对象化的感觉。这不仅是对老人尊严的一种严重伤害,而且还可能会令老人产生一种无能感,这种无能感甚至可能比依赖于护理人员时所产生的无能感更加强烈,而这就极大地威胁着老人的幸福和身心健康。也正因为如此,阿曼达·夏基和诺埃尔·夏基才提醒我们:“如果以一种不敏感的方式运用机器人来举起和移动老人,老人的幸福极可能会减少”[3]

三、 老人护理机器人伦理风险的预防策略

如上有关老人护理机器人的伦理考量虽然不足以否定老人护理机器人的发展和使用,但却足以令我们意识到最大限度地降低其伦理风险的必要性。当然,降低老人护理机器人的伦理风险并不仅仅是某一个体或团体的责任,它需要机器人技术专家、伦理学家、医生、护理人员及老人本身的共同努力。总体看来,这种努力主要体现在三个方面。

1. 以价值敏感性设计为老人护理机器人的设计路径

技术设计并不是价值中立的,它能够对社会的、伦理的和政治价值的特殊构造产生直接和系统的影响,可以说,“任何技术设计都是一种道德努力”[13]。可见,从技术设计的层面来防范老人护理机器人的伦理风险既是可行的,也是必要的。为此,大多数机器人技术专家提倡以价值敏感性设计为老人护理机器人的设计路径。

价值敏感性设计路径的主要目标在于将人类价值尤其是伦理道德价值融入到技术设计的过程当中,它由三个阶段组成:概念探究阶段、经验探究阶段和技术探究阶段。概念探究阶段主要分析与特定的技术设计相关的伦理道德价值。玛丽·L.卡明斯指出,在运用价值敏感性设计路径进行技术设计的过程中,我们必须考虑的重要的人类价值包括人类的福利、财产所有权、隐私、免于偏见、普遍的可用性、信任、自主、知情同意、责任,以及环境的可持续性等[14]。就老人护理机器人设计的概念探究阶段而言,老人的福利、隐私、自由自主及社交需求等相关价值具有首要的重要性。经验探究阶段主要通过定性和定量测量手段对特定的设计进行技术和价值层面的评价,在此,我们既可以探究设计权衡(design trade-offs)如何对观念、行为及相互竞争的价值的优先性产生影响,也可以探究设计师如何支持或减少价值冲突。例如,在老人护理机器人的设计进程中,设计师必须考虑的一个重要因素就是提高老人的自主能力,但对这一要素的过度关注很可能会威胁到其他重要的伦理价值,如老人的隐私、社交生活等,而通过定性和定量测量手段所做的经验研究恰恰可以帮助找出这些价值冲突的平衡点。技术探究阶段不仅探究特定的技术设计如何支持与之相关的伦理道德价值,而且还进一步探究如何通过不同的设计可能性来最好地支持相关的价值。值得注意的是,在特定的设计未完成之前,这三个阶段都会重复地进行,而且它们是相互影响、相互支持和相互依赖的。

当运用价值敏感性设计路径将与老人的身心健康和生命质量息息相关的伦理道德价值融入到老人护理机器人的设计进程中时,老人的身心健康和生命质量不仅不会受到侵犯,而且还能够得到一定程度的保障,而这就在一定程度上降低了发展和使用老人护理机器人的伦理风险,这即使是在我们不能全面而准确地预测老人护理机器人的伦理后果和影响的前提下也是可能的。

2. 合理规定老人护理机器人的使用方式

某种程度上,老人护理机器人的伦理风险会随着其使用方式的不同而发生改变。根据其为老人提供帮助的方式,我们可以将老人护理机器人的使用方式分为两种:独自为老人提供帮助和与护理人员共同为老人提供帮助。一般而言,老人护理机器人独自为老人提供帮助时所潜在的伦理风险很可能比其与护理人员共同为老人提供帮助时所潜在的伦理风险要高。例如,当老人护理机器人独自移动老人时,它可能会因其机械和冷酷的行为方式使老人面临对象化的风险,但当它与护理人员共同移动老人时,这种伦理风险就会因护理人员的在场而得以减小或避免。也正因为如此,绝大部分机器人技术专家、伦理学家甚至老人本身都反对以老人护理机器人来取代护理人员的护理角色,而仅仅在协助护理人员的意义上支持老人护理机器人的发展和使用。在此基础上,我们还可以进一步规定老人护理机器人的使用方式。例如,在使用具有监测管理功能的老人护理机器人时,我们可以限制它的监测时间,以减小或避免其对老人隐私的过度侵犯;又如,在使用娱乐型机器人时,我们也可以限制它与老人独处的时间,以减小或避免其对老人社交需求的剥夺。

3. 提高老人及相关护理人员对老人护理机器人及其与人类关系的本质的认识

对老人护理机器人及其与人类关系的本质的不同认识也能够在一定程度上影响老人护理机器人的伦理风险。正确认识老人护理机器人及其与人类关系的本质有助于老人、护理人员等对老人护理机器人所带来的益处产生合理的期望,从而减小或避免因对老人护理机器人的过度期望而产生的伦理风险;反之亦然。在《机器狗的进军》(The March of the Robot Dogs)和《被机器控制?老人护理的未来》(In the Hands of Machines? The Future of Aged Care)两篇文章中,罗伯特·斯帕罗和琳达·斯帕罗就曾指出,老人护理机器人为老人带来的绝大部分表面的益处都是建立在对它及其与人类关系的本质的错误认识或模糊认识之上的,而这不仅不会对老人的生活带来任何实质性的改善,而且还可能会对老人产生伤害。要减小或避免这些伤害,就必须提高老人及相关护理人员对老人护理机器人及其与人类关系的本质的认识和理解。这既可以通过机器人技术专家及相关专业人员亲自向老人及相关护理人员讲解老人护理机器人的相关知识而得以实现,也可以通过向老人及相关护理人员发放相关的知识手册而得到实现。

当然,我们还可以通过其他途径来减小或避免老人护理机器人的伦理风险,这不仅是可能的,而且还是必须的,因为,最大限度地减小或避免老人护理机器人的伦理风险是其发展和使用的前提和必然要求。

参考文献
[1] Broadbent E, Stafford R, MacDonald B. Acceptance of Healthcare Robots for the Older Population: Review and Future Directions[J]. International Journal of Social Robotics, 2009, 1(4):319-330.(2)
[2] Mitzner T L, Chen T L, Kemp C C, et al. Identifying the Potential for Robotics to Assist Older Adults in Different Living Enviroments[J]. International Journal of Social Robotics, 2014, 6(2):213-227.(1)
[3] Sharkey A, Sharkey N. Granny and the Robots: Ethical Issues in Robot Care for the Elderly[J]. Ethics and Information Technology, 2012, 14(1):27-40.(2)
[4] Saczynski J S, Pfeifer L A, Masaki K, et al. The Effect of Social Engagement on Incident Dementia: The Honolulu-Asia Aging Study[J]. American Journal of Epidemiology, 2006, 163(5):433-440.(1)
[5] Sampson E L, Bulpitt C J, Fletcher A E. Survival of Community-dwelling Older People: The Effect of Cognitive Impairment and Social Engagement[J]. Journal of the American Geriatrics Society, 2009, 57(6):985-991.(1)
[6] Sparrow R, Sparrow L. In the Hands of Machines? The Future of Aged Care[J]. Mind and Machine, 2006, 16(2):141-161.(2)
[7] Debatin B. Ethics, Privacy, and Self-restraint in Social Networking[M]//Trepte S, Reinecke L. Privacy Online: Perspectives on Privacy and Self-disclosure in the Social Web. Berlin: Springer, 2011:47-60.(1)
[8] 詹姆士·摩尔. 走向信息时代的隐私理论[M]//特雷尔·拜纳姆, 西蒙·罗杰森. 计算机伦理与专业责任. 北京:北京大学出版社, 2010:190-203.(1)
[9] 尤瑞恩·范登·霍文. 信息技术、隐私及个人数据保护[M]//尤瑞恩.范登.霍文, 约翰.维克特. 信息技术与道德哲学. 北京:科学出版社, 2014:249.(1)
[10] Boudewijn de Bruin. The Liberal Value of Privacy[J]. Law and Philosophy, 2010, 29(5):505-534.(1)
[11] Banks M R, Willoughby L M, Banks W A. Animal-assisted Therapy and Loneliness in Nursing Homes: Use of Robotic Versus Living Dogs[J]. Journal of the American Medical Directors Association, 2008, 9(3):173-177.(1)
[12] Sparrow R. The March of the Robot Dogs[J]. Ethics and Information Technology, 2002, 4(4):305-318.(1)
[13] van Wynsberghe A. Designing Robots for Care: Care Centered Value-sensitive Design[J]. Science and Engineering Ethics, 2013, 19(2):407-433.(1)
[14] Cummings M L. Integrating Ethics in Design Through the Value-sensitive Design Approach[J]. Science and Engineering Ethics, 2006, 12(4):701-715.(1)