人工智能辅助医疗决策并未挑战尊重自主原则

孙保学

[摘 要]人工智能辅助决策系统被越来越多地应用到医疗研究和临床应用。随着大数据算法诊断疾病和提供治疗方案的精确性和可靠性不断提高，人们对智能医疗系统的信任度也在不断提升；随着它们越来越多地接管医护人员的工作任务，人类的自主决策权似乎也在不断被侵蚀。因此，人们开始担忧大数据算法使医生和患者都陷入被动，成为听命于人工智能的傀儡。但是，我们仔细考察后会发现，智能化医疗决策支持系统的应用并不会挑战生命医学伦理的尊重自主原则。相反，它更可能会放大患者的自主选择权。实际上智能技术正在为患者重新赋权，教育水平的提升使患者有能力也有条件获得更全面的医疗信息，人人参与的民主化医疗要求医护人员有责任尽可能地帮助患者，与其共同做出更好的医疗决定。

[关键词]患者赋权；尊重自主原则；医疗决策支持系统；算法决策；民主化医疗

[作者简介]孙保学，湖南师范大学道德文化研究中心、中国特色社会主义道德文化省部共建协同创新中心、人工智能道德决策研究所讲师，硕士生导师。

[基金项目]国家社会科学基金青年项目“人工智能的道德决策研究”（17CZX019）；国家社会科学基金重大项目“大数据环境下信息价值开发的伦理约束机制研究”（17ZDA023）

[引用格式] 孙保学.人工智能辅助医疗决策并未挑战尊重自主原则[J].伦理学研究,2019(06):81-86.

在医学伦理中，尊重患者的自主权是一项最基本的伦理原则。它要求医护人员、患者家属“帮助患者做出自己的决定（比如通过提供重要的信息）并尊重和遵从那些决定（即使健康方面的专职人员认为患者的决定是错的）”[1]（P63）。随着现代医疗技术的进步，智能化医疗决策支持系统（medical decision support system，MDSS）的引入创造出新形式的道德选择问题，人工智能代理决策成为医学伦理的热点话题。从对病患的最佳利益出发，医护人员采用MDSS 提高医疗决策的精准度，但也可能被它诱导。最近，《自然-医学》期刊发表的一项研究显示，使用4 万余幅肺癌患者CT 扫描图像训练的深度学习模型预测肺部肿瘤的准确率高达94%，而且在对比实验中，全部优于样本组平均拥有8 年临床经验的6 名放射科医生[2]。有不少人担忧，随着MDSS 在医疗决策中被越来越多地采用，不仅医生的权威会被削弱，患者的自主选择权也可能受到侵蚀，使他们都更信赖人工智能。

一、医疗决定：从医生的权威到患者的自主

在西方医学史上，患者要遵照医嘱，医疗决定基本上都由医生做出。当患者到了医院或诊所，医生就是权威，患者对于医生的医疗决定要言听计从。“医生不会问病人希望怎么样；也不会去了解病人优先考虑的是什么；有时还会对病人隐瞒一些重要资料，比如吃的是什么药、接受的是什么治疗以及诊断的依据；甚至会禁止病人翻阅自己的病历记录。医生说，病历并不属于病人。医生把病人当成一个孩子，认为病人过于脆弱而且头脑简单，不能直接面对事实，更不要说自己做决定了。”[3]（P194）然而，这种看法在近几十年来已经发生明显转变。

1.从最小化伤害到保护自主选择

传统上，医生代表着权威，医疗决定权牢牢把控在医生手里，患者只好听之任之。然而，20 世纪50 年代后期，“知情同意”（informed consent）的提出打破了“一切听从医生决定”的做法。在纽伦堡审判中，纳粹在很多犹太人不知情的情况下进行人体实验的行径被披露，激起了人们对于知情同意的高度重视。1957 年，“知情同意”这个词在美国法院的一次医疗事故案例中第一次出现，到70 年代初学术界已经展开了详细讨论。

现在，医疗决定权已经从医生移交到患者手中。无论是医生还是医学研究者在对病患或受试者进行任何实质性干预前，都必须征得他们的同意，这已经被确立为一项基本的医学准则。起初，设立知情同意准则是为了将潜在伤害最小化，同时避免不公平地对待病患或受试者。不过，近年来知情同意“关注的焦点已经从强调医生或研究者告知信息的义务，转移到强调病人或受试者理解和同意的质量。促使重点转移的动力是自主”[4]（P77）。从20 世纪70 年代中期开始，学者们论证知情同意的必要性时更多地是围绕保护患者和受试者的自主选择权展开。尤其，杰伊·凯茨（Jay Katz）在1984 年出版的《医生与病人之间的沉默世界》起到了关键的推动作用。他列举了大量案例有力地论证了患者不仅可以而且应该自己来做医疗决定[5]。

此后，越来越多的医学院开始接受这种观念，并在将其贯彻到教学过程，要求学生树立尊重患者自主权并为患者服务的意识。“老师教导我们要把病人当作有自主权，能自己做决定的人。”[3]（P196）与此同时，患者赋权（patient empowerment）革命使越来越多的患者在医疗活动中的自主选择意识开始觉醒，不再对医生的建议言听计从。于是，“大部分医生都认真地把决定权交到了病人手里，把所有可选择的治疗方法和可能发生的风险通通告诉了病人；有些医生甚至拒绝给病人任何建议，就是担心给出的建议会影响病人做决定”[3]（P196）。在患者明显做出错误决定时，医生会陈述利弊试图说服患者，但往往也不能过度干预。“目前为止，医学的正规说法是，他们怎么决定，你就怎么做。无论怎样，身体的所有权是属于病人自己的。”[3]（P196）

2.患者放弃自主决定权的情况

患者拥有自主权并不意味着他必须行使这项权利。患者希望能有好的结果，无论医疗决定是由谁做出的。卡尔·施耐德（Carl Schneider）的实证研究揭示：“虽然病人基本上都希望知悉医疗情况，但其中有相当数量的病人（尤其是老年病人和危重病人）不想做出自己的医疗决定，甚至可能不想以任何非常显著的方式参与这些决定。”[4]（P63）如果患者认为他的自主选择很可能不会导致好的结果，那么患者就有可能放弃自己的这个权利，将其转交给其他更有能力或资格做出决定的人，或者听天由命。在很多情况下，患者会选择放弃自己的自主决策权，希望医生、家人或朋友代替他们做决定。一项被广泛引用的调查研究同样表明，“大多数（59%）确诊初期的患者希望医生代表他们做出治疗决定。患者们最常说的是：‘我希望由我的医生来决定采用哪种治疗方法，而不是认真考虑我的意见。’只有12%的确诊初期患者愿意积极地参与决策”[6]（P945-946）。在具体的医疗情景中，患者可能因为身体状况、精神焦虑或其他原因难以做出正确决定，他们可能会为了缓解身体或心灵的巨大痛苦而不假思索地做出决定。

在上述情形中，患者希望医生和家人能在其病情严重而无法理性地权衡选择的利弊时，分担做决定的责任。由于未知的医疗风险的普遍存在，面对生死攸关的重大决策，其实医生、患者和家人都不太愿意主动做出选择，更不用说需要面对随之而来的责任承担。但是，总得有人做出选择并为此承担责任。医生作为有着良好的职业训练和丰富的临床经验的专业人士，被认为要比患者冷静得多，能够更客观地看待患者的病情，尽可能地减少情绪的干扰，还可以通过集体商讨的方式做出正确的决策。当然，医生除了要对决策失误承担责任，内心也会有对生命的愧疚；对于家人，错误的决定也会给他们带来深深的自责。

“谁决策，谁负责”的模式将医疗决策权更多地赋予患者，但这也给患者带来巨大的压力。面临可能涉及生死决策时，患者往往会受到无意识和非理性压力的影响。而且，医生作为关键的信息提供者，其行为方式不同可能导致患者做出完全相反的决定，而最终的责任都由患者来承担。“当决策的过程变复杂时，很多人倾向干脆不做选择……（如果）决定困难得多，后果也严重许多，患者想当然会逃避做决定的责任。”[7]（P6）在这种情况下，如果医生真的尊重患者自己做出医疗决定的自主权的话，是否也应该尊重他们将决定权再次交给医生的权利呢？

二、数据驱动的智能医疗决策

上述令医生和患者同感纠结的选择难题是否可以交给智能机器来完成，使他们都能从压力中解脱出来呢？事实上，医生的工作（从病情分析到手术治疗）现在越来越多地被MDSS 所接管；同时，患者为了确诊病症，往往也更信赖具有更先进的MDSS设备的医院。但是，即便确诊，患者仍然要面对“该不该手术？该不该放化疗？哪种治疗方案是更好的？”等选择困境。对于这些选择，人工智能辅助医疗决策系统会做得比医生更好吗？

1.数据驱动的辅助医疗决策

人工智能辅助医疗决策系统被寄予厚望，很大程度上是因为它们能够将医生和科研人员从繁琐的数据处理和分析工作中解放出来。确诊工作是医疗决策的前提，很多患者因为误诊而错过治疗的最佳时机，甚至付出生命代价。随着人们对于精确性要求的提高，完成这项工作所需的劳动量也成倍上升。现在，医生和医学研究者已经开始利用人工智能系统分析患者的基因数据，通过对比癌症基因数据库和已发表的癌症遗传学文献来诊断疾病。以前，这项工作需要专家团队耗费大量时间和精力来完成，现在智能诊断系统可在几分钟内完成，大大提高了效率。

现阶段，高效的智能化诊疗系统是由数据驱动的，这与传统的诊断和治疗依赖医生的临床经验和直觉判断形成鲜明对比。机器学习算法对于疾病的诊疗发挥着越来越重要的作用，但具有较为完备的医疗大数据是智能辅助医疗决策的前提。目前，基因数据库、临床治疗数据库、医疗影像数据库等都在不断完善。据报道，“在过去的十年中，超过90%的美国医院已经实现了计算机化，超过一半的美国人在Epic 系统（注：Epic 公司是美国医院最大的电子病历供应商）中拥有自己的健康信息”[8]。如今，大多数电子病历系统都具备决策支持功能。在会诊和检查时，智能系统会为医生提供指导和建议，通过屏幕上显示清单和提示的方式直接呈现给医生。

基于电子病历系统提供的案例数据和最新研究成果，人工智能辅助决策系统可以实现推理、学习和交互等功能。据报道，IBM 的沃森“医生”可以对乳腺癌、肺癌等13 个癌种提供治疗方案建议，这些建议甚至已经可以做到与世界顶级肿瘤专家的建议高度吻合。IBM 在其官网上宣称，沃森“医生”能够做到提前数小时预知患者某些疾病的发病时间，为患者制定相应的医护方案；“能够帮助癌症晚期患者选择更具疗效的全新治疗方案。通过分析复杂的基因数据和最新的研究成果，沃森可以帮助医生发现原本可能失之交臂的治疗方案”[9]。这些技术进步使很多人乐观地认为，人工智能系统的疾病诊断能力迟早会全面超越人类医生，尤其在依靠医疗影像和检验检测方面。

2.大数据算法重塑医疗生态

在未来，大数据算法可能比我们自己更了解我们的身体状况和内心感受。医疗大数据是海量的，不只是人类群体疾病的横向数据，还包括个体从小到大的纵向数据。智能可穿戴设备可以实时监测我们每天的运动量、心跳速率、血压和血脂等各项身体指标，这些数据可以被实时地存储到医院或数据平台的云端。如果异常值出现，它立刻会发出警报，提醒个体，甚至代替他们启动急救方案。

近年来，生物技术与信息技术的交叠融合显著增强，智能化医疗正在加速发展。尤瓦尔·赫拉利（Yuval Harari）预测：“我们生命中最重要的医疗决定，并不是取决于我们自己是否觉得健康，甚至也不是看医生做出什么判断，而是要看比我们更了解我们身体的计算机得出怎样的运算结果。再过几十年，大数据算法就能通过持续的生物统计数据流，24 小时监测我们的健康状况。早在我们出现任何感觉之前，算法就能监测到流感病毒、癌细胞或阿尔茨海默病的蠢蠢欲动，接着就能针对每个人的体质、DNA（脱氧核糖核酸）和性格，量身推荐适合的治疗方案、饮食和养生之道。”[10]（P45）实际上，这种极端观点认为未来我们是被大数据算法统治，生活在数据主义的阴霾下，我们终将成为听命于大数据算法的傀儡。

按照赫拉利的分析，过去几千年人类一直奉神灵为最大权威，直到文艺复兴和启蒙运动以来的几个世纪，人逐渐取代神灵，成为新的权威。自此，人们追求平等，信仰自由，人本主义开始兴盛。赫拉利预测，就在我们生活的当下时代，正在发生一场权威再次转移的革命——从人类转移到大数据算法。以前，宗教神话为神灵确立权威，人本主义为人树立权威；如今，大数据算法正在智能社会建立自己的权威。新权威的确立意味着人本主义信念的瓦解，人类将对新权威言听计从。

那么，我们凭什么甘愿听信大数据算法？赫拉利指出，“你会发现自己老得面对一个又一个‘病症’，得遵守这个或那个算法建议。不想听算法的？那么医疗保险就有可能被取消，或者被公司解雇”[10]（P46）。如果这种预测是一种极有可能发生的情形，那么不听从算法的指引而固执己见将会付出惨痛的代价。赫拉利认为，我们已经被以大数据算法为核心的技术绑架，不得不听命于它，我们在未来可能将毫无自主可言。在下文，我将论证或许我们不用如此悲观。

三、尊重自主原则不会受到挑战

尊重自主权的问题之所以出现，在某种程度上可归因于人们对医学权威的质疑和挑战。在普通人缺乏医学知识的时代，医生确实能够做出比普通人更加可靠的判断，因此绝大多数人自然愿意听命于医生。但是，随着整体教育水平的提升，人们能够越来越多地了解自己的身体和疾病，并且关心医生的诊治过程，甚至质疑他们的某些做法。一些患者、律师、伦理学家等一起掀起患者赋权革命，“开始反对这种传统医疗决定方式，认为医生做决定时，患者的意见应该也要更积极地加入”[7]（P2）。在人工智能时代，医生的知识权威角色被进一步弱化，有很大一部分工作将会被MDSS 接管。随着系统可靠性的不断提高，患者有可能更愿意相信大数据算法而不是医生的建议。但是，这种相信是否会发展成高度信赖仍然是存疑的。实际上，存在多重因素会削弱人们对MDSS 的信赖，患者仍然保有自主决策权。

第一，智能诊疗系统并不总是做出优于医生的决策。现代医学给很多人一种错误印象：医学已足够发达，能够治愈绝大多数疾病。近几十年来，医学的确取得了长足的进步，但并不是所有疾病都能治愈。智能诊疗系统是基于过往的病例数据进行预测和决策，难以应对普遍存在的“医学无法解释症状”（medically unexplained symptom，MUS）。2011 年，《身心医学》杂志发表的一项针对620 名德国患者的统计研究发现，MUS 足足占了所有已报告症状的三分之二[11]（P263）。况且，人体作为一种复杂系统，选择治疗方案要因情况而异。智能诊疗系统擅长分析已经有成熟应对方案的病症，但面对未知病症，专业医护人员可能更有优势。据报道，目前即使是最先进的MDSS 也经常给出不靠谱的医疗建议，在医院中并没有发挥太大的实际作用。[12]在未来较长时间内，MDSS 完全取代医生的工作还很难实现。

第二，从社会经济的角度考虑问题，很多患者可能不会选择使用MDSS。有时，人们对技术的发展可能过于乐观。以电子病历系统为例，它的普及恰恰带来一些意料之外的副作用，甚至与我们的预期完全相反：“同安装软件之前相比，采用电子病历后，医生给病人开出的账单越来越贵。”[13]（P110）研究表明，如果医生更容易调取患者的X 射线记录和其他诊断图像，他反而更可能要求患者进行新的影像检查[13]（P111）。诊断提示虽然有助于防止医生忽视某些细微病症，但却刺激医生为患者做了很多不必要的检查，这大大提高了医疗成本，这将使很多患者不堪重负。医院以高昂成本采购的MDSS 可能在很长一段时间内只能服务少数人，因此在推广应用上存在普惠难题。

第三，辅助医疗决策技术的先天限制因素可能导致患者并不信任它们。电子病历系统的引入分散了医生的注意力，提高了他们职业倦怠感。“在检查室里，医生把病人一半的时间花在面对屏幕做电子工作上。”[8]医生不得不把大部分时间花费在屏幕上，而不是和患者面对面地沟通。“超过90%的接受调查的以色列医生表示，电子病历‘妨碍’了他们同患者的沟通。”[13]（P115）作为医生，在屏幕前所做的工作主要是通过“复制+粘贴”的惯性动作来填写问诊报告。这些生搬硬套拼凑起来的病历记录恰恰又降低了病历数据的精准性，冗余样本增多和数据失真会导致机器学习出现诊断误差的可能性大大增加。而且，智能诊疗系统可能导致医生被过度引导，离患者越来越远，丧失获得直接经验的机会，从而削弱或限制医生的专业技能。这可能成为医疗决策失误的某种隐秘根源，这些因素所导致的决策失误会降低人们对智能诊疗系统的信任度。

因此，我们有理由相信患者依然拥有自主决定权。虽然智能系统在某些方面具有优势，但其难以克服的自身局限使得理性的患者不会因为它的突出优点而对其言听计从。

四、放大患者的自主权民主化医疗

随着智能医疗时代的到来，家长式的（paternalistic）医疗模式将逐渐被淘汰，而医疗民主化的进程将逐步实现。事实上，患者正在获得更多的主导权，成为医学进步不可忽视的力量，开始积极地参与到临床医疗决策。他们会对自己的病情提出问题，到网络上查找资料，研读教材和最新论文，与专家商讨治疗方案，最后自己做出决定。“患者正在从根本上变得越来越聪明：他们了解自己的身体以及生活情况，并且比任何人都关注自己的健康。然而，这并不代表他们会坚持做有益健康的事情，只是一旦出现问题，他们则相当擅长发现。”[14]（P9）传统上，患者服从医生的权威是因为患者和医生之间存在知识鸿沟。如今，随着全民教育水平的提升，每个人都能够通过阅读和学习掌握一些基本的医疗知识，甚至紧跟医学前沿。患者与医生之间的知识鸿沟已经不像以前那样不可跨越。

人人参与的民主式医疗时代正在到来。对于一些疑难杂症，患者本人及其家人会通过书籍和网络上最新科研成果的学习成为某种“专家”。正如《柳叶刀》杂志的编辑埃玛·希尔所说：“每个患者在自己选择的领域里都是专家，这个领域就是自己的生命。”[14]（P3）在未来，患者可直接面对智能医疗系统做诊断和治疗，这其实是对患者的重新赋权。托普用古登堡印刷机与辅助医疗系统进行类比。古登堡印刷机使阅读不再是教父、权贵和社会精英的某种特权，平民百姓同样能够阅读。类似地，智能设备让医疗不再是医生的特权，每个人都有权利参与到针对自己的医疗决策中，我们正在步入个体化的精准医疗时代。当然，目前的智能医疗决策系统在有效性和稳定性上还有待大幅提升。

尊重患者的自主权是技术应用的一个必然后果。个体化的精准医疗必须考虑患者自身的具体病情，而且智能系统给出的治疗方案很可能并不是经过充分的临床检验的。因此，医疗决定的做出应该根据智能系统提供的诊断结果，由医生、患者和家属等通过协商共同做出，既不能完全交给患者，也不能完全由医生或家属代理。从这个意义上讲，患者有权利要求医生的诊疗符合规程并详细了解医生的治疗方案；医疗机构要履行职责，“确保病人有选择的权利，以及有接受或拒绝信息的权利，是一项基本义务。强制提供信息、强迫选择和含糊其辞地提供信息，都有悖于这一义务”[4]（P64）。当然，如果患者并没有相关的基本知识，却仍然任意地行使自主决策权可能就不是恰当的。如果患者有条件使用智能诊疗系统，实际上他将减少对医疗专业人员的依赖性，从而获得更多的主动选择权与自主决策权。

不过，智能化医疗放大了患者的自主权，但这并不意味着医生的地位和意义被严重削弱。首先，辅助医疗决策技术改变的是数据和信息的流向，能够大大减弱医生和患者之间的信息不对称，医疗决定的做出不再是自上而下的单向模式。但是，过度依赖信息的医疗决策是有陷阱的。医学的实质性进步不是只靠大数据算法就能推动的，还依赖于医护人员的直觉和隐性知识（tacit knowledge）。“复制思维的产物并不等同于复制思维。图灵强调，算法永远也不能完全替代人类的直觉。有意识的推理无法得出‘直觉判断’，这种无意识的判断不会消失。”[13]（P134）医护人员在临床实践中养成的无意识的直觉判断力是快速应对复杂情况的关键要素，是他们建立权威的核心竞争力。智能决策系统获得信任，需要将它的计算结果与医生或专家委员会的判断进行长期的对照比较，只有在明显优于后者的情况下，医学界才会接受它。然而，医学实践充满各种不确定性和不可控因素，很难有一套固定程式对所有疾病提供一揽子的解决方案。人工智能辅助诊疗系统可能会接管医生的大部分工作，但不可能提出完美的治疗方案。

其次，亲密度是塑造良好医患关系的关键，尊重患者的自主权是它的前提。“最佳医患关系的核心是‘亲密度’，即患者可以吐露他们难以启齿的秘密和隐藏在内心深处的恐惧，并且医生的体触安抚可以让患者提升自信，促进患者康复，这一点是不可能被取代的，也永远不会消失。”[14]（P12-13）表面上看，患者是希望获得自主选择的权利，其实患者更愿意希望得到专业能力过硬并且值得信赖的医生的救治。态度亲切的医生能够让患者在做出医疗决定时感受到自主权得到了尊重，医生是在为他着想。对于患者做出的决定，医生有提出建议的义务，消除患者对医疗手段的恐惧，让他们放弃一些不切实际的想法。“现代医学不断发展，技术日新月异，真正的考验已不再单单是祛除病人的病痛，而是医生能否以将心比心的态度提供热情亲切的服务。”[3]（P207）如果患者在做决定方面犹豫不决，或者干脆愿意放弃自己的自主权，那么医生应该挺身而出，提供引导或按照合规程序代替他们做正确决定。

最好的医疗决定是医生和患者都认同的决定，这离不开他们密切的沟通、互动与合作。医疗系统存在的目的是治病救人，应该始终以患者为本，为患者服务。未来医生的角色是为病患提供更好的决策支持，而不是仅仅作为高高在上的专家或权威对患者发号施令，更不是做一个冷漠的理性旁观者。辅助决策系统分担了医生一部分工作，是作为助手而存在，不是以替代者的姿态出现。

结语

在人工智能时代，医学伦理面临这样的新挑战：随着医疗技术越来越智能，我们迫切需要一套医护人员和患者相互信任、亲密协作、共同决策的机制，尽可能地帮助我们摆脱令人进退维谷的境况。这不仅是对医疗体制提出的要求，也是对患者自主决定权的高度尊重。“尊重自主不是医疗领域的纯粹理想，而是专业义务。自主选择是病人的权利，而不是病人的义务。”[4]（P64）在生病时，患者要尽可能地了解医疗过程的细节，明白哪些情况下要充分地表达自己的意愿，也要清楚在哪些情况下需要听取他者的建议。如果患者放弃自主决策的权利，医护人员和家属应该详细地审查这个过程。只有医生与患者彼此充分地了解，才能共同做出最有力的医疗决定。从这种意义上讲，强调医患合作比强调权责更贴近医疗新革命的本质。

[参考文献]

[1]托尼·霍普.医学伦理[M].吴俊华 等，译.南京：译林出版社，2015.

[2]Ardila D，et al.End-to-end lung cancer screening with three-dimensional deep learning on low-dose chest computed tomography [J].Nature Medicine，2019.05.20.https：//www.nature.com/articles/s41591-019-0447-x.

[3]阿图·葛文德.医生的修炼：在不完美中探索行医的真相[M].欧冶，译.杭州：浙江人民出版社，2015.

[4]汤姆·比彻姆，詹姆士·邱卓思.生命医学伦理原则[M].李伦 等，译.北京：北京大学出版社，2014.

[5]Katz J.The Silent World of Doctor and Patient[M].Macmillan，NY：Free Press，1984.

[6]Degner L.，Sloan J.Decision making during serious illness：What role do patients really want to play？[J].Journal of Clinical Epidemiology，1992（9）.

[7]彼得·于贝尔.生命的关键决定：从医生做主到患者赋权[M].张琼懿，译.北京：三联书店，2017.

[8]Gawande A.Why doctors hate their computers[EB/OL].The New Yorker，https：//www.newyork er.com/magazine/2018/11/12/why-doctors-hate-their-computers，2018-11-12.

[9]http：//www-31.ibm.com/ibm/cn/cognitive/aworldwithwatson/index.html.

[10]尤瓦尔·赫拉利.今日简史：人类命运大议题[M].林俊宏，译.北京：中信出版社，2018.

[11]Steinbrecher N，et al.The prevalence of medically unexplained symptoms in primary care[J].Psychosomatics，2011（3）.

[12]Ross C.IBM’s Watson supercomputer recommended“unsafe and incorrect”cancer treatments，internal documents show[EB/OL].STAT，https：//www.statnews.com/2018/07/25/ibm-watson-re commended-un safe-incorrect-treatments/，2018-07-25.

[13]尼古拉斯·卡尔.玻璃笼子：自动化时代和我们的未来[M].杨柳，译.北京：中信出版社，2015.

[14]埃里克·托普.未来医疗：智能时代的个体医疗革命[M].郑杰，译.杭州：浙江人民出版社，2016.