我们一直期望人工智能等技术能缓解医疗供需的矛盾，推动医疗健康服务的公平、可及。但也有观点认为，人工智能将会加剧不公平。

曾经对人工智能的过分宣传可能导致了一些误区，比如“人工智能将取代医生”、“人工智能在临床诊断中胜过人类医生”等等。许多专家表示，人工智能的应用更多的在于合作，而不是取代，患者的治疗是共同掌握在人类医生和人工智能手中的。

在医学界，许多人对人工智能持乐观态度，但是也有人提出警示：人工智能的真正优势尚未在实际的临床环境中完全体现。人们对于人工智能对医疗服务产生的影响也有不同的看法。比如这项技术不仅仅是改善患者的诊疗，可能更多的在于提高科技公司、医疗机构、保险公司的收益。

人工智能要真正服务于医疗健康，有很多方式可以实现，比如它可以通过落实到社区，来为社区提升医疗服务质量和效率，降低成本，从而实现医疗健康服务的公平。可以降低医生的工作负载，避免过度劳累，降低医疗事故风险。在一些医生短缺的地区，人工智能可以提供更多帮助。当然如果急于推进人工智能，也可能会侵犯患者的隐私，或者未能以改善大多数人健康结果的方式部署，那么这项技术的美好愿景是难以实现的。

美国公益机构Human Diagnosis Project的创始人兼主席Jayanth Komarneni就认为，AI可能会像其他科技一样加大医疗差距。

源于有限数据的AI训练结果不能适用于所有群体

如今，机器学习和深度学习非常流行。与严格遵循人类编写的规则的计算机程序不同，机器学习和深度学习都可以查看数据集，从中学习并进行新的预测。特别是深度学习可以通过发现人们可能错过的数据模式来做出预测。

但医疗健康方面的预测不能只依靠AI。相反，有一些可能产生重大健康影响和财务后果的决策仍然需要人类。因为人工智能系统缺乏人类的高级智能，可能会输出一些令人困惑的预测结果，如果医生和医院遵循这些预测实施可能会带来严重的后果。

一个典型的例子来自微软研究院高级研究员Rich Caruana，他在去年的工程和技术杂志进行了解释。在20世纪90年代，Caruana参与了一个项目，该项目试图使用早期的机器学习形式来预测肺炎患者到底是低风险还是高风险病例。但是机器学习模型在预测某些哮喘患者时出现了失误，本来属于高风险病例的患者，该模型将这些人视为低风险患者，只进行轻微的干预而不是住院治疗，但是人类医生不会这么处理。

斯坦福大学生物医学信息学研究中心的研究科学家Kenneth Jung说，如果医生盲目地遵循这个模型，那么就会受到影响。

如果深度学习预测第一次遇到不寻常的数据（例如独特的医疗案例），或者当它们在特定数据集中学习特殊模式并且不能很好地推广到全新的医疗案例时，也会遭遇失败。

AI应用于大规模数据集时，预测效果最佳。例如在中国，由于能够访问大量人群和患者数据，在训练人工智能系统方面具有优势。今年2月，《自然医学》杂志发表了一项来自广州的医疗研究人员的研究报告，该研究报告表示，根据56.7万名儿童的电子健康记录诊断出许多常见的儿童疾病。

但即使是大型数据集也会带来问题，特别是当研究人员试图将他们的算法应用于新的人群时。在《自然医学》发表的研究报告中，50万患者都来自广州的一个医疗中心，这意味着，从该数据集的训练中学到的诊断经验是否适用于其他地区的儿科病例，这一点是无法确认的。每个医疗中心可能会有一些独特的患者群——例如，以心血管中心闻名的医院可能会吸引更严重的心脏病患者就诊。而广州一家以国内患者为主的医院的调查结果可能无法转化为上海外籍患者提供的服务。

在2017年的TED讲座中，约翰霍普金斯医院的Shinjini Kundu解释了AI工具如何从医学图像中收集更多的信息，包括在患者出现症状之前预测疾病。

在其他情况下，这种推断也很难实现。例如，多伦多大学的计算机科学家和生物医学工程师Marzyeh Ghassemi说，贝斯以色列女执事医疗中心共有4万名ICU患者，而这只是波士顿的一家医院。他表示，如果都用这些数据进行预测，可以适用于波士顿的另一家医院吗？也许适用。那么它适用于美国另一个州的医院吗？适用于另一个国家吗？我们不知道。

而人工智能模型可能不适用于所有情况，Ghassemi认为该技术仍值得探索。她说，“我希望AI模型可以适用各种情况，但前提是，需要采取非常积极的预防措施。”

关于这一点，哈佛大学法学教授、精准医学、人工智能和法律项目负责人I.Glenn Cohen说，这些步骤需要贯穿AI的开发和部署全过程。这可能涉及到，验证AI预测的准确性和透明度。在数据收集过程中，研究人员还需要保护患者隐私，使用患者数据进行AI训练也许征得患者同意。

当AI模型准备好对真实患者进行实验性的临床试验时，还会出现另一些问题。Cohen说，“是否需要告诉患者正在使用他们的算法，而AI可以完全指导还是部分指导呢？人们对这些问题的思考真的很少。”

Ghassemi还主张经常审计AI算法，以确保基于种族、性别、年龄和健康保险的不同人群的公平性和准确性。

不完善的法律责任和监管问题

考虑所有这些之后，提供AI服务的人员和机构还需要考虑法律责任问题。与大多数医疗器械不同，这些医疗器械通常只需要监管机构的批准，而AI服务可能需要在从新数据中学习时进行额外的审查。

FDA今年4月发布了一份讨论文件，对如何更新相关监管审查征求公众的反馈意见，一些监管机构正在重新考虑如何评估医疗AI。FDA数字健康主管Bakul Patel说：“我们一直在努力让人们获得AI技术的益处，但我们也意识到目前的方法并不太有效。这就是为什么我们需要着眼于整个产品生命周期。”

除了访问、隐私和法规方面的问题外，还不清楚在AI医疗服务中最终受益的是谁。医疗保健行业已经存在差异：根据世界银行和世界卫生组织的数据，全球一半的人口缺乏必要的医疗保健服务，近1亿人因为治病而陷入极度贫困。根据部署方式的不同，人工智能既可以改善这些不平等，但也可能使其变得更糟。

瑞士联邦理工学院的生物伦理学家Effy Vayena就AI如何实现医疗公平指出，“如果最终只为那些可以负担医疗保健服务的患者提供更高级的服务，我认为这不是人们正在寻求的转变。”

AI医疗能否使所有人受益？

这个问题关系AI发展的愿景和具体实施情况。

早期AI开发的重点是非常狭窄的诊断应用，例如仔细检查皮肤癌或指甲真菌的图像，或查看胸部X光片。但最近的研究试图同时诊断多种健康状况。

2018年8月，英国摩尔菲尔德眼科医院和Deepmind达成合作。谷歌的母公司Alphabet在伦敦开通运营这个AI实验室，该实验室表示，他们已经成功地训练了一套AI系统，可以扫描识别50多种眼部疾病，这达到了顶尖医学专家水平。而同样，广州的研究机构训练了AI系统来诊断儿童的常见疾病。虽然在诊断儿科疾病方面不如高级医师，但确实比一些初级医师表现更好。

这样的AI系统也许可以扩大现有医疗服务的使用范围。但是尽管如此，到目前为止，许多被提议的AI系统的申请都集中在改善目前的医疗服务标准，而不是在各地推广民众负担得起的医疗服务。

咨询机构埃森哲公司预测，到2026年，AI应用程序每年可以为美国节省1500亿美元，但尚不清楚病人和医疗保健系统是否会受益，或者更多的资金是否只会流向科技公司、医疗机构和保险公司。

Kohane说，“谁来推动，以及谁为此支付代价，是一个重要问题。这些商业计划可能会让人产生幻觉，就是医疗机构认为自己知道如何实施。”Kohane认为，即使AI服务可以节约成本，但如果赚取的利润更少，医生和医疗机构可能对AI的应用而感到迟疑。

AI究竟该如何赋能医疗？

提高医疗护理的质量，同时仍然让医生掌握大部分的医学诊断权力，是另一个思路。

Eric Topol是斯克里普斯研究转化研究所主任和创始人，他在2019年出版的著作《深部医学》中谈到了创建医疗Siri，这是一个AI助理，负责记录医生和患者之间的互动，在电子健康记录中输入这些记录，并提醒医生询问患者病史的相关部分。

Topol说，“我的愿望是，通过AI减轻医生的工作量，摆脱他们的数据员角色，承担更多的治病救人的责任，而不用花费太长时间来审查数据。”

Kohane说，“不要忘记医疗助理或抄写员的作用。”采用AI技术可以自动跟踪和转录医生和患者之间的对话。他表示，大多数AI开发中的应用似乎并未专注于此类助手。尽管如此，Saykara和DeepScribe等公司已经开发了这样的服务，甚至谷歌也与斯坦福大学合作测试类似的“数字抄写”技术。