智东西（公众号：zhidxcom）
编译 | 铭滟
编辑 | 徐珊

智东西7月18日消息，谷歌旗下DeepMind研发医疗辅助AI系统CoDoC（Complementarity-driven Deferral-to-Clinical Workflow，延迟互补驱动的临床工作流程），其相关论文发表于《自然医学》（Nature Medicine）。这个系统可以对医学图像作出解释与判断。经过学习，系统可以判断合适依照系统判断或何时听从医生判断。

在模拟医疗环境中，研究人员分析人类如何与CoDoC协作得出最佳结果。在模拟场景中，CoDoC对海量已剔除个人信息的英国乳房X光摄影数据集的阳性病例作出判断。相较于医生判断结果，CoDoC得出的结果假阳性数量减少了25%，且并未遗漏真阳性。

该项研究与联合国项目事务厅的控制结核伙伴关系（United Nations Office for Project Services’s Stop TB Partnership）等卫生保健组织合作。为了帮助研究人员，以及提高现实世界中AI模型的透明度和安全性，DeepMind在GitHub上开源了CoDoC的代码。

一、CoDoC可辅助医生临床判断

CoDoC是一项协助人类与AI协作的附加工具。构建可靠的AI模型通常需要重新设计预测AI 模型的复杂内部工作原理。但是，许多医生几乎不可能自行设计预测AI模型。CoDoC能够帮助医生改进预测AI模型，无需医生修改AI模型本身。

▲图为DeepMind在《自然医学》（Nature Medicine）上发表的论文摘要

在开发CoDoC时，DeepMind设定了三个标准：

1、普通医生能够在电脑上安装并运行该系统。

2、训练数据相对较少——通常只有几百个。

3、该系统可以与任何专有AI模型兼容，并且不需要访问专有AI模型的内部工作原理或训练数据。

二、临床医生应如何使用CoDoC

CoDoC的原理是通过帮助预测AI系统“判断AI什么时候不知道”来提高可靠性。DeepMind研究了临床医生可以使用辅助解释图像的AI工具的场景，例如，检查胸部X射线是否需要结核病测试。

对于任何理论上的临床环境，对每个病例，CoDoC系统训练数据库只需要三项输入：

第一，预测 AI 输出介于0（确定不存在疾病）和1（确定存在疾病）之间的可信度分数。

第二，临床医生对医学图像的解释。

第三，是否存在疾病的基本事实，例如，通过活检或其他临床随访记录。

需要注意的是，CoDoC不需要访问任何医学图像。

▲图为论文中说明如何训练 CoDoC 的图表

CoDoC学习的内容为预测AI模型与临床医生解释相比谁的准确性更高，以及这种准确性如何随预测AI模型的可信度分数波动。

一经训练，CoDoC就可以进入模拟临床流程中。当预测AI模型评估新的患者图像时，其关联的可信度分数将输入系统。然后，CoDoC会评估接受AI的决定还是听从临床医生的建议，最终产生准确解释。

▲图为论文中说明如何将CoDoC插入假设的临床工作流程的图表

三、CoDoC与医生协作可以大幅提升医生影像判断正确率

DeepMind使用多个真实数据集（仅历史且去识别化数据）对CoDoC进行了全面测试。测试表明，将人类医学专业知识和预测AI模型相结合是最准确的方案，这一方案比单独使用任何一种都更准确。

▲图为医生正在看患者的X光片

除了将乳房X线摄影数据集的误报率降低25% 外，CoDoC还可以减少临床医生阅读的病例数量。在允许AI在某些情况下自主行动的假设模拟中，CoDoC还能够将需要临床医生读取的病例数量减少三分之二。除此之外，CoDoC还可以优化胸部X射线的分诊层次，以便继续检测结核病等其他病症。

虽然这项研究仍在理论层面，但它显示了DeepMind的AI系统的潜力：CoDoC能够提高在不同人口统计人群，临床环境，使用的医学成像设备和疾病类型中解释医学成像的性能。

结语：AI可与人类专业结合应用于专业领域

面对需要较强专业素养和实践素养的领域时，AI的学习能力似乎难以完美适配专业领域的实际需求。CoDoC则提供了新的灵感，它可以将AI的优势与人类的优势及专业知识相结合，辅助人类专业领域的工作。

但其潜藏的风险也应当预先规避。医疗数据属于高敏感个人信息，在使用该系统之前，应当进行严格评估与风险防范设置。除此之外，医院等医疗主体还必须了解临床医生如何与使用AI，并配以特定的AI工具和设置来验证并监督系统运行。

来源：TechXplore