首页 » 科技 >

机器对医生的固定掩盖了有关人工智能的重要问题

2020-01-16 15:40:53来源:

下次去看医生时,记得带上基因组卡。

什么,你没有?

当然不会。包含人的遗传密码的钱包大小的卡不存在。

然而,他们在1996年《洛杉矶时报》的一篇文章中对此进行了设想,该文章预测,到2020年,一个人基因组的组成将推动他们的医疗保健。

如今,我们将在超个性化医学成果中立足的想法是由促进人类基因组计划的科学家提出的,这是一项大规模的,由公共资金资助的国际研究工作。

俄克拉荷马大学生物学教授阿里·伯科维茨(Ari Berkowitz)称,科学家明知对人类基因组测序的医学益处提出了过高的承诺,而记者也赞同这种说法。他在12月刊的《华尔街日报》上写道了有关基因组测序的炒作。神经遗传学。

他指出“激励生物学家和新闻工作者讲述简单故事的方法,包括相对简单的常见致病性疾病遗传原因的想法。”

最近,一个简单故事的魅力阻碍了公众对另一种在基因数据热潮后引起关注的技术的理解:人工智能(AI)。

借助AI,头条新闻通常集中在机器“击败”医生发现疾病的能力上。涵盖本月发表的关于使用Google乳腺X线照片算法的研究报告:

人机对抗的动机源于1990年代IBM花哨的深蓝与Garry Kasparov的国际象棋比赛以及2011年的Watson对抗两个“ Jeopardy!”冠军的比赛。

但是医疗保健不是游戏。一些专家希望新闻机构能避免以这种方式来构筑AI故事。

加利福尼亚州拉霍亚的斯克里普斯研究公司执行副总裁心脏病学家埃里克·托普尔(Eric Topol)说,那些暗示机器正在与医生竞争的头条新闻“只是愚蠢的。”我的意思是,您不会在没有监督的情况下留下重要的诊断。”

数字咨询公司Hardian Health的放射科医生兼董事总经理休·哈维(Hugh Harvey)同意,头条应该“措辞更加谨慎”,并且警告至少应出现在故事​​的第一段。“我认为这是一种道德。作为一名记者,您想讲的是事实,而不仅仅是事情的积极方面。”

未探讨的问题

正如Twitter上的一些评论者所指出的那样,谷歌的研究基于该软件能够在放射线医生已经识别并进行活检的乳房X线照片上检测癌症的能力。它无法衡量该机器是否可以实现重要目标-帮助医生区分可从治疗中受益的病变和不能从中受益的病变。

科视(Christie Aschwanden)在《人工智能的连线》中发表的文章使不良医学变得更糟,他说AI具有“潜在的使过度存在的问题,如过度测试,过度诊断和过度治疗等恶化的能力。”

但这一点并没有进入大多数新闻报道。

尽管HealthDay和ABC在他们的故事中包括了警告,并强调需要进一步研究,但CNBC和Time却没有。Vox一家新闻媒体在标题上大肆宣传:人工智能现在在检测乳腺癌方面可以胜过医生。这就是为什么它不会取代它们的原因。Vox包含大量警告和警告,但快要结束了。

此外,这些新闻媒体均未探讨过实施AI产品进行乳腺癌检测的潜在财务成本。

机器接管的言论

代替放射科医生的机器的言论不是由医学专家而是由技术部门引起的。Sun Microsystems的联合创始人Vinod Khosla在2012年宣称,机器将取代医生。计算机科学教授兼AI专家杰弗里·欣顿(Geoffrey Hinton)在2016年宣布,“很明显,我们应该停止培训放射科医生。”

这个想法可能吸引了投资者,但最终可能伤害患者。至少在轶事上,哈维说,一些年轻的医生正在避开英国的放射学领域,因为那里的人手短缺。

在去年12月在北美放射学会发表演讲时,哈维(Harvey)笑了笑。幻灯片显示,在过去的五年中,大约有400家AI公司如雨后春笋般涌现,而失去工作的放射科医生的数量为零。

(Medium跑了Harvey对为什么放射线医生不会轻易被计算机推开的反抗性解释。)

证据有多好?

人机对抗机器的注意力分散了有关AI是使患者受益还是省钱的问题。

我们经常写过有关仅在小鼠中研究过的药物报告的陷阱。但是,一些新闻报道并未指出何时需要在随机临床试验的真实环境中测试AI应用程序。几乎总是在清理数据集上训练和测试计算机的“深度学习”能力,这些数据集不一定能预测其在实际患者中的表现。

哈维说,头条新闻有一个弊端:“在技术被证明之前就夸大了该技术的功能。”

“我认为阅读此书的患者可能会感到困惑。他们认为,如果AI这么好,为什么我现在不能得到它?他们可能会担心医生是否有用。”

也存在使公众对技术持怀疑态度的长期风险。“这使人们失望。他们不知道它有用。”宾夕法尼亚大学医院放射学副教授Saurabh Jha医师说。

在一些新闻报道中已经强调了AI证据的弱点,例如Liz Szabo的Kaiser健康新闻故事,《人工智能的现实检查:是医疗保健要求》。在Undark中,Jeremy Hsu报道了缺乏分类应用程序Babylon Health的证据。

分散医疗保健的实际问题

哈维说,记者还需要指出“将其推向市场并掌握在最终用户手中的现实。”

他引用了肺癌筛查的内容,其中一些故事涵盖了“该算法在发现肺癌方面的优势,而其他方面则不多。”例如,《纽约邮报》上刊登的一个故事(标题:“ Google的新型AI可以更好地检测出而不是医生”)宣称“人工智能正在证明自己是改善生活的不可思议的工具”,但没有提供任何证据。

哈维说:“(这种覆盖率)没有谈论的是肺筛查途径的改变,这需要在广泛的地理人群中实施。”“为了让某人参加肺部筛查,他们必须知道可以进行筛查。必须对它们进行审查,以确保它们适合筛查过程。当发现癌症时,他们必须有支持护士,并且必须有可用的治疗途径。不只是“我能找到肺癌”。”

内科医生罗伯特·沃克特(Robert Wachter)和以西结·伊曼纽尔(Ezekiel Emanuel)撰写的JAMA社论认为,更好的分析将改变医疗保健的想法令人生厌。他们说,相反,“对数据和分析的狭focus关注会分散卫生系统的注意力”,而无法改变控制医生和患者行为方式的“结构,文化和激励措施”。

他们写道,例如,虽然AI似乎可以预测哪些患者将跳过药物治疗是“合乎逻辑的”,但不可能解决问题。“医学需要改变医师和其他临床医生与非依从性患者的互动方式,并改变患者的用药习惯。”

记者必须接受教育

Berkowitz写道,早在1990年代,科学家就知道疾病很少能归因于一个基因,甚至是一组基因。然而,这一事实并没有告知主流新闻报道。

我们经常提到记者在报道医疗干预措施时需要利用独立来源。伯科维茨说,新闻记者也将很好地扎根基础科学。

他说:“这可能需要阅读期刊评论文章以及仔细阅读宣布新发现和令人兴奋的发现的原始研究文章。”“我知道这不是一个令人满意的答案,特别是因为记者经常面临最后期限,只是没有时间或科学背景,但我看不出更好的方法。”