以色列研究：AI在42.8%的回答中建议进行不必要的超声检查——《耶路撒冷邮报》

以色列贝尔谢巴本-古里安大学和Clalit Health Services的研究人员利用临床情境测试了来自Google、Anthropic和OpenAI的六个大型语言模型。正如《耶路撒冷邮报》报道的那样，这些模型通常能够判断何时不需要检查或治疗，但在医学界尚未形成统一立场的情境中更容易出错。

测试情境

这项经同行评审的研究发表在《Annals of Internal Medicine》期刊上。作者根据国际倡议Choosing Wisely的15项建议设计了情境，该倡议旨在减少低价值医疗干预。

针对每项建议，研究人员准备了15种情况：10种应避免干预的案例，以及5种干预具有医学合理性的案例。科学家分析了数千条模型回答。例如，一名搬运家具后出现急性腰痛的年轻男性不需要影像学检查，但一名有乳腺癌病史且新近出现夜间背痛的女性可能需要检查。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

模型最常出错的地方

作者表示，在应当进行干预时，模型在0.6%的案例中错误地建议不提供医疗帮助。如果检测或治疗明显没有必要，系统则在5.4%的回答中建议进行。对于所检查的15项建议中的8项，模型完全没有建议任何多余的程序。

最多的错误集中在两个存在模糊性的领域。在28.3%的回答中，模型建议进行不必要的心电图检查，主要是在患者报告心悸时。在42.8%的回答中，它们还支持对偶然发现的小结节进行不必要的超声检查。研究人员将此与美国甲状腺协会和美国放射学会在是否需要对这类结节进行影像学检查方面的做法差异联系起来。

这些模型仅以英语进行了测试。研究人员强调，在医生诊室使用此类系统之前，仍需要进一步的临床研究和保障措施，而医疗决定的最终责任必须由医生承担。