人工智能(AI)“不可解釋性”的特點(diǎn),讓人不明覺(jué)厲,但在醫(yī)療領(lǐng)域則可能面臨巨大的倫理挑戰(zhàn)。當(dāng)醫(yī)療AI應(yīng)用對(duì)的時(shí)候,所有人皆大歡喜;當(dāng)醫(yī)療AI犯了錯(cuò),盡管概率很小,但錯(cuò)的時(shí)候,由誰(shuí)承擔(dān)這個(gè)責(zé)任?是醫(yī)生,是程序員,還是簽字購(gòu)買(mǎi)醫(yī)療AI服務(wù)的院長(zhǎng)?11月22日,在北京大學(xué)醫(yī)學(xué)部舉行的“智慧醫(yī)療革命:潛力與挑戰(zhàn)” 論壇上,清華大學(xué)臨床醫(yī)學(xué)院院長(zhǎng)、北京清華長(zhǎng)庚醫(yī)院執(zhí)行院長(zhǎng)董家鴻院士分享了他的精彩觀點(diǎn)。
在某些方面AI可以超過(guò)人,但在總體的智慧上,機(jī)器永遠(yuǎn)不可能超過(guò)人類。技術(shù)是服務(wù)于人的,人工智能的發(fā)展是為了為人類提供更好的健康服務(wù)。我們要認(rèn)識(shí)到是醫(yī)生的AI,而不是AI醫(yī)生。
從醫(yī)療服務(wù)診斷的感知、認(rèn)知、決策、干預(yù)幾個(gè)主要流程上,AI可以在感知方面超越人的極限,在認(rèn)知方面也可以在某種程度上超越人,為醫(yī)生提供輔助決策支持。包括對(duì)于腫瘤發(fā)生機(jī)理的研究,未來(lái)如果在算法上無(wú)法取得突破,則對(duì)于腫瘤本質(zhì)的認(rèn)識(shí)和防治策略不可能有突破。但是個(gè)體疾病復(fù)雜的變異性,常態(tài)的個(gè)體差異,一定還需要醫(yī)生的智慧。如果要求醫(yī)生遵從機(jī)器的決策,那會(huì)出很多問(wèn)題。從干預(yù)方面,機(jī)器可以提高手術(shù)操作的精度和可控性,但必須要由醫(yī)生作出判斷和控制。
當(dāng)前醫(yī)療AI風(fēng)險(xiǎn)在于不可解釋性,那就是為什么人工智能能夠作出準(zhǔn)確的判斷,如果沒(méi)有明晰的原理可解釋,在實(shí)際使用過(guò)程中醫(yī)生心里不踏實(shí),患者接受起來(lái)也有疑慮。如果一個(gè)醫(yī)生犯了錯(cuò),受損害的是一個(gè)患者。如果人工智能機(jī)器人出了錯(cuò),將會(huì)損害一批患者。因此,對(duì)于不可解釋的人工智能技術(shù),應(yīng)該嚴(yán)格限定它的應(yīng)用邊界。
我們主張將機(jī)器人作為輔助,讓它處理確定性的事件,由醫(yī)生來(lái)處理不確定性事件,并承擔(dān)法律上的責(zé)任。
人體和疾病都是極其復(fù)雜的,因此在人類的健康醫(yī)療服務(wù)中是不可能不出錯(cuò)誤。醫(yī)學(xué)發(fā)展的本身就是一個(gè)不斷試錯(cuò)和校正的過(guò)程,先進(jìn)的科技手段確實(shí)能夠幫助醫(yī)生作出更正確的判斷,做更精準(zhǔn)的干預(yù),但仍然不可能完全避免出錯(cuò),最終主導(dǎo)的主體仍然是醫(yī)生。醫(yī)生也應(yīng)該加強(qiáng)培訓(xùn)和學(xué)習(xí),更好地理解AI帶來(lái)的輔助決策的支持和其局限性,從而讓人類站在更高的智慧水平上,更好、更準(zhǔn)確地利用AI。
(張廣有根據(jù)智慧醫(yī)療革命論壇整理)
Copyright ? 2004-2025 健康一線-健康視頻網(wǎng)(vodjk.com)All rights reserved.