過去10年里，人工智能以不可阻擋的態(tài)勢(shì)發(fā)展著，并改變著人類社會(huì)的方方面面。其中，醫(yī)療健康領(lǐng)域的AI應(yīng)用更是被寄予厚望。圖靈獎(jiǎng)得主、深度學(xué)習(xí)先驅(qū)Hinton甚至預(yù)測(cè)，深度學(xué)習(xí)可能會(huì)在未來5-10年內(nèi)超越放射科醫(yī)生。不過，隨著AI應(yīng)用的普及，相應(yīng)的問題也不斷顯現(xiàn)，業(yè)界認(rèn)為，如果任由這些問題發(fā)展，或?qū)?dǎo)致“人工智能家長作風(fēng)”的流行并且危及患者的自主性。
(資料圖)
關(guān)注醫(yī)療科技的讀者朋友們會(huì)發(fā)現(xiàn)，越來越多的頭條新聞宣稱人工智能技術(shù)可以診斷一系列疾病，并且比受過醫(yī)學(xué)訓(xùn)練的專業(yè)人員更好、更快、更便宜。比如在2020年5月，波士頓大學(xué)醫(yī)學(xué)院就曾公布一項(xiàng)研究指出，他們發(fā)明了一種基于人工智能的計(jì)算機(jī)算法，該算法通過整合腦部核磁共振成像、認(rèn)知障礙測(cè)試以及年齡和性別數(shù)據(jù)，準(zhǔn)確預(yù)測(cè)阿爾茨海默病的患病風(fēng)險(xiǎn)，并對(duì)是否患病做出診斷。
然而現(xiàn)實(shí)是，其中許多技術(shù)都存在眾所周知的問題。這些系統(tǒng)往往是根據(jù)有限或有傾向性的數(shù)據(jù)進(jìn)行訓(xùn)練的，它們帶給女性和有色人種的效果往往不如帶給白人男性的效果好。不僅如此，這些系統(tǒng)用來訓(xùn)練的一些數(shù)據(jù)也是完全錯(cuò)誤的。
圖源：Pixabay
同時(shí)，研究人員也指出了另外一個(gè)值得關(guān)注的問題：隨著這些技術(shù)開始滲透到醫(yī)療保健環(huán)境中，我們將看到“人工智能家長作風(fēng)”的興起。自醫(yī)學(xué)專業(yè)誕生以來，醫(yī)學(xué)上的家長主義就一直飽受爭議。但現(xiàn)在，醫(yī)生可能傾向于相信人工智能，而犧牲或忽視患者的生活經(jīng)驗(yàn)和他們自己的臨床判斷。
人工智能已經(jīng)被用于醫(yī)療保健。一些醫(yī)院使用這項(xiàng)技術(shù)來幫助對(duì)病人進(jìn)行分診，還有些醫(yī)院和醫(yī)生用它來幫助診斷，或者制定治療計(jì)劃。但英國牛津大學(xué)技術(shù)與監(jiān)管教授桑德拉·瓦赫特表示，人工智能被采用的實(shí)際程度尚不清楚。“有時(shí)我們并不知道現(xiàn)在使用的是哪種系統(tǒng)?！蓖吆仗卣f。但她也認(rèn)為，隨著技術(shù)的進(jìn)步和醫(yī)療保健系統(tǒng)傾向于尋找降低成本的方法，它們的普及程度可能會(huì)增加。
近期，《自然》雜志發(fā)布的一篇關(guān)于通用醫(yī)療AI臨床應(yīng)用潛力和局限的研究就提到了通用醫(yī)療AI模型在6大具體醫(yī)療場(chǎng)景有望早日落地，包括“出具影像學(xué)報(bào)告”、“輔助手術(shù)操作”、“陪伴患者聊天的機(jī)器人”等。
研究表明，醫(yī)生們可能已經(jīng)對(duì)這些技術(shù)充滿了信心。在幾年前發(fā)表的一項(xiàng)研究中，腫瘤學(xué)家被要求將他們對(duì)皮膚癌癥的診斷與人工智能系統(tǒng)的結(jié)論進(jìn)行比較。他們中的許多人接受了人工智能的結(jié)果，即使這些結(jié)果與他們自己的臨床觀點(diǎn)相矛盾。當(dāng)然，我們也要面對(duì)一個(gè)非?，F(xiàn)實(shí)的風(fēng)險(xiǎn)，即我們將更加依賴這些技術(shù)，這就是所謂的家長主義的體現(xiàn)。
加拿大安大略省病童醫(yī)院的梅麗莎·麥克拉登和羅克珊·基爾希在最近的一篇論文中寫道：“家長主義集中體現(xiàn)在‘醫(yī)生最權(quán)威’的話語權(quán)中?！币馑季褪?，醫(yī)學(xué)培訓(xùn)使醫(yī)生成為為病人做出決定的最佳人選，而不管那個(gè)人的感受、信仰、文化和其他任何可能影響我們所做選擇的因素。
麥克拉登和基施還指出，“當(dāng)人工智能被定位為最高形式的證據(jù)，家長主義的主角將由無所不知的醫(yī)生變成無所不知的人工智能，因此會(huì)有一種‘算法家長主義’的增加趨勢(shì)”。這個(gè)現(xiàn)象將帶來許多問題。
首先，如上所述，人工智能并不是絕對(duì)正確的。這些技術(shù)都是根據(jù)帶有缺陷的歷史數(shù)據(jù)集進(jìn)行訓(xùn)練的。沃赫特說：“你沒有把一個(gè)算法送到醫(yī)學(xué)院，然后在那教它如何了解人體和疾病?！?
因此，麥克拉登和基爾希寫道，“人工智能無法理解，只能預(yù)測(cè)?！崩?，人工智能可以接受訓(xùn)練，以了解過去皮膚細(xì)胞活檢中哪些規(guī)律與癌癥診斷有關(guān)。
圖源：Pixabay
但是，那些過去做出這些診斷并收集了這些數(shù)據(jù)的醫(yī)生，更有可能遺漏了有色人種的病例。識(shí)別過去的規(guī)律，并不一定能告訴醫(yī)生他們需要知道的、所有關(guān)于病人應(yīng)該如何繼續(xù)治療的一切。今天，醫(yī)生和病人應(yīng)該在治療決策過程中合作。人工智能的引入和更多使用，不應(yīng)減少患者的自主權(quán)。
那么，我們?nèi)绾尾拍芊乐惯@種情況的發(fā)生呢？一個(gè)潛在的解決方案是，設(shè)計(jì)在更優(yōu)秀的數(shù)據(jù)集上訓(xùn)練的新技術(shù)。例如，一種算法可以根據(jù)關(guān)于不同社區(qū)的信仰、多樣化的生物數(shù)據(jù)進(jìn)行訓(xùn)練。但在我們能夠做到這一點(diǎn)之前，我們需要真正走出去收集這些數(shù)據(jù)——這是一項(xiàng)耗時(shí)、耗力、耗錢的行動(dòng)，可能不會(huì)吸引那些希望使用人工智能來削減成本的人。
這些人工智能系統(tǒng)的設(shè)計(jì)者應(yīng)該仔細(xì)考慮將被他們?cè)u(píng)估的人的需求。他們需要記住，對(duì)某些群體有效的技術(shù)不一定對(duì)其他群體有效，不管是因?yàn)樗麄冊(cè)谏飳W(xué)上的不同，還是他們的信仰不同?！八腥硕疾灰粯樱蓖吆仗卣f。
最好的辦法可能是，以與我們使用成熟的技術(shù)相同的方式使用這些新技術(shù)。X 光和核磁共振成像，再加上其他健康信息，可以幫助我們進(jìn)行診斷。人們應(yīng)該能夠選擇他們是否想做掃描，以及他們想如何處理他們的結(jié)果。我們可以利用人工智能，但不能放棄我們的自主權(quán)。
事實(shí)上，關(guān)于在應(yīng)用人工智能過程中如何保持人類尊嚴(yán)和自主權(quán)的話題，一直伴隨著人工智能的發(fā)展應(yīng)用，在醫(yī)療健康領(lǐng)域更是如此，因?yàn)檫@是一個(gè)關(guān)系到人類生命健康的領(lǐng)域，也是最容易造成不可逆轉(zhuǎn)傷害的領(lǐng)域。
2021年6月28日，世界衛(wèi)生組織(WHO)正式發(fā)布了“世界衛(wèi)生組織衛(wèi)生健康領(lǐng)域人工智能倫理與治理指南(Ethics and Governance of Artificial Intelligence for Health: WHO Guidance)”，其中提到，人工智能帶來機(jī)會(huì)的同時(shí)也伴隨著風(fēng)險(xiǎn)和挑戰(zhàn)，包括不符合倫理地收集和使用健康數(shù)據(jù)、算法中的偏見、人工智能對(duì)患者安全的風(fēng)險(xiǎn)、網(wǎng)絡(luò)安全和對(duì)環(huán)境產(chǎn)生的負(fù)面影響。
該報(bào)告提出了確保人工智能符合所有國家公共利益的六項(xiàng)原則，其中一條就是保護(hù)人類自主性：在衛(wèi)生健康方面，這意味著人類自身應(yīng)確保繼續(xù)掌控醫(yī)療決策過程和對(duì)醫(yī)療系統(tǒng)的控制；隱私和保密應(yīng)受到保護(hù)，患者必須通過適當(dāng)?shù)臄?shù)據(jù)保護(hù)法律框架給予有效的知情同意。
回顧人工智能發(fā)展歷史，我們會(huì)發(fā)現(xiàn)，過去十年是AI技術(shù)突破最為頻繁的階段，先是2016年AlphaGO在圍棋之戰(zhàn)中獲勝，之后是2021年AlphaFold2震驚生命科學(xué)領(lǐng)域，再到如今的ChatGPT，人工智能已然來到了時(shí)代的C位。
在《麻省理工科技評(píng)論》評(píng)出的“全球十大突破性技術(shù)”榜單中，人工智能技術(shù)也是屢屢上榜。其中，DeepMind 開發(fā)的AlphaFold2軟件入選2022年“全球十大突破性技術(shù)”，該軟件使用深度學(xué)習(xí)技術(shù)來預(yù)測(cè)蛋白質(zhì)的形狀，甚至精確到原子，這是計(jì)算機(jī)第一次達(dá)成與實(shí)驗(yàn)室中使用的速度較慢但結(jié)果準(zhǔn)確的技術(shù)相當(dāng)?shù)乃疁?zhǔn)。DeepMind通過解決生物學(xué)中一個(gè)困擾研究者長達(dá)50年的問題，為藥物發(fā)現(xiàn)和設(shè)計(jì)開辟了新的道路。
而ChatGPT背后的大語言模型的上一代GPT-3也在2021年入選?！堵槭±砉た萍荚u(píng)論》認(rèn)為，GPT-3是繼DeepMind的AlphaGo和IBM的DeepBlue之后，AI領(lǐng)域最能引發(fā)公眾想象的存在。如今ChatGPT的火熱也驗(yàn)證了這一判斷。
目前，由《麻省理工科技評(píng)論》攜手DeepTech推出的《科技之巔（20周年珍藏版）》已正式上線發(fā)售，該書收錄了過去20余年里所評(píng)選的200多項(xiàng)“全球十大突破性技術(shù)”，點(diǎn)擊下圖可以購買圖書！讓我們一起鑒過往，知未來！
標(biāo)簽：
