人工智能?。ǎ粒桑“l(fā)展迅速,將成為臨床護(hù)理的重要支持工具。研究表明,人工智能算法可以準(zhǔn)確檢測(cè)黑色素瘤并預(yù)測(cè)未來(lái)的乳腺癌。
但在將 AI 整合到常規(guī)臨床使用之前,我們必須解決算法偏差的挑戰(zhàn)。人工智能算法可能存在固有偏見,可能導(dǎo)致歧視和隱私問題。人工智能系統(tǒng)也可以在沒有必要的監(jiān)督或人工輸入的情況下做出決策。
人工智能潛在有害影響的一個(gè)例子來(lái)自一個(gè)國(guó)際項(xiàng)目,該項(xiàng)目旨在通過開發(fā)突破性的醫(yī)療方法,利用人工智能來(lái)拯救生命。在一項(xiàng)實(shí)驗(yàn)中,該團(tuán)隊(duì)顛倒了他們的“好”人工智能模型,為新的人工智能模型創(chuàng)造了“傷害”的選項(xiàng)。
在不到六個(gè)小時(shí)的訓(xùn)練中,反向?。粒伞∷惴ㄉ闪藬?shù)萬(wàn)種潛在的化學(xué)戰(zhàn)劑,比目前的戰(zhàn)劑危險(xiǎn)得多。這是一個(gè)關(guān)于化合物的極端例子,但它可以作為評(píng)估人工智能已知和可以想象的不可知倫理后果的警鐘。
臨床護(hù)理中的人工智能
在醫(yī)學(xué)領(lǐng)域,我們處理人們最私密的數(shù)據(jù)和經(jīng)常改變生活的決定。強(qiáng)大的?。粒伞〉赖驴蚣軇?shì)在必行。
澳大利亞癲癇項(xiàng)目旨在改善人們的生活并使臨床護(hù)理更廣泛?;趤?lái)自數(shù)千名癲癇患者的先進(jìn)腦成像、遺傳和認(rèn)知信息,我們計(jì)劃使用人工智能來(lái)回答目前無(wú)法回答的問題。
這個(gè)人的癲癇發(fā)作會(huì)繼續(xù)嗎?哪種藥最有效?腦部手術(shù)是可行的治療選擇嗎?這些是現(xiàn)代醫(yī)學(xué)努力解決的基本問題。
作為該項(xiàng)目的?。粒伞∝?fù)責(zé)人,我主要擔(dān)心的是?。粒伞≌诳焖侔l(fā)展,而監(jiān)管監(jiān)督卻很少。這些問題就是為什么我們最近建立了一個(gè)使用人工智能作為臨床支持工具的道德框架。該框架旨在確保我們的人工智能技術(shù)是開放、安全和值得信賴的,同時(shí)促進(jìn)臨床護(hù)理的包容性和公平性。
那么我們?nèi)绾卧卺t(yī)學(xué)中實(shí)施?。粒伞惱硪詼p少偏見并保持對(duì)算法的控制?計(jì)算機(jī)科學(xué)原則“垃圾輸入,垃圾輸出”適用于?。粒伞<僭O(shè)我們從小樣本中收集有偏差的數(shù)據(jù)。我們的?。粒伞∷惴赡軙?huì)存在偏差,并且無(wú)法在其他臨床環(huán)境中復(fù)制。
在當(dāng)代人工智能模型中不難找到偏見的例子。流行的大型語(yǔ)言模型(例如?。茫瑁幔簦牵校裕┖蜐撛跀U(kuò)散模型(DALL-E 和 Stable Diffusion)顯示了關(guān)于性別、種族和社會(huì)經(jīng)濟(jì)地位的明顯偏見是如何發(fā)生的。
研究人員發(fā)現(xiàn),簡(jiǎn)單的用戶提示會(huì)生成使種族、性別和階級(jí)刻板印象永久化的圖像。例如,醫(yī)生提示主要生成男性醫(yī)生的圖像,這與現(xiàn)實(shí)不符,因?yàn)榻?jīng)合組織國(guó)家約有一半的醫(yī)生是女性。
醫(yī)療人工智能的安全實(shí)施
防止偏見和歧視的解決方案并非易事。在臨床研究中實(shí)現(xiàn)健康平等和促進(jìn)包容性可能是對(duì)抗醫(yī)療 AI 偏見的主要解決方案。
令人鼓舞的是,美國(guó)食品和藥物管理局最近提議在臨床試驗(yàn)中強(qiáng)制實(shí)施多樣性。該提案代表了朝著更少偏見和基于社區(qū)的臨床研究邁進(jìn)。
另一個(gè)阻礙進(jìn)步的障礙是有限的研究經(jīng)費(fèi)。人工智能算法通常需要大量數(shù)據(jù),這可能很昂貴。至關(guān)重要的是建立強(qiáng)化的資助機(jī)制,為研究人員提供必要的資源,以收集適合?。粒伞?yīng)用的臨床相關(guān)數(shù)據(jù)。
我們還認(rèn)為,我們應(yīng)該始終了解?。粒伞∷惴ǖ膬?nèi)部工作原理,并了解它們是如何得出結(jié)論和建議的。這個(gè)概念在人工智能中通常被稱為“可解釋性”。它涉及人和機(jī)器必須協(xié)同工作以獲得最佳結(jié)果的想法。
我們更愿意將模型中預(yù)測(cè)的實(shí)施視為“增強(qiáng)”而不是“人工智能”——算法應(yīng)該是過程的一部分,而醫(yī)學(xué)專業(yè)必須保持對(duì)決策的控制。
除了鼓勵(lì)使用可解釋的算法外,我們還支持透明和開放的科學(xué)??茖W(xué)家應(yīng)該公布人工智能模型及其方法的細(xì)節(jié),以提高透明度和可重復(fù)性。
新西蘭?。粒铮簦澹幔颍铮帷⌒枰裁磥?lái)確保?。粒伞≡卺t(yī)療保健中的安全實(shí)施?人工智能倫理問題主要由該領(lǐng)域的專家領(lǐng)導(dǎo)。然而,已經(jīng)提出了有針對(duì)性的人工智能法規(guī),例如基于歐盟的人工智能法案,以解決這些倫理問題。
歐洲人工智能法受到歡迎,并將保護(hù)在“安全人工智能”中工作的人。英國(guó)政府最近發(fā)布了他們對(duì) AI 監(jiān)管的主動(dòng)方法,作為其他政府對(duì)?。粒伞“踩幕貞?yīng)的藍(lán)圖。
在 Aotearoa,我們主張對(duì)?。粒伞“踩扇≈鲃?dòng)而非被動(dòng)的態(tài)度。它將建立一個(gè)在臨床護(hù)理和其他領(lǐng)域使用人工智能的道德框架,產(chǎn)生可解釋、安全和公正的人工智能。因此,我們將更加相信這項(xiàng)強(qiáng)大的技術(shù)可以造福社會(huì),同時(shí)保護(hù)社會(huì)免受傷害。
遠(yuǎn)程醫(yī)療
有了遠(yuǎn)程醫(yī)療,一部智能手機(jī)就可解決患者的大部分問題,包括遠(yuǎn)程會(huì)診、遠(yuǎn)程專家、遠(yuǎn)程監(jiān)控、遠(yuǎn)程協(xié)助,即衛(wèi)生專業(yè)人員在醫(yī)療干預(yù)期間遠(yuǎn)程幫助他們的同事或其他人,以及醫(yī)療熱線。在緊急情況下,醫(yī)院利用醫(yī)療熱線,可快速引導(dǎo)患者或其親屬到附近的醫(yī)療中心,指導(dǎo)其進(jìn)行急救。
總而言之,遠(yuǎn)程醫(yī)療的主要目標(biāo)是改善醫(yī)療服務(wù),為患者提供更好的咨詢、診斷、治療方案和隨訪體驗(yàn),這尤其有利于面臨“醫(yī)療荒漠”問題的居民。
未來(lái)手術(shù)可由機(jī)器人執(zhí)行。圖為擁有9個(gè)屏幕的機(jī)器人外科醫(yī)生。圖片來(lái)源:視覺中國(guó)
現(xiàn)代實(shí)踐中的一個(gè)例子是達(dá)芬奇機(jī)器人,其設(shè)計(jì)理念是通過使用微創(chuàng)的方法,實(shí)施復(fù)雜的外科手術(shù)?!斑_(dá)芬奇”有3條或4條手臂,其中一條配備了內(nèi)窺鏡,其他的配備了手術(shù)刀。術(shù)中,醫(yī)生通過操作臺(tái)控制“達(dá)芬奇”靈活的手臂來(lái)完成各種操作,還可看到手術(shù)區(qū)域的3D圖像。
手術(shù)機(jī)器人的主要優(yōu)勢(shì)是能通過小切口進(jìn)行微創(chuàng)手術(shù)。除了幫助人類醫(yī)生,機(jī)器人還可照顧患者的日常生活。它們可有多個(gè)應(yīng)用程序來(lái)幫助殘疾人或護(hù)理人員。例如,歐比機(jī)器人的一條機(jī)械臂安裝了湯匙,可為殘疾人智能喂飯。通過對(duì)機(jī)器人進(jìn)行“編程”,可將其手臂引導(dǎo)到所需要的位置,或在喂食過程中避開障礙。
注:文章來(lái)源于網(wǎng)絡(luò),如有侵權(quán),請(qǐng)聯(lián)系刪除