全部商品分類
中國互聯網絡信息中心于今年１１月３０日發布了《生成式人工智能應用發展報告〔２０２４〕》。數據顯示，我國生成式人工智能產業正以驚人的速度發展，截至今年６月，用戶規模已達２．３億人。人工智能不僅為生活的方方面面帶來了變革，在醫療領域的突破尤為引人注目。
例如，清華大學智能產業研究院推出的＂ＡＩ醫院＂Ａｇｅｎｔ Ｈｏｓｐｉｔａｌ正在內測，并計劃于明年全面開放；同時，一個基于六千余本國內外醫學教材訓練的ＡＩ醫學大模型，已經在上海東方醫院的多個科室開始試點應用。
＂ＡＩ醫生＂的到來預示著醫療領域的未來。在這一前沿技術在帶來便利的同時，不少人卻對此表示擔憂，＂ＡＩ醫生安全嗎？＂＂ＡＩ醫生會泄露我的個人信息嗎？＂。如何在保障安全與公正的前提下推動技術發展，成為學界、產業界和社會共同關注的課題。
難題一：如何保護患者的隱私？
眾所周知，ＡＩ醫生的廣泛應用需要大量的患者數據，包括個人病史、遺傳信息以及生活方式等敏感內容。這些數據對ＡＩ算法的訓練和醫療決策至關重要。然而，這種大規模數據收集也帶來了前所未有的隱私泄露風險。
一起發生在國外的數據攻擊事件為ＡＩ數據安全保護敲響了警鐘。２０２４年１２月，數據丟失防護解決方案提供商Ｃｙｂｅｒｈａｖｅｎ的Ｃｈｒｏｍｅ擴展程序遭遇黑客入侵。黑客通過侵入管理員賬戶發布惡意更新，導致大量用戶的敏感數據泄露，其中包括身份驗證會話和Ｃｏｏｋｉｅ等。【１】
盡管該公司在發現問題后迅速修復了漏洞，并采取了補救措施，但這起事件卻暴露了當今技術環境下，敏感數據容易受到攻擊。對于醫療數據這種敏感數據而言，一旦泄露后果會更加嚴重，涉及患者的健康狀況、治療記錄等敏感信息，可能導致身份盜用、健康保險欺詐，甚至影響患者的社會安全。
為了保護患者隱私，開發人員開始在技術層面采取更為嚴格的加密措施。例如，使用聯邦學習（Ｆｅｄｅｒａｔｅｄ Ｌｅａｒｎｉｎｇ）技術可以使ＡＩ在不直接訪問原始數據的情況下完成模型訓練，從而防止數據外泄。此外，差分隱私（Ｄｉｆｆｅｒｅｎｔｉａｌ Ｐｒｉｖａｃｙ）技術也被廣泛應用，它通過在數據中加入隨機噪聲來保護個人隱私，同時確保統計分析的有效性。
在法律層面，可以制定更加全面的隱私保護法規，例如２０１８年歐盟生效的《通用數據保護條例》（ＧＤＰＲ），對ＡＩ系統的數據使用和存儲提出了更高的要求。《ＧＤＰＲ》明確規定了數據的使用目的必須明確，并禁止將數據用于原定目的之外的用途，特別是ＡＩ系統不得通過收集個人數據來進行二次推斷或分析，從而避免侵犯用戶隱私。此外，條例還對數據存儲提出了嚴格的本地化要求，要求在歐盟境內的數據應在歐盟境內存儲和處理，減少數據跨境流動的風險，從而更好地保護個人隱私。另一方面，《ＧＤＰＲ》還要求數據具有可移植性，用戶可以方便地將其在一個平臺上生成的數據遷移到其他平臺，增加了用戶對個人數據的控制權。【２】
通過這些規定，技術與法規的協同發展，為ＡＩ醫生在數據安全方面提供了保障，有效地保護了患者的個人隱私。
難題二：如何確保ＡＩ醫生決策的透明性？ ＡＩ醫生依賴于深度學習等復雜算法來做出醫療決策，而這些決策過程往往是高度＂黑箱化＂的。即使ＡＩ能提供快速、精準的診斷建議，但其內部工作原理和判斷依據對患者和醫生來說，往往難以理解和追溯。這種不透明的決策過程容易引發患者對ＡＩ醫生的信任問題，尤其是在醫療決策涉及生命安全時，更是可能引發倫理和法律爭議。
這樣的擔憂并非空穴來風，今年１０月份，在一篇發表于《ＢＭＪ Ｑｕａｌｉｔｙ ＆ Ｓａｆｅｔｙ》上的論文中，來自德國和比利時的研究人員對微軟的Ｂｉｎｇ Ｃｏｐｉｌｏｔ進行測試，評估其在解答常見醫療問題時的表現。測試結果令人震驚：在生成的５００個答案中，約２４％與現有醫學知識完全不符，甚至有３％的回答是錯誤得離譜，可能會給患者帶來嚴重傷害。【３】
這一研究暴露了ＡＩ在處理醫療問題時的重大漏洞－－即使ＡＩ系統能夠快速生成答案，錯誤的決策依然可能對患者產生致命后果。更重要的是，ＡＩ的＂黑箱＂特性使得這些錯誤往往難以追溯，患者和醫生無法了解其背后的判斷依據，這無疑增加了人們對ＡＩ醫生信任的難度。
解決ＡＩ醫生決策透明性問題的核心，在于通過提升算法的透明度和可解釋性，使得本來不可控、不可見的＂黑箱＂轉變為可控、可見的＂白箱＂。這一思路也得到了國際倫理框架的支持。算法的透明化不僅能夠增強患者與醫生的信任，也能為診療決策提供清晰的追溯路徑。
為此，許多倫理規范和標準都強調了算法透明性的重要性。例如，電氣與電子工程師學會（ＩＥＥＥ）在其發布的《人工智能設計的倫理準則》第二版中明確提出，增加算法的透明性是其設計目標之一。【４】世界衛生組織（ＷＨＯ）在《衛生健康領域人工智能倫理與治理》報告中也強調了確保算法的可解釋性和可理解性作為倫理原則之一。我國發布的《新一代人工智能倫理規范》同樣重視算法的安全性與透明度，提出了清晰的研發規范。
難題三、醫療責任歸屬該如何界定？ 近期，廣東一名副主任檢驗技師在社交媒體上披露了一起震動醫療界的事故：深圳一家大三甲醫院的婦科醫生在使用機器人進行子宮內瘤體切除手術時，導致患者死亡。此事件迅速在醫療圈引起了廣泛討論，臨床醫生對手術機器人使用的安全性產生了強烈分歧。部分醫生認為，手術機器人雖然可以減輕醫生的壓力，但過度依賴機器人可能會增加潛在風險，甚至導致不可逆的醫療事故。
這一事件反映了醫療領域中的一個重要倫理挑戰：責任歸屬問題。近年來，手術機器人相關的醫療事故時有發生，而醫療損害糾紛的判決常常面臨責任劃分的模糊地帶。這樣的案例并非孤例。
據２０２４年５月２０日一篇發表于《中國醫院雜志》上的論文《涉及手術機器人醫療損害糾紛案例分析》統計，在２０１５至２０２２年間，涉及手術機器人醫療損害糾紛的案件高達６３例，涵蓋了泌尿科、胃腸科、婦產科等多個領域。由于手術過程中的高技術依賴，患者死亡或出現重大并發癥時，責任究竟應由開發機器人技術的公司、使用該技術的醫生，還是醫療機構承擔，成為法律界、醫學界亟待解決的難題。這類糾紛的頻發凸顯了ＡＩ醫療技術發展過程中，法律框架尚未完善的現實困境。【５】
針對ＡＩ醫生在醫療責任歸屬上的不明確問題，國家和地方政府已經開始采取措施，明確ＡＩ技術在醫療中的使用邊界與責任界定。２０２２年，國家衛健委發布了《關于印發互聯網診療監管細則（試行）的通知》，明確規定＂醫師接診前需進行實名認證，確保由本人接診＂，并強調＂其他人員、人工智能軟件等不得冒用、替代醫師本人接診＂。這意味著，在互聯網診療中，ＡＩ不能完全取代醫生的角色，醫師依然需要對診療結果負最終責任。
此外，湖南省醫保局也出臺了《關于規范手術機器人輔助操作系統使用和收費行為的通知》，要求醫療機構按照設備的注冊證適用范圍和臨床手術使用指征合理使用手術機器人輔助操作系統，并禁止超范圍或過度使用。
這些政策為ＡＩ醫生在醫療實踐中的合法使用提供了明確框架，確保了醫生在技術輔助下依然承擔起醫療決策的最終責任，從而減少了責任劃分模糊帶來的法律風險。通過這樣的政策和法律保障，可以為ＡＩ醫生在醫療領域的應用建立起更為清晰的責任界定，減少因技術問題導致的法律糾紛，推動ＡＩ與醫療行業的融合發展。
結語
數據安全，決策透明，乃至責任界定，這些問題會一直困擾整個ＡＩ醫生的行業。為了解決這些問題，需要各方力量的緊密合作－－技術創新必須與嚴格的法律法規和倫理規范相輔相成。只有在確保安全性、透明性和公正性的前提下，ＡＩ醫生才能真正為醫療行業帶來長遠的價值，成為保障公眾健康、提升醫療質量的重要力量。
參考資料：
【１】Ｃｙｂｅｒｓｅｃｕｒｉｔｙ Ｎｅｗｓ． （２０２４， Ｄｅｃｅｍｂｅｒ ２７）． Ｃｙｂｅｒｈａｖｅｎ Ｃｈｒｏｍｅ ｅｘｔｅｎｓｉｏｎ ｈａｃｋｅｄ， ｅｘｐｏｓｉｎｇ ｓｅｎｓｉｔｉｖｅ ｄａｔａ． Ｃｙｂｅｒｓｅｃｕｒｉｔｙ Ｎｅｗｓ． Ｒｅｔｒｉｅｖｅｄ Ｄｅｃｅｍｂｅｒ ３０， ２０２４， ｆｒｏｍ ｈｔｔｐｓ：／／ｃｙｂｅｒｓｅｃｕｒｉｔｙｎｅｗｓ．ｃｏｍ／ｃｙｂｅｒｈａｖｅｎ－ｃｈｒｏｍｅ－ｅｘｔｅｎｓｉｏｎ－ｈａｃｋｅｄ／
【２】Ｅｕｒｏｐｅａｎ Ｐａｒｌｉａｍｅｎｔ ＆ Ｃｏｕｎｃｉｌ ｏｆ ｔｈｅ Ｅｕｒｏｐｅａｎ Ｕｎｉｏｎ． （２０１６）． Ｒｅｇｕｌａｔｉｏｎ （ＥＵ） ２０１６／６７９ ｏｎ ｔｈｅ ｐｒｏｔｅｃｔｉｏｎ ｏｆ ｐｅｒｓｏｎａｌ ｄａｔａ （ＧＤＰＲ）． Ｏｆｆｉｃｉａｌ Ｊｏｕｒｎａｌ ｏｆ ｔｈｅ Ｅｕｒｏｐｅａｎ Ｕｎｉｏｎ． Ａｖａｉｌａｂｌｅ ａｔ： ｈｔｔｐｓ：／／ｅｕｒ－ｌｅｘ．ｅｕｒｏｐａ．ｅｕ／ｌｅｇａｌ－ｃｏｎｔｅｎｔ／ＥＮ／ＴＸＴ／？ｕｒｉ＝ＣＥＬＥＸ％３Ａ３２０１６Ｒ０６７９
【３】Ａｎｄｒｉｋｙａｎ Ｗ， Ｓａｍｅｔｉｎｇｅｒ ＳＭ， Ｋｏｓｆｅｌｄ Ｆ， ｅｔ ａｌＡｒｔｉｆｉｃｉａｌ ｉｎｔｅｌｌｉｇｅｎｃｅ－ｐｏｗｅｒｅｄ ｃｈａｔｂｏｔｓ ｉｎ ｓｅａｒｃｈ ｅｎｇｉｎｅｓ： ａ ｃｒｏｓｓ－ｓｅｃｔｉｏｎａｌ ｓｔｕｄｙ ｏｎ ｔｈｅ ｑｕａｌｉｔｙ ａｎｄ ｒｉｓｋｓ ｏｆ ｄｒｕｇ ｉｎｆｏｒｍａｔｉｏｎ ｆｏｒ ｐａｔｉｅｎｔｓＢＭＪ Ｑｕａｌｉｔｙ ＆ Ｓａｆｅｔｙ Ｐｕｂｌｉｓｈｅｄ Ｏｎｌｉｎｅ Ｆｉｒｓｔ： ０１ Ｏｃｔｏｂｅｒ ２０２４． ｄｏｉ： １０．１１３６／ｂｍｊｑｓ－２０２４－０１７４７６
【４】Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｅｌｅｃｔｒｉｃａｌ ａｎｄ Ｅｌｅｃｔｒｏｎｉｃｓ Ｅｎｇｉｎｅｅｒｓ （ＩＥＥＥ）． （２０２１）． Ｅｔｈｉｃａｌｌｙ Ａｌｉｇｎｅｄ Ｄｅｓｉｇｎ： Ａ Ｖｉｓｉｏｎ ｆｏｒ Ｐｒｉｏｒｉｔｉｚｉｎｇ Ｈｕｍａｎ Ｗｅｌｌ－ｂｅｉｎｇ ｗｉｔｈ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ ａｎｄ Ａｕｔｏｎｏｍｏｕｓ Ｓｙｓｔｅｍｓ （２ｎｄ ｅｄ．）． ＩＥＥＥ．
【５】朱鐘銳，馬輝． 涉及手術機器人醫療損害糾紛案例分析［Ｊ］． 中國醫院，２０２４，２８（５）：７２－７４． ＤＯＩ：１０．１９６６０／ｊ．ｉｓｓｎ．１６７１－０５９２．２０２４．５．１７．
注：文章來源于網絡，如有侵權，請聯系刪除
