全部商品分類
中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心于今年１１月３０日發(fā)布了《生成式人工智能應(yīng)用發(fā)展報(bào)告〔２０２４〕》。數(shù)據(jù)顯示，我國(guó)生成式人工智能產(chǎn)業(yè)正以驚人的速度發(fā)展，截至今年６月，用戶規(guī)模已達(dá)２．３億人。人工智能不僅為生活的方方面面帶來(lái)了變革，在醫(yī)療領(lǐng)域的突破尤為引人注目。
例如，清華大學(xué)智能產(chǎn)業(yè)研究院推出的＂ＡＩ醫(yī)院＂Ａｇｅｎｔ Ｈｏｓｐｉｔａｌ正在內(nèi)測(cè)，并計(jì)劃于明年全面開(kāi)放；同時(shí)，一個(gè)基于六千余本國(guó)內(nèi)外醫(yī)學(xué)教材訓(xùn)練的ＡＩ醫(yī)學(xué)大模型，已經(jīng)在上海東方醫(yī)院的多個(gè)科室開(kāi)始試點(diǎn)應(yīng)用。
＂ＡＩ醫(yī)生＂的到來(lái)預(yù)示著醫(yī)療領(lǐng)域的未來(lái)。在這一前沿技術(shù)在帶來(lái)便利的同時(shí)，不少人卻對(duì)此表示擔(dān)憂，＂ＡＩ醫(yī)生安全嗎？＂＂ＡＩ醫(yī)生會(huì)泄露我的個(gè)人信息嗎？＂。如何在保障安全與公正的前提下推動(dòng)技術(shù)發(fā)展，成為學(xué)界、產(chǎn)業(yè)界和社會(huì)共同關(guān)注的課題。
難題一：如何保護(hù)患者的隱私？
眾所周知，ＡＩ醫(yī)生的廣泛應(yīng)用需要大量的患者數(shù)據(jù)，包括個(gè)人病史、遺傳信息以及生活方式等敏感內(nèi)容。這些數(shù)據(jù)對(duì)ＡＩ算法的訓(xùn)練和醫(yī)療決策至關(guān)重要。然而，這種大規(guī)模數(shù)據(jù)收集也帶來(lái)了前所未有的隱私泄露風(fēng)險(xiǎn)。
一起發(fā)生在國(guó)外的數(shù)據(jù)攻擊事件為ＡＩ數(shù)據(jù)安全保護(hù)敲響了警鐘。２０２４年１２月，數(shù)據(jù)丟失防護(hù)解決方案提供商Ｃｙｂｅｒｈａｖｅｎ的Ｃｈｒｏｍｅ擴(kuò)展程序遭遇黑客入侵。黑客通過(guò)侵入管理員賬戶發(fā)布惡意更新，導(dǎo)致大量用戶的敏感數(shù)據(jù)泄露，其中包括身份驗(yàn)證會(huì)話和Ｃｏｏｋｉｅ等。【１】
盡管該公司在發(fā)現(xiàn)問(wèn)題后迅速修復(fù)了漏洞，并采取了補(bǔ)救措施，但這起事件卻暴露了當(dāng)今技術(shù)環(huán)境下，敏感數(shù)據(jù)容易受到攻擊。對(duì)于醫(yī)療數(shù)據(jù)這種敏感數(shù)據(jù)而言，一旦泄露后果會(huì)更加嚴(yán)重，涉及患者的健康狀況、治療記錄等敏感信息，可能導(dǎo)致身份盜用、健康保險(xiǎn)欺詐，甚至影響患者的社會(huì)安全。
為了保護(hù)患者隱私，開(kāi)發(fā)人員開(kāi)始在技術(shù)層面采取更為嚴(yán)格的加密措施。例如，使用聯(lián)邦學(xué)習(xí)（Ｆｅｄｅｒａｔｅｄ Ｌｅａｒｎｉｎｇ）技術(shù)可以使ＡＩ在不直接訪問(wèn)原始數(shù)據(jù)的情況下完成模型訓(xùn)練，從而防止數(shù)據(jù)外泄。此外，差分隱私（Ｄｉｆｆｅｒｅｎｔｉａｌ Ｐｒｉｖａｃｙ）技術(shù)也被廣泛應(yīng)用，它通過(guò)在數(shù)據(jù)中加入隨機(jī)噪聲來(lái)保護(hù)個(gè)人隱私，同時(shí)確保統(tǒng)計(jì)分析的有效性。
在法律層面，可以制定更加全面的隱私保護(hù)法規(guī)，例如２０１８年歐盟生效的《通用數(shù)據(jù)保護(hù)條例》（ＧＤＰＲ），對(duì)ＡＩ系統(tǒng)的數(shù)據(jù)使用和存儲(chǔ)提出了更高的要求。《ＧＤＰＲ》明確規(guī)定了數(shù)據(jù)的使用目的必須明確，并禁止將數(shù)據(jù)用于原定目的之外的用途，特別是ＡＩ系統(tǒng)不得通過(guò)收集個(gè)人數(shù)據(jù)來(lái)進(jìn)行二次推斷或分析，從而避免侵犯用戶隱私。此外，條例還對(duì)數(shù)據(jù)存儲(chǔ)提出了嚴(yán)格的本地化要求，要求在歐盟境內(nèi)的數(shù)據(jù)應(yīng)在歐盟境內(nèi)存儲(chǔ)和處理，減少數(shù)據(jù)跨境流動(dòng)的風(fēng)險(xiǎn)，從而更好地保護(hù)個(gè)人隱私。另一方面，《ＧＤＰＲ》還要求數(shù)據(jù)具有可移植性，用戶可以方便地將其在一個(gè)平臺(tái)上生成的數(shù)據(jù)遷移到其他平臺(tái)，增加了用戶對(duì)個(gè)人數(shù)據(jù)的控制權(quán)。【２】
通過(guò)這些規(guī)定，技術(shù)與法規(guī)的協(xié)同發(fā)展，為ＡＩ醫(yī)生在數(shù)據(jù)安全方面提供了保障，有效地保護(hù)了患者的個(gè)人隱私。
難題二：如何確保ＡＩ醫(yī)生決策的透明性？ ＡＩ醫(yī)生依賴于深度學(xué)習(xí)等復(fù)雜算法來(lái)做出醫(yī)療決策，而這些決策過(guò)程往往是高度＂黑箱化＂的。即使ＡＩ能提供快速、精準(zhǔn)的診斷建議，但其內(nèi)部工作原理和判斷依據(jù)對(duì)患者和醫(yī)生來(lái)說(shuō)，往往難以理解和追溯。這種不透明的決策過(guò)程容易引發(fā)患者對(duì)ＡＩ醫(yī)生的信任問(wèn)題，尤其是在醫(yī)療決策涉及生命安全時(shí)，更是可能引發(fā)倫理和法律爭(zhēng)議。
這樣的擔(dān)憂并非空穴來(lái)風(fēng)，今年１０月份，在一篇發(fā)表于《ＢＭＪ Ｑｕａｌｉｔｙ ＆ Ｓａｆｅｔｙ》上的論文中，來(lái)自德國(guó)和比利時(shí)的研究人員對(duì)微軟的Ｂｉｎｇ Ｃｏｐｉｌｏｔ進(jìn)行測(cè)試，評(píng)估其在解答常見(jiàn)醫(yī)療問(wèn)題時(shí)的表現(xiàn)。測(cè)試結(jié)果令人震驚：在生成的５００個(gè)答案中，約２４％與現(xiàn)有醫(yī)學(xué)知識(shí)完全不符，甚至有３％的回答是錯(cuò)誤得離譜，可能會(huì)給患者帶來(lái)嚴(yán)重傷害。【３】
這一研究暴露了ＡＩ在處理醫(yī)療問(wèn)題時(shí)的重大漏洞－－即使ＡＩ系統(tǒng)能夠快速生成答案，錯(cuò)誤的決策依然可能對(duì)患者產(chǎn)生致命后果。更重要的是，ＡＩ的＂黑箱＂特性使得這些錯(cuò)誤往往難以追溯，患者和醫(yī)生無(wú)法了解其背后的判斷依據(jù)，這無(wú)疑增加了人們對(duì)ＡＩ醫(yī)生信任的難度。
解決ＡＩ醫(yī)生決策透明性問(wèn)題的核心，在于通過(guò)提升算法的透明度和可解釋性，使得本來(lái)不可控、不可見(jiàn)的＂黑箱＂轉(zhuǎn)變?yōu)榭煽亍⒖梢?jiàn)的＂白箱＂。這一思路也得到了國(guó)際倫理框架的支持。算法的透明化不僅能夠增強(qiáng)患者與醫(yī)生的信任，也能為診療決策提供清晰的追溯路徑。
為此，許多倫理規(guī)范和標(biāo)準(zhǔn)都強(qiáng)調(diào)了算法透明性的重要性。例如，電氣與電子工程師學(xué)會(huì)（ＩＥＥＥ）在其發(fā)布的《人工智能設(shè)計(jì)的倫理準(zhǔn)則》第二版中明確提出，增加算法的透明性是其設(shè)計(jì)目標(biāo)之一。【４】世界衛(wèi)生組織（ＷＨＯ）在《衛(wèi)生健康領(lǐng)域人工智能倫理與治理》報(bào)告中也強(qiáng)調(diào)了確保算法的可解釋性和可理解性作為倫理原則之一。我國(guó)發(fā)布的《新一代人工智能倫理規(guī)范》同樣重視算法的安全性與透明度，提出了清晰的研發(fā)規(guī)范。
難題三、醫(yī)療責(zé)任歸屬該如何界定？ 近期，廣東一名副主任檢驗(yàn)技師在社交媒體上披露了一起震動(dòng)醫(yī)療界的事故：深圳一家大三甲醫(yī)院的婦科醫(yī)生在使用機(jī)器人進(jìn)行子宮內(nèi)瘤體切除手術(shù)時(shí)，導(dǎo)致患者死亡。此事件迅速在醫(yī)療圈引起了廣泛討論，臨床醫(yī)生對(duì)手術(shù)機(jī)器人使用的安全性產(chǎn)生了強(qiáng)烈分歧。部分醫(yī)生認(rèn)為，手術(shù)機(jī)器人雖然可以減輕醫(yī)生的壓力，但過(guò)度依賴機(jī)器人可能會(huì)增加潛在風(fēng)險(xiǎn)，甚至導(dǎo)致不可逆的醫(yī)療事故。
這一事件反映了醫(yī)療領(lǐng)域中的一個(gè)重要倫理挑戰(zhàn)：責(zé)任歸屬問(wèn)題。近年來(lái)，手術(shù)機(jī)器人相關(guān)的醫(yī)療事故時(shí)有發(fā)生，而醫(yī)療損害糾紛的判決常常面臨責(zé)任劃分的模糊地帶。這樣的案例并非孤例。
據(jù)２０２４年５月２０日一篇發(fā)表于《中國(guó)醫(yī)院雜志》上的論文《涉及手術(shù)機(jī)器人醫(yī)療損害糾紛案例分析》統(tǒng)計(jì)，在２０１５至２０２２年間，涉及手術(shù)機(jī)器人醫(yī)療損害糾紛的案件高達(dá)６３例，涵蓋了泌尿科、胃腸科、婦產(chǎn)科等多個(gè)領(lǐng)域。由于手術(shù)過(guò)程中的高技術(shù)依賴，患者死亡或出現(xiàn)重大并發(fā)癥時(shí)，責(zé)任究竟應(yīng)由開(kāi)發(fā)機(jī)器人技術(shù)的公司、使用該技術(shù)的醫(yī)生，還是醫(yī)療機(jī)構(gòu)承擔(dān)，成為法律界、醫(yī)學(xué)界亟待解決的難題。這類糾紛的頻發(fā)凸顯了ＡＩ醫(yī)療技術(shù)發(fā)展過(guò)程中，法律框架尚未完善的現(xiàn)實(shí)困境。【５】
針對(duì)ＡＩ醫(yī)生在醫(yī)療責(zé)任歸屬上的不明確問(wèn)題，國(guó)家和地方政府已經(jīng)開(kāi)始采取措施，明確ＡＩ技術(shù)在醫(yī)療中的使用邊界與責(zé)任界定。２０２２年，國(guó)家衛(wèi)健委發(fā)布了《關(guān)于印發(fā)互聯(lián)網(wǎng)診療監(jiān)管細(xì)則（試行）的通知》，明確規(guī)定＂醫(yī)師接診前需進(jìn)行實(shí)名認(rèn)證，確保由本人接診＂，并強(qiáng)調(diào)＂其他人員、人工智能軟件等不得冒用、替代醫(yī)師本人接診＂。這意味著，在互聯(lián)網(wǎng)診療中，ＡＩ不能完全取代醫(yī)生的角色，醫(yī)師依然需要對(duì)診療結(jié)果負(fù)最終責(zé)任。
此外，湖南省醫(yī)保局也出臺(tái)了《關(guān)于規(guī)范手術(shù)機(jī)器人輔助操作系統(tǒng)使用和收費(fèi)行為的通知》，要求醫(yī)療機(jī)構(gòu)按照設(shè)備的注冊(cè)證適用范圍和臨床手術(shù)使用指征合理使用手術(shù)機(jī)器人輔助操作系統(tǒng)，并禁止超范圍或過(guò)度使用。
這些政策為ＡＩ醫(yī)生在醫(yī)療實(shí)踐中的合法使用提供了明確框架，確保了醫(yī)生在技術(shù)輔助下依然承擔(dān)起醫(yī)療決策的最終責(zé)任，從而減少了責(zé)任劃分模糊帶來(lái)的法律風(fēng)險(xiǎn)。通過(guò)這樣的政策和法律保障，可以為ＡＩ醫(yī)生在醫(yī)療領(lǐng)域的應(yīng)用建立起更為清晰的責(zé)任界定，減少因技術(shù)問(wèn)題導(dǎo)致的法律糾紛，推動(dòng)ＡＩ與醫(yī)療行業(yè)的融合發(fā)展。
結(jié)語(yǔ)
數(shù)據(jù)安全，決策透明，乃至責(zé)任界定，這些問(wèn)題會(huì)一直困擾整個(gè)ＡＩ醫(yī)生的行業(yè)。為了解決這些問(wèn)題，需要各方力量的緊密合作－－技術(shù)創(chuàng)新必須與嚴(yán)格的法律法規(guī)和倫理規(guī)范相輔相成。只有在確保安全性、透明性和公正性的前提下，ＡＩ醫(yī)生才能真正為醫(yī)療行業(yè)帶來(lái)長(zhǎng)遠(yuǎn)的價(jià)值，成為保障公眾健康、提升醫(yī)療質(zhì)量的重要力量。
參考資料：
【１】Ｃｙｂｅｒｓｅｃｕｒｉｔｙ Ｎｅｗｓ． （２０２４， Ｄｅｃｅｍｂｅｒ ２７）． Ｃｙｂｅｒｈａｖｅｎ Ｃｈｒｏｍｅ ｅｘｔｅｎｓｉｏｎ ｈａｃｋｅｄ， ｅｘｐｏｓｉｎｇ ｓｅｎｓｉｔｉｖｅ ｄａｔａ． Ｃｙｂｅｒｓｅｃｕｒｉｔｙ Ｎｅｗｓ． Ｒｅｔｒｉｅｖｅｄ Ｄｅｃｅｍｂｅｒ ３０， ２０２４， ｆｒｏｍ ｈｔｔｐｓ：／／ｃｙｂｅｒｓｅｃｕｒｉｔｙｎｅｗｓ．ｃｏｍ／ｃｙｂｅｒｈａｖｅｎ－ｃｈｒｏｍｅ－ｅｘｔｅｎｓｉｏｎ－ｈａｃｋｅｄ／
【２】Ｅｕｒｏｐｅａｎ Ｐａｒｌｉａｍｅｎｔ ＆ Ｃｏｕｎｃｉｌ ｏｆ ｔｈｅ Ｅｕｒｏｐｅａｎ Ｕｎｉｏｎ． （２０１６）． Ｒｅｇｕｌａｔｉｏｎ （ＥＵ） ２０１６／６７９ ｏｎ ｔｈｅ ｐｒｏｔｅｃｔｉｏｎ ｏｆ ｐｅｒｓｏｎａｌ ｄａｔａ （ＧＤＰＲ）． Ｏｆｆｉｃｉａｌ Ｊｏｕｒｎａｌ ｏｆ ｔｈｅ Ｅｕｒｏｐｅａｎ Ｕｎｉｏｎ． Ａｖａｉｌａｂｌｅ ａｔ： ｈｔｔｐｓ：／／ｅｕｒ－ｌｅｘ．ｅｕｒｏｐａ．ｅｕ／ｌｅｇａｌ－ｃｏｎｔｅｎｔ／ＥＮ／ＴＸＴ／？ｕｒｉ＝ＣＥＬＥＸ％３Ａ３２０１６Ｒ０６７９
【３】Ａｎｄｒｉｋｙａｎ Ｗ， Ｓａｍｅｔｉｎｇｅｒ ＳＭ， Ｋｏｓｆｅｌｄ Ｆ， ｅｔ ａｌＡｒｔｉｆｉｃｉａｌ ｉｎｔｅｌｌｉｇｅｎｃｅ－ｐｏｗｅｒｅｄ ｃｈａｔｂｏｔｓ ｉｎ ｓｅａｒｃｈ ｅｎｇｉｎｅｓ： ａ ｃｒｏｓｓ－ｓｅｃｔｉｏｎａｌ ｓｔｕｄｙ ｏｎ ｔｈｅ ｑｕａｌｉｔｙ ａｎｄ ｒｉｓｋｓ ｏｆ ｄｒｕｇ ｉｎｆｏｒｍａｔｉｏｎ ｆｏｒ ｐａｔｉｅｎｔｓＢＭＪ Ｑｕａｌｉｔｙ ＆ Ｓａｆｅｔｙ Ｐｕｂｌｉｓｈｅｄ Ｏｎｌｉｎｅ Ｆｉｒｓｔ： ０１ Ｏｃｔｏｂｅｒ ２０２４． ｄｏｉ： １０．１１３６／ｂｍｊｑｓ－２０２４－０１７４７６
【４】Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｅｌｅｃｔｒｉｃａｌ ａｎｄ Ｅｌｅｃｔｒｏｎｉｃｓ Ｅｎｇｉｎｅｅｒｓ （ＩＥＥＥ）． （２０２１）． Ｅｔｈｉｃａｌｌｙ Ａｌｉｇｎｅｄ Ｄｅｓｉｇｎ： Ａ Ｖｉｓｉｏｎ ｆｏｒ Ｐｒｉｏｒｉｔｉｚｉｎｇ Ｈｕｍａｎ Ｗｅｌｌ－ｂｅｉｎｇ ｗｉｔｈ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ ａｎｄ Ａｕｔｏｎｏｍｏｕｓ Ｓｙｓｔｅｍｓ （２ｎｄ ｅｄ．）． ＩＥＥＥ．
【５】朱鐘銳，馬輝． 涉及手術(shù)機(jī)器人醫(yī)療損害糾紛案例分析［Ｊ］． 中國(guó)醫(yī)院，２０２４，２８（５）：７２－７４． ＤＯＩ：１０．１９６６０／ｊ．ｉｓｓｎ．１６７１－０５９２．２０２４．５．１７．
注：文章來(lái)源于網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系刪除
