摘要 目的：梳理人工智能醫(yī)療器械的倫理現(xiàn)狀與面臨的問(wèn)題，探討醫(yī)療器械領(lǐng)域可遵循的人工智能倫理準(zhǔn)則和發(fā)展原則。
方法：查閱國(guó)內(nèi)外已發(fā)布的人工智能倫理準(zhǔn)則，國(guó)內(nèi)外監(jiān)管、醫(yī)學(xué)倫理相關(guān)規(guī)范要求文件。
結(jié)果與結(jié)論：人工智能醫(yī)療器械在發(fā)展與應(yīng)用過(guò)程中仍面臨著社會(huì)影響、個(gè)人數(shù)據(jù)保護(hù)、人工智能算法和醫(yī)學(xué)倫理等問(wèn)題。人工智能醫(yī)療器械在沿著推動(dòng)醫(yī)學(xué)人工智能倫理標(biāo)準(zhǔn)化、保持?jǐn)?shù)據(jù)完整性方向發(fā)展的同時(shí)，還要保障數(shù)據(jù)隱私。

關(guān)鍵詞： 人工智能；倫理；醫(yī)療器械

人工智能（Artificial Intelligence，縮寫為AI） 一詞，在1956年的達(dá)特茅斯會(huì)議上被首次提出。人 工智能作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，已發(fā)展 上升為[敏感詞]戰(zhàn)略，在自動(dòng)駕駛、醫(yī)療、工業(yè)機(jī)器人 以及教育、金融、互聯(lián)網(wǎng)服務(wù)等領(lǐng)域得到越來(lái)越多 的應(yīng)用。在醫(yī)療領(lǐng)域的應(yīng)用主要包括輔助診斷、輔 助手術(shù)、臨床輔助決策、患者信息管理等，對(duì)應(yīng)的人工智能醫(yī)療器械產(chǎn)品主要包括獨(dú)立的醫(yī)療軟件、 AI賦能醫(yī)療設(shè)備、醫(yī)療信息化系統(tǒng)（云醫(yī)療）幾大 類。隨著以深度學(xué)習(xí)為代表的人工智能技術(shù)不斷發(fā) 展，我們?cè)诜e極擁抱人工智能的同時(shí)，需要思考人 工智能醫(yī)療器械在發(fā)展與使用過(guò)程中面臨的倫理問(wèn) 題，充分認(rèn)識(shí)人工智能醫(yī)療器械在數(shù)據(jù)獲取、隱私 保護(hù)等方面帶來(lái)的影響。

人工智能本身是技術(shù)而不是產(chǎn)品，醫(yī)療工作 者使用的是被醫(yī)療人工智能賦能后的設(shè)備或者信息 化系統(tǒng)，而不是使用人工智能技術(shù)本身。由人工智 能發(fā)展所帶來(lái)的倫理問(wèn)題，在一定程度上可由設(shè)計(jì) 開發(fā)者通過(guò)遵循一定的原則而規(guī)避，因此，在我國(guó) 推動(dòng)人工智能發(fā)展的關(guān)鍵時(shí)期，探討人工智能發(fā)展 應(yīng)遵循的倫理準(zhǔn)則，對(duì)人工智能的發(fā)展有著極為重 要的意義。 

1 人工智能倫理準(zhǔn)則及現(xiàn)狀 

1.1 現(xiàn)階段人工智能倫理共識(shí) 

隨著人工智能倫理的發(fā)展，目前國(guó)內(nèi)外主要 達(dá)成了兩個(gè)影響較為廣泛的人工智能倫理共識(shí)， 一個(gè)是“阿西洛馬人工智能原則”（Asilomar AI Principles），一個(gè)是國(guó)際電氣電子工程師學(xué)會(huì) （IEEE）組織倡議的人工智能設(shè)計(jì)的倫理準(zhǔn)則[1]。 

“阿西洛馬人工智能原則”于2017年1月初在 美國(guó)加利福尼亞州阿西洛馬舉行的Beneficial AI會(huì) 議上被提出，阿西洛馬人工智能原則是[敏感詞]的阿 西莫夫機(jī)器人學(xué)三定律的擴(kuò)展版本。阿西洛馬人 工智能原則目前共23項(xiàng)，分為三大類，分別為科研 問(wèn)題（Research Issues）、倫理和價(jià)值（Ethics and Values）、更長(zhǎng)期的問(wèn)題（Longer-term Issues）[2]。 其中涉及倫理方面的共13項(xiàng)，主要為1）安全性； 2）故障透明性；3）司法透明性；4）責(zé)任；5）價(jià) 值歸屬；6）人類價(jià)值觀；7）個(gè)人隱私；8）自由 和隱私；9）分享利益；10）共同繁榮；11）人類 控制；12）非顛覆；13）人工智能軍備競(jìng)賽。 

“阿西洛馬人工智能原則”可以理解為人工 智能不能單純地為了利益而創(chuàng)造，而應(yīng)該為了在確 保人類不被替代的情況下通過(guò)自動(dòng)化實(shí)現(xiàn)人類繁 榮。保持一個(gè)尊重隱私但開放、合作的人工智能研 究文化也是一個(gè)優(yōu)先考慮的問(wèn)題，以確保研究人員 和政策制定者在彼此交換信息的同時(shí)，不會(huì)用危害 人類的手段與對(duì)手競(jìng)爭(zhēng)。 

國(guó)際電氣電子工程師學(xué)會(huì)（IEEE）最早于 2016年提出了“關(guān)于自主/智能系統(tǒng)倫理的全球倡 議”，并于2016年12月和2017年12月在全球范圍內(nèi) 先后發(fā)布了[敏感詞]版和第二版的“人工智能設(shè)計(jì)的倫 理準(zhǔn)則”白皮書（"Ethically Aligned Design"）。該 白皮書來(lái)自于IEEE自主與智能系統(tǒng)倫理全球倡議 項(xiàng)目，在當(dāng)前版本的《人工智能設(shè)計(jì)的倫理準(zhǔn)則》 （第2版）中，白皮書提出了一些相關(guān)的議題和建議，希望能夠促進(jìn)符合這些原則的[敏感詞]政策和全 球政策的制定。該倫理準(zhǔn)則提出了5個(gè)核心應(yīng)遵循 原則[3]：1）人權(quán)：確保它們不侵犯國(guó)際公認(rèn)的人 權(quán)；2）福祉：在它們的設(shè)計(jì)和使用中優(yōu)先考慮人 類福祉的指標(biāo)；3）問(wèn)責(zé)：確保它們的設(shè)計(jì)者和操 作者負(fù)責(zé)任且可問(wèn)責(zé)；4）透明：確保它們以透明 的方式運(yùn)行；5）慎用：將濫用的風(fēng)險(xiǎn)降到[敏感詞]。 該人工智能倫理準(zhǔn)則的發(fā)布旨在為IEEE正在推動(dòng) 的11個(gè)與人工智能倫理相關(guān)的標(biāo)準(zhǔn)制定提供建議。

上述兩項(xiàng)接受較為廣泛的倫理共識(shí)，由來(lái)自 人工智能/機(jī)器人研究領(lǐng)域的專家學(xué)者以及專業(yè)技 術(shù)學(xué)會(huì)的研究人員討論制定而成。同時(shí)，由于人工 智能在產(chǎn)業(yè)發(fā)展中的戰(zhàn)略性地位和應(yīng)對(duì)人工智能倫 理風(fēng)險(xiǎn)的迫切需要，許多[敏感詞]政府機(jī)構(gòu)、社會(huì)團(tuán) 體、產(chǎn)業(yè)界等也在制定適用于自身國(guó)情的人工智能 倫理準(zhǔn)則或指南，為人工智能相關(guān)企業(yè)提供風(fēng)險(xiǎn)把 控、評(píng)估和應(yīng)對(duì)的系統(tǒng)性指引。 

1.2 國(guó)外人工智能倫理發(fā)展現(xiàn)狀 

為了有效應(yīng)對(duì)AI帶來(lái)的新機(jī)遇，歐盟委員會(huì) 于2019年4月8日以“建立對(duì)以人為本AI的信任”為 題，發(fā)布了歐洲版的AI倫理準(zhǔn)則。該倫理準(zhǔn)則提 出了“可信任AI”應(yīng)當(dāng)滿足的7項(xiàng)關(guān)鍵要點(diǎn)[4]，具 體包括1）人的自主和監(jiān)督；2）可靠性和安全性； 3）隱私和數(shù)據(jù)治理；4）透明度；5）多樣性、非 歧視性和公平性；6）社會(huì)和環(huán)境福祉；7）可追責(zé) 性。歐盟委員會(huì)在人工智能方面布局已久，早在 2018年12月歐盟委員會(huì)人工智能高級(jí)專家組就發(fā)布 了《關(guān)于可信賴人工智能的倫理準(zhǔn)則（草案）》 （Ethics Guidelines for Trustworthy AI），該草案為 人工智能倫理提出了一個(gè)框架，給后續(xù)發(fā)布的歐洲 版AI倫理準(zhǔn)則奠定了基礎(chǔ)[5]。

國(guó)際計(jì)算機(jī)協(xié)會(huì)（ACM）下屬美國(guó)公共政策 委員會(huì)于2017 年發(fā)布《算法透明性和可問(wèn)責(zé)性聲 明》，提出了7項(xiàng)基本原則[6]：1）意識(shí)；2）獲取 和救濟(jì)；3）責(zé)任制；4）可解釋；5）數(shù)據(jù)來(lái)源保 護(hù)；6）可審查性；7）驗(yàn)證和測(cè)試。該聲明的重要 部分要求開發(fā)人工智能的機(jī)構(gòu)能夠?qū)λ惴ǖ倪^(guò)程和 特定的決策結(jié)果給予一定的解釋，即人工智能算法 的哪些輸入特性會(huì)引起某個(gè)特定輸出結(jié)果變化的可 解釋性。 

1.3 我國(guó)人工智能倫理發(fā)展現(xiàn)狀 

我國(guó)也已將人工智能上升為[敏感詞]戰(zhàn)略，在法律法規(guī)和政策體系進(jìn)行了深入布局。國(guó)務(wù)院于2017 年7月20日印發(fā)了《新一代人工智能發(fā)展規(guī)劃》， 在戰(zhàn)略目標(biāo)中對(duì)法律政策體系建設(shè)提出了三步走要 求：到2020年，部分領(lǐng)域的人工智能倫理規(guī)范和政 策法規(guī)初步建立；到2025年，初步建立人工智能法 律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全 評(píng)估和管控能力；到2030年，建成更加完善的人工 智能法律法規(guī)、倫理規(guī)范和政策體系。規(guī)劃要求圍 繞自動(dòng)駕駛、服務(wù)機(jī)器人等應(yīng)用基礎(chǔ)較好的細(xì)分領(lǐng) 域加快立法研究，重點(diǎn)解決人工智能下的民事與刑 事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用、 問(wèn)責(zé)和追溯機(jī)制、潛在危險(xiǎn)與評(píng)估等方面的法律 問(wèn)題[7]。2018年1月，[敏感詞]人工智能標(biāo)準(zhǔn)化總體組 成立，會(huì)上發(fā)布了《人工智能標(biāo)準(zhǔn)化白皮書（2018 版）》，提出要依托于社會(huì)團(tuán)體和公眾對(duì)人工智能 倫理進(jìn)行深入思考和研究，并遵循一些共識(shí)原則： 一是人類利益原則，即人工智能應(yīng)以實(shí)現(xiàn)人類利益 為[敏感詞]目標(biāo)；二是責(zé)任原則，在責(zé)任原則下，在技 術(shù)開發(fā)方面應(yīng)遵循透明度原則，在技術(shù)應(yīng)用方面則 應(yīng)當(dāng)遵循權(quán)責(zé)一致原則[1]。2019年4月，[敏感詞]人工 智能標(biāo)準(zhǔn)化總體組發(fā)布《人工智能倫理風(fēng)險(xiǎn)分析報(bào) 告》，進(jìn)一步明確了人類根本利益原則要從對(duì)社 會(huì)的影響、人工智能算法、數(shù)據(jù)使用三個(gè)方面來(lái) 考慮[8]。

2 人工智能在醫(yī)療器械領(lǐng)域的倫理風(fēng)險(xiǎn) 

從整體來(lái)看，現(xiàn)階段人工智能在醫(yī)療器械領(lǐng) 域的應(yīng)用主要是醫(yī)學(xué)圖像AI技術(shù)和AI技術(shù)賦能硬 件，例如目前大量涌現(xiàn)的“智能讀片”類AI醫(yī)療軟 件，利用深度學(xué)習(xí)在具有代表性的醫(yī)學(xué)影像數(shù)據(jù)庫(kù) 中進(jìn)行模型訓(xùn)練（多層神經(jīng)網(wǎng)絡(luò)）[9]，利用這些模 型來(lái)解析圖像、文本、聲音，從而實(shí)現(xiàn)對(duì)醫(yī)學(xué)圖像 病癥的早期篩查；目前的AI技術(shù)賦能硬件，通常內(nèi) 嵌于各類醫(yī)學(xué)影像設(shè)備，在設(shè)備前期拍攝及后期 圖像處理過(guò)程中實(shí)現(xiàn)圖像分割、目標(biāo)檢測(cè)、圖像分 類、圖像映射、圖像配準(zhǔn)等功能[10-12]。 

上述人工智能還是實(shí)現(xiàn)特定功能的專用智 能，并不能像人類智能那樣擁有真正實(shí)現(xiàn)推理、思 考和解決問(wèn)題的能力，因此被叫做弱人工智能。與 此對(duì)應(yīng)的強(qiáng)人工智能則是達(dá)到類人水平的、能夠自 適應(yīng)地應(yīng)對(duì)外界環(huán)境挑戰(zhàn)的、具有自我意識(shí)的人工 智能[13]。強(qiáng)人工智能在哲學(xué)上存在巨大的爭(zhēng)議（主 要涉及思維與意識(shí)等根本問(wèn)題的討論），在技術(shù)上存在著極大的挑戰(zhàn)，當(dāng)前鮮有進(jìn)展與應(yīng)用，因此， 考慮醫(yī)療領(lǐng)域人工智能的倫理風(fēng)險(xiǎn)，主要是以數(shù)據(jù) 驅(qū)動(dòng)類AI醫(yī)療器械產(chǎn)品為主，從社會(huì)影響、個(gè)人數(shù) 據(jù)保護(hù)、人工智能算法和醫(yī)學(xué)倫理四個(gè)方面來(lái)考慮 其風(fēng)險(xiǎn)影響。

2.1 對(duì)社會(huì)的影響 

從現(xiàn)有倫理準(zhǔn)則與共識(shí)來(lái)看，醫(yī)療人工智能 倫理的標(biāo)準(zhǔn)化工作仍處于起步階段，行業(yè)內(nèi)對(duì)醫(yī)療 人工智能的內(nèi)涵、應(yīng)用模式還未達(dá)成準(zhǔn)確共識(shí)，由 此帶來(lái)的行業(yè)內(nèi)競(jìng)爭(zhēng)可能會(huì)造成人工智能技術(shù)在醫(yī) 療領(lǐng)域的濫用，例如不考慮醫(yī)學(xué)實(shí)際情況，在醫(yī)學(xué) 成像、病灶識(shí)別、手術(shù)規(guī)劃等臨床領(lǐng)域盲目使用 人工智能技術(shù)。造成的結(jié)果：一是資源的浪費(fèi)， 目前絕大多數(shù)人工智能輔助診療結(jié)果仍需醫(yī)生確認(rèn) 操作，這種AI產(chǎn)品是否具有臨床意義仍有待商榷； 二是增加了醫(yī)生對(duì)先進(jìn)人工智能產(chǎn)品的依賴性，隨 著科技的發(fā)展，傳統(tǒng)診療方法將逐步向高科技輔助 診療轉(zhuǎn)變，而這類輔助診療產(chǎn)品往往集中在科技發(fā) 達(dá)、財(cái)富集中的[敏感詞]或地區(qū)，這將造成各地區(qū)的醫(yī) 療資源、醫(yī)療水平不平衡，如何讓每個(gè)地區(qū)的人都 從人工智能創(chuàng)造的福祉中收益，這是需要思考的問(wèn)題。

2.2 個(gè)人數(shù)據(jù)保護(hù)風(fēng)險(xiǎn) 

以深度學(xué)習(xí)+大數(shù)據(jù)為框架的醫(yī)學(xué)人工智能系 統(tǒng)需要大量的數(shù)據(jù)來(lái)訓(xùn)練學(xué)習(xí)算法。深度學(xué)習(xí)分為 兩個(gè)階段：訓(xùn)練階段和應(yīng)用階段。訓(xùn)練階段的[敏感詞] 特點(diǎn)是數(shù)據(jù)驅(qū)動(dòng)，一是需要大量的訓(xùn)練樣本；二是 所有樣本需要明確的標(biāo)注（金標(biāo)準(zhǔn)）；這就需要提 高樣本數(shù)據(jù)采集的效率和質(zhì)量。目前，大多數(shù)人工 智能產(chǎn)品的訓(xùn)練樣本主要來(lái)自醫(yī)院患者的各類醫(yī)學(xué) 影像數(shù)據(jù)，少部分來(lái)自于人類行為信息的數(shù)字化記 錄等。醫(yī)學(xué)影像及患者行為信息涉及患者數(shù)據(jù)隱私 的倫理問(wèn)題，使用者在獲取患者數(shù)據(jù)時(shí)必須要抹去 個(gè)人敏感信息，只保留相關(guān)醫(yī)學(xué)信息。 

關(guān)于敏感信息的定義、識(shí)別與處理，國(guó)內(nèi)現(xiàn) 在還沒(méi)有明確的標(biāo)準(zhǔn)，主要依賴于企業(yè)的自覺(jué)， 可供企業(yè)參考的數(shù)據(jù)隱私保護(hù)準(zhǔn)則主要是歐盟 在2018年5月生效的《歐洲通用數(shù)據(jù)保護(hù)條例》 （GDPR）和美國(guó)國(guó)會(huì)于1996年發(fā)布的《健康保險(xiǎn) 可攜帶性與責(zé)任法案》（HIPAA）[14]。GDPR條例 對(duì)個(gè)人數(shù)據(jù)、醫(yī)學(xué)健康相關(guān)數(shù)據(jù)給出了明確定義， 并對(duì)如何在保護(hù)數(shù)據(jù)主體權(quán)益的情況下開展工作做了詳細(xì)說(shuō)明[15]。HIPAA法案則既保護(hù)個(gè)人受保護(hù)的 健康信息，又確保研究人員可以持續(xù)獲得必要的醫(yī) 療信息來(lái)進(jìn)行研究，為達(dá)到這兩點(diǎn)的平衡，HIPAA 有3點(diǎn)重要規(guī)定[16]：1）對(duì)于不具備身份識(shí)別功能的 健康信息，可以使用和披露給研究機(jī)構(gòu)；2）在獲 得病人書面授權(quán)的情況下，可以因?yàn)檠芯磕康亩?用或披露病人受保護(hù)的健康信息；3）在某些特殊 情況下，HIPAA也允許無(wú)須同意授權(quán)的信息共享， 包括審查委員會(huì)或保密委員會(huì)批準(zhǔn)的情況。

2.3 算法方面的風(fēng)險(xiǎn) 

在深度學(xué)習(xí)算法的應(yīng)用階段，也面臨著諸多 風(fēng)險(xiǎn)。一是安全性，算法存在泄漏、參數(shù)被非預(yù)期 修改的情況，且現(xiàn)階段的深度學(xué)習(xí)算法是一個(gè)典型 的“黑箱”算法，當(dāng)算法被修改時(shí)，算法性能的降 低或錯(cuò)誤的發(fā)生將很難被察覺(jué)到，醫(yī)療領(lǐng)域與人身 安全息息相關(guān)，這樣的風(fēng)險(xiǎn)造成的后果將直接侵害 人身權(quán)益。二是算法偏見(jiàn)風(fēng)險(xiǎn)，算法的復(fù)雜性和專 業(yè)性，在現(xiàn)階段很難解釋清楚人工智能算法輸入的 某些特性是如何引起某個(gè)特定輸出結(jié)果發(fā)生的[17]， 算法的偏見(jiàn)可能是程序員主觀認(rèn)知的偏差，也有可 能是輸入數(shù)據(jù)的分布本身不具有整體代表性，同時(shí) 如果算法在臨床應(yīng)用中通過(guò)本地?cái)?shù)據(jù)進(jìn)行無(wú)監(jiān)督學(xué) 習(xí)，也有加重這些偏見(jiàn)的風(fēng)險(xiǎn)。 

2.4 醫(yī)學(xué)倫理風(fēng)險(xiǎn) 

對(duì)于醫(yī)學(xué)人工智能產(chǎn)品的倫理思考，還應(yīng)該 納入醫(yī)學(xué)倫理范疇，考慮在醫(yī)學(xué)倫理上如何進(jìn)行 患者隱私、數(shù)據(jù)保護(hù)等，這也是醫(yī)療類AI產(chǎn)品與一 般AI產(chǎn)品在倫理方面的[敏感詞]區(qū)別。在我國(guó)，獲取醫(yī) 學(xué)臨床數(shù)據(jù)、進(jìn)行臨床試驗(yàn)還必須獲得醫(yī)學(xué)倫理 審批，醫(yī)學(xué)方面的倫理監(jiān)管主要依賴于倫理審查制 度，而負(fù)責(zé)倫理審查的組織——倫理委員會(huì)則肩負(fù) 著醫(yī)學(xué)研究倫理審查、受試者權(quán)益保護(hù)、人的尊嚴(yán) 維護(hù)等方面的重要職責(zé)[18]。原衛(wèi)生部在1988年發(fā)布 了《藥品臨床試驗(yàn)管理規(guī)范》[19]，于1995年出臺(tái)了 《衛(wèi)生部臨床藥理基地管理指導(dǎo)原則》。隨著生物 醫(yī)學(xué)科學(xué)技術(shù)與研究的飛速發(fā)展，在臨床實(shí)踐中遇 到的倫理難題更為多樣化，上述規(guī)范性文件已不能 滿足倫理審查的需求。原[敏感詞]衛(wèi)生和計(jì)劃生育委員 會(huì)在2016年發(fā)布了《涉及人的生物醫(yī)學(xué)研究倫理審 查辦法》，該辦法以涉及人的生物醫(yī)學(xué)研究項(xiàng)目的 倫理審查為重點(diǎn)，明確了醫(yī)療衛(wèi)生倫理委員會(huì)的職 責(zé)和任務(wù)，強(qiáng)化了對(duì)倫理委員會(huì)的監(jiān)管[20]。2017年10月，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)了《關(guān) 于深化審評(píng)審批制度改革鼓勵(lì)藥品醫(yī)療器械創(chuàng)新的 意見(jiàn)》，提出要完善倫理委員會(huì)機(jī)制，提高倫理審 查效率，其中重要一條是提出了區(qū)域倫理委員會(huì)職 能，指導(dǎo)臨床試驗(yàn)機(jī)構(gòu)倫理審查工作。區(qū)域倫理委 員會(huì)將肩負(fù)起解決多中心臨床研究的倫理審查標(biāo)準(zhǔn) 不一致、重復(fù)審查的問(wèn)題，解決不具備倫理審查條 件的機(jī)構(gòu)直接發(fā)起的項(xiàng)目審查問(wèn)題。 當(dāng)前醫(yī)療人工智能產(chǎn)品在樣本數(shù)據(jù)采集與臨 床試驗(yàn)階段都有可能面臨醫(yī)學(xué)倫理審查，就需要 相關(guān)企業(yè)熟悉醫(yī)學(xué)倫理規(guī)范文件，在產(chǎn)品開發(fā)與 應(yīng)用階段遵守基本醫(yī)學(xué)倫理原則[21]：1）知情同意 原則；2）控制風(fēng)險(xiǎn)原則；3）免費(fèi)補(bǔ)償原則；4） 保護(hù)隱私原則；5）依法賠償原則；6）特殊保護(hù) 原則。

3 人工智能醫(yī)療器械應(yīng)遵循的倫理發(fā)展方向 

3.1 推動(dòng)醫(yī)學(xué)人工智能倫理標(biāo)準(zhǔn)化 為了促進(jìn)行業(yè)的發(fā)展，開放、共享的高質(zhì)量 醫(yī)學(xué)數(shù)據(jù)集是未來(lái)的發(fā)展趨勢(shì)，但是數(shù)據(jù)獲取的 來(lái)源（前瞻式采集與回顧式采集交叉混合）[22]、數(shù) 據(jù)清洗個(gè)人信息的準(zhǔn)則/尺度[23]、數(shù)據(jù)標(biāo)注的規(guī)范 格式[24]等現(xiàn)在并無(wú)統(tǒng)一的定論，這會(huì)使得高質(zhì)量的 數(shù)據(jù)集難以在各個(gè)AI產(chǎn)品開發(fā)者間互通。只有相應(yīng) 的規(guī)則確定后，人工智能醫(yī)療器械產(chǎn)業(yè)才能高速 發(fā)展。 3.2 數(shù)據(jù)完整性與醫(yī)學(xué)倫理的平衡 在滿足醫(yī)學(xué)倫理要求保護(hù)隱私和個(gè)人數(shù)據(jù)的 同時(shí)，醫(yī)療類AI產(chǎn)品為了獲得高質(zhì)量的數(shù)據(jù)集，還 應(yīng)盡可能地保留更多的信息（例如既往病史）用于 分析處理，避免數(shù)據(jù)收集納入偏見(jiàn)的、非典型的， 甚至是錯(cuò)誤的信息。與此同時(shí)，醫(yī)療類AI產(chǎn)品在數(shù) 據(jù)收集、數(shù)據(jù)標(biāo)注的過(guò)程中必須保證其數(shù)據(jù)的完整 性，使得AI產(chǎn)品是可解釋的、可信任的。如何[敏感詞] 程度地保留信息，同時(shí)避免通過(guò)信息追溯到個(gè)人， 這是醫(yī)療類AI產(chǎn)品應(yīng)遵循的倫理方向。 4 結(jié)語(yǔ) 在人工智能與倫理方面做深入的探索，圍繞 人工智能建立一系列標(biāo)準(zhǔn)，形成醫(yī)療健康人工智能 標(biāo)準(zhǔn)生態(tài)，這關(guān)系到人工智能的發(fā)展。人工智能產(chǎn) 業(yè)能否得到公眾的信任并獲得持續(xù)性發(fā)展，關(guān)鍵在 于建立有共識(shí)的人工智能倫理準(zhǔn)則，在較高程度 保持?jǐn)?shù)據(jù)完整性的同時(shí)，保障數(shù)據(jù)隱私，在符合GDPR等要求的前提下，使得來(lái)自不同渠道的數(shù)據(jù) 可用于機(jī)器學(xué)習(xí)，從而促進(jìn)產(chǎn)業(yè)的發(fā)展。

參考文獻(xiàn)： 
[1] 中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院. 人工智能標(biāo)準(zhǔn)化白皮書 （2018版）[S]. 2018. 
[2] Future of Life Institute（FLI）. Asilomar AI Principles[S]. 加利福尼亞：Beneficial AI 2017，2017. 
[3] The IEEE Global Initiative on Ethics of Autonomousand Intelligent Systems（IEEE）. The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems[S]. 2017. 
[4] The European Commission's High-level Expert Group on Artificial Intelligence. Ethics Guidelines for Trustworthy AI[S]. 2019. 
[5] The European Commission's High-level Expert Group on Artificial Intelligence. Draft Ethics Guidelines for Trustworthy AI [S]. 2018. 
[6] ACM US Public Policy Council and ACM Europe Policy Committee. Statement on Algorithmic Transparency and Accountability[S]. 2017. 
[7] 國(guó)務(wù)院. 國(guó)發(fā)[2017]35號(hào) 新一代人工智能發(fā)展規(guī)劃[S]. 2017. 
[8] [敏感詞]人工智能標(biāo)準(zhǔn)化總體組. 人工智能倫理風(fēng)險(xiǎn)分析報(bào) 告[R]. 2019. 
[9] Hinton GE，Salakhutdinov R. Reducing the Dimensionality of Data With Neural Networks[J]. Science，2006，313： 504-507.
[10] Setio AAA，Traverso A，deBel T, et al. Validation， Comparison，and Combination of Algorithms for Automatic Detection of Pulmonary Nodules in Computed Tomography Images：The LUNA16 Challenge[J]. Med Image Anal， 2017，42：1-13. 
[11] Gulshan V，Peng L，Coram M. Development and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Retinal Fundusphotographs[J]. JAMA，2016，316：2402. 
[12] Becker AS，Marcon M，Ghafoor S，et al. Deep Learning in Mammography：Diagnostic Accuracy of a Multipurpose Image Analysis Software in the Detection of Breast Cancer[J]. Invest Radiol，2017，52：434-440. 
[13] 莫宏偉. 強(qiáng)人工智能與弱人工智能的倫理問(wèn)題思考[J]. 科學(xué)與社會(huì)，2018，8（1）：14-24. 
[14] 劉抒悅，高上知，商瑾，等. 美國(guó)《健康保險(xiǎn)攜帶和責(zé) 任法案》中關(guān)于生物醫(yī)學(xué)研究的規(guī)定及其影響[J]. 中 國(guó)醫(yī)學(xué)倫理學(xué)，2016，29（6）：1011-1014. 
[15] 王灝晨. 歐盟《通用數(shù)據(jù)保護(hù)條例》對(duì)人工智能發(fā)展 的影響及啟示[J]. 中國(guó)經(jīng)貿(mào)導(dǎo)刊：理論版，2018，900 （17）：22-24. 
[16] 閻娜，王伊龍，李子孝，等. 美國(guó)健康保險(xiǎn)流通與責(zé) 任法案對(duì)臨床研究的影響[J]. 中國(guó)卒中雜志，2011，6 （12）：971-974. [17] Tim Miller. Explanation in Artificial Intelligence：Insights from the Social Sciences[J]. Artificial Intelligence，2019， 267：1-38. 
[18] 安麗娜. 我國(guó)倫理委員會(huì)的變遷、現(xiàn)狀與監(jiān)管研究[J]. 山東科技大學(xué)學(xué)報(bào)：社會(huì)科學(xué)版，2019，21（3）： 26-32，40. 
[19] 張妞，張濤，徐菊華. 中國(guó)醫(yī)院倫理委員會(huì)發(fā)展的回顧 與思考[J]. 醫(yī)學(xué)與哲學(xué)：A，2017，38（11）：14-17. 
[20] 涉及人的生物醫(yī)學(xué)研究應(yīng)遵循的倫理原則[J]. 中國(guó)心血 管雜志，2019，24（2）：194. [21] 中華人民共和國(guó)[敏感詞]衛(wèi)生和計(jì)劃生育委員會(huì). 涉及人的 生物醫(yī)學(xué)研究倫理審查辦法[S]. 2016. 
[22] 王權(quán)，王浩，孟祥峰，等. 人員管理對(duì)人工智能醫(yī)療 器械用數(shù)據(jù)集質(zhì)量的影響分析[J]. 中國(guó)醫(yī)療設(shè)備， 2018，33（12）：6-9. [23] 郝燁，唐橋紅，李佳戈，等. 數(shù)據(jù)清洗技術(shù)在DICOM格 式醫(yī)學(xué)圖像質(zhì)控中的應(yīng)用[J]. 中國(guó)醫(yī)療設(shè)備，2018， 33（12）：10-13. [24] 王浩，孟祥峰，王權(quán)，等. 人工智能醫(yī)療器械用數(shù)據(jù) 集管理與評(píng)價(jià)方法研究[J]. 中國(guó)醫(yī)療設(shè)備，2018，33 （12）：1-5. 

唐橋虹，王浩，任海萍 * （中國(guó)食品藥品檢定研究院，北京 100050）