近日，中央網(wǎng)信辦旗下雜志《中國(guó)網(wǎng)信》刊發(fā)了丁香園創(chuàng)始人、董事長(zhǎng)李天天的署名文章《以“負(fù)責(zé)任創(chuàng)新”探索醫(yī)療人工智能發(fā)展新路徑》。文章提到了丁香園在醫(yī)療人工智能領(lǐng)域秉持“負(fù)責(zé)任創(chuàng)新”理念，在醫(yī)療AI產(chǎn)品的研發(fā)上以數(shù)據(jù)質(zhì)量為優(yōu)先，堅(jiān)持“有錯(cuò)必糾”，強(qiáng)化風(fēng)險(xiǎn)提示與循證依據(jù)前置，減少低級(jí)錯(cuò)誤發(fā)生的概率，謹(jǐn)慎推進(jìn)醫(yī)療人工智能的應(yīng)用實(shí)踐。以下為文章全文：
近年來，人工智能技術(shù)在醫(yī)療健康領(lǐng)域的應(yīng)用不斷深化，從醫(yī)學(xué)知識(shí)檢索、輔助診療到科研支持與健康管理，展現(xiàn)出廣闊前景。與此同時(shí)，算法偏差、數(shù)據(jù)質(zhì)量、責(zé)任邊界等問題也逐漸顯現(xiàn)。如何在鼓勵(lì)技術(shù)創(chuàng)新的同時(shí)，有效防范潛在風(fēng)險(xiǎn)，推動(dòng)人工智能在醫(yī)療健康領(lǐng)域?qū)崿F(xiàn)風(fēng)險(xiǎn)可控、結(jié)論可信、發(fā)展可持續(xù)，成為當(dāng)前亟須回應(yīng)的重要課題。在這一背景下，“負(fù)責(zé)任創(chuàng)新”逐漸成為行業(yè)發(fā)展共識(shí)。在醫(yī)療健康等高風(fēng)險(xiǎn)領(lǐng)域，更應(yīng)堅(jiān)持審慎原則，將安全性、有效性和合規(guī)性置于優(yōu)先位置。
以數(shù)據(jù)質(zhì)量為核心的技術(shù)路徑選擇
醫(yī)療行業(yè)創(chuàng)新的底線在于確保醫(yī)療質(zhì)量和患者安全，任何技術(shù)路徑都不應(yīng)偏離循證醫(yī)學(xué)證據(jù)（用于支持醫(yī)療決策的科學(xué)研究證據(jù)）這一核心原則。這一認(rèn)知既源于醫(yī)療行業(yè)的長(zhǎng)期實(shí)踐經(jīng)驗(yàn)，也是醫(yī)療人工智能發(fā)展的價(jià)值坐標(biāo)。
基于上述立場(chǎng)，觀瀾網(wǎng)絡(luò)（杭州）有限公司（以下簡(jiǎn)稱“丁香園”）在探索醫(yī)療人工智能發(fā)展的過程中明確將產(chǎn)品定位為醫(yī)療專業(yè)人員的輔助決策工具提供者，而非臨床決策的替代者。核心目標(biāo)是在嚴(yán)格遵循既有醫(yī)療規(guī)范和高等級(jí)循證醫(yī)學(xué)證據(jù)的前提下，通過技術(shù)手段降低信息獲取成本，減少低級(jí)錯(cuò)誤風(fēng)險(xiǎn)，輔助醫(yī)生更高效地做出符合專業(yè)共識(shí)的判斷。
2025年10月，基于專業(yè)醫(yī)療數(shù)據(jù)和權(quán)威文獻(xiàn)資料，丁香園上線循證醫(yī)學(xué)臨床診療決策輔助工具“臨床決策”，該應(yīng)用采用原文循證機(jī)制，以高質(zhì)量循證醫(yī)學(xué)數(shù)據(jù)為核心，依托人工智能技術(shù)實(shí)現(xiàn)智能化診療支持。在設(shè)計(jì)產(chǎn)品時(shí)，將重點(diǎn)放在數(shù)據(jù)可靠性、結(jié)論可追溯性和風(fēng)險(xiǎn)提示完整性上，力求在實(shí)際應(yīng)用中發(fā)揮“糾錯(cuò)誤、減風(fēng)險(xiǎn)、補(bǔ)短板”的輔助作用。在探索醫(yī)療人工智能發(fā)展的過程中，將更多資源投入醫(yī)療文本數(shù)據(jù)的系統(tǒng)性建設(shè)與治理，通過持續(xù)打磨數(shù)據(jù)來源、數(shù)據(jù)控制質(zhì)量等，為模型提供更加可靠、可驗(yàn)證、可追溯的知識(shí)基礎(chǔ)，以期從源頭上降低潛在風(fēng)險(xiǎn)。
嚴(yán)格的數(shù)據(jù)篩選機(jī)制。在數(shù)據(jù)來源上，堅(jiān)持以權(quán)威性和專業(yè)性為優(yōu)先原則，重點(diǎn)選取權(quán)威臨床指南、藥品說明書、高等級(jí)循證醫(yī)學(xué)文獻(xiàn)及長(zhǎng)期積累的專業(yè)內(nèi)容體系，并通過交叉比對(duì)和專業(yè)篩選，盡量避免單一文本帶來的偏差性和不確定性。
多層次的數(shù)據(jù)清洗與結(jié)構(gòu)化處理。針對(duì)原始醫(yī)學(xué)文本中表述不統(tǒng)一、適用條件不清晰等問題，在數(shù)據(jù)進(jìn)入模型前進(jìn)行系統(tǒng)化清洗與結(jié)構(gòu)化處理，對(duì)關(guān)鍵概念、適用人群和風(fēng)險(xiǎn)提示進(jìn)行明確標(biāo)注，防范歧義表達(dá)引發(fā)的潛在風(fēng)險(xiǎn)。
動(dòng)態(tài)更新與循證同步機(jī)制。圍繞醫(yī)學(xué)知識(shí)持續(xù)演進(jìn)特點(diǎn)，建立動(dòng)態(tài)更新機(jī)制，及時(shí)跟進(jìn)權(quán)威指南修訂和重要研究成果發(fā)布，補(bǔ)充或修正相關(guān)文本，剔除過時(shí)知識(shí)，避免因知識(shí)滯后影響臨床判斷。
同行評(píng)議與多輪人工復(fù)核流程。針對(duì)直接服務(wù)臨床決策支持的重要內(nèi)容，引入同行評(píng)議和多輪人工復(fù)核流程，重點(diǎn)關(guān)注安全邊界、禁忌事項(xiàng)和高風(fēng)險(xiǎn)場(chǎng)景，確保內(nèi)容符合當(dāng)前醫(yī)療行業(yè)的專業(yè)共識(shí)和質(zhì)量要求。
審慎應(yīng)用中的初步實(shí)踐與延展探索
丁香園把產(chǎn)品定位為風(fēng)險(xiǎn)約束與認(rèn)知校驗(yàn)下的診療輔助決策系統(tǒng)，將風(fēng)險(xiǎn)控制和糾偏能力置于更加優(yōu)先的位置。
一方面，在涉及潛在高風(fēng)險(xiǎn)的臨床問題時(shí)，先充分暴露警示風(fēng)險(xiǎn)，再給出相關(guān)結(jié)論作參考，避免在證據(jù)不足或適用條件復(fù)雜的情境下對(duì)醫(yī)生形成誤導(dǎo)。引入針對(duì)醫(yī)生提問的意圖識(shí)別與風(fēng)險(xiǎn)分層機(jī)制，對(duì)不同類型問題進(jìn)行差異化處理。重點(diǎn)識(shí)別是否涉及明確的高風(fēng)險(xiǎn)診療行為，并結(jié)合病情復(fù)雜程度、用藥不良反應(yīng)風(fēng)險(xiǎn)及適用條件的不確定性，對(duì)風(fēng)險(xiǎn)提示進(jìn)行分層配置。
另一方面，在結(jié)論呈現(xiàn)上，始終將高等級(jí)循證醫(yī)學(xué)證據(jù)置于核心位置，通過明確適用條件、證據(jù)來源和不確定性邊界，強(qiáng)化對(duì)臨床指南和專業(yè)共識(shí)的尊重。對(duì)于經(jīng)識(shí)別明確涉及嚴(yán)重安全風(fēng)險(xiǎn)且缺乏合理醫(yī)學(xué)超范圍適用依據(jù)的問題，設(shè)置穩(wěn)定且一致的安全約束機(jī)制，明確不輸出可能引發(fā)誤用的結(jié)論性建議，并且直接提示相關(guān)行為存在顯著風(fēng)險(xiǎn)或不符合規(guī)范要求。
“臨床決策”結(jié)合既有醫(yī)學(xué)規(guī)范和質(zhì)量控制經(jīng)驗(yàn)，引入多項(xiàng)規(guī)則化約束機(jī)制，對(duì)藥物禁忌、特殊人群用藥及劑型差異等關(guān)鍵節(jié)點(diǎn)進(jìn)行識(shí)別和提示，對(duì)明顯存在風(fēng)險(xiǎn)的操作進(jìn)行前置提醒，幫助醫(yī)生減少在高強(qiáng)度工作環(huán)境下低級(jí)錯(cuò)誤發(fā)生的概率。“臨床決策”上線三個(gè)月內(nèi)，系統(tǒng)處理了超過一百萬條來自認(rèn)證醫(yī)生的提問。
當(dāng)前，基層醫(yī)療資源相對(duì)有限、基層醫(yī)生水平參差不齊、醫(yī)生在獨(dú)立決策時(shí)面臨的壓力較為集中，需要通過合規(guī)、可靠的技術(shù)工具，輔助基層醫(yī)生提升決策質(zhì)量、減少系統(tǒng)性風(fēng)險(xiǎn)。在后續(xù)規(guī)劃中，丁香園將結(jié)合開展多年的“基層醫(yī)生賦能計(jì)劃”，逐步面向基層醫(yī)療機(jī)構(gòu)和醫(yī)生捐贈(zèng)人工智能產(chǎn)品和服務(wù)。2026年計(jì)劃向青海、甘肅、新疆、黑龍江等地的基層醫(yī)生和大學(xué)生村醫(yī)捐贈(zèng)“臨床決策”會(huì)員服務(wù)，助力提升基層診療水平。
未來，丁香園將持續(xù)完善數(shù)據(jù)治理與風(fēng)險(xiǎn)控制機(jī)制，審慎穩(wěn)妥推進(jìn)醫(yī)療人工智能的應(yīng)用實(shí)踐，為醫(yī)療人工智能在規(guī)范框架下的有序發(fā)展和醫(yī)療體系高質(zhì)量發(fā)展提供可參考的實(shí)踐經(jīng)驗(yàn)。（鐘新）
