基于2019年4月所發(fā)布的《人工智能（AI）/機(jī)器學(xué)習(xí)（ML）獨(dú)立軟件更新監(jiān)管框架草案》（以下簡(jiǎn)稱監(jiān)管框架草案）的公眾反饋意見，美國(guó)食品藥品監(jiān)督管理局（FDA）于2021年1月發(fā)布了《AI/ML獨(dú)立軟件行動(dòng)計(jì)劃》，旨在明確AL/ML獨(dú)立軟件監(jiān)管的五項(xiàng)工作和目標(biāo)。

一、量身定制AI/ML獨(dú)立軟件監(jiān)管框架

FDA計(jì)劃更新AI/ML獨(dú)立軟件更新監(jiān)管框架，發(fā)布AI/ML獨(dú)立軟件“預(yù)定變更控制計(jì)劃”指南。

FDA在監(jiān)管框架草案中提出通過“預(yù)定變更控制計(jì)劃”控制AI/ML獨(dú)立軟件更新，并將其細(xì)化為軟件更新預(yù)期規(guī)范（SPS）和算法變更方案（ACP），前者是指制造商所計(jì)劃的軟件更新規(guī)格說明，后者是指制造商所采取的SPS軟件更新風(fēng)險(xiǎn)控制方法。

結(jié)合公眾反饋意見和近期產(chǎn)品審評(píng)經(jīng)驗(yàn)，F(xiàn)DA計(jì)劃細(xì)化SPS和ACP所含具體內(nèi)容，并于2021年發(fā)布“預(yù)定變更控制計(jì)劃”指南草案，征求公眾意見。

二、推動(dòng)建立良好機(jī)器學(xué)習(xí)實(shí)踐

FDA認(rèn)為良好機(jī)器學(xué)習(xí)實(shí)踐（GMLP）的概念對(duì)于保證AI/ML獨(dú)立軟件的安全有效性至關(guān)重要，因此計(jì)劃在相關(guān)協(xié)會(huì)、標(biāo)準(zhǔn)化組織中推進(jìn)建立GMLP。

FDA目前參與了國(guó)際電氣和電子工程師協(xié)會(huì)（IEEE）、國(guó)際標(biāo)準(zhǔn)化組織（ISO）/國(guó)際電工委員（IEC）、美國(guó)先進(jìn)醫(yī)療器械協(xié)會(huì)（AAMI）、英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)（BSI）、國(guó)際醫(yī)療器械監(jiān)管者論壇（IMDRF）等多個(gè)組織和機(jī)構(gòu)的人工智能工作組相關(guān)活動(dòng)，F(xiàn)DA將在這些工作組中推動(dòng)建立GMLP，促進(jìn)達(dá)成共識(shí)。

此外，F(xiàn)DA還將GMLP與醫(yī)療器械網(wǎng)絡(luò)安全監(jiān)管計(jì)劃密切協(xié)作，以符合FDA對(duì)醫(yī)療器械網(wǎng)絡(luò)安全的監(jiān)管要求。

三、以患者為中心和信息透明相結(jié)合

考慮到AI/ML獨(dú)立軟件會(huì)隨時(shí)間而持續(xù)更新，所用算法可能為黑盒算法，F(xiàn)DA認(rèn)為必須采取以患者為中心的方法來保證產(chǎn)品的安全有效性，促進(jìn)產(chǎn)品對(duì)于用戶乃至患者的信息透明度是以患者為中心的關(guān)鍵。

FDA于2020年10月召開了一次患者參與咨詢委員會(huì)（PEAC）會(huì)議，專門討論AI/ML獨(dú)立軟件的信息透明問題。在此基礎(chǔ)上，計(jì)劃再召開一次公開研討會(huì)，進(jìn)一步討論軟件說明書和標(biāo)簽所含的信息類型和內(nèi)容要求，以確保用戶了解軟件的受益、風(fēng)險(xiǎn)和局限性，形成相應(yīng)監(jiān)管方法。

四、開展算法監(jiān)管科學(xué)研究

算法偏倚控制和健壯性雖然不是AI/ML獨(dú)立軟件所獨(dú)有的問題，但是由于AI/ML算法訓(xùn)練主要使用歷史數(shù)據(jù)，很容易引入偏差，同時(shí)AI/ML算法應(yīng)用深受種族、族裔和社會(huì)經(jīng)濟(jì)地位等因素影響，因此AI/ML獨(dú)立軟件的算法偏倚控制和健壯性尤為重要。

FDA計(jì)劃深入開展算法監(jiān)管科學(xué)研究，與加州大學(xué)舊金山分校、斯坦福大學(xué)、約翰·霍普金斯大學(xué)等機(jī)構(gòu)研究人員合作，開發(fā)AI/ML算法的評(píng)估方法，包括識(shí)別和消除算法偏差，評(píng)估和提高算法健壯性。

五、監(jiān)測(cè)產(chǎn)品真實(shí)世界性能

FDA在監(jiān)管框架草案中提出采用全生命周期方法來監(jiān)管AI/ML獨(dú)立軟件，通過收集和監(jiān)測(cè)真實(shí)世界性能數(shù)據(jù)來支持軟件更新，但如何使用真實(shí)世界性能數(shù)據(jù)來評(píng)估AI/ML獨(dú)立軟件更新仍需明確，亦是業(yè)界所關(guān)注的熱點(diǎn)之一。

FDA計(jì)劃與利益相關(guān)方合作成立真實(shí)世界性能監(jiān)測(cè)哨點(diǎn)，結(jié)合FDA真實(shí)世界數(shù)據(jù)項(xiàng)目進(jìn)展情況，進(jìn)一步研究闡明AI/ML獨(dú)立軟件真實(shí)世界性能數(shù)據(jù)的生成過程、評(píng)估參數(shù)與指標(biāo)等要求。

總之，F(xiàn)DA將針對(duì)AI/ML獨(dú)立軟件特點(diǎn)，積極與利益相關(guān)方合作，多管齊下，盡快形成AI/ML獨(dú)立軟件監(jiān)管框架，并擴(kuò)展至AI/ML軟件組件。

參考文獻(xiàn)：

[1] FDA. Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) Action Plan，January 2021.