视频一区日韩_亚洲欧洲一区二区_欧美视频二区欧美影视_日韩国产在线播放

隨著計算機技術(shù)在醫(yī)療領(lǐng)域的廣泛應(yīng)用，軟件在醫(yī)療服務(wù)中的地位和作用越來越突出，對公眾生命、健康、財產(chǎn)、信息安全的影響也越來越大。同時，人工智能技術(shù)與醫(yī)療器械軟件的結(jié)合，使針對產(chǎn)品的有效性與安全性的評估日趨復(fù)雜，其中可靠性是衡量人工智能醫(yī)療器械軟件質(zhì)量的一個重要維度。

一方面，目前的軟件規(guī)模與內(nèi)部架構(gòu)日趨復(fù)雜，計算框架、組件、數(shù)據(jù)充滿變化，產(chǎn)品的可靠性越來越難保證。根據(jù)國外公布的數(shù)據(jù)，每年由于軟件原因?qū)е碌尼t(yī)療器械召回事件有上百次，影響臨床對產(chǎn)品的接受度，也為監(jiān)管和質(zhì)量評價敲響警鐘；另一方面，臨床應(yīng)用場景對軟件運行的可靠性要求越來越高，隨著軟件智能化、自主化程度的提升，軟件可靠性對患者和操作者的安全及權(quán)益的影響程度也越來越大。醫(yī)療器械軟件可靠性的評測已經(jīng)成為人工智能醫(yī)療器械軟件質(zhì)量評價的重要環(huán)節(jié)之一。本文旨在概述人工智能醫(yī)療器械軟件可靠性的評測現(xiàn)狀，為業(yè)內(nèi)提供參考。

人工智能醫(yī)療器械軟件可靠性概念

根據(jù)2020年起草的行業(yè)標(biāo)準(zhǔn)《人工智能醫(yī)療器械質(zhì)量要求和評價第1部分：術(shù)語》中的定義，可靠性是指在規(guī)定時間間隔內(nèi)和規(guī)定條件下，系統(tǒng)或部件執(zhí)行所要求功能的能力。人工智能醫(yī)療器械軟件的可靠性關(guān)注產(chǎn)品在規(guī)定的條件下和規(guī)定的時間區(qū)間完成指定臨床功能的能力。規(guī)定的條件是指直接與軟件運行相關(guān)的使用該軟件的計算機系統(tǒng)的狀態(tài)和軟件的輸入條件，或統(tǒng)稱為軟件運行時的外部輸入條件；規(guī)定的時間區(qū)間是指軟件的實際運行時間區(qū)間；指定臨床功能是指為用戶提供給定的醫(yī)療服務(wù)。

人工智能醫(yī)療器械軟件功能的可靠性包含成熟性、可用性、容錯性、易恢復(fù)性等方面。成熟性是指軟件產(chǎn)品在滿足要求的軟/硬件環(huán)境或其他特殊條件下（如一定負(fù)載壓力下）使用時，為用戶提供相應(yīng)服務(wù)的能力，如軟件的故障密度、缺陷嚴(yán)重程度、完整性級別等。可用性是指軟件在使用時能夠進(jìn)行操作和訪問的程度，它是成熟性、容錯性和易恢復(fù)性的組合。容錯性是指軟件在由于非法數(shù)據(jù)、非法操作、誤操作等原因?qū)е聼o法正常運行和參數(shù)傳遞錯誤的情況下，軟件能否為用戶提供相應(yīng)臨床功能服務(wù)的能力。易恢復(fù)性是指軟件發(fā)生失效的情況下，采取何種措施重建為用戶提供相應(yīng)臨床服務(wù)和恢復(fù)直接受影響醫(yī)療器械數(shù)據(jù)的能力。

人工智能醫(yī)療器械算法的可靠性強調(diào)算法在規(guī)定條件下的可重復(fù)性，即對同一輸入的響應(yīng)和輸出保持不變。根據(jù)相關(guān)文獻(xiàn)，聚類分析、深度學(xué)習(xí)等算法分支都報道過可重復(fù)性方面的問題，因此在測試階段需要引起重視，不能掉以輕心。

人工智能醫(yī)療器械軟件可靠性的技術(shù)實現(xiàn)

人工智能醫(yī)療器械軟件可靠性，建立在以下四方面的活動和有關(guān)技術(shù)基礎(chǔ)上：

（1）軟件可靠性分析：進(jìn)行軟件可靠性的需求分析、指標(biāo)分配、故障樹分析、故障模式和影響分析、軟件開發(fā)過程中有關(guān)軟件可靠性的特性分析等；

（2）軟件可靠性設(shè)計和實現(xiàn)：進(jìn)行防錯設(shè)計、容錯設(shè)計、檢錯設(shè)計、糾錯設(shè)計、故障恢復(fù)設(shè)計、軟件可靠性增長等；

（3）軟件可靠性測量、測試和評估：在軟件生存周期各階段進(jìn)行有關(guān)軟件可靠性的設(shè)計、制造和管理方面的屬性測量，進(jìn)行軟件可靠性測試、軟件可靠性預(yù)計、軟件可靠性估計、軟件可靠性驗證等；

（4）軟件可靠性管理：確定影響軟件可靠性的因素，制定必要的設(shè)計和實現(xiàn)準(zhǔn)則以及對軟件開發(fā)各階段軟件可靠性相關(guān)的過程和產(chǎn)品的要求，對有關(guān)測試數(shù)據(jù)和分析結(jié)果控制和改進(jìn)開發(fā)過程，進(jìn)行風(fēng)險管理要考慮安全性等技術(shù)風(fēng)險，對采購或重用的第三方軟件進(jìn)行可靠性管理等。

上述活動也包含著對人工智能算法模型本身的可靠性評價。制造商需要根據(jù)臨床應(yīng)用場景，在研發(fā)和產(chǎn)品驗證階段評估人工智能算法正確執(zhí)行臨床功能的運行時間和運行條件，積累先驗的數(shù)據(jù)。

人工智能醫(yī)療器械軟件可靠性的測試路徑

人工智能醫(yī)療器械軟件的可靠性驗證方法是為了驗證在給定的統(tǒng)計置信度下，軟件當(dāng)前的可靠性水平是否滿足臨床用戶的要求而進(jìn)行的測試，即臨床用戶在接收軟件時，確定它是否滿足軟件規(guī)格說明書中規(guī)定的可靠性指標(biāo)。該種方法一般是在軟件驗收階段進(jìn)行的，在軟件需求方參與的情況下實施。其主要過程是根據(jù)實際臨床使用場景測試的故障情況，利用某種或某些軟件供需雙方都認(rèn)可的可靠性驗收模型進(jìn)行可靠性的定量評價，以判斷該軟件是否達(dá)到了其需求說明書中約定的可靠度。

人工智能軟件可靠性測試活動包括：構(gòu)造運行剖面、選取測試用例、測試環(huán)境準(zhǔn)備、可靠性測試運行、數(shù)據(jù)收集、數(shù)據(jù)分析和失效糾正等步驟。

（1）構(gòu)造運行剖面：軟件的運行剖面一般是指對軟件使用條件的定義，把軟件的輸入按時間的分布或按它們在可能輸入范圍內(nèi)的出現(xiàn)概率的分布來定義。由于人工智能算法的特殊性，軟件的輸入樣本需要考慮數(shù)據(jù)格式、內(nèi)容、對算力的消耗和臨床的典型性，兼顧陰性樣本、陽性樣本和流行病學(xué)統(tǒng)計。

粗略地說，運行剖面是用來描述軟件的實際使用情況的。運行剖面是否能代表、刻畫軟件的實際使用取決于可靠性工程人員對軟件的系統(tǒng)模式、功能、任務(wù)需求及相應(yīng)的輸入激勵的分析，取決于他們對用戶使用這些系統(tǒng)模式、功能、任務(wù)的概率的了解。運行剖面構(gòu)造的質(zhì)量將對測試、分析的結(jié)果是否可信產(chǎn)生最直接的影響。

（2）選取測試用例：軟件可靠性測試采用的是按照運行剖面對軟件進(jìn)行可靠性測試的方法。因此，可靠性測試所用的測試用例是根據(jù)運行剖面隨機選取得到的，宜依托標(biāo)準(zhǔn)化的測試集進(jìn)行抽樣。

（3）測試環(huán)境的準(zhǔn)備：為了得到盡可能真實的可靠性測試結(jié)果，可靠性測試應(yīng)盡量在真實的臨床環(huán)境下進(jìn)行，但是在許多情況下，在真實的環(huán)境下進(jìn)行軟件的可靠性測試很不實際，因此需要開發(fā)軟件可靠性仿真測試環(huán)境。比如，對于智能硬件產(chǎn)品包含的嵌入式軟件，由于與之交聯(lián)的環(huán)境的開發(fā)常常與軟件的開發(fā)是同步甚至是滯后的，因此無法及時進(jìn)行軟件可靠性測試。有些軟件中，由于交聯(lián)的環(huán)境非常昂貴而無法用于需要進(jìn)行大量運行的可靠性測試。

（4）可靠性測試運行：即在真實的測試環(huán)境中或可靠性仿真測試環(huán)境中，用按照運行剖面生成的測試用例對軟件進(jìn)行測試。

（5）數(shù)據(jù)收集：收集的數(shù)據(jù)包括軟件的輸入數(shù)據(jù)、輸出結(jié)果，以便進(jìn)行失效分析和進(jìn)行回歸測試；軟件運行時間數(shù)據(jù)，可以是CPU執(zhí)行時間、日歷時間、時鐘時間等；可靠性失效數(shù)據(jù)包括每次失效發(fā)生的時間或一段時間內(nèi)發(fā)生的失效數(shù)，失效數(shù)據(jù)可以實時分析得到，也可以事后分析得到。數(shù)據(jù)收集的質(zhì)量對于最終的可靠性分析結(jié)果有著很大的影響，應(yīng)盡可能采用自動化手段進(jìn)行數(shù)據(jù)的收集，以提高效率、準(zhǔn)確性和完整性。

（6）數(shù)據(jù)分析：主要包括失效分析和可靠性分析。失效分析是根據(jù)運行結(jié)果判斷軟件是否失效，以及失效的后果、原因等：而可靠性分析主要是指根據(jù)失效數(shù)據(jù)，估計軟件的可靠性水平，預(yù)計可能達(dá)到的水平，評價產(chǎn)品是否已經(jīng)達(dá)到要求的可靠性水平。

（7）失效糾正：如果軟件的運行結(jié)果與需求不一致，則稱軟件發(fā)生失效。通過失效分析，找到并糾正引起失效的程序中的缺陷，從而實現(xiàn)軟件可靠性的增長。軟件可靠性增長測試是為了滿足用戶對軟件的可靠性要求、提高軟件可靠性水平而對軟件進(jìn)行的測試。是為了滿足軟件的可靠性指標(biāo)要求，對軟件進(jìn)行測試——可靠性分析——修改——再測試——再分析——再修改的循環(huán)過程。

人工智能醫(yī)療器械軟件可靠性測試面臨的挑戰(zhàn)

開展人工智能醫(yī)療器械軟件可靠性測試的關(guān)鍵是要建立測試模型，但目前尚未形成統(tǒng)一規(guī)范。到目前為止，軟件可靠性模型的研究已有幾十年的歷史，國內(nèi)外已發(fā)表軟件可靠性模型有近百種，但由于對軟件可靠性模型的研究還處在初步階段，軟件可靠性模型的分類方法很多，筆者采用綜合模型的假設(shè)、測試環(huán)境以及數(shù)理統(tǒng)計的分類方法，將模型大致分為：隨機過程類模型和非隨機過程類模型。隨機過程模型包括馬爾可夫過程二項模型、非齊次泊松過程模型等分支。非隨機過程模型包括運用貝葉斯估計的模型、基于輸入域的模型和其他方法模型。對于具體的人工智能產(chǎn)品，軟件的固有錯誤數(shù)、錯誤之間的關(guān)聯(lián)性、錯誤發(fā)生的間隔時間、軟件失效率等關(guān)鍵參數(shù)還在積累過程中，可靠性測試的理論模型目前不唯一，屬于質(zhì)量評價的薄弱環(huán)節(jié)。軟件可靠性模型的不足也使得軟件可靠性模型并不能完全描述軟件的故障行為。

由于人工智能算法的復(fù)雜性和隨機性，軟件的故障具有離散性和偶發(fā)性，部分軟件產(chǎn)品的測試缺乏直觀的測試準(zhǔn)則。此時對可靠性的評價可借助蛻變測試等手段，把輸入、輸出之間的關(guān)系作為依據(jù)，用于驗證和捕捉算法的缺陷，作為對前述方法的補充。

人工智能醫(yī)療器械軟件的可靠性是產(chǎn)品安全有效的關(guān)鍵要素之一，影響著產(chǎn)品未來的使用質(zhì)量。本文對人工智能醫(yī)療器械軟件可靠性的實現(xiàn)與測試現(xiàn)狀進(jìn)行了概述，為測評活動提供參考。鑒于行業(yè)目前的技術(shù)現(xiàn)狀，測評規(guī)范的建立與實施還存在一些問題，將在產(chǎn)品的質(zhì)量研究過程中進(jìn)一步完善。