1. 首頁 > 科技 > >

小米科技|開發持續監控系統性能的機制，是確保AI產品的安全性的保障

小米科技盧偉冰澎湃p1

小米科技|開發持續監控系統性能的機制，是確保AI產品的安全性的保障

文章圖片

小米科技|開發持續監控系統性能的機制，是確保AI產品的安全性的保障

文章圖片

小米科技|開發持續監控系統性能的機制，是確保AI產品的安全性的保障

文章圖片


使用本地組織的數據和患者重新訓練ML算法并驗證AI應用程序 ， 在訓練和驗證期間沒有包含足夠有意義和代表性的數據是ML中的一個常見問題 。 衛生組織需要了解此類限制 ， 并在部署ML模型時提供充分、平衡、多樣化和具有代表性的人口數據 ， 以重新訓練和驗證ML模型 。 決策者需要意識到 ， 大多數人工智能技術都不是“開箱即用”的產品 ， 您可以簡單地將其插入數字系統中使其工作 。

小規模的現場試點測試是驗證任何AI應用程序的好方法 。 確定安全使用AI技術的背景和協議確保患者的安全、隱私和福祉需要進行危害分析 ， 評估潛在假陽性和假陰性的后果 ， 并制定危害預防協議 。 對于可能導致嚴重后果的關鍵臨床過程 ， 需要雙重安全機制 。 在這種情況下 ， 醫生是打電話的人 ， 使用數據生成的見解作為參考 。 此外 ， 對于任何要部署的人工智能產品 ， 都需要進行現場試點實施和驗證 。

最后 ， 重要的是收集現實世界的證據并開發一種機制來持續監控系統性能 ， 從而持續確保部署的AI產品的安全性和有效性 。 在所有這些過程中 ， 制定政策和協議以確保人工智能使用的隱私、安全和道德非常重要 。 然而 ， 我們必須在患者隱私和數據共享之間 ， 以及監管和創新之間保持平衡 。 人工智能專業人員需要處理大量真實的患者數據 ， 以確保ML模型的準確性和安全性 ， 因此患者需要知道 ， 只有更自由地共享數據 ， AI才能進步 ， 而這可以通過安全的環境 。
【小米科技|開發持續監控系統性能的機制，是確保AI產品的安全性的保障】
與此同時 ， 衛生組織需要確保他們的人工智能方法合法、合乎道德和穩健 ， 對他們對患者數據的處理表現出完全透明 。 建立績效標準來衡量人工智能的成功評估人工智能方法需要時間 ， 但它將使衛生組織能夠發現問題并在為時已晚之前解決問題 。 在實施之前 ， 必須定義績效評估指標 ， 然后在開發和實施的不同階段（例如 ， 試點測試、規模實施和驗證）相應地衡量人工智能的成功 。

此類績效指標應反映貴組織的價值觀、優先事項和愿景 。 有很多方法可以評估人工智能技術 。 一般來說 ， 評估中要考慮的事項應包括提高臨床有效性（質量、效率和安全性）、擴大對患者的訪問和擴大服務、改善患者體驗和結果、優化操作流程、提高員工對工作環境的滿意度 ， 以及降低成本 ， 增加收入 。

醫療管理論壇開發全國人工智能驅動的數字醫療生態系統鑒于開發提高醫療保健有效性、可及性和可負擔性所需的各種類型的人工智能技術所涉及的高復雜性和成本 ， 每個國家都需要制定國家人工智能戰略 ， 以建立一個全國性的人工智能驅動的數字醫療生態系統 ， 使醫療機構和患者都受益 。

目前 ， 大部分資金用于開發基于電子健康記錄數據的機器學習 ， 主要是為了衛生專業人員的利益 。 由于只有通過衛生專業人員和患者的共同努力才能實現全面健康 ， 因此患者需要具有人工智能驅動的工具來自我監測和自我管理慢性病 。

相關經驗推薦