1. 首頁 > 科技 > >

深度學習|組裝足夠的高質量數據，所需要的時間通常比編寫深度學習解決方案還要多

算法深度學習

深度學習|組裝足夠的高質量數據，所需要的時間通常比編寫深度學習解決方案還要多

文章圖片

深度學習|組裝足夠的高質量數據，所需要的時間通常比編寫深度學習解決方案還要多

文章圖片

深度學習|組裝足夠的高質量數據，所需要的時間通常比編寫深度學習解決方案還要多

文章圖片


訓練數據對于深度學習的成功應用至關重要 ， 這一要求是這種方法的主要缺點之一 。 根據經驗 ， 組裝足夠的高質量數據通常需要與編寫深度學習解決方案一樣多甚至更多的時間 。 強大的解決方案需要數據集來捕獲分析過程中可能遇到的圖像的多樣性 。 這些數據集的注釋需要盡可能地沒有錯誤 ， 因為可以學習錯誤 。 雖然訓練數據可能有限 ， 但計算方法可以從現有數據中提取最大效用 。 圖像歸一化減少了不同采集條件的變化 。



旋轉、翻轉和縮放等數據增強操作也可以增加有限數據集中的圖像多樣性；無論數據集大小或類型如何 ， 這些操作通常都是標準做法 。 遷移學習是另一種使用有限數據創建穩健模型的方法 。 在遷移學習中 ， 深度學習模型在大型數據集上進行訓練以學習一般圖像特征 ， 然后在較小的數據集上進行微調以學習執行特定任務 。 雖然這些方法使性能良好的網絡能夠從有限的數據集中出現 ， 但大型注釋數據集會顯著提高性能 。



對于某些用途 ， 例如檢測衍射極限點 ， 可以生成具有已知注釋的模擬圖像 。 在其他策略中 ， 傳統計算機視覺管道的策劃輸出已被用作訓練數據 。 訓練數據也由專家使用眾包是一種具有成本效益的大型數據集來源 ， 廣泛應用于自動駕駛等領域；現有工具正在適應生物圖像工具具有用于在使用的生物圖像注釋的圖形用戶界面 ， 工具也是如此 ， 它使用主動學習來降低數據標記成本 。



游戲化也產生了一些非常有希望的結果 。 重要的是 ， 社區承認支持深度學習算法的注釋數據集應該是公開可用的 ， 因為一組針對生物學問題的全面而廣泛的訓練數據將大大有助于深度學習算法的開發 。 一旦獲得了訓練數據 ， 就可以訓練深度學習模型來準確地對新數據進行預測 。 此任務有幾個獨特的軟件和硬件要求 。 目前 ， 盡管這些框架有重要的區別 ， 但也有一些共同點 。

首先 ， 它們都構建了一個計算圖 ， 概述了深度學習模型在將輸入數據轉換為最終輸出時所做的所有計算 。 其次 ， 它們都自動執行導數 ， 這使它們能夠執行中描述的優化 ， 而無需用戶在指定計算圖后進行額外工作 。 第三 ， 它們為圖形處理單元和張量處理單元等專用硬件提供了一個簡單的網關 。 由于深度學習模型通常包含數百萬個參數 ， 因此需要專門的硬件來快速執行這些計算 。

第四 ， 這些框架都包含常見數學對象、優化算法、超參數設置和性能指標的實現——這意味著用戶可以快速將深度學習應用于他們的數據 ， 而無需自己重現這些實現 。 雖然線性分類器突出了訓練的幾個關鍵特征 ， 但在實踐中存在一些重要差異 。 已經開發了上面顯示的損失函數的變體 ， 以解決圍繞數據集中類不平衡的問題 。 存在幾種隨機梯度下降的變體 ， 最近的工作表明 ， 用動量隨機梯度下降訓練的網絡在泛化方面具有更好的性能 。

【深度學習|組裝足夠的高質量數據，所需要的時間通常比編寫深度學習解決方案還要多】將學習率表示為一個靜態參數 ， 但實際上它通常會隨著訓練的進行而降低 。 重要的是 ， 深度學習模型的數學結構比這里介紹的線性模型更復雜 。 雖然這種簡化對于訓練梯度的分析計算可能會出現問題 ， 但所有深度學習模型都是可以組合的 。 允許迭代地使用鏈式法則來推導梯度的解析表達式 ， 即使是復雜的函數 ， 仍然需要編程來使這些框架適應細胞成像數據 ， 它們大大降低了進入門檻 。

相關經驗推薦