吳恩達預熱新課!萬字博客回顧機器學習算法起源


吳恩達預熱新課!萬字博客回顧機器學習算法起源

文章插圖

吳恩達預熱新課!萬字博客回顧機器學習算法起源

文章插圖

吳恩達預熱新課!萬字博客回顧機器學習算法起源

文章插圖


新智元報道
編輯:LRS
【新智元導讀】吳恩達最近發布了一篇博客,介紹了幾個基礎算法的起源和直觀理解,還宣傳了一下自己重置版機器學習課程:目的竟是為了復習一遍!
神經網絡模型在學術界和工業界都處于絕對的壟斷地位,使得「機器學習」幾乎要跟「深度學習」劃上等號了 。
作為深度學習的領軍人,吳恩達自然也是深度學習的忠實使用者 。
最近吳恩達在博客網站上發表了一篇特刊,表示自己由于常年使用神經網絡,已經快忘了該怎么用傳統的機器學習算法了!
吳恩達預熱新課!萬字博客回顧機器學習算法起源

文章插圖


因為深度學習并非在所有場景下都好用 , 所以在「盲目」使用神經網絡受挫后,痛定思痛,寫了一篇文章,為一些傳統的機器學習算法提供一些直觀上的解釋 。
吳恩達預熱新課!萬字博客回顧機器學習算法起源

文章插圖


這篇博客也是為即將發布的、由 Stanford Online 和 DeepLearning.AI 聯合推出Machine Learning Specialization課程提供一些基礎知識,包括線性回歸、邏輯回歸、梯度下降、神經網絡、決策樹、K-means聚類等算法 。
吳恩達預熱新課!萬字博客回顧機器學習算法起源

文章插圖


吳恩達的來信

親愛的朋友們,
幾年前,我們計劃在有限的計算量預算內將該算法應用于一個龐大的用戶群,所以有必要選擇一個高效的算法 。
在神經網絡和決策樹學習算法之間,我選擇了神經網絡 。
因為我已經有一段時間沒有使用提升決策樹了,我直覺上認為它們需要的計算量比實際要多,但選擇神經網絡是一個錯誤的決定 。
幸運的是,我的團隊很快就指出了錯誤,并修正了我的決定,而這個項目最后也獲得了成功 。
這次經歷給我上了一課,告訴我學習和不斷刷新基礎知識的重要性 。如果我重新熟悉了提升樹,我就會做出更好的決定 。
吳恩達預熱新課!萬字博客回顧機器學習算法起源

文章插圖


機器學習和其他技術領域一樣,隨著研究人員社區在彼此工作的基礎上不斷發展,一些貢獻經過時間的考驗后 , 長盛不衰,并成為進一步發展的基礎 。
從住房價格預測器到文本、圖像生成器,一切新算法都建立在基礎算法上(例如線性和邏輯回歸、決策樹等)和基礎概念(如正則化、優化損失函數、偏差/方差等)的核心思想上 。
堅實的、時刻更新的基礎知識是成為一名高效的機器學習工程師的一個關鍵 。許多團隊在日常工作中都會用到這些想法,而博客文章和研究論文也常常假定你對這些思想很熟悉,這些常識基礎對于我們近年來看到的機器學習的快速進步至關重要 。
這也是為什么我把原來的機器學習課程進行了更新 。
吳恩達預熱新課!萬字博客回顧機器學習算法起源

文章插圖


我的團隊花了很多時間來討論最核心的教學概念,為各種主題制定了廣泛的教學大綱,并在其中設計了課程單元的原型 。
這個過程幫助我們認識到 , 主題的多樣性比細節的知識更重要 , 所以我們又重新制作了一份大綱 。
我希望最后的結果是一套易于理解的課程,能夠幫助任何人掌握當今機器學習中最重要的算法和概念,包括深度學習,但也包括很多其他東西,并能夠建立有效的學習系統 。

相關經驗推薦