2012年，「GPU+深度學習」真正引爆革命火花
2006 年，Hinton 以深度信念網路第一個提出「深度神經網路可行」的說法，讓學界把眼光重新放回神經網路這個領域。可以說 RBM 只是深度學習浪潮的一個開端。
但由於多層神經網路的計算量龐大、訓練時間過長，常常跑一次模型就噴掉數週、甚至數月的時間，2006 年該時也僅是讓學界知道：「深度神經網路這項技術是有可能實現的」而已，並沒有真正火紅起來。
真正的轉捩點，還是要到 2012 年——那年 10 月，機器學習界發生了一件大事。
還記得我們在機器學習的機器是怎麼從資料中「學」到東西的？超簡單機器學習名詞入門篇！一文中提過的 ImageNet 嗎？美國普林斯頓大學李飛飛與李凱教授在 2007 年合作開啟了一個名為「ImageNet」的專案，他們下載了數以百萬計的照片，供機器從圖像資料中進行學習。每年史丹佛大學都會舉辦 ImageNet 圖像識別競賽，讓各家企業或機構測試系統的效能極限，堪稱機器學習界一大盛事。
以往無論是淺層、還是深度學習的機器學習模型，都是採用 CPU 進行運算。2012 年 10 月， Hinton 的兩個學生使用輝達 (NVIDIA) 出產的 GPU 、加上深度學習模型 (他們採用了專做圖像識別的捲積式神經網路 CNN )，一舉拿下 ImageNet 的冠軍，正確率更超過第二名將近 10%。
有興趣的讀者可以參考由 Hinton 撰寫的這篇論文《Imagenet classification with deep convolutional neural networks》，內文詳細介紹了相關模型與比賽結果。
看到此情此景，大家都瘋了，NVIDIA 也瘋了。沒想到採用 GPU 運算的深度學習能有如此殺傷力強大的效果，運算速度是 CPU 的 70 倍以上，終於讓深度學習真正火爆起來。2012 年之後的 ImageNet 競賽，大家都紛紛採用 GPU 做運算；2015 年，Microsoft 更是以 3.5% 的錯誤率贏得冠軍，超越人類肉眼 5% 錯誤率的辨識能力。
為什麼 GPU 運算會比 CPU 更強呢？GPU 不是用來處理圖形運算的嗎？由於圖形運算需要大量的向量和矩陣運算，這正是平行架構的 GPU 最擅長的事情，而深度學習正是使用大量的向量和矩陣進行運算；CPU 執行矩陣運算的速度則遠遠不及 GPU。
事實上，CPU 是用來進行更通用的運算，需要協調硬軟體資源；而 GPU 計算是用於增大計算的吞吐量。CPU 需要很快的將資料一個個的依次處理完畢，降低延遲時間；而 GPU 到記憶體的抓資料回來運算的速度比 CPU 慢很多，所以 GPU 計算都是希望一下子有很多數據可以計算，然後一口氣將這些數據計算光。
深度學習矩陣運算＋大數據平行運算＝首選GPU
流言終結者 (Mythbuster) 的兩位主持人 Adam Savage 和 Jamie Hynema 曾以特效裝置示範 CPU 和 GPU 平行運算的效能差異（還被NVIDIA官方頻道貼出來lol），推薦讀者可以看一看，好笑又好懂。
既然 GPU 的平行運算能力很強，為什麼這麼久以來都沒人想到要用 GPU 取代 CPU 來做類神經網路的運算呢？
我們之所以能用 CPU 做運算，是因為 CPU 有編譯器 (Compiler) 這樣的設計，能讓工程師寫完程式後、經過編譯器的轉譯、成為 CPU 看得懂的機械碼。然而一般 GPU 並沒有類似的設計，因此工程師難以直接寫程式讓 GPU 來運算
CUDA——NVIDIA成為深度學習運算必用硬體的關鍵
NVIDIA 一直想從設計圖形處理器的傳統硬體公司轉型、成為大規模運算伺服器和整合軟體公司；因而在深度學習爆紅之前，早已推出了 GPGPU（通用圖形處理器）。
2006 到 2007 年間，NVIDIA 發表了一項全新的運算架構，稱為 CUDA；這也是 NVIDIA 正式給 GPGPU 的名稱。使用者可以撰寫 C 語言、再透過 CUDA 底層架構轉譯成 GPU 看得懂的語言。這也是自 GPU 可以拿來做大規模運算的概念推出之後，首次可以讓人使用 C 語言來運用 GPU 蘊藏已久的強大運算能力，故 NVIDIA 從 GeForce 8 系列之後的顯示卡全開始支援 CUDA 技術。
風口上的NVIDIA公司：從遊戲、VR到深度學習
GPGPU 的興起，大概就是 CUDA 帶起來的；而 CUDA 的成功，更直接導致了深度學習的運算全部都使用 NVIDIA 家的 GPU。這種驚人的影響力，不論是深度學習、機器學習、自動車、虛擬實境 (VR)、電競遊戲，每一項都跟 NVIDIA 習習相關。Tesla 創辦人 Elon Musk 更是親自寫 Email，向 NVIDIA 執行長黃仁勳表達希望成為第一個拿到最新 AI GPU 的人。
2016 年 8 月，NVIDIA 在其每年舉辦的 GTC 大會上(GPU Technology Conference，俗稱老黃的傳教大會)，執行長黃仁勳強調 NVIDIA 在人工智慧領域上的深耕、能提供最完整的軟硬體解決方案。整場大會以深度學習為重要主角，同時宣佈推出全世界第一個專門用來運算深度學習的超級電腦—— DGX-1 伺服器，售價 129,000 美金。
在今年 10 月 26 日舉行的 GTC 大會上，黃仁勳表示：過去用在 CPU 製程的摩爾定律已到尾聲，電晶體雖然每年持續增長 50%，但 CPU 效能成長僅 10%，使 CPU 不可能再成長。透過 GPU 運算的深度學習將是另一種解決方案，NVIDIA 的 GPU 是產業專用加速器，能補足 CPU 大量運算上的不足。
也就是說，藉由深度學習運算，將能使遲緩成長多年的摩爾定律持續演進。搭上人工智慧熱潮，NVIDIA 在 2016 年的漲幅高達 255.95%，2017 年至今市值已翻了一倍 (11 月 9 日發布 2018 財年第一季財報顯示，其營收成長達 48.4% )。 MarketWatch 報導，NVIDIA 是今年迄今標準普爾 500 指數表現最好的成分股。
顛覆性的第四次工業革命：深度學習
如今深度學習技術對各大產業領域都將產生深遠的影響，堪稱第四次工業革命。從天氣預測、醫療影像辨識、金融股市預測、電信商客戶流失率預測、網路異常入侵偵測、智慧交通…無不採用深度學習技術。
基於深度學習方法，Facebook 的 DeepFace 專案的人臉識別技術的識別率已經達到了 97.25%，接近人類的 97.5% 的識別率，幾乎可媲美人類。
Google 現在則有超過 1000 個深度學習產品，包括地圖、GMAIL、自動翻譯、自動車、Android 等。 2013 年 7 月，Google 收購了 DNNresearch 公司，其背後創辦人正是大名鼎鼎的深度學習之父 Hinton 教授；2014 年 1 月， Google 以逾 6 億美元價碼收購英國人工智慧公司 DeepMind。
2016 年 3 月，由 DeepMind 團隊所打造的 AlphaGo 圍棋系統在擊敗的南韓圍棋好手李世石之後聲名大噪；隨後 Google 也利用 DeepMind 的深度學習技術，把各資料中心的用電效率提高 15%、成功讓其龐大的資料中心冷卻用電量減少了 40%。
(今年 10 月，Deepmind 在 Nature 發布了一篇論文展示了 AlphaGo Zero《Mastering the game of Go without human knowledge》DeepMind 開發團隊只輸入基本圍棋規則，之後 AlphaGo Zero 會自行下棋，並記錄每次的勝負決策。最後只需 3 天時間就以 100：0 打敗舊版與李世石對弈的 AlphaGo )
深度學習能推廣應用的產業範疇非常的多，各家科技公司更是摩拳霍霍、無不想搶進最新發展。在人工智慧領域中，目前領先的四大巨頭分別為 Google、Microsoft、Facebook 與百度 (Baidu)；尤其在語音識別和圖像辨識上，每個月都可以看到這四家公司公布新的技術發展。每分每秒，AI巨頭們都在使用深度學習改變你我的生活。
當然你可能會想：說了這麼多、什麼機器學習、深度學習，還不是只有大公司玩得起。
2015 年，約每 22 天就有一個深度學習的工具集 (toolkit) 被發布出來。深度學習正從高冷的數學模型、逐漸邁向黑盒子的過程。這是什麼意思呢？
以網頁開發來比喻—— 20 年前架網站，工程師得用 Perl、C++ 寫 CGI、瞭解 TCP/IP 標準、Solaris 伺服器、Oracle 資料庫；簡單來說，寫網頁是一個具備高度 Domain-knowhow 的活兒。
然而現在不需要瞭解底層架構，用 Ruby on Rails、Bootstrap 等框架，輕輕鬆鬆就能兜一個網頁出來。市面上隨意可見「1 天教你學會架站」之類的書籍。
同樣地，機器學習和深度學習模型在目前已經是一個封裝地很好的黑盒子；使用者只要下載 Package、透過 Tensorflow、Caffe 等開源平台 Toolkit、調一下 API，把資料丟進去，就能神奇地完成某個任務。即使不瞭解背後的數學模型，仍然可以很輕鬆地使用深度學習做數據分析。
先前在日本就有個有趣的案例——小池誠原本在車廠當工程師，一年前辭去工作回到老家幫父母經營小黃瓜農場。農場並不大，然而小黃瓜分類的工作卻讓他吃了不少苦頭。
小池誠不懂深度學習的數學模型，但透過 TensorFlow 平台、他成功利用深度學習來為自家的小黃瓜進行圖像辨識和自動化分類。
你能想像在你家的農場使用深度學習技術嗎？或許就像使用 Excel 做數據分析一般，在未來，人人都能輕易地使用深度學習模型來跑海量數據。
人工智慧有可能取代人類嗎？在本篇系列的最後，讓我們來討論一下這個恆久不變的問題。
問題 1. 人工智慧有可能毀滅人類？
在許多科幻小說中，屢見不鮮人工智慧程式透過自我學習，最終逐漸統治世界的故事。既然機器學習能自行從歷史資料中學會技能，目前人工智慧的技術發展有可能導致這種情況發生嗎？會導致強人工智慧(Strong A.I.)的出現嗎？
機器學習算是弱人工智慧
目前人工智慧的自我學習還是限定在人們指定的方式、只能學習解決特定的問題，比如說 AlphaGo 不能直接去下象棋，仍然不是通用的智慧、或能理解「下棋」的意義，對於 AlphaGo 來說只是跑完一個運算模型。
資料清整仍是機器學習的關鍵環節
還記得我們提過，機器要能從海量資料中挖掘出規律，必須經過資料清整 (Data Cleaning) 的過程嗎？資料科學家得為系統輸入規整化的訓練資料，格式要求相當嚴格。這也意味著即使把人工智慧程式連到網上，它也不能直接對於網路上格式不一的「骯髒」資料進行學習。
問題 2. 機器學習和深度學習是不是沒有達不到的事？
這個問法或許可以改成：什麼是機器學習能解的問題、什麼是機器學習不能解的問題？
機器學習重預測、較缺乏解釋現象的能力
機器學習是一門結合了機率學與統計學的學科，早期做機器學習的學者幾乎都是統計學家，直到後來有電腦科學背景的研究人員進來、結合統計和資工兩方的 Domain-Knowledge，成為一個叫機器學習的新門派。因此無論是線性回歸、Sigmoid 函數邏輯回歸、SVM、RBM …等模型，事實上都是統計學模型。
既然如此，統計和機器學習有什麼差別呢？他們想要解決的問題是不一樣的——傳統統計更在乎解釋能力 (explanation power)，機器學習則在乎預測能力 (prediction power)。目標不一樣，發展出的建模方法就不一樣。
機器學習就像一個黑盒子，可能跑出了非常精準的預測結果、卻不明白機器是透過什麼樣的過程、用什麼方法預測出這個答案的。
對於統計學家而言，關心的問題則是：我的模型到底能不能解釋整個母體的現象；如果預測錯誤率更低、但沒辦法解釋原因，就會放棄該模型。若目標在於解釋的話，不用做出一個「預測準到不行」的模型，但估計式要穩健 (robust)。
你可能會想：預測準確不是比較重要嗎？為什麼要在乎解釋能力呢？在發展科學理論的時候，若不解釋、就算預測的再準，我們還是不能理解一個現象為什麼會發生。比如說，我們可以透過機器學習模型很準確地預測點擊率，但我們仍不知道是什麼因素影響點擊率，如此一來就很難去改良產品設計，就算將點擊率預測地很準也沒用。
因此在許多深度學習研究論文中，可以發現其理論都不太「漂亮」——理論不甚完備、但實務上的預測結果跑的不錯。
機器學習需要大量的歷史資料
既然說機器學習需要過去的資料來學會技能、並透過新進資料逐步優化，因而對於深度學習模型來說，十萬筆資料都是小數字。但若是沒有歷史資料呢…？
比如我們可以從一個消費者過去的購買資料中，精準預測到他會買產品 A，然而在公司想販售一款新產品 B 時，由於無法解釋他為什麼會買產品 A，也沒有產品 B 的歷史資料、因此無法預測該消費者會不會買這款新產品。
況且對一般人而言，很難輕易達到數十萬筆以上的資料量，如此使用 Excel 進行一般統計運算即可。進一步說，多數台灣企業的資料庫老舊、許久沒有維護更新，說要能拿出夠「乾淨」的海量數據來進行分析，也是頗為困難的事情。
針對上述問題，有時候用統計、另一種時候用機器學習模型。實務上，資料科學家會依據問題的類型和自身經驗、考量後選擇適當的工具。
大家對於人工智慧、機器學習和深度學習有了更進一步的認識了嗎？從人工智慧、機器學習到深度學習，人工智慧領域的發展日新月異；深度學習的浪潮方引爆，未來世界的運作方式將會如何受變化呢？就讓我們拭目以待吧。
這次的機器學習系列專題就到這邊告一個段落，感謝您的收看！
