深度學習近年來在多個領域取得了重要突破，盡管理論上并沒有解釋清楚深度學習的機制，但已在大量領域取得了巨大成功。在圖像分類方面，微軟研究團隊指出他們的系統在ImageNet2012分類數據集中的錯誤率降低至4.94%。

                             深度學習帶我們走進人工智能時代
      此前同樣的實驗中，人眼辨識的錯誤率大概為5.1%。這個數據包含約120萬張訓練圖像、5萬張測試圖像，分為1000個不同的類別。在人臉識別領域，香港中文大學教授湯曉鷗、王曉剛及其研究團隊研發的DeepID在LFW數據庫上獲得了99.15%的識別率。LFW是人臉識別領域使用最廣泛的測試基準。實驗表明，僅僅給出人臉中心區域，人肉眼在LFW上的識別率為97.52%。

　　在一些實際應用場景中，業界已經充分展現了深度學習在人臉識別領域取得的成就，比如在2015年IT和通信產業盛會GeBIT上，馬云向德國總理默克爾與中國副總理馬凱，演示了螞蟻金服的SmiletoPay掃臉技術，為嘉賓從淘寶網上購買了1948年漢諾威紀念郵票。

　　更不可思議的是，基于深度學習模型的人工智能能夠自學成才成為游戲高手。2013年11月，DeepMind公司發表的一篇論文描述了一個單個的網絡，它能夠自我學習從而自動地玩一些老的電視游戲。它僅僅通過屏幕上的圖像和游戲中的分數是否上升下降，從而做出選擇性的動作。正因為深度學習取得了如此多的成就，業界很多觀點認為，由于深度學習的出現，我們距離人工智能的時代已經不遙遠了。

　　那么到底什么是深度學習呢？深度學習的深度一詞直接指明了其特點。盡管沒有標準的定義，但是如果一個模型具有典型的層次化結構，且方法的效果隨著層次的增加能夠顯著提升，那么大家都樂意把這個方法加個前綴“深度”。比如經典的神經網絡，其典型的結構就是層次化，每一層有一系列的神經元構成，神經元的輸入是下層神經元的輸出。最底層是原始的輸入信號，最頂層是輸出信號，也就是所謂的特征表示。過去并沒有被賦予深度網絡的說法，但隨著Hinton在《科學》發表文章指出，如果把神經網絡加深而不是加寬，那么這個網絡會取得很好的效果。這一現象是深度學習的基本由來，大家逐漸習慣于用深度一詞來刻畫模型的特點。

　　經典的深度學習有深度卷積網絡（CNN）、深度置信網絡（DBN）等模型。這些模型具有很強的分層結構，能夠自動地學習每層的特征。與傳統的淺層模型相比，深度分層網絡結構中多層次的非線性運算操作，使得深度學習具有更強的擬合能力。

　　盡管深度學習的應用非常成功，但是深度學習的理論進展卻很小。2006年以來，Hinton、YoshuaBengio、YannLecun等人的相關工作，奠定了深度學習在機器學習中的地位。之后，深度學習在理論上發展非常緩慢，近年來的研究成果也并沒有能夠很清楚地解釋理論問題。當然，所謂理論問題是相對傳統的一些工作而言，在傳統的一些模型中，研究者們能夠確定一個問題是否可解、解是否唯一、求解的過程是否收斂、什么時候能夠收斂。就目前看，深度學習的理論不能揭示這些答案，大家所知道的一些結論大多是讓人比較沮喪的，比如高度非線性、非凸問題、容易過擬合等等。沒有統一的理論可以指導網絡分多少層、初始化參數如何設置、正則化如何更加有效等。不過可能正是這種理論上目前很難解釋清楚的復雜性，使得神經網絡在很多問題上都能夠表現得非常優秀。

　　雖然我們還不能很清晰地解釋深度學習成功的原因，但大體上以下幾個觀點還是得到普遍認可。

　　一、模型強大的擬合能力、高密度的計算能力、海量的訓練數據是深度學習獲得成功的重要因素。通過大量的神經元非線性操作，深度神經網絡獲得了很強的擬合能力。利用GPU等高密度計算設備，網絡模型能夠基于海量的訓練數據（百萬級）在可接受的時間內（數天）完成訓練。

　　二、深度學習的應用范圍非常廣泛，可以滲透到很多領域。如果我們將深度學習看成是一個具有很強擬合能力的復雜函數，那么只要你能定義好合適的目標函數（比如最小化分類錯誤率），有足夠的訓練樣本和計算資源，都可以通過深度學習來解決你的問題，而且其效果往往會出乎意料的好。

　　三、現在很成功的各種深度模型不代表一定是未來的模型。深度模型本質上也可以看成圖模型，神經元是節點，神經元之間的連接是邊。現在找到的幾種實際很有效的結構，比如，卷積神經網絡、深度置信網絡、遞歸神經網絡（RNN），它們準確率較高，計算速度可以接受。但圖模型結構本身可以非常多樣，未來哪種結構更有效現在還不得而知，還需要更深層次的研究。

　　四、對深度學習的追捧對學術界未必是好事。目前，深度學習在一些具體問題上取得了一些出乎意料的結果，但是在理論工作上進展不大。一個好的理論能夠被接受需要好的理論創新和令人信服的實驗結果，目前的現狀是復雜的可解釋的模型，其效果往往不如深度神經網絡。這導致研究人員大多轉向深度學習，將很多精力放在網絡調參和結構設計上，盡管在實驗效果上取得了很大進展，但理論貢獻卻微乎其微。

　　五、深度學習目前仍然有計算瓶頸。目前百萬級的訓練數據借助GPU一般都能在幾天內完成訓練。實際使用時，利用GPU也可以在幾十毫秒內完成預測。但對于普通移動終端，無論是內存容量還是計算能力，都遠不能跟臺式機或服務器的GPU比，深度學習實際上在移動終端幾乎還不可用，這大大限制了深度學習的實用范圍。

　　六、傳統模型與深度學習的融合是值得研究的問題。經過幾十年的努力，機器學習有很多復雜的并且理論相對完備的模型，如何將這些模型引入到深度學習是值得研究的問題，比如一種簡單的方案就是將傳統模型的特征替換為深度學習獲得的特征，然后基于最終的損失函數進行迭代優化