深度學習是更廣泛的機器學習方法系列的一部分，它基于人工神經網絡與表征學習。學習可以是監督的、半監督的或無監督的。深度學習架構，如深度神經網絡、深度信念網絡、深度強化學習、遞歸神經網絡、卷積神經網絡和變形金剛，已被應用于包括計算機視覺、語音識別、自然語言處理、機器翻譯、生物信息學、藥物設計、醫學圖像分析、氣候科學、材料檢驗和棋盤游戲程序等領域，它們產生的結果與人類專家的表現相當，在某些情況下甚至超過了人類專家。人工神經網絡（ANNs）的靈感來自于生物系統的信息處理和分布式通信節點。人工神經網絡與生物大腦有各種不同之處。具體來說，人工神經網絡傾向于靜態和符號化，而大多數生物體的生物腦是動態（可塑性）和模擬的。深度學習中的形容詞deep指的是在網絡中使用多個層。早期的工作表明，線性感知器不能成為一個通用的分類器，但一個具有非多項式激活函數的網絡與一個寬度不受限制的隱藏層可以。深度學習是一個現代的變體，它關注的是大小不受限制的層數，它允許實際應用和優化實施，同時在溫和條件下保留理論上的普遍性。在深度學習中，為了效率、可訓練性和可理解性，層也被允許是異質的，并且廣泛地偏離了生物學上的連接主義模型，因此有結構化的部分。

深度學習是一類機器學習算法，199-200使用多層來逐步從原始輸入中提取更高層次的特征。例如，在圖像處理中，低層可以識別邊緣，而高層可以識別與人類相關的概念，如數字或字母或臉。

大多數現代深度學習模型都是基于人工神經網絡，特別是卷積神經網絡（CNN），盡管它們也可以包括命題公式或在深度生成模型中逐層組織的潛在變量，如深度信念網絡和深度玻爾茲曼機的節點。在深度學習中，每一層都學習將其輸入數據轉化為稍微抽象的綜合表示。在一個圖像識別應用中，原始輸入可能是一個像素矩陣；xxx個表示層可以抽象像素并編碼邊緣；第二層可以對邊緣的排列進行合成和編碼；第三層可以編碼鼻子和眼睛；第四層可以識別圖像包含一張臉。重要的是，深度學習過程可以自行學習哪些特征要最佳地放置在哪個層次。這并不排除手工調整的需要；例如，不同的層數和層大小可以提供不同程度的抽象。深度學習中的"深"指的是數據被轉化的層數。更準確地說，深度學習系統有一個可觀的信用分配路徑（CAP）深度。CAP是指從輸入到輸出的轉換鏈。CAP描述了輸入和輸出之間潛在的因果聯系。對于前饋神經網絡，CAP的深度是網絡的深度，是隱藏層的數量加上一個（因為輸出層也是參數化的）。對于遞歸神經網絡來說，信號可以在一個層中傳播一次以上，CAP的深度可能是無限的。

沒有普遍認同的深度閾值來劃分淺層學習和深度學習，但大多數研究者都認為深度學習涉及的CAP深度高于2。深度為2的CAP已被證明是一個通用的近似器，因為它可以模擬任何函數。除此之外，更多的層數并不能增加網絡的函數近似能力。深度模型（CAP>2）能夠比淺層模型提取更好的特征，因此，額外的層有助于有效地學習特征。深度學習架構可以用貪婪的逐層方法構建。深度學習有助于拆分這些抽象的東西，并挑選出哪些特征可以提高性能。對于有監督的學習任務，深度學習方法消除了特征工程，通過將數據轉化為類似于主成分的緊湊中間表征，并得出分層結構，消除表征中的冗余。深度學習算法可以應用于無監督的學習任務。這是一個重要的好處，因為未標記的數據比標記的數據更豐富。