深度學習的基礎概念,深度學習中的端到端是什麼概念

2021-07-26 13:28:34 字數 4167 閱讀 8147

1樓:想你的訛

從一個輸入中產生一個輸出所涉及的計算可以通過一個流向圖(flow graph)來表示:流向圖是一種能夠表示計算的圖,在這種圖中每一個節點表示一個基本的計算並且一個計算的值(計算的結果被應用到這個節點的孩子節點的值)。考慮這樣一個計算集合,它可以被允許在每一個節點和可能的圖結構中,並定義了一個函式族。

輸入節點沒有孩子,輸出節點沒有父親。

這種流向圖的一個特別屬性是深度(depth):從一個輸入到一個輸出的最長路徑的長度。

傳統的前饋神經網路能夠被看做擁有等於層數的深度(比如對於輸出層為隱層數加1)。svms有深度2(一個對應於核輸出或者特徵空間,另一個對應於所產生輸出的線性混合)。 需要使用深度學習解決的問題有以下的特徵:

深度不足會出現問題。

人腦具有一個深度結構。

認知過程逐層進行,逐步抽象。

深度不足會出現問題

在許多情形中深度2就足夠表示任何一個帶有給定目標精度的函式。但是其代價是:圖中所需要的節點數(比如計算和引數數量)可能變的非常大。

理論結果證實那些事實上所需要的節點數隨著輸入的大小指數增長的函式族是存在的。

我們可以將深度架構看做一種因子分解。大部分隨機選擇的函式不能被有效地表示,無論是用深的或者淺的架構。但是許多能夠有效地被深度架構表示的卻不能被用淺的架構高效表示。

一個緊的和深度的表示的存在意味著在潛在的可被表示的函式中存在某種結構。如果不存在任何結構,那將不可能很好地泛化。

大腦有一個深度架構

例如,視覺皮質得到了很好的研究,並顯示出一系列的區域,在每一個這種區域中包含一個輸入的表示和從一個到另一個的訊號流(這裡忽略了在一些層次並行路徑上的關聯,因此更復雜)。這個特徵層次的每一層表示在一個不同的抽象層上的輸入,並在層次的更上層有著更多的抽象特徵,他們根據低層特徵定義。

需要注意的是大腦中的表示是在中間緊密分佈並且純區域性:他們是稀疏的:1%的神經元是同時活動的。給定大量的神經元,仍然有一個非常高效地(指數級高效)表示。

認知過程逐層進行,逐步抽象

人類層次化地組織思想和概念;

人類首先學習簡單的概念,然後用他們去表示更抽象的;

工程師將任務分解成多個抽象層次去處理;

學習/發現這些概念(知識工程由於沒有反省而失敗?)是很美好的。對語言可表達的概念的反省也建議我們一個稀疏的表示:

僅所有可能單詞/概念中的一個小的部分是可被應用到一個特別的輸入(一個視覺場景)。

如何正確理解深度學習的概念

2樓:中公教育it優就業

簡單來說,機器學

抄習是實現

襲人工智慧的方法,深度學習bai是實現機器學習的du技術。機器zhi學習在實現人工智慧時中需要人dao工輔助(半自動),而深度學習使該過程完全自動化

舉個例子:通過機器學習演算法來識別水果是橘子還是蘋果,需要人工輸入水果的特徵資料,生成一定的演算法模型,進而可以準確**具有這些特徵的水果的型別,而深度學習則能自動的去發現特徵進而判斷。

3樓:夢逍遙

深度學習是人工智慧的應用

深度學習中的端到端是什麼概念

4樓:匿名使用者

端到端指的是輸入是原始資料,輸出是最後的結果,非端到端的輸入端不是直接的原始資料,而是在原始資料中提取的特徵,這一點在影象問題上尤為突出,因為影象畫素數太多,資料維度高,會產生維度災難,所以原來一個思路是手工提取影象的一些關鍵特徵,這實際就是就一個降維的過程。

那麼問題來了,特徵怎麼提?

特徵提取的好壞異常關鍵,甚至比學習演算法還重要,舉個例子,對一系列人的資料分類,分類結果是性別,如果你提取的特徵是頭髮的顏色,無論分類演算法如何,分類效果都不會好,如果你提取的特徵是頭髮的長短,這個特徵就會好很多,但是還是會有錯誤,如果你提取了一個超強特徵,比如染色體的資料,那你的分類基本就不會錯了。

這就意味著,特徵需要足夠的經驗去設計,這在資料量越來越大的情況下也越來越困難。

於是就出現了端到端網路,特徵可以自己去學習,所以特徵提取這一步也就融入到演算法當中,不需要人來干預了。

5樓:匿名使用者

《智慧問答與深度學習》chatoperaceo王海良著,對學習智慧問答的朋友很有用!強烈推薦!

6樓:光頭

深度學習的概念源於人工神經網路的研究。含多隱層的多層感知器就是一種深度學習結構。深度學習通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵,以發現資料的分散式特徵表示。

深度學習的概念由hinton等人於2023年提出。基於深度置信網路(dbn)提出非監督貪心逐層訓練演算法,為解決深層結構相關的優化難題帶來希望,隨後提出多層自動編碼器深層結構。此外lecun等人提出的卷積神經網路是第一個真正多層結構學習演算法,它利用空間相對關係減少引數數目以提高訓練效能。

深度學習是機器學習中一種基於對資料進行表徵學習的方法。觀測值(例如一幅影象)可以使用多種方式來表示,如每個畫素強度值的向量,或者更抽象地表示成一系列邊、特定形狀的區域等。而使用某些特定的表示方法更容易從例項中學習任務(例如,人臉識別或面部表情識別)。

深度學習是機器學習研究中的一個新的領域,其動機在於建立、模擬人腦進行分析學習的神經網路,它模仿人腦的機制來解釋資料,例如影象,聲音和文字。

如何正確理解深度學習的概念

7樓:中公教育it優就業

簡單來說,機器學習是實現人工智慧的方法,深度學習是實現機器學習的技術。機器學習在實現人工智慧時中需要人工輔助(半自動),而深度學習使該過程完全自動化

三者關係:

舉個例子:通過機器學習演算法來識別水果是橘子還是蘋果,需要人工輸入水果的特徵資料,生成一定的演算法模型,進而可以準確**具有這些特徵的水果的型別,而深度學習則能自動的去發現特徵進而判斷。

8樓:匿名使用者

深度學習是機器學習領域中對模式(聲音、影象等等)進行建模的一種方法,它也是一種基於統計的概率模型。在對各種模式進行建模之後,便可以對各種模式進行識別了,例如待建模的模式是聲音的話,那麼這種識別便可以理解為語音識別。而類比來理解,如果說將機器學習演算法類比為排序演算法,那麼深度學習演算法便是眾多排序演算法當中的一種(例如氣泡排序),這種演算法在某些應用場景中,會具有一定的優勢。

9樓:ai科普教育

如何輕鬆入門機器學習與深度學習

如何正確理解深度學習的概念

10樓:

深度學習的概念源於人工神經網路的研究。含多隱層的多層感知器就是一種深度學習結構。深度學習通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵,以發現資料的分散式特徵表示。[1]

深度學習的概念由hinton等人於2023年提出。基於深度置信網路(dbn)提出非監督貪心逐層訓練演算法,為解決深層結構相關的優化難題帶來希望,隨後提出多層自動編碼器深層結構。此外lecun等人提出的卷積神經網路是第一個真正多層結構學習演算法,它利用空間相對關係減少引數數目以提高訓練效能。

[1]深度學習是機器學習中一種基於對資料進行表徵學習的方法。觀測值(例如一幅影象)可以使用多種方式來表示,如每個畫素強度值的向量,或者更抽象地表示成一系列邊、特定形狀的區域等。而使用某些特定的表示方法更容易從例項中學習任務(例如,人臉識別或面部表情識別)。

深度學習的好處是用非監督式或半監督式的特徵學習和分層特徵提取高效演算法來替代手工獲取特徵。

深度學習是機器學習研究中的一個新的領域,其動機在於建立、模擬人腦進行分析學習的神經網路,它模仿人腦的機制來解釋資料,例如影象,聲音和文字。[2]

同機器學習方法一樣,深度機器學習方法也有監督學習與無監督學習之分.不同的學習框架下建立的學習模型很是不同.例如,卷積神經網路(convolutional neural networks,簡稱cnns)就是一種深度的監督學習下的機器學習模型,而深度置信網(deep belief nets,簡稱dbns)就是一種無監督學習下的機器學習模型。

11樓:ai科普教育

如何輕鬆入門機器學習與深度學習

資料探勘,機器學習,深度學習這些概念有區別嗎

12樓:知識就是力量

有區別,但是相互之間有交叉,共通點是存在的

資料探勘,機器學習,深度學習這些概念有區別嗎

13樓:

人工智抄能(artificial intelligence)是讓計算機這臺襲

深度學習是什么,深度學習是什麼?

深度學習是人工智慧的一個子集,它使用多層人工神經網路來執行一系列任務,從計算機視覺到自然語言處理。深度學習與傳統機器學習系統的不同之處在於,它能夠在分析大型資料集時進行自我學習和改進,因此能應用在許多不同的領域。深度學習是學習樣本資料的內在規律和表示層次,這些學習過程中獲得的資訊對諸如文字,影象和聲...

深度學習的概念,發展狀況以及和機器學習的區別和應用

內容來自使用者 天成資訊 深度學習的概念 發展狀況以及和機器學習的區別和應用隨著人工智慧的熱度不斷攀升,深度學習和機器學習作為實現ai的技術得到了充分的關注,兩者在計算機視覺和自然語言處理等領域產生著巨大的影響,同時也是無人駕駛汽車的關鍵技術。深度學習是什么?在深度學習中,計算機學習直接從影象 文字...

深度學習中的端到端是什麼概念,學習計算機專業相關課程有什麼意義

端到端指的是輸入是原始資料,輸出是最後的結果,非端到端的輸入端不是直接的原始資料,而是在原始資料中提取的特徵,這一點在影象問題上尤為突出,因為影象畫素數太多,資料維度高,會產生維度災難,所以原來一個思路是手工提取影象的一些關鍵特徵,這實際就是就一個降維的過程。那麼問題來了,特徵怎麼提?特徵提取的好壞...