深度學習
From Wikipedia, the free encyclopedia
深度學習(粵拼:sam1 dou6 hok6 zaap6;英文:deep learning),又有叫深度結構化學習(deep structured learning),係一系列涉及「深入學習」嘅多層人工神經網絡技術,前饋同遞迴神經網絡都用得[1][2]。
深度學習建基於人工神經網絡(artificial neural network):一個多層嘅前饋神經網絡會有若干層隱藏細胞,每層細胞嘅啟動程度都受打前嗰層嘅細胞影響,所以當輸入層(input layer)細胞收到訊號()啟動,就會引致後排嘅細胞啟動數值跟住改變,然後輸出層(output layer)細胞會有特定嘅輸出值()-,當中 係代表個網絡嘅函數[1][3];一般機械學習演算法做嘅係要調整 入面嗰啲參數(即係權重值等),令到做完學習之後,個網絡變得能夠準確噉由 計出 ;深度學習做嘅就係進一步,想確保每兩浸細胞層之間都有準確嘅輸入輸出關係-如果由一個訓練咗嘅深度網絡裏面是但攞兩浸相鄰嘅細胞層出嚟,呢兩浸細胞層會能夠成為一個準確做預測嘅獨立網絡[4][5]。
舉個例說明,想像有個用嚟處理動物圖像嘅前饋網絡;如果佢係一個非深度網絡,設計者會淨係想確保輸入層同輸出層之間有正確嘅關係-即係想個網絡能夠準確噉由圖像判斷「圖入面嗰隻係乜動物」-就算數。但如果佢係一個深度網絡,做法就會比較似以下嘅噉[6][7]:
- 第一層負責接收幅圖嘅原始特徵(色水同點),
- 第二層會按原始特徵嘅位置分辨幅圖有邊啲綫,
- 第三層會按綫分辨幅圖有邊啲身體部位(例:有兩條相鄰打戙嘅線,噉嗰兩條線可能表示一條髀),
- 第四層會將所有身體部份一齊考慮,砌出一個表示隻動物抽象化之後嘅樣,
- 最後第五層就會計算抽象化之後個樣最似邊種已知動物,再俾返個標記佢(例:「隻動物係大笨象」)。
訓練好之後,如果由呢個網絡當中是但抽兩層相鄰嘅細胞出嚟,嗰兩層能夠成一個獨立做到有用運算嘅神經網絡[註 1]。噉亦都表示,深度學習能夠令人工神經網絡好似人類噉學識做有層次嘅知識表示。因為噉,深度學習技術喺人工智能(AI)領域上相當受重視[8][9]。