深度學習正在引發一場深刻的技術革命,這是人類首次如此接近思維的本質。象手寫體識別,臉像識別這類系統,過去的思路是從業務背景中線提取特征,然后產生若干辨識邏輯,再形成算法編程實現,但對于像imagenet那樣要對上百萬的圖片進行上千個分類識別的問題,以往的技術就傻眼了,別說邏輯,連特征的提取都因為過于復雜而沒辦法進行。現在流行的深度學習網絡的方法,把邏輯隱藏在成百上千萬的神經網絡權值里,讓特征被自動識別與提取,卻能得出讓人吃驚的高準確率。給出通用的框架,通過大量學習數據訓練出合適的權值,權值就是邏輯,這是未來的方向,那種先設計算法敲代碼的日子該一去不復返了,以后甚至程序員的工作都由機器全部完成也不是沒有可能。
第1節 跌宕起伏70年:神經網絡發展概述;最簡單的神經元仿生:單層感知器
第2節 線性神經網絡,BP神經網絡,基于梯度下降的各種學習算法
第3節 BP神經網絡應用,圖像壓縮,信用識別;稀疏自動編碼器與特征提取
第4節 能聯想和記憶的Hopfield神經網絡,DHNN與DCNN;應用:OCR識別,解決旅行商問題
第5節 模擬退火算法與Boltzmann機:隨機版的Hopfield神經網絡
第6節 受限Boltzmann機RBM,應用RBM進行協同過濾
第7節 深度置信網絡:利用堆疊的RBM進行權值預訓練,應用于圖像編碼與解碼,圖像識別
第8節 萬能逼近器:徑向基神經網絡;PCA與SVM神經網絡
第9節 自組織競爭神經網絡,遞歸神經網絡
第10節 卷積神經網絡;經典應用:MNIST手寫體數字識別,Imagenet圖像識別
第11節 計算機博弈原理,蒙特卡洛樹搜索,深度學習與AlphaGo,價值網絡與策略網絡的設計,構成和訓練
第12節 深度學習在自然語言處理中的應用
第13節 堆疊150層的超深度網絡:深度殘差網絡
|