一、深度學習Deep Learning基礎和基本思想
? |
1,人工智能概述、計算智能、類腦智能
3,機器學習概述、記憶學習、歸納學習、統計學習
4,深度學習的前生今世、發展趨勢
5,人工神經網絡、前饋神經網絡、BP算法 、Hessian矩陣、結構性特征表示 |
二、深度學習Deep Learning基本框架結構 |
1,Caffe????????????2,Tensorflow
3,Torch????????????4,MXNet |
三,深度學習Deep Learning-卷積神經網絡 |
1,CNN卷積神經網絡
卷積層(一維卷積、二維卷積)、池化層(均值池化、最大池化)
全連接層 ???激活函數層 ???Softmax層
2,CNN卷積神經網絡改進
R-CNN (SPPNET) ?Fast-R-CNN??Faster-R-CNN (YOLO、SSD)
3,深度學習的模型訓練技巧
4,梯度下降的優化方法詳解 |
四,深度學習Deep Learning-循環神經網絡 |
1,?RNN循環神經網絡
梯度計算 ???BPTT
2,RNN循環神經網絡改進
LSTM??????GRU?????Bi-RNN??Attention based RNN
3,RNN實際應用 ???Seq2Seq的原理與實現 ??? |
五、強化學習 |
1,強化學習的理論知識 ?
2,經典模型DQN講解
2,?AlphaGo原理講解 ???
3,?RL實際應用;實現一個AlphaGo |
六,對抗性生成網絡 |
1,?GAN的理論知識 ??
2,?GAN經典模型CGAN,LAPGAN,DCGAN
3,GAN經典模型 ?INFOGAN,WGAN,S2-GAN
4,GAN實際應用 ?DCGAN提高模糊圖片分辨率
5,GAN實際應用 ?InfoGAN做特定的樣本生成 |
七、遷移學習 |
1,遷移學習的理論概述
2,遷移學習的常見方法
特征、實例、數據、深度遷移、強化遷移、研究案例 |
八、CNN應用案例 |
1,CNN與手寫數字集分類
2,YOLO實現目標檢測
3,PixelNet原理與實現
4,利用卷積神經網絡做圖像風格結合 |
九、深度學習Deep Learning的常用模型或者方法 |
1,AutoEncoder自動編碼器
2,Sparse Coding稀疏編碼
3,Restricted Boltzmann Machine(RBM)限制波爾茲曼機
4,Deep BeliefNetworks深信度網絡
5,Convolutional Neural Networks卷積神經網絡 |
十、輔助課程 |
(1)疑難解答、分組討論;
(2)關鍵問題解析; |