【神經網絡】綜合篇——人工神經網絡、卷積神經網絡、循環神經網絡、生成對抗網絡一、人工神經網絡

前言

本文綜合整理常用的神經網絡，包括生物神經網絡、人工神經網絡、卷積神經網絡、循環神經網絡、生成對抗網絡；參考了許多高校的課程、論文、博客和視頻等。文章的結構是先進行概念了解，然后結合圖片、結構圖、一步一步詳細講解；大家要不看看？?( ?? ω ?? )y

一、人工神經網絡

簡介：人工神經網絡?(Artificial Neural Network, ANN)，由人工神經元構成的網絡，模擬人類的大腦；它模擬生物過程以反映人腦某些特征的計算結構。

聯系：人工神經元模擬生物神經元；人工神經網絡模擬人類的大腦，模擬生物神經網絡。

特點：人工神經網絡是一個并行、分布處理結構，具有學習能力、泛化能力。

功能：聯想記憶功能、非線性映射功能、分類與識別功能、知識處理功能。

詳細介紹：一篇文章“簡單”認識《人工神經網絡》(更新版)

目錄大綱：

1 前言

2 人類大腦

3 生物神經網絡

4 生物神經元

5 人工神經元

6 人工神經網絡

6.1 單層神經網絡

6.2 多層神經網絡

6.3?前向傳播

6.4?損失函數

6.5?梯度下降方法

6.6?反向傳播算法

7?特點

8?功能

9?小結

參考

單層神經網絡，如下所示圖：?( ?? ω ?? )y

二、卷積神經網絡

簡介

卷積神經網絡（Convolutional Neural Network, CNN），通過卷積層與池化層的疊加實現對輸入數據的特征提取，最后連接全連接層實現分類。對于圖像處理有出色表現，在計算機視覺中得到了廣泛的應用。

聯系

動物視覺系統對外界的感知是：

視覺皮層的每個神經元只響應某些特定區域的刺激（感受野）

從局部到全局（信息分層處理機制）

卷積神經網絡：

每個神經元只需對 局部圖像 進行感知；

在更高層將局部的信息綜合起來，得到全局信息；

結構：主要由?卷積層+池化層+全連接層 組成的。

應用：圖像分類、目標檢測、目標跟蹤、語義分割、實例分割等。

詳細介紹：一篇文章“簡單”認識《卷積神經網絡》(更新版)

目錄大綱：

1 前言

2 基于什么提出卷積神經網絡？

3 卷積（Convolution）

3.1 卷積操作

3.2 多層卷積層

4 池化（Pooling）

5 全連接層

6 特征維度變化

7 CNN核心思想——參數共享

8 優勢

9 經典的卷積神經網絡

10 卷積神經網絡應用

參考

基本卷積神經網絡，如下所示圖：?( ?? ω ?? )y

三、循環神經網絡

簡介：循環神經網絡（Recurrent Neural Networks，RNN），是一種反饋網絡，模擬“人腦記憶功能”，常用于語言識別、機器翻譯、視頻分析、生成圖像描述等。

背景：人工神經網絡、卷積神經網絡是前饋網絡；前饋神經網絡是一個靜態網絡，信息的傳遞是單向的，網絡的輸出只依賴于當前的輸入，不具備記憶能力。前饋神經網絡處理的數據是一個一個輸入的，前后數據沒有關系的。實際生活中，很多數據都是有上下文相關性的，這些數據稱為序列數據；處理的時候，不能只考慮當前的輸入就進行判斷，需要考慮前后之間關系。

這時需要使用“循環神經網絡”，它能有效處理序列特性的數據，它能挖掘數據中的時序信息以及語義信息。

結構：循環神經網絡由循環體堆疊而成；

詳細介紹：一篇文章“簡單”認識《循環神經網絡》(更新版)

應用：主要在自然語言處理方向應用；

文檔分類和時間序列分析（識別文章的主題）

時間序列對比　　（比較兩個文檔的相關程度）

序列到序列的學習（中文翻譯為英文）

情感分析 （推文或電影評論的情感劃分為正面或負面）

世間序列預測　　（根據最近的天氣數據來預測未來天氣）

目錄大綱：

1 前言

2 循環體

3 循環神經網絡

4 LSTM網絡

5 循環神經網絡應用

參考

循環體及其按時間展開后的效果：?( ?? ω ?? )y

四、生成對抗網絡

簡介：生成對抗網絡（GAN，generative adversarial network），是一種常用于學習類別特征的神經網絡結構；主要有兩部分組成，分別是生成網絡、判別網絡。

背景：在監督學習中，訓練集需要大量的人工標注數據，并且需要人工判斷生成結構好壞，這個過程是高成本且低效率的；GAN能自動完成這個過程，效率高成本低。

詳細介紹：一篇文章“簡單”認識《生成對抗網絡》(GAN)

應用：GAN 的應用十分廣泛，它的應用包括圖像合成、圖像編輯、風格遷移、圖像超分辨率以及圖像轉換，數據增強等。

目錄大綱：

1 前言

2 生成對抗網絡應用

2.1 風格遷移

2.2 圖像生成

2.3 音樂創作

3 生成學習算法

4 生成對抗網絡

4.1 GAN的簡要實現流程

4.2 GAN算法實現要點

5 MNIST 案例

6 GAN優點

7 GAN缺點

8 文獻學習

1. Generative Adversarial Networks

2. Conditional GANs

3. DCGAN

4. Improved Techniques for Training GANs

5. Pix2Pix

6. CycleGAN

7. Progressively Growing of GANs

8. BigGAN

9.NAS

生成對抗網絡GAN原理圖，如下圖所示：( ?? ω ?? )y

大家加油呀~~?( ?? ω ?? )?

卷積神經網絡 神經網絡

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。