全連接、局部連接、全卷積與局部卷積學習筆記

局部卷積圖像修復實例：

圖像修復 學習筆記_AI視覺網奇的博客-CSDN博客

以下內容轉自：

深度學習——全連接，局部感知，權值共享，卷積輸入輸出的個人理解_simple丨li的博客-CSDN博客_局部感知

首先理解：

1、全連接層1：（輸入為卷積）

全連接和普通神經元類似，輸出的每一個神經元都與輸入的每一個像素點相連， 把多維向量轉化為1維向量 。

例如前一層的卷積輸出50個feature map（圖片大小為4X4），全連接層輸出的是500個神經元（輸出500個數字），則每一個神經元對應4X4X50=800個參數（卷積操作輸出一個數字），這一層全連接層和總共有800X500=400000個參數。

理解：如下圖所示，X1，X2就是前面的輸入的50X4X4個像素值，Y1,Y2就是輸出的500個一維值，其中的參數個數就是V11,V21,V12,V22所有的參數個數總和。

2、全連接層2：（輸入為全連接層）

如上所示，上述全連接層輸入為500個數字，若本層輸出為10個神經元（10個數字），每個神經元都對應500個參數，則總共500X10=5000個參數

3、局部感知：

重要性：若每一個神經元都像全連接一樣，則需要的參數太多了，因此采用局部感知的方法。

每一個神經元只需要感知圖像中的局部信息，然后在更高層次進行信息組合就可以得到全局信息。

例如有10個10X10的卷積核，每一個卷積核對圖像進行局部感知可以理解為提取圖像的輪廓，光暗等信息。有10個卷積核代表了10種特征。

其中有多少個參數呢？參數只和輸出神經元個數和卷積核大小有關，例如上述的參數有：10（featrue map）X10X10（卷積核大小）=1000個參數，這一層卷積層就只有1000個參數。

4、權值共享：

權值共享實際上就是局部感知的部分，當用10X10的卷積核（共包含100個參數）去卷積整張圖的時候，生成的feature map的每一個像素值都是由這個卷積核產生的，這就是權值共享。

5、卷積的輸入輸出理解：

輸入單通道圖片層時的理解：對于輸入圖片為32X32的圖片，卷積核大小為5X5，卷積核個數為6，步幅（ Stride）為1，邊界擴充（ Padding）為0，公式為： （Input_H + 2*Padding - 卷積核H）/ Stride +1 ，（寬度公式同理） 這里（32+2*0-5）/1 + 1 = 28 ，所以輸出的featrue map 大小為28X28 ， 總共6個feature map，代表6種特征。

輸入是多通道圖片時（多feature map）的理解：下圖展示了在四個通道上的卷積操作，有兩個卷積核，生成兩個通道。其中需要注意的是，四個通道上每個通道對應一個卷積核，先將w2忽略，只看w1，那么在w1的某位置（i,j）處的值，是由四個通道上（i,j）處的卷積結果相加，最后得到兩個feature map， 即輸出層的卷積核核個數為 feature map 的個數。

下圖參數個數：4×2×2×2 = 32個參數，其中4表示4個通道，第一個2表示生成2個通道，最后的2×2表示卷積核大小。

再形象理解多通道卷積：

神經網絡

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。