最小單元神經網路結構 – 感知器，PERCEPTRON

466

Perceptron 為 Rosenblatt 提出第一個單元神經網路模型。

架構包含連結權重與激發函數的應用。

此模型基於 1943 年 McCulloch 與 Pitts 所提出的神經元模型，模擬了腦部神經架構以數學的方式解釋，其中並引入激發狀態概念”all ornone”，提出了許多連結性資訊傳遞在有激發函數下的討論。

公式演算

初始數據與配置

倘若我們有筆訓練數據為(𝑥, 𝑦)

且𝑥 = (𝑥₁, 𝑥₂, … , 𝑥_𝑛)，𝑦 = {1,0}，

初始權重為
隨機𝑤 = (𝑤₁, 𝑤₂, … , 𝑤_𝑛)，以及實數𝑏。

向前傳遞匯集

net = \sum_{i=1}^{n}x_{i}w_{i}+b

向前傳遞激發

修正階段，𝜆為學習速率

w_{new} = w_{old} + \lambda(y-\widehat{y})x

b_{new} = b_{old} + \lambda(y-\widehat{y})

Perceptron 的特色

Perceptron 模型，面對簡單的線性分類模型能有不錯的表現。

但若問題維度變高，以及分類方式不能以線性區別的話，此模型就無法解決這類問題，如下圖。

Jyajyun完整的AI學習文件目錄

1. 最小單元神經網路結構 – 感知器，PERCEPTRON
2. 激發函數(ACTIVATION FUNCTION)的可視化與理解
3. 神經網路的經典架構 – 多層感知器 MLP
4. 神經網路的學習規則
5. 神經網路 向前傳遞 公式推導
6. 神經網路 計算誤差值 公式推導
7. 如何理解神經網路裡的梯度下降