Python实现感知器与双层神经网络训练示例
本文介绍了使用Python和NumPy库实现单层感知器模型与双层神经网络的方法。通过定义Sigmoid激活函数及其导数,演示了前向传播与权重更新过程。文章包含完整的训练代码示例,展示了如何处理输入输出数据及迭代优化权重,帮助读者理解基础神经网络原理。
本文分享使用Python实现感知器模型及两层神经网络的完整示例,供读者参考学习。
代码运行环境为Python 3.4,并依赖NumPy库进行数值计算。
首先,我们实现一个感知器模型,用于处理特定的输入输出映射关系。
具体的数据对应关系如下:输入向量[[0,0,1]]对应输出0,[[0,1,1]]对应输出1,[[1,0,1]]对应输出0,[[1,1,1]]对应输出1。
分析上述数据可知,输入层包含三个通道,而输出层为单通道。

在此模型中,我们选用Sigmoid函数作为激活函数,其公式为f(x)=1/(1+exp(-x))。
该函数的导数推导过程如下所示:

权重更新的核心逻辑包括以下步骤:计算L0=W*X,通过激活函数得到z=f(L0),计算误差error=y-z,进而推导delta =error * f'(L0) * X,最后更新权重W=W+delta。
以下是单层感知器的Python实现代码:
import numpy as np
#sigmoid function
def nonlin(x, deriv = False):
if(deriv==True):
return x*(1-x)
return 1/(1+np.exp(-x))
# input dataset
X=np.array([[0,0,1],
[0,1,1],
[1,0,1],
[1,1,1]])
# output dataset
y=np.array([[0,1,0,1]]).T
#seed( ) 用于指定随机数生成时所用算法开始的整数值,
#如果使用相同的seed( )值,则每次生成的随即数都相同,
#如果不设置这个值,则系统根据时间来自己选择这个值,
#此时每次生成的随机数因时间差异而不同。
np.random.seed(1)
# init weight value with mean 0
syn0 = 2*np.random.random((3,1))-1
for iter in range(1000):
# forward propagation
L0=X
L1=nonlin(np.dot(L0,syn0))
# error
L1_error=y-L1
L1_delta = L1_error*nonlin(L1,True)
# updata weight
syn0+=np.dot(L0.T,L1_delta)
print("Output After Training:")
print(L1)
从运行结果来看,模型基本实现了对应的映射关系。
接下来,我们使用包含一个隐藏层的双层网络来完成相同任务,该隐藏层包含4个神经元。
import numpy as np
def nonlin(x, deriv = False):
if(deriv == True):
return x*(1-x)
else:
return 1/(1+np.exp(-x))
#input dataset
X = np.array([[0,0,1],
[0,1,1],
[1,0,1],
[1,1,1]])
#output dataset
y = np.array([[0,1,1,0]]).T
#the first-hidden layer weight value
syn0 = 2*np.random.random((3,4)) - 1
#the hidden-output layer weight value
syn1 = 2*np.random.random((4,1)) - 1
for j in range(60000):
l0 = X
#the first layer,and the input layer
l1 = nonlin(np.dot(l0,syn0))
#the second layer,and the hidden layer
l2 = nonlin(np.dot(l1,syn1))
#the third layer,and the output layer
l2_error = y-l2
#the hidden-output layer error
if(j%10000) == 0:
print "Error:"+str(np.mean(l2_error))
l2_delta = l2_error*nonlin(l2,deriv = True)
l1_error = l2_delta.dot(syn1.T)
#the first-hidden layer error
l1_delta = l1_error*nonlin(l1,deriv = True)
syn1 += l1.T.dot(l2_delta)
syn0 += l0.T.dot(l1_delta)
print "outout after Training:"
print l2
以上就是本文的全部内容,希望对读者有所帮助,欢迎继续支持本站。
本站声明
本文内容仅供参考,不代表本站观点。转载或引用请注明出处。如发现内容问题,请通过联系我们页面反馈。













