使用 pytorch 创建神经网络拟合sin函数的实现
我们知道深度神经网络的本质是输入端数据和输出端数据的一种高维非线性拟合,如何更好的理解它,下面尝试拟合一个正弦函数,本文可以通过简单设置节点数,实现任意隐藏层数的拟合。
基于pytorch的深度神经网络实战,无论任务多么复杂,都可以将其拆分成必要的几个模块来进行理解。
1)构建数据集,包括输入,对应的标签y
2)构建神经网络模型,一般基于nn.Module继承一个net类,必须的是__init__函数和forward函数。__init__构造函数包括创建该类是必须的参数,比如输入节点数,隐藏层节点数,输出节点数。forward函数则定义了整个网络的前向传播过程,类似于一个Sequential。
3)实例化上步创建的类。
4)定义损失函数(判别准则),比如均方误差,交叉熵等
5)定义优化器(optim:SGD,adam,adadelta等),设置学习率
6)开始训练。开始训练是一个从0到设定的epoch的循环,循环期间,根据loss,不断迭代和更新网络权重参数。
无论多么复杂的网络,基于pytorch的深度神经网络都包括6个模块,训练阶段包括5个步骤,本文只通过拟合一个正弦函数来说明加深理解。
废话少说,直接上代码:
fromtorch.utils.dataimportDataLoader
fromtorch.utils.dataimportTensorDataset
importtorch.nnasnn
importnumpyasnp
importtorch
#准备数据
x=np.linspace(-2*np.pi,2*np.pi,400)
y=np.sin(x)
#将数据做成数据集的模样
X=np.expand_dims(x,axis=1)
Y=y.reshape(400,-1)
#使用批训练方式
dataset=TensorDataset(torch.tensor(X,dtype=torch.float),torch.tensor(Y,dtype=torch.float))
dataloader=DataLoader(dataset,batch_size=100,shuffle=True)
#神经网络主要结构,这里就是一个简单的线性结构
classNet(nn.Module):
def__init__(self):
super(Net,self).__init__()
self.net=nn.Sequential(
nn.Linear(in_features=1,out_features=10),nn.ReLU(),
nn.Linear(10,100),nn.ReLU(),
nn.Linear(100,10),nn.ReLU(),
nn.Linear(10,1)
)
defforward(self,input:torch.FloatTensor):
returnself.net(input)
net=Net()
#定义优化器和损失函数
optim=torch.optim.Adam(Net.parameters(net),lr=0.001)
Loss=nn.MSELoss()
#下面开始训练:
#一共训练1000次
forepochinrange(1000):
loss=None
forbatch_x,batch_yindataloader:
y_predict=net(batch_x)
loss=Loss(y_predict,batch_y)
optim.zero_grad()
loss.backward()
optim.step()
#每100次的时候打印一次日志
if(epoch+1)%100==0:
print("step:{0},loss:{1}".format(epoch+1,loss.item()))
#使用训练好的模型进行预测
predict=net(torch.tensor(X,dtype=torch.float))
#绘图展示预测的和真实数据之间的差异
importmatplotlib.pyplotasplt
plt.plot(x,y,label="fact")
plt.plot(x,predict.detach().numpy(),label="predict")
plt.title("sinfunction")
plt.xlabel("x")
plt.ylabel("sin(x)")
plt.legend()
plt.savefig(fname="result.png",figsize=[10,10])
plt.show()
输出结果:
step:100,loss:0.06755948066711426
step:200,loss:0.003788222325965762
step:300,loss:0.0004728269996121526
step:400,loss:0.0001810075482353568
step:500,loss:0.0001108720971387811
step:600,loss:6.29749265499413e-05
step:700,loss:3.707894938997924e-05
step:800,loss:0.0001250380591955036
step:900,loss:3.0654005968244746e-05
step:1000,loss:4.349641676526517e-05
输出图像:
到此这篇关于使用pytorch创建神经网络拟合sin函数的实现的文章就介绍到这了,更多相关pytorch创建拟合sin函数内容请搜索毛票票以前的文章或继续浏览下面的相关文章希望大家以后多多支持毛票票!
声明:本文内容来源于网络,版权归原作者所有,内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:czq8825#qq.com(发邮件时,请将#更换为@)进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。