本文实例为大家分享了pytorch使用nn.Moudle实现逻辑回归的具体代码,供大家参考,具体内容如下
内容pytorch使用nn.Moudle实现逻辑回归
问题loss下降不明显
解决方法#源代码 out的数据接收方式
if torch.cuda.is_available():
x_data=Variable(x).cuda()
y_data=Variable(y).cuda()
else:
x_data=Variable(x)
y_data=Variable(y)
out=logistic_model(x_data) #根据逻辑回归模型拟合出的y值
loss=criterion(out.squeeze(),y_data) #计算损失函数
#源代码 out的数据有拼装数据直接输入
# if torch.cuda.is_available():
# x_data=Variable(x).cuda()
# y_data=Variable(y).cuda()
# else:
# x_data=Variable(x)
# y_data=Variable(y)
out=logistic_model(x_data) #根据逻辑回归模型拟合出的y值
loss=criterion(out.squeeze(),y_data) #计算损失函数
print_loss=loss.data.item() #得出损失函数值
源代码
import torch
from torch import nn
from torch.autograd import Variable
import matplotlib.pyplot as plt
import numpy as np
#生成数据
sample_nums = 100
mean_value = 1.7
bias = 1
n_data = torch.ones(sample_nums, 2)
x0 = torch.normal(mean_value * n_data, 1) + bias # 类别0 数据 shape=(100, 2)
y0 = torch.zeros(sample_nums) # 类别0 标签 shape=(100, 1)
x1 = torch.normal(-mean_value * n_data, 1) + bias # 类别1 数据 shape=(100, 2)
y1 = torch.ones(sample_nums) # 类别1 标签 shape=(100, 1)
x_data = torch.cat((x0, x1), 0) #按维数0行拼接
y_data = torch.cat((y0, y1), 0)
#画图
plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=y.data.numpy(), s=100, lw=0, cmap='RdYlGn')
plt.show()
# 利用torch.nn实现逻辑回归
class LogisticRegression(nn.Module):
def __init__(self):
super(LogisticRegression, self).__init__()
self.lr = nn.Linear(2, 1)
self.sm = nn.Sigmoid()
def forward(self, x):
x = self.lr(x)
x = self.sm(x)
return x
logistic_model = LogisticRegression()
# if torch.cuda.is_available():
# logistic_model.cuda()
#loss函数和优化
criterion = nn.BCELoss()
optimizer = torch.optim.SGD(logistic_model.parameters(), lr=0.01, momentum=0.9)
#开始训练
#训练10000次
for epoch in range(10000):
# if torch.cuda.is_available():
# x_data=Variable(x).cuda()
# y_data=Variable(y).cuda()
# else:
# x_data=Variable(x)
# y_data=Variable(y)
out=logistic_model(x_data) #根据逻辑回归模型拟合出的y值
loss=criterion(out.squeeze(),y_data) #计算损失函数
print_loss=loss.data.item() #得出损失函数值
#反向传播
loss.backward()
optimizer.step()
optimizer.zero_grad()
mask=out.ge(0.5).float() #以0.5为阈值进行分类
correct=(mask==y_data).sum().squeeze() #计算正确预测的样本个数
acc=correct.item()/x_data.size(0) #计算精度
#每隔20轮打印一下当前的误差和精度
if (epoch+1)%100==0:
print('*'*10)
print('epoch {}'.format(epoch+1)) #误差
print('loss is {:.4f}'.format(print_loss))
print('acc is {:.4f}'.format(acc)) #精度
w0, w1 = logistic_model.lr.weight[0]
w0 = float(w0.item())
w1 = float(w1.item())
b = float(logistic_model.lr.bias.item())
plot_x = np.arange(-7, 7, 0.1)
plot_y = (-w0 * plot_x - b) / w1
plt.xlim(-5, 7)
plt.ylim(-7, 7)
plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=logistic_model(x_data)[:,0].cpu().data.numpy(), s=100, lw=0, cmap='RdYlGn')
plt.plot(plot_x, plot_y)
plt.show()
输出结果