机器学习:线性回归

低级API实现:

1.随机初始化数据

import matplotlib.pyplot as plt
import tensorflow as tf
TRUE_W=3.0
TRUE_b=2.0
NUM_SAMPLES=100
#初始化随机数据
X=tf.random.normal(shape=[NUM_SAMPLES,1]).numpy()
noise=tf.random.normal(shape=[NUM_SAMPLES,1]).numpy()
y=X*TRUE_W+TRUE_b+noise #添加噪声
plt.scatter(X,y)

2.

定义一元回归模型并拟合曲线:

𝑓(𝑤,𝑏,𝑥)=𝑤∗𝑥+𝑏

class Model(object): #object模型的主体

    def __init__(self):
        self.W = tf.Variable(tf.random.uniform([1]))  # 随机初始化参数
        self.b = tf.Variable(tf.random.uniform([1]))

    def __call__(self, x):
        return self.W * x + self.b  # w*x + b
model = Model()  # 实例化模型

plt.scatter(X, y)
plt.plot(X, model(X), c='r')  

可见拟合效果不是很好 因此继续训练模型 

3.利用损失函数 去 进行梯度下降迭代 得到好的拟合结果

损失函数:

更新参数:

𝑏←b−𝑙𝑟∗∂loss(𝑤,𝑏)

w←w−𝑙𝑟∗∂loss(𝑤,𝑏)

lr指是学习率

最后迭代十次

def loss_fn(model,x,y):
    y_=model(x)
    return tf.reduce_mean(tf.square(y_ -y))
EPOCHS  =10
LEARNING_RATE=0.1
for epoch in range (EPOCHS): #迭代次数
 with tf.GradientTape() as tape:
        loss=loss_fn(model,X,y)#计算损失
        dW,db=tape.gradient(loss,[model.W,model.b]) #计算梯度
        model.W.assign_sub(LEARNING_RATE*dW)
        model.b.assign_sub(LEARNING_RATE*db)
        #输出计算结果
        print(f'Epoch[{epoch}/{EPOCHS}], loss[{loss}], W/b[{model.W.numpy()}/{model.b.numpy()}]')
     
        plt.scatter(X, y)
        plt.plot(X, model(X), c='r')

得到以下结果:

高阶API实现:

使用tensorflow现有库中的keras

model = tf.keras.Sequential()  # 新建顺序模型
model.add(tf.keras.layers.Dense(units=1, input_dim=1))  # 添加线性层
model.compile(optimizer='sgd', loss='mse')  # 定义损失函数和优化方法
model.fit(X, y, epochs=10, batch_size=32)  # 训练模型