matplotlib.pyplot可视化训练结果

注:程序和数据来自上篇blog
#定义激励函数 并 定义一个添加神经层函数

import tensorflow as tf 
import numpy as np
import matplotlib.pyplot as plt

def add_layer(inputs,in_size,out_size,activation_function):
  Weights=tf.Variable(tf.random_normal([in_size,out_size]))#定义一个in_siz行,out_size列的矩阵。
                                                           #注:矩阵相乘输出为:前面项的行数,后面项的列数。
  biases=tf.Variable(tf.zeros([1,out_size])+0.1)#定义一个偏置
  Wx_plus_b=tf.matmul(inputs,Weights)+biases
  if activation_function is None:
    outputs=Wx_plus_b
  else:
    outputs=activation_function(Wx_plus_b)
  return outputs

x_data=np.linspace(-1,1,300)[:,np.newaxis]##这一行中的[:,np.newxis]是将数据在行上增加n多行,列数为1
noise=np.random.normal(0,0.05,x_data.shape)
y_data=np.square(x_data)-0.5+noise

xs=tf.placeholder(tf.float32,[None,1])#数据为float32形式
ys=tf.placeholder(tf.float32,[None,1])

l1=add_layer(xs,1,10,activation_function=tf.nn.relu)#用placeholder中传来的值
prediction=add_layer(l1,10,1,activation_function=None)

loss=tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),reduction_indices=[1]))

train_step=tf.train.GradientDescentOptimizer(0.1).minimize(loss)

init=tf.initialize_all_variables()

sess=tf.Session()
sess.run(init)
#####画出真实值####
fig=plt.figure()#先生成一个画框
ax=fig.add_subplot(1,1,1)###总共一行一列,选第一个画图
ax.scatter(x_data,y_data)#用点的形式将真实数据plot出来
#plt.ion()
#plt.show()

for i in range(1000):
  sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
  if i%100==0:
    #每100次显示一下

    ####画出预测####
    try:       #这里是为了抹除上100次得到的预测结果的线
      ax.lines.remove(lines[0])
    except Exception:
      pass
    prediction_value=sess.run(prediction,feed_dict={xs:x_data})
    lines=ax.plot(x_data,prediction_value,'r-',lw=5)#用线画出预测值
    #plt.pause(0.1)
    print("第%d次:"%(i),sess.run(loss,feed_dict={xs:x_data,ys:y_data}))

输出:
第0次: 0.06378379
第100次: 0.0045252806
第200次: 0.003339286
第300次: 0.0029212094
第400次: 0.0027737075
第500次: 0.0027111543
第600次: 0.0026785966
第700次: 0.0026464972
第800次: 0.002620993
第900次: 0.0026080923