图解机器学习:神经网络和TensorFlow的文本分类

作者: 佚名 2017-04-21 16:08:41

开发人员经常说,如果你想开始机器学习,你应该首先学习算法。但是我的经验则不是。

我说你应该首先了解:应用程序如何工作。一旦了解了这一点,深入探索算法的内部工作就会变得更加容易。

那么,你如何 开发直觉学习,并实现理解机器学习这个目的?一个很好的方法是创建机器学习模型。

假设您仍然不知道如何从头开始创建所有这些算法,您可以使用一个已经为您实现所有这些算法的库。那个库是 TensorFlow。

在本文中,我们将创建一个机器学习模型来将文本分类到类别中。我们将介绍以下主题:

  1. TensorFlow 的工作原理
  2. 什么是机器学习模型
  3. 什么是神经网络
  4. 神经网络如何学习
  5. 如何操作数据并将其传递给神经网络
  6. 如何运行模型并获得预测结果

你可能会学到很多新东西,所以让我们开始吧!

TensorFlow

TensorFlow 是一个机器学习的开源库,由 Google 首创。库的名称帮助我们理解我们怎样使用它:tensors 是通过图的节点流转的多维数组。

tf.Graph

在 TensorFlow 中的每一个计算都表示为数据流图,这个图有两类元素:

  • 一类 tf.Operation,表示计算单元
  • 一类 tf.Tensor,表示数据单元

要查看这些是怎么工作的,你需要创建这个数据流图:

图解机器学习:神经网络和TensorFlow的文本分类
(计算x+y的图)

你需要定义 x = [1,3,6] 和 y = [1,1,1]。由于图用 tf.Tensor 表示数据单元,你需要创建常量 Tensors:

  1. import tensorflow as tf 
  2. x = tf.constant([1,3,6])  
  3. y = tf.constant([1,1,1]) 

现在你将定义操作单元:

  1. import tensorflow as tf 
  2. x = tf.constant([1,3,6])  
  3. y = tf.constant([1,1,1]) 
  4. op = tf.add(x,y) 

你有了所有的图元素。现在你需要构建图:

  1. import tensorflow as tf 
  2. my_graph = tf.Graph() 
  3. with my_graph.as_default(): 
  4.     x = tf.constant([1,3,6])  
  5.     y = tf.constant([1,1,1]) 
  6.     op = tf.add(x,y) 

这是 TensorFlow 工作流的工作原理:你首先要创建一个图,然后你才能计算(实际上是用操作‘运行’图节点)。你需要创建一个 tf.Session 运行图。

tf.Session

tf.Session 对象封装了 Operation 对象的执行环境。Tensor 对象是被计算过的(从文档中)。为了做到这些,我们需要在 Session 中定义哪个图将被使用到:

  1. import tensorflow as tf 
  2. my_graph = tf.Graph() 
  3. with tf.Session(graph=my_graph) as sess: 
  4.     x = tf.constant([1,3,6])  
  5.     y = tf.constant([1,1,1]) 
  6.     op = tf.add(x,y) 

为了执行操作,你需要使用方法 tf.Session.run()。这个方法通过运行必要的图段去执行每个 Operation 对象并通过参数 fetches 计算每一个 Tensor 的值的方式执行 TensorFlow 计算的一'步':

  1. import tensorflow as tf 
  2. my_graph = tf.Graph() 
  3. with tf.Session(graph=my_graph) as sess: 
  4.     x = tf.constant([1,3,6])  
  5.     y = tf.constant([1,1,1]) 
  6.     op = tf.add(x,y) 
  7.     result = sess.run(fetches=op) 
  8.     print(result) 
  9. >>> [2 4 7] 

预测模型

现在你知道了 TensorFlow 的工作原理,那么你得知道怎样创建预测模型。简而言之

机器学习算法+数据=预测模型

构建模型的过程就是这样:

图解机器学习:神经网络和TensorFlow的文本分类
(构建预测模型的过程)

正如你能看到的,模型由数据“训练过的”机器学习算法组成。当你有了模型,你就会得到这样的结果:

图解机器学习:神经网络和TensorFlow的文本分类
(预测工作流)

你创建的模型的目的是对文本分类,我们定义了:

  1. input: text, result: category 

我们有一个使用已经标记过的文本(每个文本都有了它属于哪个分类的标记)训练的数据集。在机器学习中,这种任务的类型是被称为监督学习。

  • “我们知道正确的答案。该算法迭代的预测训练数据,并由老师纠正” —  Jason Brownlee

你会把数据分成类,因此它也是一个分类任务。

为了创建这个模型,我们将会用到神经网络。

神经网络

神经网络是一个计算模型(一种描述使用机器语言和数学概念的系统的方式)。这些系统是自主学习和被训练的,而不是明确编程的。

神经网络是也从我们的中枢神经系统受到的启发。他们有与我们神经相似的连接节点。

图解机器学习:神经网络和TensorFlow的文本分类
(一个神经网络)

感知器是***个神经网络算法。这篇文章 很好地解释了感知器的内部工作原理(“人工神经元内部” 的动画非常棒)。

为了理解神经网络的工作原理,我们将会使用 TensorFlow 建立一个神经网络架构。在这个例子中,这个架构被 Aymeric Damien 使用过。

神经网络架构

神经网络有两个隐藏层(你得选择 网络会有多少隐藏层,这是结构设计的一部分)。每一个隐藏层的任务是 把输入的东西转换成输出层可以使用的东西。

隐藏层 1

图解机器学习:神经网络和TensorFlow的文本分类
(输入层和***个隐藏层)

你也需要定义***个隐藏层会有多少节点。这些节点也被称为特征或神经元,在上面的例子中我们用每一个圆圈表示一个节点。

输入层的每个节点都对应着数据集中的一个词(之后我们会看到这是怎么运行的)

如 这里 所述,每个节点(神经元)乘以一个权重。每个节点都有一个权重值,在训练阶段,神经网络会调整这些值以产生正确的输出(过会,我们将会学习更多关于这个的信息)

除了乘以没有输入的权重,网络也会增加一个误差 (在神经网络中误差的角色)。

在你的架构中,将输入乘以权重并将值与偏差相加,这些数据也要通过激活函数传递。这个激活函数定义了每个节点的最终输出。比如说:想象一下,每一个节点是一盏灯,激活函数决定灯是否会亮。

有很多类型的激活函数。你将会使用 Rectified Linear Unit (ReLu)。这个函数是这样定义的:

  • f(x) = max(0,x) [输出 x 或者 0(零)中***的数]

例如:如果 x = -1, f(x) = 0(zero); 如果 x = 0.7, f(x) = 0.7.

隐藏层 2

第二个隐藏层做的完全是***个隐藏层做的事情,但现在第二层的输入是***层的输出。

图解机器学习:神经网络和TensorFlow的文本分类
(***和第二隐藏层)

输出层

现在终于到了***一层,输出层。你将会使用 One-Hot 编码 得到这个层的结果。在这个编码中,只有一个比特的值是 1,其他比特的值都是 0。例如,如果我们想对三个分类编码(sports, space 和computer graphics)编码:

  1. +-------------------+-----------+ 
  2. |    category       |   value   | 
  3. +-------------------|-----------+ 
  4. |      sports       |    001    | 
  5. |      space        |    010    | 
  6. | computer graphics |    100    | 
  7. |-------------------|-----------| 

因此输出节点的编号是输入的数据集的分类的编号。

输出层的值也要乘以权重,并我们也要加上误差,但是现在激活函数不一样。

你想用分类对每一个文本进行标记,并且这些分类相互独立(一个文本不能同时属于两个分类)。考虑到这点,你将使用 Softmax 函数而不是 ReLu 激活函数。这个函数把每一个完整的输出转换成 0 和 1 之间的值,并且确保所有单元的和等于一。这样,输出将告诉我们每个分类中每个文本的概率。

  1. | 1.2                    0.46| 
  2. | 0.9   -> [softmax] ->  0.34| 
  3. | 0.4                    0.20| 

现在有了神经网络的数据流图。把我们所看到的都转换为代码,结果是:

  1. # Network Parameters 
  2. n_hidden_1 = 10        # 1st layer number of features 
  3. n_hidden_2 = 5         # 2nd layer number of features 
  4. n_input = total_words  # Words in vocab 
  5. n_classes = 3          # Categories: graphics, space and baseball 
  6. def multilayer_perceptron(input_tensor, weights, biases): 
  7.     layer_1_multiplication = tf.matmul(input_tensor, weights['h1']) 
  8.     layer_1_addition = tf.add(layer_1_multiplication, biases['b1']) 
  9.     layer_1_activation = tf.nn.relu(layer_1_addition) 
  10. # Hidden layer with RELU activation 
  11.     layer_2_multiplication = tf.matmul(layer_1_activation, weights['h2']) 
  12.     layer_2_addition = tf.add(layer_2_multiplication, biases['b2']) 
  13.     layer_2_activation = tf.nn.relu(layer_2_addition) 
  14. Output layer with linear activation 
  15.     out_layer_multiplication = tf.matmul(layer_2_activation, weights['out']) 
  16.     out_layer_addition = out_layer_multiplication + biases['out']return out_layer_addition 

(我们将会在后面讨论输出层的激活函数)

神经网络怎么学习

就像我们前面看到的那样,神经网络训练时会更新权重值。现在我们将看到在 TensorFlow 环境下这是怎么发生的。

tf.Variable

权重和误差存储在变量(tf.Variable)中。这些变量通过调用 run() 保持在图中的状态。在机器学习中我们一般通过 正太分布 来启动权重和偏差值。

  1. weights = { 
  2.     'h1': tf.Variable(tf.random_normal([n_input, n_hidden_1])), 
  3.     'h2': tf.Variable(tf.random_normal([n_hidden_1, n_hidden_2])), 
  4.     'out': tf.Variable(tf.random_normal([n_hidden_2, n_classes])) 
  5. biases = { 
  6.     'b1': tf.Variable(tf.random_normal([n_hidden_1])), 
  7.     'b2': tf.Variable(tf.random_normal([n_hidden_2])), 
  8.     'out': tf.Variable(tf.random_normal([n_classes])) 

当我们***次运行神经网络的时候(也就是说,权重值是由正态分布定义的):

  1. input values: x 
  2. weights: w 
  3. bias: b 
  4. output values: z 
  5. expected values: expected 

为了知道网络是否正在学习,你需要比较一下输出值(Z)和期望值(expected)。我们要怎么计算这个的不同(损耗)呢?有很多方法去解决这个问题。因为我们正在进行分类任务,测量损耗的***的方式是 交叉熵误差。

James D. McCaffrey 写了一个精彩的解释,说明为什么这是这种类型任务的***方法。

通过 TensorFlow 你将使用 tf.nn.softmax_cross_entropy_with_logits() 方法计算交叉熵误差(这个是 softmax 激活函数)并计算平均误差 (tf.reduced_mean())。

  1. # Construct model 
  2. prediction = multilayer_perceptron(input_tensor, weights, biases) 
  3. # Define loss 
  4. entropy_loss = tf.nn.softmax_cross_entropy_with_logits(logits=prediction, labels=output_tensor) 
  5. loss = tf.reduce_mean(entropy_loss) 

你希望通过权重和误差的***值,以便最小化输出误差(实际得到的值和正确的值之间的区别)。要做到这一点,将需使用 梯度下降法。更具体些是,需要使用 随机梯度下降。

图解机器学习:神经网络和TensorFlow的文本分类
(梯度下降。源: https://sebastianraschka.com/faq/docs/closed-form-vs-gd.html)

为了计算梯度下降,将要使用 Adaptive Moment Estimation (Adam)。要在 TensorFlow 中使用此算法,需要传递 learning_rate 值,该值可确定值的增量步长以找到***权重值。

方法 tf.train.AdamOptimizer(learning_rate).minimize(loss) 是一个 语法糖,它做了两件事情:

  1. compute_gradients(loss, )  
  2. apply_gradients() 

这个方法用新的值更新了所有的 tf.Variables ,因此我们不需要传递变量列表。现在你有了训练网络的代码:

  1. learning_rate = 0.001 
  2. # Construct model 
  3. prediction = multilayer_perceptron(input_tensor, weights, biases) 
  4. # Define loss 
  5. entropy_loss = tf.nn.softmax_cross_entropy_with_logits(logits=prediction, labels=output_tensor) 
  6. loss = tf.reduce_mean(entropy_loss) 
  7. optimizer = tf.train.AdamOptimizer(learning_rate=learning_rate).minimize(loss) 

数据操作

将要使用的数据集有很多英文文本,我们需要操作这些数据将其传递给神经网络。要做到这一点,需要做两件事:

  1. 为每一个工作创建索引
  2. 为每一个文本创建矩阵,在矩阵里,如果单词在文本中则值为 1,否则值为 0

让我们看着代码来理解这个过程:

  1. import numpy as np    #numpy is a package for scientific computing 
  2. from collections import Counter 
  3. vocab = Counter() 
  4. text = "Hi from Brazil"#Get all wordsfor word in text.split(' '): 
  5.     vocab[word]+=1 
  6.         #Convert words to indexes 
  7. def get_word_2_index(vocab): 
  8.     word2index = {}    for i,word in enumerate(vocab): 
  9.         word2index[word] = i         
  10.     return word2index 
  11. #Now we have an index 
  12. word2index = get_word_2_index(vocab) 
  13. total_words = len(vocab) 
  14. #This is how we create a numpy array (our matrix) 
  15. matrix = np.zeros((total_words),dtype=float
  16. #Now we fill the valuesfor word in text.split(): 
  17.     matrix[word2index[word]] += 1print(matrix) 
  18. >>> [ 1.  1.  1.] 

上面例子中的文本是‘Hi from Brazil’,矩阵是 [ 1. 1. 1.]。如果文本仅是‘Hi’会怎么样?

  1. matrix = np.zeros((total_words),dtype=float
  2. text = "Hi"for word in text.split(): 
  3.     matrix[word2index[word.lower()]] += 1print(matrix) 
  4. >>> [ 1.  0.  0.] 

将会与标签(文本的分类)相同,但是现在得使用独热编码(one-hot encoding):

  1. y = np.zeros((3),dtype=float)if category == 0: 
  2.     y[0] = 1.        # [ 1.  0.  0.] 
  3. elif category == 1: 
  4.     y[1] = 1.        # [ 0.  1.  0.]else
  5.      y[2] = 1.       # [ 0.  0.  1.] 

运行图并获取结果

现在进入最精彩的部分:从模型中获取结果。先仔细看看输入的数据集。

数据集

对于一个有 18.000 个帖子大约有 20 个主题的数据集,将会使用到 20个新闻组。要加载这些数据集将会用到 scikit-learn 库。我们只使用 3 种类别:comp.graphics, sci.space 和 rec.sport.baseball。scikit-learn 有两个子集:一个用于训练,另一个用于测试。建议不要查看测试数据,因为这可能会在创建模型时干扰你的选择。你不会希望创建一个模型来预测这个特定的测试数据,因为你希望创建一个具有很好的泛化性能的模型。

这里是如何加载数据集的代码:

  1. from sklearn.datasets import fetch_20newsgroups 
  2. categories = ["comp.graphics","sci.space","rec.sport.baseball"
  3. newsgroups_train = fetch_20newsgroups(subset='train', categories=categories) 
  4. newsgroups_test = fetch_20newsgroups(subset='test', categories=categories) 

训练模型

在 神经网络的术语里,一次 epoch = 一个向前传递(得到输出的值)和一个所有训练示例的向后传递(更新权重)。

还记得 tf.Session.run() 方法吗?让我们仔细看看它:

  1. tf.Session.run(fetches, feed_dict=None, options=None, run_metadata=None) 

在这篇文章开始的数据流图里,你用到了和操作,但是我们也可以传递一个事情的列表用于运行。在这个神经网络运行中将传递两个事情:损耗计算和优化步骤。

feed_dict 参数是我们为每步运行所输入的数据。为了传递这个数据,我们需要定义tf.placeholders(提供给 feed_dict)

正如 TensorFlow 文档中说的:

  • “占位符的存在只作为输入的目标,它不需要初始化,也不包含数据。” —  Source

因此将要像这样定义占位符:

  1. n_input = total_words # Words in vocab 
  2. n_classes = 3         # Categories: graphics, sci.space and baseball 
  3. input_tensor = tf.placeholder(tf.float32,[None, n_input],name="input"
  4. output_tensor = tf.placeholder(tf.float32,[None, n_classes],name="output"

还将要批量分离你的训练数据:

  • “如果为了能够 输入而使用占位符,可通过使用 tf.placeholder(…, shape=[None, …]) 创建占位符来指定变量批量维度。shape 的 None 元素对应于大小可变的维度。” —  Source

在测试模型时,我们将用更大的批处理来提供字典,这就是为什么需要定义一个可变的批处理维度。

get_batches() 函数为我们提供了批处理大小的文本数。现在我们可以运行模型:

  1. training_epochs = 10# Launch the graph 
  2. with tf.Session() as sess: 
  3.     sess.run(init) #inits the variables (normal distribution, remember?) 
  4.     # Training cycle    for epoch in range(training_epochs): 
  5.         avg_cost = 0. 
  6.         total_batch = int(len(newsgroups_train.data)/batch_size) 
  7.         # Loop over all batches        for i in range(total_batch): 
  8.             batch_x,batch_y = get_batch(newsgroups_train,i,batch_size) 
  9.             # Run optimization op (backprop) and cost op (to get loss value) 
  10.             c,_ = sess.run([loss,optimizer], feed_dict={input_tensor: batch_x, output_tensor:batch_y}) 

现在有了这个经过训练的模型。为了测试它,还需要创建图元素。我们将测量模型的准确性,因此需要获取预测值的索引和正确值的索引(因为我们使用的是独热编码),检查它们是否相等,并计算所有测试数据集的平均值:

  1. # Test model 
  2.  index_prediction = tf.argmax(prediction, 1) 
  3.  index_correct = tf.argmax(output_tensor, 1) 
  4.  correct_prediction = tf.equal(index_prediction, index_correct) 
  5.  # Calculate accuracy 
  6.  accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float")) 
  7.  total_test_data = len(newsgroups_test.target) 
  8.  batch_x_test,batch_y_test = get_batch(newsgroups_test,0,total_test_data) 
  9.  print("Accuracy:", accuracy.eval({input_tensor: batch_x_test, output_tensor: batch_y_test})) 
  10.  Epoch: 0001 loss= 1133.908114347 
  11.  Epoch: 0002 loss= 329.093700409 
  12.  Epoch: 0003 loss= 111.876660109 
  13.  Epoch: 0004 loss= 72.552971845 
  14.  Epoch: 0005 loss= 16.673050320 
  15.  Epoch: 0006 loss= 16.481995190 
  16.  Epoch: 0007 loss= 4.848220565 
  17.  Epoch: 0008 loss= 0.759822878 
  18.  Epoch: 0009 loss= 0.000000000 
  19.  Epoch: 0010 loss= 0.079848485 
  20.  Optimization Finished! 
  21.  Accuracy: 0.75 

就是这样!你使用神经网络创建了一个模型来将文本分类到不同的类别中。恭喜!

可在 这里 看到包含最终代码的笔记本。

提示:修改我们定义的值,以查看更改如何影响训练时间和模型精度。

机器学习 神经网络 TensorFlow
上一篇:人工智能时代,技术人员应该掌握的5项技能 下一篇:用十张图解释机器学习的基本概念
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

手把手教你解决90%的NLP问题

利用机器学习方法来理解和利用文本,从最简单的到state-of-the-art,由浅入深,循序渐进。

Emmanuel Ameisen ·  17h前
如何解决机器学习树集成模型的解释性问题

前些天在同行交流群里,有个话题一直在群里热烈地讨论,那就是 如何解释机器学习模型 ,因为在风控领域,一个模型如果不能得到很好的解释一般都不会被通过的,在银行里会特别的常见,所以大多数同行都是会用 LR 来建模。

SAMshare ·  22h前
刷脸取件被小学生“破解”!丰巢紧急下线 精选

近日,#小学生发现刷脸取件bug#的话题引发关注!这是真的吗?都市快报《好奇实验室》进行了验证。

好奇实验室 ·  2019-10-17 10:20:39
4 分钟!OpenAI 的机器手学会单手解魔方了,完全自学无需编程 精选

OpenAI 的机器手学会单手解魔方了,而且还原一个三阶魔方全程只花了 4 分钟,其灵巧程度让人自叹不如。

佚名 ·  2019-10-16 13:52:13
MIT新研究表明机器学习不能标记假新闻

麻省理工学院研究人员发表的两篇新论文显示,当前的机器学习模型还不能完成区分虚假新闻报道的任务。在不同的研究人员表明计算机可以令人信服地生成虚构新闻故事而无需太多人为监督之后,一些专家希望可以训练基于相同机器学习的系统来检测此类新闻。

佚名 ·  2019-10-16 11:52:15
高位截瘫患者重新行走:靠意念指挥外骨骼,法国脑机接口新突破 精选

依靠介入头部的 2 个传感器,法国里昂的一名瘫痪男子 Thibault 实现了操控外骨骼装备来助力行走。

孙滔 ·  2019-10-15 10:10:00
2008 年预测 2020 年生活方式:基本都实现了

美国皮尤研究中心曾在 2008 年预测 2020 年的生活方式,目前来看,该研究的预测基本已经实现。而对于未来 10 年,也就是 2030 年左右人们的生活,在 2017 年底的世界经济论坛上,800 多名信息和通讯技术领域的技术高管和专家给出了如下预测。

佚名 ·  2019-10-15 10:03:43
机器学习的正则化是什么意思?

正则化的好处是当特征很多时,每一个特征都会对预测y贡献一份合适的力量;所以说,使用正则化的目的就是为了防止过拟合。

佚名 ·  2019-10-15 10:01:43
Copyright©2005-2019 51CTO.COM 版权所有 未经许可 请勿转载