Facebook的交互式神经网络可视化系统ActiVis,打开神经网络的“黑盒子”

作者: 佚名 2017-04-17 10:25:29

之前许多媒体在热烈讨论神经网络的“黑盒子”(black box)问题。复杂的模型处理预测性工作负载时表现良好,但是说到回溯系统是如何得出最终结果的,根本没有一种清晰的方法来了解什么做对了、什么做错了,或者了解模型如何打开自己、得出结论。

对于老式机器学习模型而言,这问题不大;但是如今对于非线性隐匿式数据结构和无数参数而言,这却是个问题。对于为科学应用部署神经网络的研究人员而言,黑盒子缺乏再现性(reproducibility)这个问题带来了验证方面的障碍,不过对于深度学习框架的生产级用户来说,因缺乏可见性而无法深入了解网络行为还存在其他问题,尤其是在优化模型,以获得更好的性能、效率和准确性方面。

要解决这个问题,一个办法就是对神经网络模型实行可视化??这正是社交媒体巨头Facebook与佐治亚理工学院(Georgia Tech)的研究人员共同致力于攻克的课题。Facebook的深度学习使用场合不仅仅局限于图像分析,这意味着不同类型的数据被馈送到模型。遗憾的是,用于神经网络可视化的工具大多数专注于图像数据集,这激发了Facebook研究用于Facebook生产环境中的一种名为ActiVis的工具,这是一种交互式可视化系统,可用于解释大规模神经网络模型和结果。

佐治亚理工学院的研究团队就在一年多前开始与Facebook的工程师合作,了解他们的分析平台、什么可视化工具适用。除了开发这种一样工具面临的重大技术挑战外,这种工具除了能够融入到Facebook的现有机器学习平台,还要“具有灵活性,可推广到Facebook等公司用于其许多产品和服务的众多模型和数据集”。

该平台由几个不同的机器学习元素组成。核心元素是Facebook的统一机器学习平台,名为FBLearner Flow,它负责协调不同的机器学习工作流程。Flow的目标是,让开发人员不用编写代码就可以训练模型,并查看结果。

ActiVis支持两种解释策略来用于可视化和比较多个实例和子集。它统一了基于实例的检查和基于子集的检查;它紧密地整合了复杂模型的概述和局部检查,可灵活扩展,支持一系列广泛的行业规模的数据集和模型??对于想针对其数据使用现有模型,但是又不想深入实施细节的那些人来说,Facebook里面的这个工具非常宝贵。ActiVis特别专注于FBLearner Flow用于可视化,一方面是由于其用户群。

“ActiVis直观地显示用户指定的实例或实例子集如何激活神经元,从而帮助用户了解模型是如何导出预测的。用户可以使用原始数据属性、变换的特征和输出结果,随意定义子集,可以从多个角度来检查模型。”

佐治亚理工学院的团队表示,对于大规模设计这类可视化系统的任何人来说,为神经网络构建一个稳固的平台涉及几个元素。他们提到了输入源和数据格式的多样性、庞大数据量、复杂的模型架构,不一而足。

“虽然许多现有的深度学习可视化工具支持基于实例的探索,ActiVis却是***款同时支持对深度神经网络模型进行基于实例的探索和基于子集的探索的工具。此外,为了帮助用户了解模型的大致情况,它使用图形显示了模型架构,用户可以在此基础上深入分析,在每个模型层或节点这一层面,对神经元激活执行局部检查。”

该团队表示,想要使用这种可视化工具的Facebook开发人员添加了几行代码,这些代码告诉模型在FBLearner Flow界面中的训练过程:它需要生成可视化所需的数据。训练结束后,界面提供了这个基于Web的工具的链接,以便可视化和探索模型。

该团队称:“ActiVis旨在处理Facebook的许多不同的模型和数据集。由于经常使用复杂模型和大型数据集,ActiV具有可扩展性和灵活性很重要,那样工程师可以为其模型轻松采用ActiVis,用户可以可视化和探索模型,用于处理分析任务。”

***,对神经网络进行可视化以解决黑盒子问题不是什么新鲜事,但是由于模型变得更复杂??这归因于硬件和更多的数据,今后会更加需要诸如此类的工具。我们预计,在今后几年,接入到关键平台(包括TensorFlow、Caffe及其他)的类似的可视化工具会开源,甚至可能实现商业化,对生产环境和科学计算这两种使用场景来说都是如此。

神经网络 可视化 ActiVis
上一篇:广告和推荐系统部署机器学习模型的两种架构 下一篇:开发者弹药库升级 推荐五个机器学习框架
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

2019年较热门的5大深度学习课程

今天,我们将和大家盘点一下,当下较流行的深度学习资源/课程,可以帮助你们提升深度学习技能。

猿哥 ·  2019-09-26 05:16:24
像堆乐高一样:从零开始解释神经网络的数学过程

模型的训练、调参是一项非常费时费力的工作,了解神经网络内部的数学原理有利于快速找出问题所在。本文作者从零开始,一步一步讲解了训练神经网络时所用到的数学过程。

机器之心 ·  2019-07-12 07:26:26
60年技术简史,带你读懂AI的前世今生

关于人工智能有很多的定义,它本身就是很多学科的交叉融合,不同的人关注它的不同方面,因此很难给出一个大家都认可的一个定义。我们下面通过时间的脉络来了解AI的反正过程。

佚名 ·  2019-07-08 13:40:22
什么?神经网络还能创造新知识?

本文通过神经网络透明原则来揭示其“黑盒知识”,为此来检验一个布尔异或函数的神经网络。

读芯术 ·  2019-07-02 13:37:23
掌握这十大机器学习方法,你就是圈子里最靓的崽

为揭开机器学习的神秘面纱,帮助新手学习该领域的核心概念,本文会介绍十种不同的机器学习方法,包括简单描述和可视化等,并一一举例说明。

读芯术 ·  2019-06-14 13:46:01
不懂卷积神经网络?别怕,看完这几张萌图你就明白了!

这篇文章用最简明易懂的方式解释了卷积神经网络(CNN)的基本原理,并绕开了里面的数学理论。

佚名 ·  2019-05-17 15:48:16
Python数据科学:神经网络

本次只是一个简单的神经网络入门,涉及神经元模型和BP神经网络。这里简单了解一下机器学习的三要素,分别是模型、策略与算法。

小F ·  2019-05-07 19:12:28
帝国理工:如何用 AI 解决 80% 专科医生担忧的心律装置移植手术难题

伦敦帝国理工学院的研究人员开发了一种基于AI的软件,目前,这款软件被称为PPMnn(起搏器神经网络), 用于识别起搏器或者除颤器的制造商和型号。该研究结果发表在美国心脏病学会(JACC):临床电生理学杂志上。这篇论文介绍了基于神经网络的系统的开发、验证和有效性。

李雨晨 ·  2019-04-29 12:53:15
Copyright©2005-2019 51CTO.COM 版权所有 未经许可 请勿转载