揭秘AI基础设施堆栈,更快部署AI项目

编译作者: 布加迪 2020-05-07 07:00:00

【51CTO.com快译】随着许多公司加大对AI的投入,开发人员和工程师面临越来越大的压力,要求他们在整个企业更快地在大规模环境下部署AI项目。

在这个快速发展的环境中,仅仅评估不断扩大的AI工具和服务生态系统是个重大挑战,这些工具和服务常常是为不同的用户和目的设计的。

为了应对这一挑战,我们制作了AI基础设施堆栈(AI Infrastructure Stack),这个生态图直观显示了AI技术堆栈的各层和每一层内的供应商,更清楚地阐明了AI生态系统。

在英特尔资本公司,这有助于我们确定我们认为将对AI未来产生最大积极影响的投资,但它也有助于开发人员和工程师确定他们需要的资源,以最卓有成效的方式交付AI项目。

 AI基础设施堆栈

图1. AI基础设施堆栈

该技术基础设施堆栈专注于满足开发AI方面基本需求的横向解决方案,不管它部署在哪种类型的公司或行业。我们不包括针对特定行业的纵向解决方案。

该堆栈由7层组成,每层又分为两部分,这包括针对全然不同的工作负载、数据量、计算和内存需求以及SLA构建的解决方案:

  • 探索/训练解决方案,通过算法处理数据并创建模型。
  • 生产/推理解决方案,需要建议时,使用经过训练的模型予以响应——比如识别电子商务网站上“你可能也喜欢”的产品建议,或者决定何时对自动驾驶汽车踩刹车。

连接一切的是企业的分布式引擎——跨计算资源分配工作负载的计算平台。

栈的层数为:

  1. 硬件。合适的硬件是在数据中心中运行的训练解决方案的基础,也是在数据中心和边缘设备中运行的推理解决方案的基础。
  2. 软件加速器。这些是用于优化机器学习(ML)库的编译器和低级内核。
  3. 库。这些是用于训练ML模型的库。
  4. 数据科学框架。这一层包括将库与其他工具集成起来的工具。
  5. 编排。这些工具打包、部署和管理ML训练和模型推理的执行。没有这一层,DevOps就不可能实现。
  6. 自动化。这些工具简化并部分自动化为模型训练及其他ML任务准备数据的工作。
  7. 自主。这一层的工具将使构建、部署或维护ML模型的诸方面实现自动化。这就是AI训练AI的地方。

每一层的工具和服务加速了AI的开发和部署;然而与所有新兴技术一样,在决定使用哪种工具和服务时需要权衡和取舍。比如说,AutoML可以加快ML模型的开发,但是训练可能不如自定义模型来得准确。

用户要根据项目的需求来决定在每个层中使用哪些工具和服务。

AI基础设施堆栈的更高层的详细视图。

图2. AI基础设施堆栈的更高层的详细视图。

AI价值链的顶端是编排、自动化和自主这几层——自主层通过使AI更容易被任何人(而不仅仅是数据科学家)访问和使用,对实现AI的大众化变得更至关重要。

虽然这几层是整个堆栈的最新层,其中AI工具和服务支持AI的持续集成和持续部署(CI/CD),不过要注意:创新出现在整个堆栈中——打破新的边界,提高可用性,并将AI引入到新的社区。

最后,我们用工具、服务和公司(许多是开源)方面的例子来填充模型。它们不包括市场上的所有选择,它们对考虑AI解决方案的那些人来说就是样本,每一层都有一系列可靠的选择。

AI基础设施堆栈中工具、服务和公司的代表性例子。

图3. AI基础设施堆栈中工具、服务和公司的代表性例子。

AI不再处于起步阶段。对于力求利用AI来改进产品和服务,或者提高效率和改进决策的公司来说,现在有一个丰富的生态系统,其中的诸多工具和服务可用于构建、部署和监控ML和AI模型。

密切关注这个领域的所有动向以及各组成部分如何结合在一起,这关系到你的AI项目的成败。

原文标题:Demystifying the AI Infrastructure Stack,作者:Assaf Araki

【51CTO译稿,合作站点转载请注明原文译者和出处为51CTO.com】

AI 人工智能 基础设施
上一篇:特斯拉自动驾驶再次撞人致死,被害人家属告上法院 下一篇:再也不怕别人动电脑了!用Python实时监控
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

人工智能项目:需要注意的七件事

维度R的一份报告显示,十分之八的AI失败了,而96%的AI则在标注,标明和建立模型置信度方面遇到了问题。以下是人工智能项目失败的7个常见原因。

闻数起舞 ·  21h前
2020年第一季度人工智能的最新进展

人工智能曾经只是科幻小说,是计算世界的遥不可及的梦想,如今已成为现实。 人工智能,简称AI,是用来描述机器模拟人类智能的能力。

闻数起舞 ·  1天前
2020年优秀AI软件开发工具

人工智能对软件工程和科技公司的影响不可否认,而且还在不断增加。 有许多组织正在利用这项革命性的技术来创建开箱即用的功能强大的Web和移动应用程序。 无论大小,企业都可以利用AI来提高投资回报率,提高效率并很大程度地降低运营风险。

闻数起舞 ·  1天前
达摩院AI进入中国科技馆,首张AI识别新冠CT成科技抗疫历史见证

5月29日消息,全国科技工作者日来临之际,一个特别的藏品入选中国科技馆“2020数字馆藏”——阿里巴巴达摩院AI识别标注的第一张新冠肺炎CT影像。达摩院AI作为科技抗疫的历史见证,被写入中国科技发展史。

佚名 ·  2天前
人工智能可以塑造活动产业的未来吗?

活动组织者可以为活动管理引入AI,以使他们的活动更加成功。现场活动是很好的营销方式,也是增强业务与客户关系的优秀方式。根据一项调查,84%的领导者认为活动是其业务成功的关键因素。技术的使用正在改变活动的计划和组织方式。

佚名 ·  3天前
提升城市气质守护宜居环境 AI打通治理闭环

人工智能被一些研究人员称为“21世纪的电力”,认为其几乎可以为万事万物提供动力。而在城市加速发展的当下,人工智能也渐渐成为了新型智慧城市建设的“推动者”和“守望者”。

今夕何夕 ·  3天前
12个场景应用,百余种算法,AI是如何攻占经济学的?

在虚拟世界中模拟现实经济状况,想法设计更好的制度只是AI和经济学结合方式之一。其实深度强化学习在面临风险参数和不确定性不断增加的现实经济问题时,也可以提供更好的性能和更高的精度。

蒋宝尚 ·  4天前
你在打王者农药,有人却用iPhone来训练神经网络

在 iOS 设备上也可以直接训练 LeNet 卷积神经网络,而且性能一点也不差,iPhone 和 iPad 也能化为实实在在的生产力。

佚名 ·  4天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载