在云端你需要的5个机器学习技能

作者: 邹铮 2020-11-02 00:27:31

机器学习和AI继续深入IT服务中,并补充软件工程师开发的应用程序。如果IT团队想跟上这种步伐,必须提高他们的机器学习技能。

云计算服务支持构建和部署AI及机器学习应用程序的各种功能。在很多方面,AI系统的管理与IT专业人员在云端熟悉的其他软件非常相似。但是,仅仅因为某人可以部署应用程序,并不一定意味着他们可以成功部署机器学习模型。

尽管这些共性可能会加快过渡,但仍存在重大差异。除了软件工程技能外,你的IT团队成员还需要特定的机器学习和AI知识。除技术专长外,他们还需要了解当前可用于支持其团队计划的云计算工具。

下面让我们探索IT专业人员在云端成功利用AI所需的5个机器学习技能,并了解Amazon、微软和谷歌为支持这些技能所提供的产品。在这些技能集中,虽然存在一些重叠,但不要期望一个人具备所有技能。通过组建具有这些技能的人员的团队,可使你的企业处于最佳位置,以利用基于云的机器学习。

1. 数据工程

如果IT专业人员想在云端实现任何类型的AI策略,都需要了解数据工程。数据工程包含一系列技能,这涉及数据整理和工作流开发领域,以及软件架构知识。

IT专业知识的这些不同领域可以分解为IT专业人员应完成的不同任务。例如,数据整理通常涉及数据源标识、数据提取、数据质量评估、数据集成以及在生产环境中执行这些操作的管道开发。

数据工程师应该习惯使用关系数据库、NoSQL数据库和对象存储系统。Python是一种流行的编程语言,可结合批处理和流处理平台(例如Apache Beam)以及分布式计算平台(例如Apache Spark)使用。即使你不是专业的Python程序员,只要具备一定的语言知识,你都可以从针对数据工程和机器学习的各种开源工具中提高技能。

数据工程在所有主要云端都得到很好的支持。AWS提供全面的服务来支持数据工程,例如AWS Glue、Amazon Managed Streaming for Apache Kafka(MSK)和各种Amazon Kinesis服务。AWS Glue是数据目录以及提取、转换和加载(ETL)服务,其中包括对计划作业的支持。MSK是数据工程管道的有用构建块,而Kinesis服务对于部署可扩展流处理管道特别有用。

Google Cloud Platform则提供Cloud Dataflow,这是一项托管的Apache Beam服务,支持批处理和Steam处理。对于ETL流程,Google Cloud Data Fusion提供基于Hadoop的数据集成服务。Microsoft Azure还提供多种托管数据工具,例如Azure Cosmos DB、Data Catalog和Data Lake Analytics等。

2. 模型构建

机器学习是发展良好的学科,你可以通过研究和开发机器学习算法来发展自己的职业。

IT团队使用工程师提供的数据来构建模型,并创建软件以提出建议、预测价值和对条目进行分类。重要的是要了解机器学习技术的基础知识,即使很多模型构建过程都是在云端自动完成。

作为模型构建者,你需要了解数据和业务目标。你需要构想解决方案来解决问题,并了解如何将其与现有系统集成。

现在市场上提供现成的产品,例如谷歌的Cloud AutoML,这套服务可以帮助你使用结构化数据以及图像、视频和自然语言来构建自定义模型,而无需对机器学习有太多的了解。而Azure在Visual Studio中提供ML.NET模型构建器,该模型构建器提供界面用于构建、训练和部署模型。

Amazon SageMaker是另一项托管服务,用于在云端构建和部署机器学习模型。 这些工具可以选择算法,确定数据中哪些特征或属性最有价值,并使用称为超参数调整的过程优化模型。这些服务扩展了机器学习和AI策略的潜在用途。正如你不需要成为机械工程师就能驾驶汽车一样,你也不需要机器学习的研究生学位即可建立有效的模型。

3. 公平与偏差检测

算法做出的决策将直接且显着影响个人。例如,金融服务利用AI做出有关信贷的决策,这可能会无意中偏向特定人群。这不仅可能因拒绝信贷来伤害个人,而且还使金融机构面临违反《平等信贷机会法》等法规的风险。

这些看似艰巨的任务对于AI和机器学习模型是不可避免的事情。检测模型中的偏差可能需要精通的统计和机器学习技能,但与模型构建一样,某些繁重的工作可以由机器完成。

FairML是用于审核预测模型的开源工具,可帮助开发人员识别工作中的偏见。检测模型偏差的经验还可以帮助告知数据工程和模型构建过程。Google Cloud的公平性工具在市场上领先,其中包括What-If Tool、Fairness Indicators和Explainable AI服务。

4. 模型性能评估

模型构建过程的一部分是评估机器学习模型的性能。例如,分类分析是根据准确性、精确度和召回率进行评估。而回归模型(例如预测房屋出售价格的模型)通过测量其平均错误率进行评估。

现在表现良好的模型将来可能会表现不佳。这里问题不是,该模型会以某种方式被破坏,而是训练该模型数据会过时,而无法再反映未来世界的情况。即使没有突然的重大事件,也会发生数据漂移。重要的是评估模型并在生产中继续对其进行监视。

Amazon SageMaker、Azure Machine Learning Studio和Google Cloud AutoML等服务都包含模型性能评估工具。

5. 领域知识

领域知识并不是专门的机器学习技能,而是成功机器学习策略中最重要的部分之一。

每个行业都有自己的知识体系,因此需要对相关行业进行研究,尤其是在构建算法决策工具时。机器学习模型受限于用于训练它们的数据。而具有领域知识的人可以知道在哪里应用AI并评估其有效性。

云端 云计算 机器学习
上一篇:下一个十年,AI将在这10大领域颠覆世界 下一篇:算法能成为AI进步的核心驱动力吗?
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

用新的机器学习思考方式 来辨别自然异常与人为误导

某些对抗性事件很可能是人为设计而来。我们必须知晓其中的手法与工件是什么,这样才能真正理解深度神经网络的可靠性。

佚名 ·  1天前
面向未来系统设计的机器学习

Elias Fallon是行业领先的电子设计自动化技术提供商Cadence Design Systems公司的工程主管。他带领其定制IC研发团队以及电子设计自动化(EDA)产品团队进行项目开发。

Elias Fallon ·  1天前
2021年码农应该了解的所有机器学习算法

随着我对机器学习的了解的增加,机器学习算法的数量也在增加! 本文将介绍数据科学界常用的机器学习算法。

闻数起舞 ·  2天前
知道为啥失败么?87%的机器学习项目都是这么栽了的……

机器学习领域的发展潜力巨大,但我们对它了解得还不够。根据Garner的预测:“2020年,有80%的人工智能项目还很神秘”,Transform 2019 of Venture Beat预测有87%的AI项目将永远不会投入生产。

读芯术 ·  2天前
5G、物联网、人工智能和机器学习将成为2021年最重要的技术

在所有受访者中,近三分之一(32%)的受访者表示是人工智能和机器学习,其次是5G(20%)和物联网(14%)。

iothome ·  2天前
TensorFlow为新旧Mac特供新版本,速度最高提升7倍

对于开发者、工程师、科研工作者来说,Mac 一直是非常受欢迎的平台,也有人用 Mac 训练神经网络,但训练速度一直是一个令人头疼的问题。

佚名 ·  2020-11-19 15:02:56
我们是否正在进入第四代人工智能?

人工智能是一项正在改变所有社会地位的创新。它是一个范围广泛的工具,使个人能够重新评估我们如何整合数据、分析信息,并利用随后的见解改进决策。

Cassie ·  2020-11-19 10:46:20
改变未来格局的5大AI趋势

人工智能是当前这一代最受关注的话题。人工智能将改变人们对从现在起二十年后世界将如何发展的看法。

闻数起舞 ·  2020-11-19 07:03:44
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载