深度学习之父的忧虑:数据泄漏 AI军备与对批判的缺乏

作者: 微胖、茜茜 2019-01-03 09:32:15

 

马丁·福特(Martin Ford)2015 年出版的《机器人的崛起》一书曾掀起波澜,该书详细介绍了许多自动化的加速发展趋势,以及它们如何影响商业,特别是就业。在新书《智能建筑师:AI 建筑者谈人工智能真相(Architects of Intelligence: The Truth About AI from the People Building It)》中,他试着搞清楚副标题到底描述的是什么。本书主要是对人工智能领域最知名人士进行深入访谈。其中之一是 Geoffrey Hinton,他在人工神经网络方面做出了开创性工作,Hinton 目前是多伦多大学的计算机科学教授,也参与了 Google Brain 项目,他被自己所在领域的许多人视为“深度学习之父”。本文摘自这本新书,Hinton 谈到自己如何思考他所开创的先进系统对经济和社会的巨大影响,并强调了解决问题需要区分社会系统和技术系统。当然,他也谈到了学术方面的一些建议和担心。

马丁·福特:我们来谈谈人工智能的潜在风险。一个特殊挑战是对就业市场和经济的潜在影响。您是否认为所有这些都可能导致新的工业革命并彻底改变就业市场?如果是这样,这会是我们需要担心的事情,还是说,它是另一件可能被人们夸大的事情?

Geoffrey Hinton:如果你能够大幅提高生产力并提供更多好处,那应该是一件好事。不过,它是否是一件好事完全取决于社会系统,而不是技术。人们正在研究技术,好像技术进步是一个问题,但问题在于我们是否会建立一个公平分享的社会系统,还是一个仅关注那 1% 的人并将其他社会人员视如草芥的社会。这与技术无关。

马丁·福特:不过,接下来问题就来了,因为很多工作可能会消失——特别是那些可预测且易于自动化的工作。基本收入制度是社会对这一趋势的基本反应,你赞同这一制度吗?

Geoffrey Hinton:是的,我认为基本收入是一个非常明智的想法。

马丁·福特:那么,您认为需要采取政策来解决这个问题吗?有些人认为应该就此打住,但那可能是不负责任的。

Geoffrey Hinton:我搬到了加拿大是因为税率较高,因为我认为正确的税收是好事。政府应该做的是建立机制,以便当人们为自己的利益行事时,它会帮助每个人。高税收是一种这样的机制:当人们致富时,其他人都会受到税收的帮助。我当然同意要确保 AI 让每个人受益,但还有很多工作要做。

马丁·福特:对那些可能与人工智能有关的其他一些风险,比如武器化,你怎么看?

Geoffrey Hinton:是的,我对普京总统最近所说的一些事情感到担忧。我认为人们现在应该努力让国际社会探讨那些可以杀死人的武器,就像他们对待化学战和大规模杀伤性武器那样。

马丁·福特:是否赞成暂停某种类型的研究和开发?

Geoffrey Hinton:你不会暂停这种类型的研究,就像你没有暂停神经毒剂的研发一样,但确实存在一种国际机制阻止它们被广泛使用。

马丁·福特:除军事武器使用外,其他风险如何?是否还有其他问题让你担忧,如隐私和透明度?

Geoffrey Hinton:用它来操纵选举和操纵选民令人担忧。Cambridge Analytica 由 Bob Mercer 成立,他是一名机器学习学者,你已经看到 Cambridge Analytica 造成了很大的破坏。我们必须认真对待。

马丁·福特:你认为需要有监管吗?

Geoffrey Hinton:是的,需要很多监管。这是一个非常有趣的问题,但我不是这方面的专家,所以没有更多可建议的。

马丁·福特:怎么看全球军备竞赛?一个国家不要远远领先于其他国家,这重要吗?

Geoffrey Hinton:你所谈论的是全球政治。很长一段时间,英国是一个占主导地位的国家,他们表现得不是很好,然后就是美国,他们表现得不是很好,如果换作中国占主导地位,我不指望他们表现得会很好。

马丁·福特:你认为我们应该采取某种形式的产业政策吗?美国是否应该关注人工智能并将其作为国家优先事项?

Geoffrey Hinton:技术会有很大的发展,如果不试图跟上这一步伐,会显得很疯狂,所以很明显,应该进行大量投资。这对我来说似乎是常识。

马丁·福特:总的来说,你对这一切感到乐观吗?你认为人工智能的回报会超过带来的负面影响吗?

Geoffrey Hinton:我希望回报超过负面的东西,但我不知道社会建设层面的人是否也这样想,这是一个社会系统问题,而不是技术问题。

马丁·福特:人工智能领域人才严重短缺,大家都在招人。对于想要进入这一领域的年轻人,你有什么建议? 有没有什么建议可以帮助他们吸引更多的人,并使之成为人工智能和深度学习领域的专家?

Geoffrey Hinton:我担心对基础知识持批判态度的人不够多。Capsules 论文是说,也许我们做事情的一些基本方法不是好的,我们应该撒一张更大的网。我们应该为正在做的一些基本假设寻找替代品。我给大家的一个建议是,如果你的直觉认为人们正在做的事情是错误的,并且可能会有更好的事情发生,你就应该遵从自己的直觉。

你很可能是错的,但是当人们在知道如何从根本上改变事情时,如果不跟着自己的直觉走,就会陷入困境。我认为真正的新想法最丰富的来源是研究生在大学里得到的良好建议。他们可以自由地提出真正的新想法,并且他们所学到的东西足以让他们不仅仅重复历史,我们需要保持这一点。攻读完硕士学位后直接进入这个行业的人不会有什么全新的想法。我认为你需要坐下来思考几年。

马丁·福特:加拿大似乎是深度学习的中心。这是偶然的吗? 还是加拿大有什么特别的地方促成了这一点?

Geoffrey Hinton:加拿大高级研究院 (CIFAR) 为高风险领域的基础研究提供资金,这是非常重要的。Yann LeCun(他曾是我的博士后)和 Yoshua Bengio 都在加拿大,这也带来了很多好运。我们三人合作,能够结出累累的硕果,加拿大高级研究所资助了我们的合作。我们也曾经一度被孤立,处境相当恶劣——直到最近,深度学习的环境才变得不那么恶劣——这笔资金对我们很有帮助,让我们能够在小型会议上有相当多的时间相互交流,在那里我们可以真正分享未发表的想法。

深度学习 数据泄漏 人工智能
上一篇:阿里达摩院发布2019十大科技趋势:AI、区块链等入选 下一篇:2018年中美互联网巨头的AI芯片战,BAT能否挑战FANG?
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

AI人工智能正在悄悄的操控着我们的所见所想

在日常生活中大家现在已经越来越依赖手机上各种形形色色的app了,无论我们是出门吃饭时寻找餐厅,还是在视频语音聊天,刷视频,或是网上购物shopping,无时无刻我们都离不开手机APP。

软件说明 ·  1天前
AI 崛起的第九个年头,还有哪些大有可为的地方?

2020年还剩下10个月的时间,让我们去预期,人工智能会有哪些重要的趋势呢? CB insights曾就此问题做了一个判断,并给出人工智能的九个重要研究和应用趋势。AI 科技评论在一定程度上认同这些判断,针对这 9 个趋势,我们将做以下分析。

蒋宝尚 ·  1天前
AI芯片为啥至今都没有出现“爆款”?

“AI芯片”这个新鲜的概念在过去一年间逐渐走过了普及的阶段,越来越被大众所熟知。在行业走过野蛮生长,开始加速落地、加速整合的过程中,也有更多的AI芯片公司也开始走出属于自己的差异化路线。

佚名 ·  1天前
拥有30亿张照片库的人脸识别初创公司遭黑客攻击!600多家执法机构和银行信息被盗

Clearview AI是美国纽约的一家AI面部识别创业公司Clearview设计的一款突破性的面部识别应用工具,通过拍摄陌生人的照片,然后将其上传,就可以轻松查看该人的公开照片,以及指向这些照片出现位置的链接和具体内容。

张佳、王汐 ·  1天前
数据机器学习在故障检测中的应用

本文将简要介绍几种在故障诊断领域广泛应用的机器学习技术及其各自的应用方向,并对每种技术的优缺点进行简单分析。包括:贝叶斯网络(BN),人工神经网络(ANN),支持向量机(SVM)和隐马尔可夫模型(HMM)技术。

交能网 ·  1天前
人工智能如何改造旅游业

旅游业正在慢慢地将人工智能融入到行业当中,并为游客提供个性化定制体验。在人工智能的帮助下,旅游业的业务流程和客户服务都发生了改变。

佚名 ·  1天前
人工智能技术如何将人们从深度伪造的世界中拯救出来

如今,采用深度伪造(Deepfake)生成的视频和音频,人工智能生成的文本、诗歌和歌词,假网站和假新闻进入人们的世界。人们的生活还会真实吗?

Mike Elgan ·  1天前
四种使用物联网和人工智能加速获取价值的有效方法

最近,话题转向企业如何才能更快,更有效地获取和利用物联网计划的见解。物联网和人工智能的结合为企业实现这一预期成果提供了途径。实际上,这两种技术是相辅相成的,应该紧密相连。

佚名 ·  2天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载