沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

作者: 郭一璞 2020-03-05 16:26:38

 本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

今天早上,离开微软的沈向洋正式续聘清华,在清华讲了第一堂课。

去年11月沈向洋离职微软后,就在本周前几天,沈向洋续聘清华,在清华的title是清华大学高等研究院双聘教授

清华大学校长邱勇说,这是清华大学历史上第一次以视频会议的形式举行聘任仪式,校长连线发聘任书。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

这次聘任仪式的两端分别在中美两地,校长和工作人员们在位于北京的清华大学工字厅,而沈向洋博士在位于西雅图的清华大学全球创新学院(GIX)大楼127室。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

邱勇校长还开玩笑说:“我也是第一次跟向洋博士以这种形式见面,向洋博士在屏幕上很帅,比以前都帅。”

之所以是“续聘”,是因为这其实是沈向洋在清华的第二场聘任仪式。2005年,沈向洋首次受聘清华高等研究院双聘教授,距今已经过去了15年。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

聘任仪式之后,借助Zoom直播平台,沈向洋进行了主题为Engineering Responsible AI的课程演讲。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

沈向洋提到,AI目前在社会各界中都有应用,人们借助AI来做决策。但现在,AI已经在做我们不懂的决策。

许多AI系统就像黑箱一样,AI做了决策,但我们不知道它为什么这样做。

因此,负责任的AI是很重要的,每个创造AI的人都应该了解一些AI创造的原则。

之后沈向洋重点讨论了可解释的AI和AI的偏差(bias)

关于可解释的AI,沈向洋举了一个AI分辨哈士奇和狼的例子。

在以下6张照片中,只有左下角的一张被识别错了。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

但其实,AI可能并非像我们理解的那样,通过动物的外形来辨别的,它的辨别方法可能是这样:

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

AI的判断并非通过图片中的动物部分,而是通过图片中除了动物之外的部分进行的。

因此,可解释的AI非常重要,不然你永远都不知道AI可能是用这种作弊的方法来判别哈士奇和狼的。

而关于偏差,沈向洋举了性别偏差的例子。

曾经有人发现一个人脸识别系统里,识别不准的都是女性、不化妆、短发、不苟言笑的照片,而其他人就相对更准一些。

而在词嵌入中,问题更为明显。

同一段描述,当文中用的是she/her等女性词汇时,AI判断这段文字描述的是老师;

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

而当里面的she/her变成he/his/him等男性词汇时,AI就会判断这段文字描述的是律师。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

一个典型的例子是“He’s Brilliant, She’s Lovely”。

在一个词嵌入系统中,当主语分别是“她(she)”和“他(he)”时,出现的词是不一样的:

她是“姐妹”,他是“兄弟”;她是“护士”,他是“大夫”,谈到这里,沈向洋吐槽说,你们没发现哪里不对么?她是“家庭主妇”,他是“程序员”;她说“OMG”,他说“WTF”;她是“女权主义者”,他是“现实主义者”;她“怀孕”了,他“肾结石”了;……

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

这是词嵌入里的偏差,很多时候人们想都不想,就直接用了。

最后,沈向洋教授总结说,我们是第一代和AI共存的人类,我们得决定怎么构建AI、怎么用AI。我们能接受一个AI做的决定、我们人类无法理解的世界吗?

One More Thing

最后,沈向洋还表达了他对NLP领域的期待。

他说,CV现在还很火,但未来十年自己看好NLP:

“懂语言者得天下。”

这是沈向洋全程唯一一句中文。

传送门

如果你想了解沈向洋演讲的具体内容,清华大学微博上可以查看回放:

https://weibo.com/1676317545/Ixadc8PhK?from=page_1002061676317545_profile&wvr=6&mod=weibotime&sudaref=weibo.com&display=0&retcode=6102&type=comment

AI 数据 人工智能
上一篇:AI“黑头盔”亮相成都,警察街头2分钟筛查上百人体温! 下一篇:当人脸识别技术遇上了口罩……
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

谷歌前董事长:人工智能无法自己开创市场

未来不是由机器支配,未来由拥有无限想象力的人支配。

佚名 ·  19h前
谷歌的一项新研究,让机器狗小跑起来成为可能

有观点认为,尽管机器人很能干,能代替人类实现很多事情,但自然形成的原始动物还是比他们好很多。之所以这样说是因为,他们很难直接从狗身上学会像狗一样去走路。

郭仁贤 ·  1天前
「新基建」下大火的工业智能,问题依旧很多

「新基建」火了。连同 5G、人工智能、物联网等信息数字化基础设施,都成为国家新的发展方向,不仅在这些新领域内的从业者们明确了目标,传统行业对数字化转型的需求也蓄势待发。

赵子潇 ·  4天前
特征工程是啥东东?为何需要实现自动化?

如今人工智能(AI)变得越来越普遍和必要。从防止欺诈、实时异常检测到预测客户流失,企业客户每天都在寻找机器学习(ML)的新应用。ML的底层是什么?这项技术如何进行预测?使AI发挥神奇功效的秘诀又是什么?

布加迪 ·  4天前
AI如何改变人类社会的各种业务模式?

在过去的20年中,一些愤世嫉俗的人一直担心,人工智能(AI)的发展会破坏企业结构,导致大量失业和财富不平等加剧。下一个十年将是AI的十年。我们期望看到什么变化?答案是基本流程的转变和减少。

CDA数据分析师 ·  4天前
新冠疫情动态:十大创新,助力对抗COVID-19

从感染快速检测到3D打印解决方案,全球各地的科技企业正携手奋进,希望找到足以战胜新冠病毒大流行的突破性方法。目前有哪些创新成果值得关注?本文将带大家一探究竟。

佚名 ·  4天前
全球首个翻译引擎进化归来 “细节狂魔”搞定方言

最近,一款在线机器翻译软件在日本大火。这款翻译软件名叫DeepL,大火的原因正是因为它工作太负责了,翻译得太过准确,在日本引起了热议。

刘俊寰 ·  2020-04-02 15:51:40
应用程序管理中的AI/ML用例

基于人工智能的操作 (AIOps) 是人工智能和传统 AM/IM 操作的融合。与所有其他领域一样,AI 将对运营管理产生重大影响。

佚名 ·  2020-04-02 14:54:33
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载