沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

作者: 郭一璞 2020-03-05 16:26:38

 本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

今天早上,离开微软的沈向洋正式续聘清华,在清华讲了第一堂课。

去年11月沈向洋离职微软后,就在本周前几天,沈向洋续聘清华,在清华的title是清华大学高等研究院双聘教授

清华大学校长邱勇说,这是清华大学历史上第一次以视频会议的形式举行聘任仪式,校长连线发聘任书。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

这次聘任仪式的两端分别在中美两地,校长和工作人员们在位于北京的清华大学工字厅,而沈向洋博士在位于西雅图的清华大学全球创新学院(GIX)大楼127室。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

邱勇校长还开玩笑说:“我也是第一次跟向洋博士以这种形式见面,向洋博士在屏幕上很帅,比以前都帅。”

之所以是“续聘”,是因为这其实是沈向洋在清华的第二场聘任仪式。2005年,沈向洋首次受聘清华高等研究院双聘教授,距今已经过去了15年。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

聘任仪式之后,借助Zoom直播平台,沈向洋进行了主题为Engineering Responsible AI的课程演讲。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

沈向洋提到,AI目前在社会各界中都有应用,人们借助AI来做决策。但现在,AI已经在做我们不懂的决策。

许多AI系统就像黑箱一样,AI做了决策,但我们不知道它为什么这样做。

因此,负责任的AI是很重要的,每个创造AI的人都应该了解一些AI创造的原则。

之后沈向洋重点讨论了可解释的AI和AI的偏差(bias)

关于可解释的AI,沈向洋举了一个AI分辨哈士奇和狼的例子。

在以下6张照片中,只有左下角的一张被识别错了。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

但其实,AI可能并非像我们理解的那样,通过动物的外形来辨别的,它的辨别方法可能是这样:

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

AI的判断并非通过图片中的动物部分,而是通过图片中除了动物之外的部分进行的。

因此,可解释的AI非常重要,不然你永远都不知道AI可能是用这种作弊的方法来判别哈士奇和狼的。

而关于偏差,沈向洋举了性别偏差的例子。

曾经有人发现一个人脸识别系统里,识别不准的都是女性、不化妆、短发、不苟言笑的照片,而其他人就相对更准一些。

而在词嵌入中,问题更为明显。

同一段描述,当文中用的是she/her等女性词汇时,AI判断这段文字描述的是老师;

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

而当里面的she/her变成he/his/him等男性词汇时,AI就会判断这段文字描述的是律师。

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

一个典型的例子是“He’s Brilliant, She’s Lovely”。

在一个词嵌入系统中,当主语分别是“她(she)”和“他(he)”时,出现的词是不一样的:

她是“姐妹”,他是“兄弟”;她是“护士”,他是“大夫”,谈到这里,沈向洋吐槽说,你们没发现哪里不对么?她是“家庭主妇”,他是“程序员”;她说“OMG”,他说“WTF”;她是“女权主义者”,他是“现实主义者”;她“怀孕”了,他“肾结石”了;……

沈向洋打破清华记录,成史上首位视频聘任清华教授,呼吁可解释AI

这是词嵌入里的偏差,很多时候人们想都不想,就直接用了。

最后,沈向洋教授总结说,我们是第一代和AI共存的人类,我们得决定怎么构建AI、怎么用AI。我们能接受一个AI做的决定、我们人类无法理解的世界吗?

One More Thing

最后,沈向洋还表达了他对NLP领域的期待。

他说,CV现在还很火,但未来十年自己看好NLP:

“懂语言者得天下。”

这是沈向洋全程唯一一句中文。

传送门

如果你想了解沈向洋演讲的具体内容,清华大学微博上可以查看回放:

https://weibo.com/1676317545/Ixadc8PhK?from=page_1002061676317545_profile&wvr=6&mod=weibotime&sudaref=weibo.com&display=0&retcode=6102&type=comment

AI 数据 人工智能
上一篇:AI“黑头盔”亮相成都,警察街头2分钟筛查上百人体温! 下一篇:当人脸识别技术遇上了口罩……
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

教育人工智能伦理风险如何消解

人工智能(Artificial Intelligence,简称AI)是计算机科学的一部分,包括研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统等方面。教育人工智能伦理则是用以规范教育人工智能开发及应用过程中关系、行为的道理及准则。

中国教育报 ·  19h前
为什么人工智能是可再生能源电网复原力的关键

各界呼吁政府在电网基础设施上投入资金,升级集中式发电源的长输电线路,尝试利用过去的技术来解决当今的问题。但是现在已经有了更好、更具前瞻性的替代方案:利用分散式可再生能源的人工智能(AI)。

世界经济论坛 ·  20h前
北京打造首个政策先行区:自动驾驶年内尝试真正无人

昨天,在北京经济技术开发区朝林广场,无人洗地机“蜗小白”引人关注。当日,经开区正式启动北京市智能网联汽车政策先行区。

北京日报客户端 ·  20h前
传统数据之外,哪里是通往智能之路?

为了实现这种更高阶的人工智能,寻求进步的公司都在积极探索,除了吸收更多数据并更好地管理数据的典型方法之外,我们还需要考虑更多创新的方法。

卿云 ·  23h前
“机器换人”引发就业挑战,一线工人前路何在?

当前,人工智能在全球范围内的加速发展引发各国高度关注,无论是简单的机械动作还是复杂的感知任务,人工智能所展现出的实力都可圈可点。

佚名 ·  1天前
实时高保真渲染,基于PlenOctrees的NeRF渲染速度提升3000倍

NeRF 方法拥有较好的渲染效果,但渲染速度极为缓慢,难以进行实时渲染。来自 UC 伯克利等机构的研究者使用一种名为 PlenOctrees 的数据结构为 NeRF 引入了一种新的数据表示,将渲染速度提升了 3000 多倍。

机器之心编辑部 ·  1天前
AI机器人上场,驾培行业翻开智能化新篇章

驾培行业打破传统的驾培模式刻不容缓,而通过各种智能技术和装备,启动智能化的教学,无疑是有效的替代之法。

林中易木 ·  1天前
语音识别技术迎风发展,未来五年规模将近300亿

语音识别技术得到重视,根据市场研究机构报告预测,到2025年,语音识别市场规模将达到267.9亿美元。

六栎 ·  1天前
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载