由科技巨子马斯克(Elon Musk)支持的非营利组织Open AI,近期公布的AI文字产生器GPT2,由于可产生几近真人撰写的假新闻,引发极大争议,OpenAI决定不释出训练好的模型,只公开一小部份模型和范例。GPT2以近40 gigabyte的网页文字训练而成,旨在使其具备预测下一个文字的能力。研究团队宣称GPT2产生的文字可因应前后文的风格和内容,使用者只要喂给它一段文字,这个AI系统就能产生任意主题「逼真而有条理的文句」。

根据英国媒体《卫报》(The Guardian)公布的一段测试影片,编辑输入一句关于英国脱欧的不完整句子,GPT2即可立刻产生一段完整段落。另外,若喂给它乔治奥韦尔的《1984》小说里的第一句「It was a bright cold day in April, and the clocks were striking thirteen」,它立刻辨识出文字的未来科幻小说风格,而能接续相应的故事。该报认为GPT2产生的句子,几乎未显露过去AI系统前后语意不一致或语法错误的问题。虽然也有人指出GPT2只是从网络上抓来文字拼凑而成还算有条理的文字,但是许多人认为,GPT2已经显示AI仿真能力的成熟技术,担心这个AI系统会被拿来制造一般人无法辨识的假新闻,并称之为「文字版的deepfake」。Deepfake是专指利用AI将名人嘴形、脸部与×××或他人影片移花接木,以遂恶作剧或栽赃嫁祸的目的的影片。内容来源至:乐爱公益 http://www.cafes.org.tw/info.asp

OpenAI随后表示,由于考虑这项技术可能遭恶意使用,像是生产误导性的文字、冒充他人的网络身份、或是在社群网站散布假新闻、自动生产垃圾及钓鱼内容等,OpenAI将不会释出训练好的模型,但秉持负责任揭露的原则,他们将释出相对小许多的模型、范例和技术白皮书提供外部研究人员实验之用。但也有人批评OpenAI将研究隐藏不完全公开的做法,与其组织名称意义背道而驰。马斯克本人倒是对此撇清关系,他在推持上表示他已经一年多未涉入OpenAI的运作,也没有行政管理或董事会监督的身份。AI技术进步已经反映在写新闻、作画、翻译及说话等创作领域上,引发伦理和道德的争议。去年网络大厂在I/O大会上展示拟真人声系统Duplex以超逼真的声音打电话订位招致批评,迫使网络大厂宣布未来测试时,将主动表明是机器人的身份。