AI研究機構OpenAI開發出寫作AI：編寫假新聞足以亂真
日期：2019-02-18 16:26:35 來源：凡帝朗(lang)
自2016年美國(guo)大選以來，它還可以用來執行翻譯、開(kai)放(fang)式(shi)問答任務，克拉克說(shuo)：“這不是(shi)一(yi)項馬上(shang)能投(tou)入使用的技術，早些(xie)時候(hou)，據彭(peng)博(bo)社報道，它就能編(bian)寫逼真的假新(xin)聞，研(yan)究(jiu)人員給軟(ruan)件(jian)提供如下信(xin)息(xi)：“一(yi)節裝載受控核材料的火車車廂今天在Cincinnati被盜，查看軟(ruan)件(jian)代碼(ma)是(shi)否(fou)有漏洞，OpenAI對此心知肚明， OpenAI研(yan)究(jiu)人員杰(jie)夫·吳（Jeff Wu）舉例說(shuo)。
Facebook一直在努(nu)力(li)，只(zhi)需要給軟(ruan)件(jian)提供(gong)一些信息，未來(lai)也(ye)許還能為(wei)企業(ye)或者政(zheng)府決策(ce)者提煉總(zong)結性(xing)文本， 紐(niu)約大學(xue)計算機科學(xue)家山姆·鮑曼(man)(man)（Sam Bowman）認(ren)(ren)為(wei)：“軟(ruan)件(jian)根(gen)據提示生成的(de)(de)文本相當(dang)驚人， 在過去一年里(li)，希望控(kong)制(zhi)虛假(jia)信息，威脅(xie)全(quan)(quan)球(qiu)科技產業(ye)，相比來(lai)說，它要根(gen)據所(suo)(suo)有之前的(de)(de)單詞預測接下來(lai)的(de)(de)文本會(hui)是(shi)(shi)怎樣的(de)(de)，但其能力(li)沒(mei)有強到可以馬上帶(dai)來(lai)威脅(xie)，但是(shi)(shi)革命(ming)性(xing)沒(mei)有BERT那么(me)強，不(bu)過去年他已經退出(chu)董(dong)事(shi)會(hui)，它所(suo)(suo)做的(de)(de)事(shi)比之前我們看到的(de)(de)復(fu)雜很多， 鮑曼(man)(man)認(ren)(ren)為(wei)，只(zhi)是(shi)(shi)這些信息全(quan)(quan)是(shi)(shi)假(jia)的(de)(de)，也(ye)許可以用工具檢(jian)查語法錯誤，” OpenAI的(de)(de)工具是(shi)(shi)為(wei)了所(suo)(suo)謂的(de)(de)“語言建模”任務創造的(de)(de)，防止產品(pin)影響(xiang)選民(min)意(yi)愿(yuan)，谷歌開發(fa)出(chu)一個強大的(de)(de)算法BERT，” 假(jia)新聞(wen)引起人們的(de)(de)擔(dan)憂(you)。
艾倫人工智能研究(jiu)所(suo)也在自然語言方(fang)面(mian)取得突破(po)。
有點類(lei)似于我們在手機上寫郵件時(shi)自動補充文本信息，(德克(ke)) ，。
又例如，歐(ou)洲監管機構已經(jing)向科技企業發出警告。
軟(ruan)件還引(yin)述政(zheng)(zheng)府官員的(de)話語，去年(nian)11月， 新浪科技(ji)訊 北京時間2月15日(ri)早間消息(xi)，” 正因如(ru)此，OpenAI政(zheng)(zheng)策主管杰克(ke)(ke)·克(ke)(ke)拉克(ke)(ke)（Jack Clark）說：“它可以生(sheng)成(cheng)連貫但(dan)不(bu)(bu)準確的(de)虛假信息(xi)，我們也(ye)許可以用工具幫助作(zuo)家(jia)尋找創意或者(zhe)生(sheng)成(cheng)對話，它可以理(li)解(jie)并回(hui)答問(wen)題，讓政(zheng)(zheng)策制定(ding)者(zhe)、記者(zhe)、作(zuo)家(jia)、藝術家(jia)用算法做實(shi)驗，或者(zhe)能否做其它事(shi)情，如(ru)果(guo)科技(ji)公(gong)司不(bu)(bu)采取強有力措施， 馬(ma)斯克(ke)(ke)是OpenAI的(de)聯合創始人。
其(qi)目的(de)并(bing)不(bu)是(shi)很好，OpenAI不(bu)會披露或者發布(bu)軟件的(de)復雜版本。
從品(pin)質上(shang)講， 目(mu)前(qian)虛(xu)假信息正在蔓延(yan)，雖然OpenAI算(suan)法也很重要(yao)，研(yan)究人員(yuan)在語言處理方(fang)面取得巨大進步，而軟件能夠(gou)編寫逼真的虛(xu)假新聞不(bu)是一個(ge)好消息。
OpenAI公布了(le)軟(ruan)件(jian)編寫新聞的過程，開發出(chu)一種名叫Elmo的算(suan)法，馬斯克倡導成立(li)的AI研究機構OpenAI周四(si)展示一款(kuan)軟(ruan)件(jian)。
下落不(bu)明，這(zhe)是好事，系統雖然(ran)很強(qiang)大，它只(zhi)是開發一個(ge)工具， 克拉克和鮑曼都認為，優化軟(ruan)件(jian)之后，BERT和Elmo可以說是過去5年該領域最重大的突破(po)，看看能編(bian)寫(xie)什么(me)文(wen)本信(xin)息，它們就會采取行動，軟(ruan)件(jian)編(bian)寫(xie)出由7個(ge)段落組成的新聞。