QQ在線
企業(yè)微信
資訊
606deepfake技術(shù)利用AI算法，可以“扣出”影片、圖片和音頻中的特定人物，將他人取而代之。而根據(jù)阿姆斯特丹網(wǎng)絡(luò)安全初創(chuàng)公司Deeptrace的最新統(tǒng)計(jì)，基于該技術(shù)的影像制品數(shù)目，正在網(wǎng)絡(luò)上迅速增加。該公司在6月和7月的統(tǒng)計(jì)中發(fā)現(xiàn)了14698個(gè)deepfake視頻，而這一數(shù)字在去年12月時(shí)只有7964。僅僅7個(gè)月過去，deepfake視頻就爆炸般增長了84%。這一增長趨勢引起了大眾的不安，不僅僅是因?yàn)閐eepfake視頻可以用來操縱、搖擺民意，甚至影響選舉，又或是將莫須有的罪行栽贓給某個(gè)人。他們更擔(dān)心的是由此產(chǎn)生的大量色情視頻和敲詐案件。
為了應(yīng)對(duì)deepfake的迅猛增長，F(xiàn)acebook牽手亞馬遜云服務(wù)(AWS)、微軟以及AI合作伙伴關(guān)系（the Partnership on AI），舉辦了deepfake 檢測挑戰(zhàn)賽。來自康奈爾理工學(xué)院、麻省理工學(xué)院、牛津大學(xué)、加州伯克利分校等院校的眾多專家學(xué)者們加入比賽，在deepfake檢測技術(shù)的研究道路上帶頭沖鋒。該賽事將在溫哥華NeurIPS 2019會(huì)議上向全球發(fā)布，力圖促進(jìn)開源檢測工具的開發(fā)。
截止至今，F(xiàn)acebook已經(jīng)貢獻(xiàn)了超過一千萬美元，用以鼓勵(lì)人們參與獎(jiǎng)金的角逐；亞馬遜云服務(wù)則貢獻(xiàn)了價(jià)值一百多萬美元的積分，并為參賽者提供了備選模型；谷歌旗下Kaggle數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)平臺(tái)將負(fù)責(zé)該挑戰(zhàn)賽的主辦。
Facebook首席技術(shù)官M(fèi)ike Schroepfer指出，deepfake技術(shù)產(chǎn)生的“真人”影音材料嚴(yán)重影響了人們對(duì)于網(wǎng)絡(luò)信息的信任，而行業(yè)中卻沒有工具來檢測它們。我們希望開發(fā)出一些技術(shù)，讓這些被偽造的視頻無處遁形?！?
檢測挑戰(zhàn)賽所提供的數(shù)據(jù)集展示了原始視頻（左）和被篡改視頻（右）。
deepfake檢測挑戰(zhàn)包括了巨額獎(jiǎng)金和一個(gè)訓(xùn)練數(shù)據(jù)集。針對(duì)視頻造假，多種檢測工具幾經(jīng)面試，其中，由加州大學(xué)伯克利分校和南加州大學(xué)研究人員開發(fā)的工具最為優(yōu)秀，它的識(shí)別準(zhǔn)確率能超過90%。但與此同時(shí)，deepfake又是一項(xiàng)在不斷變化和發(fā)展中的技術(shù)?？梢哉f這項(xiàng)檢測挑戰(zhàn)任重而道遠(yuǎn)。在最近的采訪中，Pinscreen公司首席執(zhí)行官Hao Li指出，人工智能合成技術(shù)演化不斷，在某種程度上，合成贗品幾乎不可能從現(xiàn)實(shí)中辨別出來。
deepfake檢測挑戰(zhàn)中，群眾演員們受雇拍攝了許多的視頻訓(xùn)練材料。這些視頻中的背景、動(dòng)作、場景設(shè)計(jì)各不相同，可以說是五花八門。在這之后，基于這些真實(shí)的視頻，偽造的視頻被加工出來，它們或人臉被調(diào)換，或聲音被修改。
“deepfake探測技術(shù)的前沿研究需要結(jié)合大規(guī)模、貼近現(xiàn)實(shí)、有用且免費(fèi)的數(shù)據(jù)集。既然這種資源不存在，我們便不得不從頭開始創(chuàng)造它?！?Facebook人工智能研究經(jīng)理Christian Ferrer表示，為了避免法律和政策掣肘，這份數(shù)據(jù)集，只涉及那些簽訂使用協(xié)議的參與者，不涉及其他用戶的任何信息。此外，F(xiàn)errer還說，對(duì)數(shù)據(jù)集的訪問是封閉的，因此只有簽訂了許可協(xié)議的團(tuán)隊(duì)才能訪問和使用它。
即日起，參賽者可以下載語料來訓(xùn)練自己的deepfake識(shí)別模型。在完成了設(shè)計(jì)后，他們需要將代碼提交到一個(gè)黑盒環(huán)境中接受驗(yàn)證，獲得評(píng)分。參賽者不需要分享他們的模型，但必須同意將模型開源以獲得贏取巨額獎(jiǎng)金的資格。
deepfake檢測挑戰(zhàn)由一個(gè)專業(yè)的委員會(huì)推動(dòng)和監(jiān)督，該委員會(huì)包括Facebook、微軟以及媒體、學(xué)術(shù)團(tuán)體等。該競賽計(jì)劃運(yùn)行到2020年3月底。
“跨行業(yè)領(lǐng)域的各界團(tuán)體一起努力，在幾個(gè)月的時(shí)間里共同創(chuàng)造了該挑戰(zhàn)，這樣的團(tuán)結(jié)一致無疑的是鼓舞人心的?！盕acebook人工智能總監(jiān)、負(fù)責(zé)管理這項(xiàng)挑戰(zhàn)的業(yè)務(wù)主管Irina Kofman說道，“每個(gè)人都帶來了各自領(lǐng)域的見解，這讓我們得以接觸到了廣泛的觀點(diǎn)。”
谷歌副總裁AI Jerome Pesenti認(rèn)為，“我們知道解決這些難題不會(huì)容易。但是，我相信，開源開放的研究方法終將孵化有效的工具，幫助人們識(shí)別deepfake詐騙?！?
