2020年12月31日,北京智源人工智能研究院(以下簡稱“智源研究院”)發(fā)布了《2020人工智能十大進(jìn)展報告》。該報告由智源研究院全體智源學(xué)者共同參與,對2020年里全球范圍內(nèi)人工智能領(lǐng)域的科學(xué)系統(tǒng)、算法等方向進(jìn)行了評價分析,最終形成了十大進(jìn)展成果。其中,由中國學(xué)者取得的進(jìn)展有3項。
這十大進(jìn)展分別是:
進(jìn)展1:OpenAI發(fā)布全球規(guī)模最大的預(yù)訓(xùn)練語言模型GPT-3;
進(jìn)展2:DeepMind的AlphaFold2破解蛋白質(zhì)結(jié)構(gòu)預(yù)測難題;
進(jìn)展3:深度勢能分子動力學(xué)研究獲得戈登·貝爾獎;
進(jìn)展4:DeepMind等用深度神經(jīng)網(wǎng)絡(luò)求解薛定諤方程促進(jìn)量子化學(xué)發(fā)展;
進(jìn)展5:美國貝勒醫(yī)學(xué)院通過動態(tài)顱內(nèi)電刺激實現(xiàn)高效率“視皮層打印機(jī)”功能;
進(jìn)展6:清華大學(xué)首次提出類腦計算完備性概念及計算系統(tǒng)層次結(jié)構(gòu);
進(jìn)展7:北京大學(xué)首次實現(xiàn)基于相變存儲器的神經(jīng)網(wǎng)絡(luò)高速訓(xùn)練系統(tǒng);
進(jìn)展8:MIT僅用19個類腦神經(jīng)元實現(xiàn)控制自動駕駛汽車;
進(jìn)展9:Google與FaceBook團(tuán)隊分別提出全新無監(jiān)督表征學(xué)習(xí)算法;
進(jìn)展10:康奈爾大學(xué)提出無偏公平排序模型可緩解檢索排名的馬太效應(yīng)問題;
在中國學(xué)者取得的進(jìn)展中,北京應(yīng)用物理與計算數(shù)學(xué)研究院王涵所在的“深度勢能”團(tuán)隊,獲得了國際高性能計算應(yīng)用領(lǐng)域最高獎項“戈登·貝爾獎”?!案甑恰へ悹柂劇痹O(shè)立于1987年,由美國計算機(jī)協(xié)會(ACM)頒發(fā),被譽(yù)為“計算應(yīng)用領(lǐng)域的諾貝爾獎”。該團(tuán)隊研究的“分子動力學(xué)”,結(jié)合了分子建模、機(jī)器學(xué)習(xí)和高性能計算相關(guān)方法,能夠?qū)⒌谝恍栽砭确肿觿恿W(xué)模擬規(guī)模擴(kuò)展到1億原子,同時計算效率相比此前人類最好水平提升1000倍以上,極大地提升了人類使用計算機(jī)模擬客觀物理世界的能力。
清華大學(xué)張悠慧、李國齊、宋森團(tuán)隊首次提出“類腦計算完備性”概念以及軟硬件去耦合的類腦計算系統(tǒng)層次結(jié)構(gòu),通過理論論證與原型實驗證明該類系統(tǒng)的硬件完備性與編譯可行性,擴(kuò)展了類腦計算系統(tǒng)應(yīng)用范圍使之能支持通用計算?!蹲匀弧分芸u論認(rèn)為,“‘完備性’新概念推動了類腦計算”,對于類腦系統(tǒng)存在的軟硬件緊耦合問題而言這是“一個突破性方案”。
北京大學(xué)楊玉超團(tuán)隊提出并實現(xiàn)了一種基于相變存儲器(PCM)電導(dǎo)隨機(jī)性的神經(jīng)網(wǎng)絡(luò)高速訓(xùn)練系統(tǒng),有效地緩解了人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中時間、能量開銷巨大并難以在片上實現(xiàn)的問題。該系統(tǒng)在誤差直接回傳算法(DFA)的基礎(chǔ)上進(jìn)行改進(jìn),利用PCM電導(dǎo)的隨機(jī)性自然地產(chǎn)生傳播誤差的隨機(jī)權(quán)重,有效降低了系統(tǒng)的硬件開銷以及訓(xùn)練過程中的時間、能量消耗。該系統(tǒng)在大型卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中表現(xiàn)優(yōu)異,為人工神經(jīng)網(wǎng)絡(luò)在終端平臺上的應(yīng)用以及片上訓(xùn)練的實現(xiàn)提供了新的方向。