2020年12月31日,北京智源人工智能研究院(以下簡(jiǎn)稱“智源研究院”)發(fā)布了《2020人工智能十大進(jìn)展報(bào)告》。該報(bào)告由智源研究院全體智源學(xué)者共同參與,對(duì)2020年里全球范圍內(nèi)人工智能領(lǐng)域的科學(xué)系統(tǒng)、算法等方向進(jìn)行了評(píng)價(jià)分析,最終形成了十大進(jìn)展成果。其中,由中國(guó)學(xué)者取得的進(jìn)展有3項(xiàng)。
這十大進(jìn)展分別是:
進(jìn)展1:OpenAI發(fā)布全球規(guī)模最大的預(yù)訓(xùn)練語言模型GPT-3;
進(jìn)展2:DeepMind的AlphaFold2破解蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)難題;
進(jìn)展3:深度勢(shì)能分子動(dòng)力學(xué)研究獲得戈登·貝爾獎(jiǎng);
進(jìn)展4:DeepMind等用深度神經(jīng)網(wǎng)絡(luò)求解薛定諤方程促進(jìn)量子化學(xué)發(fā)展;
進(jìn)展5:美國(guó)貝勒醫(yī)學(xué)院通過動(dòng)態(tài)顱內(nèi)電刺激實(shí)現(xiàn)高效率“視皮層打印機(jī)”功能;
進(jìn)展6:清華大學(xué)首次提出類腦計(jì)算完備性概念及計(jì)算系統(tǒng)層次結(jié)構(gòu);
進(jìn)展7:北京大學(xué)首次實(shí)現(xiàn)基于相變存儲(chǔ)器的神經(jīng)網(wǎng)絡(luò)高速訓(xùn)練系統(tǒng);
進(jìn)展8:MIT僅用19個(gè)類腦神經(jīng)元實(shí)現(xiàn)控制自動(dòng)駕駛汽車;
進(jìn)展9:Google與FaceBook團(tuán)隊(duì)分別提出全新無監(jiān)督表征學(xué)習(xí)算法;
進(jìn)展10:康奈爾大學(xué)提出無偏公平排序模型可緩解檢索排名的馬太效應(yīng)問題;
在中國(guó)學(xué)者取得的進(jìn)展中,北京應(yīng)用物理與計(jì)算數(shù)學(xué)研究院王涵所在的“深度勢(shì)能”團(tuán)隊(duì),獲得了國(guó)際高性能計(jì)算應(yīng)用領(lǐng)域最高獎(jiǎng)項(xiàng)“戈登·貝爾獎(jiǎng)”?!案甑恰へ悹柂?jiǎng)”設(shè)立于1987年,由美國(guó)計(jì)算機(jī)協(xié)會(huì)(ACM)頒發(fā),被譽(yù)為“計(jì)算應(yīng)用領(lǐng)域的諾貝爾獎(jiǎng)”。該團(tuán)隊(duì)研究的“分子動(dòng)力學(xué)”,結(jié)合了分子建模、機(jī)器學(xué)習(xí)和高性能計(jì)算相關(guān)方法,能夠?qū)⒌谝恍栽砭确肿觿?dòng)力學(xué)模擬規(guī)模擴(kuò)展到1億原子,同時(shí)計(jì)算效率相比此前人類最好水平提升1000倍以上,極大地提升了人類使用計(jì)算機(jī)模擬客觀物理世界的能力。
清華大學(xué)張悠慧、李國(guó)齊、宋森團(tuán)隊(duì)首次提出“類腦計(jì)算完備性”概念以及軟硬件去耦合的類腦計(jì)算系統(tǒng)層次結(jié)構(gòu),通過理論論證與原型實(shí)驗(yàn)證明該類系統(tǒng)的硬件完備性與編譯可行性,擴(kuò)展了類腦計(jì)算系統(tǒng)應(yīng)用范圍使之能支持通用計(jì)算?!蹲匀弧分芸u(píng)論認(rèn)為,“‘完備性’新概念推動(dòng)了類腦計(jì)算”,對(duì)于類腦系統(tǒng)存在的軟硬件緊耦合問題而言這是“一個(gè)突破性方案”。
北京大學(xué)楊玉超團(tuán)隊(duì)提出并實(shí)現(xiàn)了一種基于相變存儲(chǔ)器(PCM)電導(dǎo)隨機(jī)性的神經(jīng)網(wǎng)絡(luò)高速訓(xùn)練系統(tǒng),有效地緩解了人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中時(shí)間、能量開銷巨大并難以在片上實(shí)現(xiàn)的問題。該系統(tǒng)在誤差直接回傳算法(DFA)的基礎(chǔ)上進(jìn)行改進(jìn),利用PCM電導(dǎo)的隨機(jī)性自然地產(chǎn)生傳播誤差的隨機(jī)權(quán)重,有效降低了系統(tǒng)的硬件開銷以及訓(xùn)練過程中的時(shí)間、能量消耗。該系統(tǒng)在大型卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中表現(xiàn)優(yōu)異,為人工神經(jīng)網(wǎng)絡(luò)在終端平臺(tái)上的應(yīng)用以及片上訓(xùn)練的實(shí)現(xiàn)提供了新的方向。