QQ在線
企業(yè)微信
資訊
2067月27日，在微博、新浪新聞主辦的人工智能領域行業(yè)峰會——2022新智者大會上，360公司創(chuàng)始人周鴻祎分享了題為《筑牢AI安全基座 護航智能新時代》的演講，從數(shù)字安全的角度，帶給我們關于網(wǎng)絡安全的全新視角和定義。
2022新智者大會-360公司創(chuàng)始人周鴻祎-主題演講
以下是周鴻祎分享實錄，內容經(jīng)編輯略有刪減：
尊敬的各位領導、各位同仁、各位來賓，感謝大會組委會的邀請，非常高興參加“2022年新智者大會”。
我叫周鴻祎，雖然說可能很多人都認識我，但是很多人都問我一個問題，為什么你老喜歡穿紅衣服？那是因為我的名字老被叫成周鴻“偉”，所以我穿一個紅衣服，就是給大家提示一下，我是鴻祎（yi），不是鴻偉（Wei）。
本次會議的主題是“融合生態(tài)，價值共創(chuàng)”。當前發(fā)展數(shù)字經(jīng)濟，以人工智能為代表的數(shù)字技術賦能產(chǎn)業(yè)變革，推動整個社會經(jīng)濟進入智能化的新階段。
我是絕對支持數(shù)字經(jīng)濟，支持新技術人工智能的。但是，我們做安全的人，稍微有點變態(tài)，天天都在琢磨這個技術有啥風險，這個技術有什么不安全的地方。
那么，我們今天談數(shù)字經(jīng)濟、人工智能里不安全的問題，也是為了保證讓我們建設數(shù)字中國，促進數(shù)字經(jīng)濟能走得更穩(wěn)、更遠。
簡單來總結，當前一個大的趨勢是數(shù)字化發(fā)展，數(shù)字化已經(jīng)成為國家戰(zhàn)略。這里邊包括我覺得最重要的大家應該關注的是產(chǎn)業(yè)數(shù)字化，是紅海中的藍海。為什么這么講呢？未來所有的傳統(tǒng)行業(yè)，都值得用數(shù)字化重塑一遍它的產(chǎn)業(yè)鏈、供應鏈、價值鏈，甚至是商業(yè)模式。
數(shù)字經(jīng)濟已經(jīng)成為當代的主旋律。很多人老誤以為數(shù)字經(jīng)濟=虛擬經(jīng)濟，其實所有用數(shù)字化技術打造的經(jīng)濟成果，都是數(shù)字經(jīng)濟。中國在這方面已經(jīng)遙遙領先，我們數(shù)字經(jīng)濟占GDP的比重已經(jīng)超過30%。
所以，未來5-10年，所有的企業(yè)都將轉型升級成數(shù)字化企業(yè)。
如果沒有數(shù)字化的企業(yè)，可能就消失或者被淘汰了。
我們經(jīng)常講互聯(lián)網(wǎng)的上半場，我的理解互聯(lián)網(wǎng)的上半場是消費互聯(lián)網(wǎng)的數(shù)字化。也就是這個互聯(lián)網(wǎng)公司，把中國老百姓的吃喝玩樂、衣食住行，各種生活方式充分實現(xiàn)了數(shù)字化。所以，這些傳統(tǒng)互聯(lián)網(wǎng)公司，當仁不讓成了主角。
但是，未來10年，我覺得是互聯(lián)網(wǎng)的下半場，主角就不再是互聯(lián)網(wǎng)公司，而是各種傳統(tǒng)企業(yè)，各級政府，他們才會變成大數(shù)據(jù)、數(shù)字化真正的玩家，把各種產(chǎn)業(yè)場景用數(shù)字化再重新塑造一遍。
簡單講，數(shù)字化發(fā)展的幾個核心技術。為了讓大家記，我編了一個字母歌，叫I、M、A、B、C、D、E。
I，IoT，物聯(lián)網(wǎng)技術，主要是未來用來把這個世界，把所有的商業(yè)流程，所有數(shù)字化，主要是依靠物聯(lián)網(wǎng)設備。
M，移動通信，5G，實際上是為數(shù)字時代準備的，并不是說僅僅方便我們個人為了看視頻，能夠快速，實際上為了通過5G，把各種現(xiàn)實世界數(shù)字化的數(shù)據(jù)傳到云端。
C是Cloud computing，云計算；A是人工智能；B是區(qū)塊鏈；D是大數(shù)據(jù)；E是邊緣計算。
所以，這里邊的邏輯，我覺得最重要是以AI為核心，AI是一個大數(shù)據(jù)的基礎，才有了深度學習，所以AI也是數(shù)據(jù)基礎。
數(shù)據(jù)又來源于哪兒呢，來源于IoT，大量對這個世界的數(shù)字化，通過5G，傳到云端。通過大數(shù)據(jù)系統(tǒng)管理起來。
所以，未來我們談數(shù)字經(jīng)濟，我們談數(shù)字化戰(zhàn)略，都脫離不開這幾個技術。當然，還有一個是我們今天要說到的，有一個技術跟它們都不能并列，是“安全”。因為只有“安全”，給它們提供了堅實的基礎，這些技術才能夠充分發(fā)揮作用，而不至于成為風險的來源。
我可以舉一個簡單的例子。
最近的“俄烏沖突”相當于是一場開卷考試，是新的時代下數(shù)字世界對抗沖突的真實預演，有幾個特點，我給大家總結一下。
第一，網(wǎng)絡戰(zhàn)和傳統(tǒng)戰(zhàn)爭相結合，已經(jīng)演變成一場數(shù)字化戰(zhàn)爭。
在戰(zhàn)前，網(wǎng)絡戰(zhàn)已經(jīng)不是傳說中的幻想小說。實際上在傳統(tǒng)作戰(zhàn)發(fā)生之前，網(wǎng)絡戰(zhàn)已經(jīng)開打。俄烏雙方的政府部門，還有銀行、電信、電力等關鍵基礎設施，均遭到了網(wǎng)絡打擊。那除了網(wǎng)絡攻擊之外，星鏈、衛(wèi)星、互聯(lián)網(wǎng)、人工智能、無人機，人工智能技術，傳統(tǒng)武器、傳統(tǒng)攻擊方法融為一體，打了一場新型的數(shù)字戰(zhàn)爭。烏克蘭獲得了北約和美國的支持。在數(shù)字化技術方面，彌補了弱勢，而俄方由于在數(shù)字化方面落后，所以不免有擴大的損失。
第二，網(wǎng)絡攻擊的手段無所不用其極。
此次，雙方除了使用包括原來常規(guī)的基于漏洞的APT攻擊，還把DDoS拒絕服務攻擊，特別是數(shù)據(jù)查處攻擊、供應鏈攻擊各種網(wǎng)站攻擊，各種傳統(tǒng)手段，包括新的手段結合起來，所以這一次戰(zhàn)爭（后面我會講）還有一個特點，不僅是數(shù)字化戰(zhàn)爭，還是第一次人工智能參戰(zhàn)的數(shù)字戰(zhàn)爭。
第三，這一次是一場數(shù)字時代的人民戰(zhàn)爭。
正因為雙方都大量使用了數(shù)字化技術，而數(shù)字化的技術，真正的高手在民間。所以，很多高科技公司走向攻防的前沿，民間的黑客成為主力軍。
比如美國有很多高科技的公司，哪怕是民間公司，實際上都參與了戰(zhàn)斗。包括IBM、微軟、谷歌，他們對俄羅斯禁運芯片，或者終止服務，包括埃隆馬斯克，提供星鏈、衛(wèi)星、互聯(lián)網(wǎng)等技術。
然后，民間的網(wǎng)安公司也紛紛參戰(zhàn)。也就是包括俄羅斯的卡巴斯基，還有歐洲的很多傳統(tǒng)殺毒軟件公司都紛紛參加，成為網(wǎng)絡攻擊攻防的重要力量。
本來俄羅斯在烏克蘭的系統(tǒng)里，預埋了一些后門和漏洞。但是，美國的網(wǎng)絡戰(zhàn)部隊和美國的一些安全公司出手。幫助烏克蘭做了漏洞和預埋后門的清理，使得俄羅斯原來預設的網(wǎng)絡打擊效果大打折扣。
烏克蘭還組織了30萬國際黑客，又叫“IT志愿軍”，這30萬黑客沖到俄羅斯的網(wǎng)絡空間里，大打出手，導致俄羅斯的網(wǎng)軍精力難以兼顧，處處被動。
所以，我們可以從俄烏的例子來看，這是人類歷史上第一次數(shù)字化戰(zhàn)爭，也是第一次AI戰(zhàn)爭。體現(xiàn)了雙方誰的數(shù)字化技術落后，誰就要挨打這個機制。
過去我們有句老話講“落后就要挨打”。通過俄烏戰(zhàn)爭，我們可以把這句話改成，今天在數(shù)字化的時代里，誰在數(shù)字化體系上落后，誰就要挨打。
我們可以看到，這次俄烏戰(zhàn)爭表面上是兩個國家的武力沖突。但實際上背后是俄羅斯和西方兩大數(shù)字體系的碰撞。結果不言而喻，西方強大的數(shù)字體系，不再區(qū)分軍工、民用，也不再區(qū)分國企、民企，也不再區(qū)分企業(yè)、個人，把整個的數(shù)字化力量綜合在一起，在這方面俄羅斯就應該說處于下風吧。
為什么我又講這是人類歷史上第一次AI戰(zhàn)爭呢？因為在軍事沖突過程中，你會發(fā)現(xiàn)這一次AI（人工智能）活躍于戰(zhàn)場的各個領域，扮演著非常重要的角色。甚至包括AI的武器，直接參與了戰(zhàn)場的攻擊，參與了戰(zhàn)場的情報支持，輔助戰(zhàn)場決策，被用于心理戰(zhàn)的這種虛假宣傳，下面呢我講一一詳細來給大家做一些例子的說明。
第一個，AI的武器直接參與戰(zhàn)場攻擊。
我記得當年阿西·莫夫在講“機器人三原則”的時候，有一個重要的原則，就是機器人不能傷害人。實際上今天各種無人戰(zhàn)車、無人飛機，已經(jīng)應用在戰(zhàn)場上。這里面舉一個例子，烏克蘭軍隊使用美國的彈簧刀無人機，具備監(jiān)視、偵察和打擊功能。既是無人機，又是一個自殺式導彈，在人工智能的加持下，單兵就能熟練掌握，有效打擊俄軍的機動目標，成為戰(zhàn)場規(guī)則的改變者。
那今天彈簧刀無人機可能還是在被遙控，最后打擊的瞬間可能還是由人來下指令。但是，從人下指令，到它自動識別、自動判斷、自主發(fā)起攻擊，我覺得這就是一層薄薄的窗戶紙。
第二個，AI參與戰(zhàn)場情報支持。
烏克蘭國防部使用Clearview AI面部識別技術，通過人工智能來識別俘虜和尸體。該公司擁有一個包括來自網(wǎng)絡的100億張面孔的數(shù)據(jù)庫。其中，僅來自俄羅斯社交媒體的圖像就高達20億張。這種技術通過戰(zhàn)場上傳來的俄羅斯戰(zhàn)俘或者尸體的面部照片，可以對死者的身份進行匹配。
第三個，AI輔助戰(zhàn)場決策。
這次我們都知道說烏克蘭派出很多小分隊，對俄羅斯的運輸線進行各種靈活的打擊，打完了就跑。這個前提是要有完全，應該說盡在掌握之中的戰(zhàn)場態(tài)勢感知。
這一次呢，Seekr和Semantic AI的增強智能平臺相結合，應用深度分析技術，來發(fā)現(xiàn)人員地點，事件之間的隱蔽連接，自動生成報告和動態(tài)儀表盤，從而幫助指揮者做出更明確的選擇。所以，這一次整個戰(zhàn)場態(tài)勢感知，大數(shù)據(jù)分析應該說AI功不可沒。
第四個，打仗既是認知戰(zhàn)，也是心理戰(zhàn)，也是宣傳戰(zhàn)。
所以，前面網(wǎng)上流傳了一個叫Deepfake的視頻，所謂Deepfake就是利用AI做的深度偽造，內容是澤連斯基宣布他投降，這個視頻害的澤連斯基不得不公開辟謠。但還是有大量的AI水軍機器人在網(wǎng)上狂炒，制造輿論。
所以，在這個過程中，AI發(fā)揮了巨大的作用。
第五個，AI基礎算力設施的服務斷供。
我們講運行AI需要算力，算力需要大數(shù)據(jù)等基礎設施。但如果數(shù)據(jù)中心，云服務都被終止，那么各種無人機，自動駕駛坦克各種大腦就失去了重要的能源。
在本次俄烏沖突中，西方對俄羅斯采取了“六斷”（斷網(wǎng)、斷供、斷服務、斷證書、斷域名、斷輿論），包括說微軟、IBM和甲骨文這些公司對俄停止SSL證書，停止域名解析，停止互聯(lián)網(wǎng)接口，中斷國際傳輸網(wǎng)絡，停止了各種軟件跟服務，芯片和硬件供應商，比如英特爾對俄斷供，甚至包括臉書、推特等就徹底把俄羅斯的很多帳號給禁掉，徹底將俄孤立。再試圖把俄羅斯在數(shù)字化的世界里徹底抹去。
而俄羅斯由于缺乏市場化的數(shù)字產(chǎn)業(yè)支撐，完全被動挨打，這個都讓俄羅斯算力、產(chǎn)品和服務的基礎被掣肘。
所以，大家想一想當未來發(fā)生沖突的時候，實際上就成了數(shù)字體系的對抗。這個數(shù)字體系的強壯與否，已經(jīng)不完全取決于軍隊或者僅僅是軍工企業(yè)，可能跟每一家數(shù)字化的公司，每一家研究數(shù)字技術的科技人員，都有密切的關系。
所以，我們可以得出一個結論，安全是數(shù)字化的基座，在一切皆可編程，萬物均要互聯(lián)，大數(shù)據(jù)驅動業(yè)務、軟件重新世界的趨勢下，整個全世界的安全環(huán)境也更加的脆弱，這其中AI也不例外。
一切皆可編程，我剛才講過了，就意味著所有的東西都是軟件。比如說汽車也是軟件，無人機也是軟件，所以漏洞無處不在。有漏洞，就有可能被人利用，被人利用就可能被人攻擊。
我稍微解釋一下漏洞的原理，過去大家只要覺得說自己的電腦口令不丟失，帳號不泄漏，就沒有安全的問題。實際上“漏洞”的出現(xiàn)改變了這一切，漏洞改變了整個網(wǎng)絡攻防的游戲規(guī)則。基于一個我知道，而你不知道的漏洞，可能別人就能以一種完全意想不到的方法來控制你的系統(tǒng)。
舉一個例子，比如說利用一個常見的瀏覽器漏洞，可能你在瀏覽一張美女圖片的時候，你在享受看圖片的時候，可能在這個圖片里面編碼的一個代碼，就神不知鬼不覺在你的電腦上開始運轉起來。
前兩天，有一個WannaCry勒索病毒利用了一個漏洞，更是匪夷所思。一臺電腦向另外一臺電腦的網(wǎng)卡發(fā)送了一個數(shù)據(jù)包，兩臺電腦毫無感覺，這個數(shù)據(jù)包就能夠在接收機器的電腦上運行，從而控制這臺電腦，所以應該講，漏洞現(xiàn)在是無孔不入。
關于漏洞最典型的例子，是去年年底阿帕奇基金開源項目的Log4j2的組件，被發(fā)現(xiàn)存在著遠程代碼執(zhí)行漏洞。這個軟件被大量應用于關鍵業(yè)務系統(tǒng)底層開發(fā)，這個漏洞就意味著我們很多重要的系統(tǒng)，被漏洞的利用者能夠洞開。
萬物均要互聯(lián)，萬物互聯(lián)帶來的好處就不講了。所以，今天的車聯(lián)網(wǎng)、智慧城市、工業(yè)互聯(lián)網(wǎng)都是萬物互聯(lián)的典型例子。但是，這也意味著在虛擬世界里的攻擊，往往會變成物理世界的傷害。在過去，大家中了病毒，只是說文件丟失，大不了電腦不用了，郵件不收了，網(wǎng)不上了。但是，今天虛擬世界里的傷害，都可以轉成對物理世界的攻擊。
所以，我們可以看到，導致工廠停工，大面積停電，社會停擺。
我舉兩個例子，今年2月-3月，三家豐田的供應商遭到黑客攻擊，豐田不得不停止其14家日本工廠的運營，導致每月的生產(chǎn)能力下降了5%。
前幾年，在委內瑞拉、烏克蘭都出現(xiàn)了利用網(wǎng)絡攻擊，攻擊變電站設備，遠程拉閘，導致大面積停電，所以這里就不是美國科幻電影里的幻想。
再舉一個真實的例子，我們現(xiàn)在大家都會買智能網(wǎng)聯(lián)車或者新能源車，但是說句不好聽的話，你買了車，你不要以為這車就是你的了，實際上是聽車廠的。
我們的車每時每刻都需要跟車廠保持聯(lián)系，不斷的從車廠各種更新的指令、更新軟件，也不斷把各種數(shù)據(jù)傳回車廠。
一旦黑客破解了這個車廠的協(xié)議，或者破解了車廠的云端服務器，就可以遠端對你的車進行遙控，那么可能就會出現(xiàn)更大的風險。在2017年，我們曾經(jīng)幫助某全球知名的一個知名車企，發(fā)現(xiàn)了大概19個漏洞。通過這些漏洞，這個車廠在2017年以后出的全球600多萬輛車，都可以遠程啟動、遠程熄火、遠程開門、遠程開天窗，一旦這些漏洞被黑客掌握，后果不堪設想。
大數(shù)據(jù)驅動業(yè)務，我們現(xiàn)在對大數(shù)據(jù)都非常重視。數(shù)據(jù)變成重要的戰(zhàn)略資產(chǎn)，數(shù)據(jù)變成整個信息化社會的重要的像石油一樣的基礎血液。但是，反過來說，數(shù)據(jù)一旦遭到了攻擊，可能就意味著業(yè)務停轉，數(shù)據(jù)安全直接影響業(yè)務安全。
那2022年1月，我們國家臺灣地區(qū)的臺達電遭到勒索軟件攻擊，有1500臺服務器，12000臺電腦在本次攻擊中數(shù)據(jù)被加密，被勒索1500萬美金。
還有一個去年5月份，美國東海岸一家輸油管道公司受到了攻擊，當時這個事情很出名，美國東海岸很多加油站都供不上油了，害了美國總統(tǒng)都為之出來做了一些講話。美國交通部甚至都要宣布，在美國東部要進入緊急狀態(tài)。當時我們也覺得這是一件很詭異的工業(yè)互聯(lián)網(wǎng)攻擊。
后來調查下來發(fā)現(xiàn)，其實比我們想得要簡單。因為來自俄羅斯的黑客，直接把這家美國油管公司的財務數(shù)據(jù)給加密了，導致整個財務數(shù)據(jù)系統(tǒng)崩潰之后，就沒有辦法向客戶提供油料了。所以，整個的業(yè)務就中止了。
這幾年我們在國內也接到不少公司的報案，他們受到勒索攻擊的這種侵犯。實際上一旦核心數(shù)據(jù)被加密，整個業(yè)務系統(tǒng)立刻停擺。
所以，這里邊我也講一下勒索軟件或者勒索攻擊，已經(jīng)變成現(xiàn)在成長速度最快，獲利最高的一種新的黑產(chǎn)的商業(yè)模式。
過去我們很多人很迷信，我的數(shù)據(jù)很加密，別人也拿不走，但是勒索攻擊者腦洞很清奇，他們不拿走你的數(shù)據(jù)，把你的數(shù)據(jù)再加密一點，就像我說的，我們家有一個保險柜，你來了之后不用打開它，再帶一個更大的保險柜，把我的保險柜鎖在你的保險柜里，這樣我只能乖乖地找你去要保險柜的鑰匙，所以這就是勒索攻擊的核心秘密。
所以，我們可以看到數(shù)字化技術，固然一方面給我們創(chuàng)造了自動化，非常美好的科技的這種未來，美好的生活，更高的生產(chǎn)力、更高的效率。但是它同時也有安全上的隱患。
當然了，前面講人工智能技術本質也是軟件，本質也是基于數(shù)據(jù)，也有很多破綻。所以，總結起來，我覺得人工智能安全有七大安全挑戰(zhàn)：硬件、軟件、通信協(xié)議、算法、數(shù)據(jù)、應用和社會倫理。
下面我將給大家逐個解釋一下。
第一個，硬件，可能會出錯。因為我剛才講，今天的數(shù)字化世界，我們很多數(shù)據(jù)是來自于物聯(lián)網(wǎng)設備及各種傳感器。如果這個傳感器數(shù)據(jù)出錯，傳給系統(tǒng)的數(shù)據(jù)本身信號就是錯的，那么系統(tǒng)當然就會做出錯誤的判斷。
比如說美國波音公司的737Max前幾年出了幾次空難，實際上是自動壓機頭和自動提升的軟件出了錯誤。因為機頭升降仰角讀取的傳感器讀出了錯誤，以至于AI發(fā)生了錯誤判斷。
包括今天我們比較看好的無人駕駛車，都會裝有激光雷達，用激光雷達來對前方的路障進行識別。但是，如果我用類似的激光筆或者對激光雷達進行干擾，可能無人駕駛車，就會發(fā)生錯誤的判斷。所以，硬件是整個AI數(shù)字化很重要的基礎，硬件有可能會帶來錯誤的數(shù)據(jù)。
第二個，軟件存在漏洞。特別是我們今天的AI訓練，很多都是基于開源框架，這些開源框架本身軟件都有很多的漏洞。在過去的時間里面，我們360已經(jīng)挖取了不少的漏洞。
比如說最近有一個AI編程神器的軟件，自動生成代碼中有40%存在漏洞，這個漏洞比一個優(yōu)秀的人工工程師的漏洞還要多出10倍以上。
第三個，通信協(xié)議可能會被劫持。你比如說，剛才我們講了無人駕駛汽車，跟車廠之間是有特殊的協(xié)議，來進行軟件的更新和遠程控制。如果這個協(xié)議被破獲之后，無人駕駛車就可能會失控。
那么，伊朗曾經(jīng)通過GPS信號的欺騙，把美國的一架無人機迫降到伊朗的機場，這種GPS的信號欺騙也是一種通信協(xié)議的劫持。
第四個，算法可以被欺騙、被誤導。谷歌曾經(jīng)有一個AI算法，把黑人識別成猩猩，惹出了很大的風波?，F(xiàn)在我們有一些人工智能漏洞挖掘團隊，發(fā)現(xiàn)當你走在街上，面對滿大街人工智能的基于人臉識別的攝像頭，你如果不想被他認出來你是一個人，你穿上特殊條紋或者特殊圖案的T恤，攝像頭就會不認為你是一個人，它就對你不會做面部識別，這就說明了算法是可以通過一種特殊的組合數(shù)據(jù)來進行欺騙和誤導的。
更重要的數(shù)據(jù)可以被污染，或者我們稱之為數(shù)據(jù)投毒。因為數(shù)據(jù)是寶貴的數(shù)字資產(chǎn)，AI的深度學習是要基于大量的數(shù)據(jù)訓練。但是，如果我們在訓練過程中，我們給的數(shù)據(jù)是有誤的，有可能訓練出一個完全不一樣的AI的結果。
比如說，如果我們在訓練如何識別貓的這樣一個訓練集的時候，我們給了很多狗的圖片，那將來這個AI可能就會把狗誤認為是貓。
AI比較獨有的兩個特點，我們也在這兒提一下。就是應用上可能會危害人類的根本利益，這里面的案例有兩個，主要是涉及到社會倫理的問題。
第一，AI在5G上戰(zhàn)場直接攻擊人類。原來阿西·莫夫就希望說，只要有AI能力的，把這些機器都稱之為叫機器人，機器人永遠不要傷害人類。但是現(xiàn)在看來這個原則已經(jīng)被打破。所以，我們可能有一個建議說，因為現(xiàn)在各國都在AI跟武器結合方面，世界各國都在展開軍備競賽，這也是未來大國角力的焦點。
所以，AI武器應該把最后的決定權，應該讓人來做最后的控制，而不是完全讓AI做自動的判斷、自動的決策。包括深度偽造技術，前面已經(jīng)講了，這個技術也涉及到對人的利益的傷害。不僅可以用于網(wǎng)絡詐騙，制造色情視頻，甚至偽造新聞，誤導輿論。
你比如說，最近有人用馬斯克的視頻，深度偽造。偽造了一個他鼓動粉絲購買特定的虛擬貨幣的事件，害得馬斯克不得不出來辟謠，說這個視頻是別人用Deepfake來偽造的。
AI最大的一個問題，也是現(xiàn)在我們國家很多學者都在討論的，AI在社會倫理上，有可能超出現(xiàn)有的社會法律和道德的規(guī)范。
比如說，有一個電車難題，如何認定無人駕駛車出事以后的責任。比如說在高速行駛之中，自動駕駛汽車，如果避讓行人，可能會撞上旁邊的障礙物，導致車主人身傷亡；如果不避讓，就會導致行人傷亡。在這種情況下，就有兩個問題，AI的程序應該如何來做出判斷。第二個，如果出了車禍，到底這個責任應該算是AI的，算是車廠的，還算是駕駛員的，所以這些問題應該說都還沒有一個明確的答案。
前面我們講了數(shù)字化技術帶來了諸多挑戰(zhàn)，但是今天也有很多人，對安全的認識還停留在計算機安全和網(wǎng)絡安全的時代，以為安全就是殺殺病毒，防防木馬，用防火墻隔離等傳統(tǒng)手段。
面對大數(shù)據(jù)、人工智能各種復雜的安全挑戰(zhàn)，我覺得網(wǎng)絡安全還應該重新被定義，要將計算機安全、網(wǎng)絡安全升級到數(shù)字安全，才能跟得上整個行業(yè)的發(fā)展要求，才能跟得上國家的產(chǎn)業(yè)數(shù)字化的發(fā)展要求，才能保障我們進入數(shù)字文明時代。
當前一個重要的變化是，人工智能安全已經(jīng)上升為國家安全的重要組成部分，《國家安全戰(zhàn)略（2021年-2025年）》明確提出加快提升網(wǎng)絡安全、數(shù)據(jù)安全、人工智能安全等領域的治理能力，這也是國家戰(zhàn)略層面首次提出來，人工智能安全的概念，說明人工智能安全是數(shù)字安全的一部分，也是平常我們所說的“非傳統(tǒng)安全”。
反過來，說了半天AI的問題，我們講數(shù)字化技術也是一把雙刃劍。人工智能技術高速發(fā)展，帶來安全挑戰(zhàn)的同時，也為解決網(wǎng)絡安全、數(shù)字安全的風險提供了新的技術手段。
現(xiàn)在AI技術已經(jīng)廣泛利用于大數(shù)據(jù)的分析、威脅情報的處理、智能防御等領域，特別是在惡意代碼的樣本檢測、惡意代碼流量分析、漏洞挖掘、僵尸網(wǎng)絡檢測、網(wǎng)絡黑灰產(chǎn)檢測等方面發(fā)揮了巨大的作用。360這幾年連續(xù)幫助國家發(fā)現(xiàn)了50個境外的國家級黑客組織，與我們對AI的使用都是分不開的。
在AI數(shù)據(jù)分析方面，人工智能在海量數(shù)據(jù)分析方面，發(fā)揮了積極重要的作用。因為大數(shù)據(jù)的數(shù)量浩如煙海，依靠人工去做發(fā)現(xiàn)是基本不可能的。必須借助人工智能，去對多維度海量、鮮活的安全大數(shù)據(jù)進行實時的分析，用算力來代替人力，然后再從中挖掘出安全的線索，再由安全專家來進行跟進。
在AI情報處理方面，人工智能可以參與漏洞的挖掘，篩選惡意的樣本、惡意的網(wǎng)址，對APT的攻擊行為進行自動化的分析跟學習，實現(xiàn)針對威脅攻擊的智能化檢測、監(jiān)測、預警和響應。
未來在AI智能防御方面，人工智能可以發(fā)現(xiàn)未知的病毒木馬，對DDoS攻擊進行監(jiān)測和預警，并對APT的攻擊溯源進行定位，有效提高安全運營的效率，大幅度提高我國的安全防御能力。
作為中國數(shù)字安全的領軍企業(yè)，360一直高度重視人工智能安全，率先在行業(yè)里進行布局，積極構建人工智能安全能力體系。我們確立了“數(shù)據(jù)制勝”為核心的新戰(zhàn)法，核心就是無論任何的攻擊，首先要強調能夠想辦法利用大數(shù)據(jù)分析，能夠看見攻擊?？匆姽?，那么隨后對它進行阻斷，進行溯源，進行封堵，進行清理，就變得比較簡單。如果看不見，那什么都是抓瞎。
所以，如何利用人工智能技術，從全網(wǎng)大數(shù)據(jù)中進行分析，建立全局視角，并且從中構建起看見的這種能力。
在新的戰(zhàn)法指導下，360應用人工智能數(shù)據(jù)分析技術，對自身積累的全球最大規(guī)模的安全大數(shù)據(jù)進行實時分析，形成360全網(wǎng)安全大腦的原型，為行業(yè)或者企業(yè)提供強大的數(shù)據(jù)和情報支撐，實現(xiàn)對網(wǎng)絡威脅進行有效的分析、預警、發(fā)現(xiàn)和阻斷。
面對人工智能自身的安全挑戰(zhàn)，360也積極參與人工智能漏洞挖掘。我們一共發(fā)現(xiàn)了150多個機器學習框架和供應鏈的漏洞，涉及到Tensorflow、Caffe、PyTorch等主流深度學習AI開源框架。我們發(fā)現(xiàn)了多款人臉識別設備的安全漏洞，利用漏洞可以實現(xiàn)遠程控制、隱私的竊取、模型文件的竊取。360的AI安全實驗室發(fā)現(xiàn)了多款移動APP、人臉識別功能方面存在的數(shù)字泄漏的安全風險。
所以，未來利用AI解決安全，也大有可為。
360將AI安全作為公司業(yè)務發(fā)展的重點方向，愿意與行業(yè)、產(chǎn)業(yè)一起開放協(xié)同創(chuàng)新。我們積極承擔安全大腦，國家新一代人工智能開放創(chuàng)新平臺的建設，目前360安全大腦開放平臺的能力，已經(jīng)落地于工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、智能網(wǎng)聯(lián)車、智慧城市、數(shù)字政府等多個場景，并且賦能教育、運營商、信創(chuàng)等諸多行業(yè)。
360還牽頭研發(fā)了人工智能安全評測與風險監(jiān)測預警平臺，入選工信部的人工智能產(chǎn)業(yè)創(chuàng)新任務揭榜單位名單。
作為中國數(shù)字安全的領軍企業(yè)，360愿意開放自身的安全大數(shù)據(jù)，將產(chǎn)業(yè)力量聯(lián)合起來，共建AI安全生態(tài)，集中推動數(shù)字安全的創(chuàng)新，其成果也將最終沉淀于安全大腦人工智能創(chuàng)新開放平臺的建設。
360還將在安全大腦人工智能開放創(chuàng)新平臺建設的基礎之上，倡導建立人工智能與開放創(chuàng)新體系，建立平臺化機制，實現(xiàn)核心研究成果的對接與轉換，賦能人工智能與安全相關的中小微企業(yè)、高校、科研院所，賦能中小微初創(chuàng)的安全企業(yè)，全球行業(yè)、AI產(chǎn)業(yè)，共享技術成果，推動產(chǎn)業(yè)健康快速發(fā)展，提升國家人工智能安全整體的防御能力。
在過去的20年里面，360核心做的就一件事，就是“安全”。希望在未來越來越富有挑戰(zhàn)的安全環(huán)境里面，我們做到真正能看見攻擊，發(fā)現(xiàn)威脅，抵御威脅。
未來360將攜手合作伙伴，共同夯實AI安全能力，把服務于國家和社會的數(shù)字安全能力復制到各個行業(yè)里，為數(shù)字中國的建設，各個行業(yè)的數(shù)字化轉型貢獻力量。
謝謝大家！
