QQ在線
企業(yè)微信
資訊
339
人工智能首個防御軟件，清華團(tuán)隊(duì)RealAI開辟全新商業(yè)模式
近年來，機(jī)器學(xué)習(xí)作為人工智能行業(yè)的“重頭戲”，得到了前所未有的發(fā)展，其中基于計(jì)算機(jī)視覺的人臉識別技術(shù)更是滲透到了社會生活的方方面面。然而，這些看似無比“聰明”的AI系統(tǒng)卻時常會表現(xiàn)出“脆弱”的一面。
例如，在一些訓(xùn)練數(shù)據(jù)無法覆蓋到的極端場景中，自動駕駛汽車的識別系統(tǒng)可能出現(xiàn)匪夷所思的決策，引發(fā)致人死亡的嚴(yán)重事故。
此外，這類極端情形也可能被惡意制造并利用，發(fā)動“對抗樣本攻擊”，即通過對輸入數(shù)據(jù)進(jìn)行細(xì)微的、肉眼無法察覺的修改就可以誤導(dǎo)識別系統(tǒng)讓其給出錯誤判斷。比如百度、騰訊等研究機(jī)構(gòu)就曾人為制作出誤導(dǎo)自動駕駛汽車的“障礙物”，讓車輛駛?cè)肽嫘熊嚨郎踔撩媾R撞擊風(fēng)險(xiǎn)。
其實(shí)這些安全風(fēng)險(xiǎn)的背后都是由于現(xiàn)有的人工智能存在技術(shù)性缺陷，即算法漏洞，隨著人工智能的落地應(yīng)用逐步從語音識別、人臉識別等受限場景延伸至金融決策、醫(yī)療診斷、自動駕駛等關(guān)鍵核心場景，算法漏洞的威脅將愈發(fā)凸顯出來。
為了解決以上問題，已經(jīng)有科技公司開始了相關(guān)研究和應(yīng)用開發(fā)，包括百度針對對抗樣本開發(fā)的工具包AdvBox，IBM推出的檢測模型及對抗攻擊的開源工具箱ART（Adversarial Robustness Toolbox）。
最近，一家定位為“安全可控第三代人工智能”的創(chuàng)業(yè)公司，孵化自清華大學(xué)AI研究院的RealAI（瑞萊智慧）正式發(fā)布業(yè)界首個針對AI在極端和對抗環(huán)境下的算法安全性檢測與加固的工具平臺——RealSafe人工智能安全平臺。與百度、微軟推出的工具不同，RealSafe是目前算法安全領(lǐng)域出現(xiàn)的首個平臺級產(chǎn)品。
業(yè)界首個針對AI在極端和對抗環(huán)境下的算法安全性檢測與加固的工具平臺
業(yè)界首個AI模型“殺毒軟件”，RealAI開辟全新商業(yè)賽道
據(jù)RealAI CEO田天介紹，不同于用AI技術(shù)賦能網(wǎng)絡(luò)安全、安防等傳統(tǒng)安全領(lǐng)域，算法安全關(guān)注的是人工智能本身的安全性，這一安全風(fēng)險(xiǎn)本質(zhì)上由人工智能“技術(shù)短板”所導(dǎo)致，將是限制人工智能發(fā)展最明顯的“軟肋”。
目前學(xué)術(shù)界跟產(chǎn)業(yè)界都開始意識到算法安全的重要性，2018年中國信息通信研究院安全研究編制的《人工智能安全白皮書》中，將“算法安全”列為人工智能六大安全風(fēng)險(xiǎn)之一，只不過在具體的應(yīng)對措施上，目前仍然存在諸多挑戰(zhàn)。
第一，作為新興領(lǐng)域，業(yè)界對于如何評價算法模型的安全性并沒有清楚的定義。而隨著攻防相互的發(fā)展，對抗樣本等新型攻擊手段層出不窮，而且變得愈發(fā)復(fù)雜，尤其在開源社區(qū)、工具包的加持下，高級復(fù)雜攻擊方法快速增長，但是相關(guān)防御手段的升級卻難以及時跟上。
第二，對抗樣本等算法漏洞檢測存在較高的技術(shù)壁壘，目前市面上缺乏自動化檢測評估工具，而大部分企業(yè)與組織不具備該領(lǐng)域的專業(yè)技能來妥善應(yīng)對日益增長的惡意攻擊。因此，在潛在層面上，隨著人工智能的大規(guī)模應(yīng)用，算法漏洞帶來的安全威脅將持續(xù)升級。
所以，田天表示，就如網(wǎng)絡(luò)安全時代，網(wǎng)絡(luò)攻擊的大規(guī)模滲透誕生出殺毒軟件，RealAI團(tuán)隊(duì)希望通過RealSafe平臺打造出人工智能時代首個“殺毒軟件”，幫助企業(yè)高效應(yīng)對人工智能時代下算法漏洞孕育出的“新型病毒”。
從安全測評到防御加固，RealSafe高效應(yīng)對算法威脅
據(jù)介紹，RealSafe平臺提供從算法安全評測到防御加固整體解決方案，主要支持兩大功能模塊：模型安全測評、防御解決方案。
其中，模型安全評測主要為用戶提供AI模型安全性評測服務(wù)。用戶只需接入所需測評模型的SDK或API接口，選擇平臺內(nèi)置或者自行上傳的數(shù)據(jù)集，平臺將基于多種算法生成對抗樣本模擬攻擊，并綜合在不同算法、迭代次數(shù)、擾動量大小的攻擊下模型效果的變化，給出模型安全評分及詳細(xì)的測評報(bào)告。目前已支持黑盒查詢攻擊方法與黑盒遷移攻擊方法。
防御解決方案則是為用戶提供模型安全性升級服務(wù)，目前RealSafe平臺支持五種去除對抗噪聲的通用防御方法，可實(shí)現(xiàn)對輸入數(shù)據(jù)的自動去噪處理，破壞攻擊者惡意添加的對抗噪聲。在外防御效果上，根據(jù)實(shí)測來看，部分第三方的人臉比對API通過使用RealSafe平臺的防御方案加固后，安全性可提高40%以上。
而且為了幫助更大范圍內(nèi)的企業(yè)高效應(yīng)對算法威脅，RealSafe平臺還具備以下兩大優(yōu)勢：
組件化、零編碼的在線測評：相較于ART、FoolBox等開源工具需要自行部署、編寫代碼，RealSafe平臺采用組件化、零編碼的功能設(shè)置，免去了重復(fù)造輪子的精力與時間消耗，用戶只需提供相應(yīng)的數(shù)據(jù)即可在線完成評估，學(xué)習(xí)成本低，無需擁有專業(yè)算法能力也可以上手操作。
可視化、可量化的評測結(jié)果：為了幫助用戶提高對模型安全性的概念，RealSafe平臺采用可量化的形式對安全評測結(jié)果進(jìn)行展示，根據(jù)模型在對抗樣本攻擊下的表現(xiàn)進(jìn)行評分，評分越高則模型安全性越高。此外，RealSafe平臺提供安全性變化展示，經(jīng)過防御處理后的安全評分變化以及模型效果變化一目了然。
隨著模型攻擊手段在不斷復(fù)雜擴(kuò)張的情況下，RealSafe平臺將持續(xù)提供廣泛且深入的AI防御手段，幫助用戶獲得實(shí)時且自動化的漏洞檢測和修復(fù)能力。
從數(shù)字世界到物理世界，RealAI落地更多安全周邊產(chǎn)品
隨著機(jī)器學(xué)習(xí)模型不斷的升級演化，“對抗樣本”已經(jīng)演變成一種新型攻擊手段，并且逐漸從數(shù)字世界蔓延到物理世界。
因此，除了針對數(shù)字世界的算法模型推出安全評測平臺，RealAI團(tuán)隊(duì)也聯(lián)合清華大學(xué)AI研究院圍繞多年來積累的領(lǐng)先世界的研究成果落地了一系列AI攻防安全產(chǎn)品，旨在為更多場景保駕護(hù)航。
比如通過佩戴帶有對抗樣本圖案的“眼鏡”，黑客可以輕易破解商用手機(jī)的面部解鎖，通過在胸前張貼特制花紋實(shí)現(xiàn)在AI監(jiān)控下的“隱身”，以及通過在車輛上涂裝特殊花紋躲避AI對車輛的檢測。發(fā)現(xiàn)類似新型漏洞的同時，RealAI也推出相應(yīng)的防御技術(shù)，支持對主流AI算法中的安全漏洞進(jìn)行檢測，并提供AI安全防火墻對攻擊AI模型的行為進(jìn)行有效攔截。
人工智能的大潮滾滾而來，隨之而來的安全風(fēng)險(xiǎn)也將越來越多樣化，尤其近年來因AI技術(shù)不成熟導(dǎo)致的侵害風(fēng)險(xiǎn)也頻頻發(fā)生，可以說，算法漏洞已逐漸成為繼網(wǎng)絡(luò)安全、數(shù)據(jù)安全后又一大安全難題。而RealSafe人工智能安全平臺的出現(xiàn)，不僅在為垂直行業(yè)降低應(yīng)對安全風(fēng)險(xiǎn)的門檻與成本，同時其標(biāo)準(zhǔn)化的平臺級產(chǎn)品，也是AI安全這個新興領(lǐng)域，邁向健康可控的重要標(biāo)志。
