QQ在線
企業(yè)微信
資訊
432
數(shù)字時(shí)代是人工智能（AI）深度應(yīng)用和發(fā)展的時(shí)代。AI的發(fā)展，正在以一日千里的速度改變著這個(gè)世界，并在交通、醫(yī)療、環(huán)境保護(hù)、城市管理等多個(gè)領(lǐng)域中，發(fā)揮著越來越不可替代的作用。但同時(shí)，AI的安全性問題，也成為了數(shù)字化發(fā)展進(jìn)程中不可回避的問題。在數(shù)字經(jīng)濟(jì)欣欣向榮的發(fā)展態(tài)勢(shì)下，安全被許多業(yè)內(nèi)人士視為木桶上的那一塊“短板”。
如何讓安全為數(shù)字化發(fā)展“保駕護(hù)航”？8月6日，2021新京報(bào)貝殼財(cái)經(jīng)夏季峰會(huì)——數(shù)字經(jīng)濟(jì)時(shí)代的風(fēng)險(xiǎn)防控線上論壇舉行，螞蟻集團(tuán)副總裁，螞蟻集團(tuán)安全事業(yè)群總裁趙聞飆表示，可信人工智能的研究和落地或是抵御“數(shù)字化”風(fēng)險(xiǎn)的關(guān)鍵能力。
用可信AI解決智能化風(fēng)險(xiǎn)
伴隨著數(shù)字化經(jīng)濟(jì)的發(fā)展，用戶在享受數(shù)字化帶來的便捷與普惠的同時(shí)，也面臨數(shù)字化背后的風(fēng)險(xiǎn)，如羊毛黨通過操縱多賬戶套取商戶營(yíng)銷資金、個(gè)人用戶遭遇網(wǎng)絡(luò)欺詐、賬戶盜用等。“過去，我們一直重點(diǎn)談的是‘?dāng)?shù)字化’背后的風(fēng)險(xiǎn)和應(yīng)對(duì)，而對(duì)‘智能化’背后的風(fēng)險(xiǎn)講得很少。因?yàn)楫?dāng)時(shí)行業(yè)普遍認(rèn)為，人工智能技術(shù)的落地應(yīng)用還相對(duì)有限。但事實(shí)上，早在六七年前，我們就在平常應(yīng)對(duì)黑產(chǎn)攻擊中，發(fā)現(xiàn)了AI的痕跡?！壁w聞飆表示。
新京報(bào)貝殼財(cái)經(jīng)記者注意到，當(dāng)下的確有越來越多的黑灰產(chǎn)團(tuán)伙將AI等新技術(shù)投入到了薅羊毛、詐騙等非法活動(dòng)中。如使用AI工具操控大量賬號(hào)進(jìn)行違規(guī)操作、使用AI換臉技術(shù)試圖繞過人臉識(shí)別認(rèn)證等。
這意味著伴隨人工智能技術(shù)的高速發(fā)展和加持，數(shù)字化背后的風(fēng)險(xiǎn)將持續(xù)加劇，并且演變?yōu)椤爸悄芑北澈蟮娘L(fēng)險(xiǎn)挑戰(zhàn)。
據(jù)了解，目前黑產(chǎn)作案越來越趨于多平臺(tái)、多鏈路、團(tuán)隊(duì)化和智能化。這對(duì)行業(yè)協(xié)同、風(fēng)險(xiǎn)響應(yīng)機(jī)制的速度和準(zhǔn)確性提出了更高的要求，而且還需要切合“數(shù)字化浪潮”下社會(huì)對(duì)于隱私保護(hù)、技術(shù)倫理治理等多方面的需求。
在趙聞飆看來，要對(duì)抗“智能化”的風(fēng)險(xiǎn)，就需要“智能化”的手段，這也是“可信AI”技術(shù)進(jìn)入快速發(fā)展階段的核心驅(qū)動(dòng)力?？尚臕I技術(shù)要求人工智能技術(shù)應(yīng)當(dāng)具備可解釋性，以幫助人類理解和信賴他們的決策；具備魯棒性（robustness），以抵御黑產(chǎn)的攻擊，以保障計(jì)算和決策的穩(wěn)定性和效能；具備隱私保護(hù)的能力，以滿足社會(huì)和民眾對(duì)于個(gè)人數(shù)據(jù)資產(chǎn)保護(hù)的需求；具備公平性，強(qiáng)調(diào)決策結(jié)果的公平性，同時(shí)關(guān)注技術(shù)背后的社會(huì)責(zé)任和倫理治理。
“數(shù)字時(shí)代，安全是AI與AI的博弈，而可信AI，則是抵御風(fēng)險(xiǎn)的關(guān)鍵能力?！?/span>
面向可信AI技術(shù)的下一代風(fēng)控體系“IMAGE”
據(jù)了解，螞蟻集團(tuán)自2015年起投入可信AI技術(shù)的研究。2016年，全面啟動(dòng)了人工智能風(fēng)控防御戰(zhàn)略。目前，可信AI技術(shù)已在包括反欺詐、反洗錢、反盜用、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護(hù)在內(nèi)的多個(gè)風(fēng)控場(chǎng)景下落地，支撐著其全風(fēng)險(xiǎn)域的防御需求。根據(jù)今年6月全球?qū)＠麢?quán)威機(jī)構(gòu)IPR Daily發(fā)布的報(bào)告，螞蟻集團(tuán)目前擁有全球范圍內(nèi)數(shù)量最多的“AI安全可信關(guān)鍵技術(shù)”專利，并上線部署了以“IMAGE”命名的下一代風(fēng)控體系。它包含著“交互式風(fēng)控”、“多方安全風(fēng)控”、“智能決策”、“全圖風(fēng)控”、“端云協(xié)同風(fēng)控”五大組成部分。
趙聞飆表示，“全圖風(fēng)控”技術(shù)能夠以“圖”的形態(tài)，聚合“動(dòng)態(tài)發(fā)展變化的風(fēng)險(xiǎn)信息”，解決了傳統(tǒng)風(fēng)控中只能依靠單一或靜態(tài)信息維度追蹤風(fēng)險(xiǎn)的困境，實(shí)現(xiàn)對(duì)風(fēng)險(xiǎn)變化趨勢(shì)的預(yù)測(cè)，提前遏制風(fēng)險(xiǎn)的發(fā)生。在反電詐等風(fēng)控場(chǎng)景，對(duì)于打擊團(tuán)伙型、多鏈路作案，具有重要意義。而“全圖式”的風(fēng)險(xiǎn)分析和追蹤形式，也對(duì)人工智能的“可解釋性”發(fā)展提供了更廣泛的空間。
而“多方安全風(fēng)控”和“端云協(xié)同風(fēng)控”則是“智能化”趨勢(shì)下，實(shí)現(xiàn)風(fēng)控與隱私保護(hù)平衡發(fā)展的實(shí)踐探索?！岸喾桨踩L(fēng)控”實(shí)現(xiàn)了在數(shù)據(jù)不交換的前提下，多企業(yè)、多平臺(tái)之間的聯(lián)合風(fēng)控協(xié)作?！岸嗽茀f(xié)同風(fēng)控”的價(jià)值則是保障數(shù)據(jù)的使用和保有權(quán)真正屬于用戶。通過將風(fēng)控模型部署在智能終端，如手機(jī)上，螞蟻的技術(shù)團(tuán)隊(duì)建立起了一套“終端進(jìn)行數(shù)據(jù)計(jì)算和決策、云端僅獲取決策結(jié)果”的風(fēng)控模式。終端計(jì)算，意味著敏感信息被保留在用戶手中，規(guī)避了信息傳輸過程中可能出現(xiàn)的被攻擊風(fēng)險(xiǎn)。云端僅獲取決策，不僅保障了安全防御和風(fēng)險(xiǎn)控制不受影響，還節(jié)約了云端的計(jì)算資源。目前，“端云協(xié)同風(fēng)控”已經(jīng)被廣泛用于支付寶的日常風(fēng)控中，在去年的雙十一期間，98%的風(fēng)控決策都是在用戶智能終端上完成的。
趙聞飆在分享中強(qiáng)調(diào)，傳統(tǒng)風(fēng)控受制于技術(shù)成本、數(shù)據(jù)規(guī)模和算法效能，許多場(chǎng)景還是專家經(jīng)驗(yàn)驅(qū)動(dòng)，而不是數(shù)據(jù)智能驅(qū)動(dòng)?！爸Ц秾毭刻煊袛?shù)億筆交易，面對(duì)如此龐大的計(jì)算量，一旦決策產(chǎn)生延遲，就給了黑產(chǎn)可乘之機(jī)?！?通過人工智能與金融風(fēng)控的深度融合，螞蟻安全實(shí)驗(yàn)室打造了能夠?qū)崿F(xiàn)“智能決策”的AI大腦——AlphaRisk。其能夠在零人工干預(yù)的全自動(dòng)模式下，對(duì)風(fēng)險(xiǎn)進(jìn)行毫秒級(jí)的響應(yīng)。但更重要的是——AlphaRisk具備的自學(xué)習(xí)、自適應(yīng)的能力，將極大地提升人工智能的抗打擊能力。AI大腦通過對(duì)每一次黑產(chǎn)攻擊行為的學(xué)習(xí)和研究，不斷提升防御手段，進(jìn)行高效的自我進(jìn)化。
在技術(shù)快速發(fā)展的同時(shí)，可信AI的公平性也考驗(yàn)著研究者對(duì)社會(huì)責(zé)任的堅(jiān)守。趙聞飆提到，早在2016年，螞蟻就成立了針對(duì)電信網(wǎng)絡(luò)詐騙的技術(shù)研究小組，借助包括“圖神經(jīng)網(wǎng)絡(luò)”“博弈攻防”在內(nèi)的一系列創(chuàng)新技術(shù)應(yīng)用，極大地遏制了平臺(tái)電詐發(fā)生率。但許多騙子引導(dǎo)受害人轉(zhuǎn)而使用其他的支付渠道，社會(huì)欺詐問題仍舊嚴(yán)峻。如何依靠技術(shù)力量，真正將詐騙罪案止步于支付環(huán)節(jié)，成為研究的重點(diǎn)，“交互式風(fēng)控”也因此應(yīng)運(yùn)而生。
貝殼財(cái)經(jīng)記者注意到，區(qū)別于以往的安全風(fēng)控模式，交互式主動(dòng)風(fēng)控的關(guān)鍵在于“主動(dòng)”二字——傳統(tǒng)的安全往往依賴于已知風(fēng)險(xiǎn)模式，只有風(fēng)險(xiǎn)發(fā)生過，才知道如何預(yù)防，這也使得安全風(fēng)控往往處于“被動(dòng)防守”的態(tài)勢(shì)。
對(duì)此，趙聞飆表示，安全必須從靜態(tài)的被動(dòng)防守，轉(zhuǎn)變?yōu)閯?dòng)態(tài)的主動(dòng)對(duì)抗，特別是金融安全。“以交互式風(fēng)控產(chǎn)品‘叫醒熱線’為例，當(dāng)用戶被騙子誘導(dǎo)轉(zhuǎn)賬時(shí)，AI機(jī)器人將向用戶發(fā)出來電提醒。充分學(xué)習(xí)了欺詐罪案分析的AI機(jī)器人，能夠捕捉用戶交流中的關(guān)鍵信息，采取恰當(dāng)有效的反詐勸阻話術(shù)和措施。為了跟騙子拼速度，目前螞蟻的反詐騙叫醒熱線中，有超9成電話是由AI打出的，叫醒成功率超過了人工客服。除了事中的防護(hù)，如果用戶深度受騙、執(zhí)意支付，技術(shù)人員還開發(fā)了‘延遲到賬’和‘資金截留’的功能，讓欺詐者沒有辦法支取贓款?！?/span>
“人工智能技術(shù)的快速發(fā)展，引領(lǐng)了第四次工業(yè)革命的浪潮。而可信人工智能的研究和落地，則代表了人工智能技術(shù)發(fā)展的新階段。在未來，與人類社會(huì)深度耦合的人工智能技術(shù)，如何在安全、可信、公平的原則下，持續(xù)發(fā)展和進(jìn)步？這是每一位從業(yè)者和研究者，為推動(dòng)科技有序、健康發(fā)展都不應(yīng)回避的命題?！壁w聞飆表示。
