“2021 世界人工智能大會-可信 AI 論壇” 今日在上海召開，來自美、英、澳等多國院士、學者，共同探討可信 AI 從認知演進，到理論研究，再到產(chǎn)業(yè)探索等多個的議題。螞蟻集團副總裁、首席 AI 科學家漆遠教授在會上透露，繼 “隱私計算” 和 “圖學習” 技術取得實踐成果后，螞蟻集團在可信 AI 技術體系中的又一項重要技術——“智能對抗” 技術現(xiàn)已正式上線部署，支持反欺詐等多個風控場景。

漆遠在會上分享了螞蟻集團在可信 AI 技術領域的多項技術和應用成果。他表示，融入經(jīng)濟學 “博弈理論” 的 “智能對抗” 技術，能夠借助 “雙手互博” 的演習機制，讓 AI 模擬黑產(chǎn)發(fā)起對自身的攻擊演練，從而幫助 AI 在風險識別能力、抗打擊能力上持續(xù)、自動進化升級。據(jù)悉，該技術應用于金融風控領域，在業(yè)內(nèi)尚屬首次。

做好未來 5 年的技術儲備 “智能對抗” 技術已上線

“未來的風控將不再是人和人的斗爭，而是 AI 與 AI 的博弈，” 漆遠在演講中表示，“在支付寶上，每天上億筆交易背后，發(fā)起攻擊的早已不是散戶，而是專業(yè)的黑產(chǎn)團伙。”

為了應對復雜多變的黑產(chǎn)攻擊，如何持續(xù)加強風控模型的抗打擊能力，做到 “魔高一尺，道高一丈” 成為擺在螞蟻集團技術團隊面前的難題。

2018 年，漆遠帶領著螞蟻集團 AI 技術骨干，在人工智能模型算法中融入經(jīng)濟學 “博弈理論”，開發(fā)了一項業(yè)界全新的技術——“智能對抗”，即通過結(jié)合 AI 和博弈對抗，讓機器自動且實時、動態(tài)地對自身系統(tǒng)進行安全性攻擊，從而提升模型能力，使模型更加魯棒（robust），處理結(jié)果更加準確。

就像金庸小說里的 “雙手互博”，借助 “智能對抗” 技術，用更智能的 “攻”，實現(xiàn)更安全的 “防”。 “智能對抗” 技術在權威機構(gòu) Gartner 發(fā)表的白皮書中被列為 2021 年十大金融科技趨勢之一。因該技術具有對風險知識形成感知、分析和預測的能力，未來將成為可信 AI 領域的核心安全技術。

記者了解到，自 2018 年起，螞蟻集團 “智能對抗” 技術的相關研究成果已陸續(xù)在包括 ICML、ICLR 在內(nèi)的全球技術頂會上發(fā)表，擁有全球?qū)＠?8 項。2020 年，“智能對抗” 技術正式應用于支付寶反欺詐，目前已覆蓋支付寶風控的賬戶、欺詐、交易安全等多個場景，對 AI 模型的魯棒性（robustness）有明顯提升。

可信 AI 是數(shù)字時代 “抵御風險” 的關鍵能力

隨著數(shù)字化進程的不斷加速，AI 在推進傳統(tǒng)產(chǎn)業(yè)數(shù)字化升級的過程中作用顯著。在借助 AI 防御數(shù)字經(jīng)濟風險的同時，如何確保 AI 的安全、可信和公平成為全行業(yè)關注的重要課題。

今年 6 月，螞蟻集團首次向外界發(fā)布了螞蟻可信 AI 技術架構(gòu)體系，具體來看：拓展數(shù)據(jù)價值的隱私計算技術，實現(xiàn)「數(shù)據(jù)不動價值動」的重要命題；“博弈與魯棒性” 是保障 AI 可信及穩(wěn)定運營的關鍵，“可解釋性與因果分析” 和 “公平性” 的研究能夠幫助人類更好地信任及依賴 AI 做出正確決策。

全球?qū)＠麢嗤C構(gòu) IPR Daily 在 6 月發(fā)布報告顯示，螞蟻集團目前擁有全球范圍內(nèi)數(shù)量最多的 “AI 安全可信關鍵技術” 專利。

可信 AI 不再是理論和暢想，已全面應用實踐

作為數(shù)字經(jīng)濟中 “抵御風險” 的關鍵，可信 AI 技術目前已在螞蟻集團包括反欺詐、反洗錢、反賭博、企業(yè)聯(lián)合風控、數(shù)據(jù)隱私保護在內(nèi)的多個風控場景下落地，支撐著支付寶全風險域的防御需求，也是 “螞蟻反欺詐智能風險感知與響應系統(tǒng)” 的核心技術。

除金融風控場景外，可信 AI 技術還被廣泛應用于數(shù)據(jù)隱私保護、金融科技服務等多個領域。前不久，采用可信 AI 技術的網(wǎng)商銀行 “大山雀” 衛(wèi)星遙感風控系統(tǒng)項目獲評農(nóng)業(yè)部農(nóng)村部農(nóng)村金融十佳創(chuàng)新實踐。

同時，圍繞 AI 公平性的建設和發(fā)展，螞蟻先后啟動了針對不發(fā)達地區(qū)的 “AI 豆計劃”、針對視障礙人群的 “空中手勢” 驗證碼方案等項目。通過可信 AI 技術的研究和投入，促進相對落后地區(qū)的經(jīng)濟發(fā)展，幫扶弱勢群體，彌合數(shù)字鴻溝。