(資料圖)

人工智能大規(guī)模應(yīng)用催生了對AI安全更迫切的要求。9月1日下午，在上海“2022世界人工智能大會-可信AI論壇”現(xiàn)場，中國信通院、清華大學(xué)、螞蟻集團(tuán)聯(lián)合發(fā)布AI安全檢測平臺“蟻鑒”，面向AI模型開發(fā)者提供從模型對抗測試到防御加固的一站式測評解決方案，幫助開發(fā)者一鍵識別和挖掘模型漏洞，打造更安全可靠的AI。

記者了解到，這也是行業(yè)首個面向工業(yè)場景全數(shù)據(jù)類型的AI安全檢測產(chǎn)品。該平臺基于螞蟻多年的風(fēng)險對抗實踐，集1000多件可信AI專利于一身，融合了自研的智能博弈對抗技術(shù)，可以實現(xiàn)文本、圖像、表格、序列等不同數(shù)據(jù)類型的自動化測試、量化評分和安全性增強(qiáng)。

(圖：在世界人工智能大會可信AI論壇上，中國信通院、清華大學(xué)、螞蟻集團(tuán)發(fā)布AI安全檢測平臺“蟻鑒”。)

螞蟻集團(tuán)大安全技術(shù)部總裁李俊奎介紹，該平臺內(nèi)嵌了自研的AI安全計算引擎，計算性能提升了數(shù)十倍；內(nèi)置了40余種國內(nèi)外主流及自研的攻擊算法模型，通過模擬黑產(chǎn)及自動進(jìn)化攻擊手段，對AI模型“檢測—防御—升級”，可有效發(fā)現(xiàn)AI模型漏洞，減少系統(tǒng)性風(fēng)險；此外，該平臺覆蓋了對模型未知情況下的“隨機(jī)噪聲”、“遷移攻擊”等攻擊樣本，更符合工業(yè)界應(yīng)用的攻擊評測基準(zhǔn)。

李俊奎說，該平臺支持零編碼測評，用戶上傳待測模型，選擇攻擊算法后，平臺可自動化評估AI安全風(fēng)險，全面加固模型算法。該平臺現(xiàn)已開放AI模型魯棒性測評，未來持續(xù)增加模型可解釋性、算法公平性、隱私保護(hù)等特性的檢測服務(wù)。

據(jù)介紹，“蟻鑒”AI安全檢測平臺搭載的技術(shù)能力，已在螞蟻的交易安全、核身安全、內(nèi)容安全等多個場景有效應(yīng)用實踐。例如，在垃圾賬號治理場景上，通過平臺基于深度神經(jīng)網(wǎng)絡(luò)的博弈攻防模型，模擬黑產(chǎn)攻擊手段提前防御，風(fēng)險賬號漏過減少2成多；在內(nèi)容安全文本場景，基于文本對抗訓(xùn)練的模型，降低風(fēng)險漏過38%；在憑證認(rèn)證場景，基于平臺提前發(fā)現(xiàn)的模型問題和對抗訓(xùn)練增強(qiáng)方案，消除23%的潛在黑產(chǎn)攻擊威脅項。

(圖：在世界人工智能大會展區(qū)，螞蟻集團(tuán)展示了基于多年的風(fēng)險對抗實踐開發(fā)的AI安全檢測平臺。)

中國信通院云計算與大數(shù)據(jù)研究所內(nèi)容科技部副主任石霖表示，人工智能技術(shù)與制造、醫(yī)療、能源、交通、城市建設(shè)等領(lǐng)域深度融合，AI算法問題也在不斷出現(xiàn)。算法黑箱、算法設(shè)計缺陷、數(shù)據(jù)依賴、對抗樣本攻擊等問題對智能技術(shù)的產(chǎn)業(yè)化應(yīng)用帶來較大安全隱患。AI面向工業(yè)場景大規(guī)模應(yīng)用，要實現(xiàn)全鏈路安全可信，持續(xù)加強(qiáng)模型魯棒性。

清華大學(xué)副教授李琦表示，人工智能算法的通用自動化檢測是研究和解決人工智能安全問題的核心。此次推出的AI安全檢測平臺，首次全面解決了不同場景下AI算法的系統(tǒng)化和自動化評測，并提供了AI工業(yè)級應(yīng)用的安全量化評價指標(biāo)，有助于為人工智能算法在工業(yè)界的大規(guī)模應(yīng)用提供安全保障。

公開資料顯示，今年8月份，這項AI安全檢測平臺獲評信通院“2022年可信人工智能實踐案例”標(biāo)桿案例。螞蟻集團(tuán)自2015年起投入可信AI技術(shù)研究，擁有全球范圍內(nèi)數(shù)量最多的“AI安全可信關(guān)鍵技術(shù)”專利，已在反欺詐、反洗錢、反盜用、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護(hù)等場景落地。