三六零兩項成果入選“人工智能安全典型實踐案例”
來源:中金在線
?
2021-10-13 19:02:38
10月12日,2021年國家網絡安全宣傳周人工智能安全產業發展分論壇在西安成功舉辦。在論壇現場,由中國網絡空間安全協會組織評選的“人工智能安全典型實踐案例”正式公布。三六零集團(股票代碼:601360.SH,以下簡稱“360”)所提報的“360人工智能框架漏洞威脅感知系統”、“360新一代終端安全智能防護系統”兩款產品在眾多案例中脫穎而出,入選為2021年人工智能安全典型實踐案例。
500)this.width=500\" align=\"center\" hspace=10 vspace=10 alt=\"三六零兩項成果入選“人工智能安全典型實踐案例” \">
數字化時代,人工智能成為新一輪科技革命和產業變革的核心驅動力,但同時也帶來新安全治理挑戰。360集團AI安全實驗室負責人鄒權臣在論壇主旨演講中指出,“機器學習框架是人工智能基礎設施的核心,當前框架安全檢測缺少面向框架安全的、有針對性、系統性的自動化檢測工具,一旦被惡意攻擊,將會影響數以千萬計的開發者以及用戶。”
500)this.width=500\" align=\"center\" hspace=10 vspace=10 alt=\"三六零兩項成果入選“人工智能安全典型實踐案例” \">
360集團AI安全實驗室負責人鄒權臣
作為數字經濟的守護者,360依托在安全大數據、攻防專家團隊等優勢,融合人工智能與安全自主研發了360人工智能框架漏洞威脅感知系統,該系統能夠從算法實現、漏洞類型、編譯優化等多角度持續開展對機器學習框架的安全風險研究,并采用動、靜結合的分析方法對Python、C++、Go等不同語言中的不同漏洞類型進行全面系統的檢測,檢測過程著重關注從訓練到推理、從數據到模型、從云端到終端過程中存在的安全風險。此外,該系統基于豐富的安全專家知識庫,能夠提供對AI框架業務的定制化檢測,如對計算圖優化、圖編譯、分布并行等模塊的安全性檢測。
近期,360人工智能框架漏洞威脅感知系統對國內外主流開源AI框架進行了安全性評測,累計7款機器學習框架(如Tensorflow、PyTorch等)漏洞150+個,框架供應鏈漏洞200+個,并幫助各廠商對漏洞進行了修復。值得一提的是,360 AI安全實驗室已經累計發現并幫助谷歌修復Tensorflow漏洞98個(CVE),其中高危、嚴重漏洞共24個,在數量上均位列全球首位。
據介紹,360 AI安全實驗室專注于人工智能與安全前沿技術研究,發現AI框架、智能設備、AI應用等多維度AI系統安全風險,并提供安全評測和防護服務;開展AI賦能網絡安全的研究工作,致力于應用AI技術在惡意代碼識別、流量分析、漏洞挖掘等重要場景中取得突破性進展。
鄒權臣在論壇最后強調,360 AI實驗室還承擔了由科技部批復、360集團承建的“安全大腦國家新一代人工智能開放創新平臺”的建設工作。該平臺致力于解決人工智能系統安全風險、人工智能在網絡安全領域創新成果落地難以及創新環境匱乏等問題。未來,360將通過平臺運營,建立人工智能與安全開放創新體系,實現核心研究成果的對接與轉化,推動產業健康快速發展。
數字化時代,人工智能成為新一輪科技革命和產業變革的核心驅動力,但同時也帶來新安全治理挑戰。360集團AI安全實驗室負責人鄒權臣在論壇主旨演講中指出,“機器學習框架是人工智能基礎設施的核心,當前框架安全檢測缺少面向框架安全的、有針對性、系統性的自動化檢測工具,一旦被惡意攻擊,將會影響數以千萬計的開發者以及用戶。”
作為數字經濟的守護者,360依托在安全大數據、攻防專家團隊等優勢,融合人工智能與安全自主研發了360人工智能框架漏洞威脅感知系統,該系統能夠從算法實現、漏洞類型、編譯優化等多角度持續開展對機器學習框架的安全風險研究,并采用動、靜結合的分析方法對Python、C++、Go等不同語言中的不同漏洞類型進行全面系統的檢測,檢測過程著重關注從訓練到推理、從數據到模型、從云端到終端過程中存在的安全風險。此外,該系統基于豐富的安全專家知識庫,能夠提供對AI框架業務的定制化檢測,如對計算圖優化、圖編譯、分布并行等模塊的安全性檢測。
近期,360人工智能框架漏洞威脅感知系統對國內外主流開源AI框架進行了安全性評測,累計7款機器學習框架(如Tensorflow、PyTorch等)漏洞150+個,框架供應鏈漏洞200+個,并幫助各廠商對漏洞進行了修復。值得一提的是,360 AI安全實驗室已經累計發現并幫助谷歌修復Tensorflow漏洞98個(CVE),其中高危、嚴重漏洞共24個,在數量上均位列全球首位。
據介紹,360 AI安全實驗室專注于人工智能與安全前沿技術研究,發現AI框架、智能設備、AI應用等多維度AI系統安全風險,并提供安全評測和防護服務;開展AI賦能網絡安全的研究工作,致力于應用AI技術在惡意代碼識別、流量分析、漏洞挖掘等重要場景中取得突破性進展。
鄒權臣在論壇最后強調,360 AI實驗室還承擔了由科技部批復、360集團承建的“安全大腦國家新一代人工智能開放創新平臺”的建設工作。該平臺致力于解決人工智能系統安全風險、人工智能在網絡安全領域創新成果落地難以及創新環境匱乏等問題。未來,360將通過平臺運營,建立人工智能與安全開放創新體系,實現核心研究成果的對接與轉化,推動產業健康快速發展。