所在位置: 前沿科技首頁 > 最新文章 > 人工智能  > 正文

校企聯手打造全球頂尖AI安全賽事 邀“挑戰者”模擬攻擊人工智能

2020-09-27 13:35:39 來源: 經濟日報-中國經濟網 作者:

自動駕駛汽車突然無法識別前方障礙物?可能是人工智能系統已被黑客攻擊。近日,第七屆國家網絡安全周剛剛閉幕,全球首個針對目標檢測算法的對抗攻擊競賽也落下帷幕,這項全球頂尖AI安全賽事是清華大學聯合阿里巴巴主辦、數據挖掘頂會CIKM強力支持的安全AI挑戰者計劃第四期,旨在培養實戰型的網絡安全一流人才。

針對目前的人工智能安全問題,多位專家表示,人工智能作為我國重要發展戰略之一,正面臨著重要發展機遇,但當前以深度學習為代表的人工智能算法安全性不足,在實際應用中仍然存在安全隱患,解決網絡空間的安全風險更需要高層次人才支撐,需要形成校企聯合、產教融合的大格局,在實踐中摔打培養人才。

 召集“挑戰者” 共同打磨AI安全

重慶理工大學計算機科學與工程學院研三學生劉野從2019年8月開始參加安全AI挑戰者計劃,從第一期人臉識別對抗競賽,再到第二期ImageNet圖像分類對抗攻擊競賽、第三期全球首個辱罵文本對抗攻擊競賽,他每期都參加,最終在本期獲得第一名,并報名參加了剛剛開啟的第五期全球首個針對證件文檔類圖像偽造的對抗攻擊競賽。

目前,已有來自全球超過200所高校、100多家企業超6000支隊伍參加這項賽事。第四期由清華大學人工智能研究院出題,挑戰者通過向原始圖像中添加對抗補丁的方式,使目標檢測模型無法檢測到圖像中的物體,目的是為了發現目標檢測模型的脆弱性,為此領域的工作者敲響警鐘。

中國科學院院士、清華大學人工智能研究院院長張鈸表示,人工智能作為國家重要發展戰略之一,面臨發展機遇的同時也帶來了諸多挑戰。“當前以深度學習為代表的人工智能算法在實際應用中存在嚴重的安全隱患,如何提升算法的安全性和可靠性,是清華提出發展第三代人工智能的重要目標之一,也是算法大規模部署和應用的基礎。”張鈸說,培養一流的人工智能安全技術人才,顯得尤為關鍵。為了抵御未來AI面臨的安全風險,清華大學聯合阿里巴巴,以對抗樣本為核心,提供場景、技術、數據、算力等支持,召集“挑戰者”以防守者的身份共同打磨AI模型安全,同時為廣大安全愛好者提供數字基建安全的試煉場,在高難度的真實攻防環境中提升技術,培養真正有安全實戰能力的安全基建人才。

目前,安全AI挑戰者計劃目前已收到2000萬條惡意樣本,沉淀40多個具有前沿創新性的參賽源碼和方案,激發出高校學生在安全AI領域極大的創造力,也為實際業務問題的解決貢獻了力量,最大程度填補和緩解AI安全人才缺口。

以賽育人 培養實戰型安全人才

就在比賽收尾之際,9月14日召開的國家網絡安全宣傳周上,多位學界、業界專家學者在高峰論壇主論壇上聚焦網絡安全人才培養。信息工程大學校長郭云飛表示,當前我國的網絡安全人才缺口在100萬人左右,網絡安全的本質在對抗,對抗的本質是攻防兩方的博弈,因此網絡安全人才必須做到理論和實踐相結合,形成校企聯合、產教融合的大格局,在實踐中摔打培養人才,大家一條心一盤棋共鼓勁共擔責任,就能為黨和國家輸送更多優秀的網絡安全人才。

當數字技術正在構建前所未有的新世界,阿里安全團隊面對的是互聯網企業中最豐富的業態和風險。

阿里安全首席架構師錢磊介紹,阿里安全已從最初的網絡安全攻防進化出了新一代安全架構的三層體系:從軟件供應鏈安全、漏洞檢測等多個維度保障數字基建的“安全基建層”,由攻防技術、數據安全技術等構建的“安全技術層”,以及兼具態勢感知與應急響應能力的“安全運營層”,三者共同組成互聯網安全服務的精細化防御“堡壘”。作為國內領先互聯網企業,阿里巴巴將多年積累的安全標準及能力與社會共享,護航“新基建”,并通過校企合作等方式培養更多安全專業人才,安全AI挑戰者計劃正是其中一項重要舉措。

張鈸表示,清華大學在人工智能基礎研究領域有長期的積累,此次聯合AI領域的領軍企業阿里巴巴,校企聯合打造全球頂尖安全AI賽事,就是為了培養一流的實戰型人工智能和網絡安全人才,謀國家發展之所需,推動我國人工智能領域的快速發展。

責任編輯: 桂楷東
国产亚洲欧洲日韩在线观看