阿里發(fā)布自動(dòng)化AI對(duì)抗平臺(tái) 用AI“體檢”AI
Time:2020-12-14DoNews12月11日消息(記者 翟繼茹)11日,阿里圖靈實(shí)驗(yàn)室整理歸納了學(xué)界針對(duì)AI模型提出的32種攻擊方法,以此為基礎(chǔ)搭建了一個(gè)自動(dòng)化AI對(duì)抗攻擊平臺(tái)CAA,幫助檢測(cè)AI系統(tǒng)存在的漏洞。
據(jù)介紹,經(jīng)CAA“體檢”后,AI專家可針對(duì)被檢測(cè)AI的薄弱地帶提出建議,幫助AI魯棒性(穩(wěn)定性)檢測(cè),以此增強(qiáng)AI系統(tǒng)。近日,該研究成果被人工智能頂會(huì)I2021接收。
相比業(yè)界此前提出的其他攻擊工具箱,阿里圖靈實(shí)驗(yàn)室研發(fā)的自動(dòng)化對(duì)抗攻擊平臺(tái)CAA首度實(shí)現(xiàn)了對(duì)抗攻擊的“工具化”。它讓AI應(yīng)用的使用者即使不具備任何專業(yè)領(lǐng)域知識(shí)的情況下,也可以進(jìn)行AI模型的對(duì)抗攻擊和魯棒性測(cè)試。
此外,CAA還可預(yù)先評(píng)估待檢測(cè)AI的特性,通過(guò)自動(dòng)化搜索技術(shù)來(lái)合成多個(gè)攻擊算法的組合,提升了現(xiàn)有模型攻擊方法的性能和效率。阿里專家通過(guò)實(shí)驗(yàn)表明,CAA超越了新提出的攻擊方法,是可有效評(píng)估當(dāng)前AI系統(tǒng)的“攻擊”。
阿里圖靈實(shí)驗(yàn)室算法專家簫瘋表示,阿里提出將智能技術(shù)引入到對(duì)抗攻擊中,使得所有攻擊細(xì)節(jié)和參數(shù)作為一個(gè)黑箱,而攻擊者只需要提供目標(biāo)模型和數(shù)據(jù),算法就會(huì)自動(dòng)選擇優(yōu)的攻擊組合和參數(shù)。(完)
佳木斯網(wǎng)站建設(shè),佳木斯手機(jī)網(wǎng)站,佳木斯微信,佳木斯小程序,佳木斯微信公眾平臺(tái)代運(yùn)營(yíng),佳木斯網(wǎng)云信息科技有限公司