“另一方面機(jī)器學(xué)習(xí)、特別是深度學(xué)習(xí)過(guò)分依賴數(shù)據(jù)，但在惡意代碼檢測(cè)、軟件漏洞挖掘等領(lǐng)域，目前仍然存在數(shù)據(jù)收集困難的問(wèn)題，缺少較好的數(shù)據(jù)集用于訓(xùn)練，影響對(duì)相關(guān)領(lǐng)域的研究。”鄒權(quán)臣補(bǔ)充說(shuō)，另外人工智能嚴(yán)重依賴于耗費(fèi)計(jì)算資源，復(fù)雜的深度學(xué)習(xí)網(wǎng)絡(luò)需要同時(shí)計(jì)算成百上千萬(wàn)次的計(jì)算，需要強(qiáng)大的人工智能芯片計(jì)算力的支撐。

閆懷志則從不同方面總結(jié)了人工智能的不足。比如，易于忽視或者拋棄人類專家在網(wǎng)絡(luò)安全領(lǐng)域的知識(shí)和經(jīng)驗(yàn)積累，對(duì)網(wǎng)絡(luò)安全的復(fù)雜應(yīng)用場(chǎng)景考慮不足，對(duì)于已知威脅的檢測(cè)效率遠(yuǎn)低于傳統(tǒng)的精確特征識(shí)別方法等。

“使用神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)等算法，能夠較好地識(shí)別出未知攻擊威脅風(fēng)險(xiǎn)，達(dá)到‘知其然’的目的，但是這些算法通常無(wú)法揭示產(chǎn)生這種安全風(fēng)險(xiǎn)的基本機(jī)理，也就是‘不知其所以然’，從而為從源頭防御這種攻擊風(fēng)險(xiǎn)帶來(lái)極大障礙。”閆懷志說(shuō)。

脆弱面帶來(lái)安全風(fēng)險(xiǎn)

人工智能在應(yīng)對(duì)網(wǎng)絡(luò)安全問(wèn)題時(shí)，有時(shí)甚至?xí)宫F(xiàn)出脆弱的一面。

“一個(gè)真實(shí)環(huán)境中的人工智能系統(tǒng)，會(huì)面臨數(shù)據(jù)安全、模型/算法安全、實(shí)現(xiàn)安全等多方面的安全威脅。”張德岳告訴科技日?qǐng)?bào)記者。

張德岳舉例說(shuō)，在數(shù)據(jù)安全方面，在數(shù)據(jù)收集與標(biāo)注時(shí)出現(xiàn)錯(cuò)誤或注入惡意數(shù)據(jù)，將導(dǎo)致數(shù)據(jù)污染攻擊；在模型/算法安全方面，針對(duì)人工智能算法存在黑盒和白盒對(duì)抗樣本攻擊，可導(dǎo)致識(shí)別系統(tǒng)出現(xiàn)混亂；在實(shí)現(xiàn)安全方面，除了人工智能系統(tǒng)本身的代碼實(shí)現(xiàn)，其所基于的人工智能框架以及所依賴的第三方軟件庫(kù)中的軟件實(shí)現(xiàn)漏洞，也都可能導(dǎo)致嚴(yán)重安全問(wèn)題。

“人工智能對(duì)現(xiàn)有網(wǎng)絡(luò)安全格局的影響，離不開(kāi)算法、數(shù)據(jù)和計(jì)算能力3個(gè)方面，其容易遭受攻擊的弱點(diǎn)也來(lái)自于此。”閆懷志總結(jié)說(shuō)。

對(duì)于防范人工智能的脆弱性所帶來(lái)的安全風(fēng)險(xiǎn)，閆懷志指出：首先要從體系架構(gòu)、系統(tǒng)算法容錯(cuò)容侵設(shè)計(jì)、漏洞檢測(cè)和修復(fù)、安全配置等方面來(lái)增強(qiáng)人工智能系統(tǒng)自身的安全性；其次，要用其所長(zhǎng)，盡量減小其暴露給外界的潛在攻擊面；最后要構(gòu)建網(wǎng)絡(luò)空間安全綜合防御體系，從安全技術(shù)和安全管理等層面來(lái)協(xié)同防范安全攻擊，間接減緩攻擊者直接針對(duì)人工智能系統(tǒng)發(fā)起攻擊以及攻擊成功的可能性。

以上是網(wǎng)絡(luò)信息轉(zhuǎn)載，信息真實(shí)性自行斟酌。