699 1049 >

圖為深信科創(chuàng)的副總經(jīng)理鮑帥

8月30日晚開始，一款名為“zao -逢臉造戲”的 ai 換臉 app 突然爆紅，用戶只需上傳一張正臉照片，即可一鍵將自己的臉部無痕換到明星臉上，從而生成以自己為主角的經(jīng)典電影片段、熱門表情包，跟明星同場飆戲。截至 8 月 31 日 15 時(shí)，zao 躍升至 ios 免費(fèi) app 下載榜第 1 位，超越愛奇藝、騰訊視頻，登上微博熱搜第 6 位，同一時(shí)間等待體驗(yàn) ai 換臉的數(shù)超過 1 萬人。

“zao”的爆紅，引發(fā)個(gè)人隱私數(shù)據(jù)泄露的擔(dān)憂。 西安深信科創(chuàng)信息技術(shù)有限公司（以下簡稱深信科創(chuàng)）副總經(jīng)理鮑帥解釋說， ai換臉這一技術(shù)在2017年出現(xiàn)后，就曾引起軒然大波，當(dāng)時(shí)有人將知名女星的臉換到某些情色影片中，甚至有普通人淪為這項(xiàng)技術(shù)的受害者，ai倫理與內(nèi)容安全的問題也隨之浮出水面。治理ai換臉方面的問題，絕不能再走過去“先亂后治”的老路，鮑帥對此十分認(rèn)同。他所在的深信科創(chuàng)已經(jīng)投入了大量的研究，致力于解決人工智能時(shí)代虛假多媒體、語音造假等新的社會問題。據(jù)悉，深信科創(chuàng)同時(shí)也是清華交叉信息核心技術(shù)研究院的孵化公司之一，致力于提升人工智能、金融科技等新興軟件系統(tǒng)的質(zhì)量和安全。

鮑帥介紹，ai 換臉的成本普遍在0.5-1 元之間，隨著互聯(lián)網(wǎng)用戶的大規(guī)模參與和技術(shù)的發(fā)展，這種低成本造假的問題日漸嚴(yán)重，很容易滋生詐騙，或者在各種人像識別場景盜用，甚至刷臉支付。一些有目的的人只需用視頻或照片對ai進(jìn)行訓(xùn)練，就能輕易完成換臉。目前，ai換臉一方面難以鑒定，另一方面執(zhí)法成本太高，在網(wǎng)絡(luò)上已經(jīng)形成了換臉的灰色產(chǎn)業(yè)鏈。而一些以假亂真的換臉視頻在網(wǎng)絡(luò)上廣泛傳播，導(dǎo)致虛假廣告、電信詐騙的出現(xiàn)，嚴(yán)重的還可能對國家的輿情安全、國防安全產(chǎn)生很大的危害。

互聯(lián)網(wǎng)廠商的傳統(tǒng)審核模式，很難快速精準(zhǔn)地過濾虛假內(nèi)容。如何用技術(shù)鑒定視頻有沒有被換臉？如何迅速檢測網(wǎng)絡(luò)存在的內(nèi)容異常？成為網(wǎng)絡(luò)信息安全問題的一項(xiàng)新的重大課題。

這些不安全到底是怎么回事呢？鮑帥解釋，人臉識別、打卡簽到、門禁、自動駕駛這些場景，在攻擊者眼中都是可以攻破的。比如一些特別制作的標(biāo)記圖案，就能把機(jī)器視覺欺騙：把“你”變成“他”，或讓你直接從機(jī)器的視野里消失掉。由于人工智能模型的數(shù)學(xué)解釋性還不足，實(shí)際應(yīng)用中可能會出現(xiàn)一些問題。深信科創(chuàng)從測試和安全的角度，去彌補(bǔ)數(shù)學(xué)解釋性不足的問題：用前沿的質(zhì)量測評算法和對抗數(shù)據(jù)，告訴廠商以及開發(fā)者，他們所使用的人工智能模型質(zhì)量和安全性是否過硬。

“我們相當(dāng)于一個(gè)人工智能算法的質(zhì)檢部門，質(zhì)量測試不通過，或者我攻擊你的模型成功了，那你就是不合格。換句話說，測試和攻擊都是為了保障安全。”鮑帥告訴記者，深信科創(chuàng)目前的產(chǎn)品包含兩個(gè)內(nèi)容：一是深度學(xué)習(xí)的模型質(zhì)量保障；一是多媒體內(nèi)容安全，也就是前面提到的如何辨別ai換臉造假的技術(shù)。鮑帥是2017 華為研究所優(yōu)秀工程師，也是華為公有云cto辦公室成員。他表示，公司在 ai 換臉檢測、合成檢測、造假識別這些領(lǐng)域已經(jīng)積累了大量的研究和實(shí)踐，推出了aimediaguard 合成視頻檢測技術(shù)。該技術(shù)可以檢測視頻中人臉的真假，即是否存在換臉。針對此次 zao 的爆紅，深信科創(chuàng)也在第一時(shí)間用aimediaguard檢測了大量視頻，檢測的成功率達(dá)到了99%。

據(jù)介紹，人工智能安全領(lǐng)域是新興的行業(yè)，對技術(shù)和科研積累的要求很高，國外大多數(shù)從業(yè)者都是一些高校實(shí)驗(yàn)室，還沒有出現(xiàn)商業(yè)公司，國內(nèi)商業(yè)化公司目前只有深信科創(chuàng)一家。

目前深信科創(chuàng)聯(lián)合中國電子技術(shù)標(biāo)準(zhǔn)化研究院(cesi)，成立了“人工智能測評技術(shù)創(chuàng)新實(shí)驗(yàn)室”，旨在為國家建立人工智能質(zhì)量測評和安全的行業(yè)標(biāo)準(zhǔn)，共同推動行業(yè)的健康發(fā)展。作為初創(chuàng)團(tuán)隊(duì)的深信科創(chuàng)，有著良好的技術(shù)積累和學(xué)術(shù)背景，依托清華交叉信息核心技術(shù)研究院，持續(xù)為我國人工智能技術(shù)的發(fā)展獻(xiàn)智獻(xiàn)力，力爭成為人工智能安全領(lǐng)域的獨(dú)角獸企業(yè)。

（文/圖 西安報(bào)業(yè)全媒體記者 張瀟 實(shí)習(xí)生杜榮）

來源：西安報(bào)業(yè)全媒體編輯：雷瑩

分享到:

熱點(diǎn)圖片

以上是網(wǎng)絡(luò)信息轉(zhuǎn)載，信息真實(shí)性自行斟酌。