88 views

編輯導讀:AI面相識別、AI測膚、人臉識別解鎖,人臉識別運用的範圍越來越廣泛,但這背後的「人臉信息安全」問題也需要大家關注。本文對網路上泛濫的「人臉偽造」現狀展開了梳理盤點,對其存在的問題進行了討論,一起來看看~

全世界有76億人口,但是在「查無此人」的網站上,你能看到的人臉遠不止這個數字。

網站全拼是ThisPersonDoesNotExist.com,網頁里並無其它信息,只有一張人臉——每刷新一次,就會有一張新的臉出現,發色髮型、膚色臉型、瞳孔的顏色和皺紋全是新的,每一張照片似乎都暗示背後存在一個真人。可如網址所言,「查無此人」。

網站是優步的軟體工程師菲利普·王(Philip Wang)所搭建,背後是最近幾年炙手可熱的生成式對抗網路(GANs)。

GANs的神奇之處,在於它同時擁有一對圖片偽造者和甄別者,一個負責生成儘可能逼真的圖像,另一個負責判別生成的圖片與原始真實圖像的區別,然後將結果反饋給圖片生成者。在二者的競爭里,圖片不斷重新生成、判定、修改,直到真假難辨。

臉書的首席AI科學家嚴·勒存(Yann LeCun)稱,GANs是過去20年裡深度學習領域最酷的想法,而百度前首席科學家安德魯·吳(Andrew Ng)說,這是「重大而根本性的進步」。學者們說,當未來的技術歷史學家回首往事,可能會認為GANs是通往類人工智慧之路上的重要一步。

在」查無此人「網站上,每刷新一次,就會有一張新的人臉生成。(圖源:網站截圖)

但在科技發展之前,這項技術已經走向了另一個令人擔憂的方向。在過去的兩年間,不停有媒體曝出,這些圖片被附加一系列身份信息,偽裝成媒體或者社交平台上的用戶,發布信息、影響輿論。

在臉書上搜索阿方索·馬西亞斯,能找到不少於500個搜索結果,這些同名的男性遍布西班牙、墨西哥、哥倫比亞、委內瑞拉等西語國家。

搜索者或許無法注意到其中那個中年的阿方索,他的面容並不顯眼,嘴邊一圈鬍子,頭頂是稀疏的黃褐色頭髮,微笑著露出幾顆牙齒。他是親特朗普的媒體The BL(美麗人生)某個臉書興趣小組的管理員,有時會點擊鏈接,為網站帶來流量。

但如果仔細看他的頭像,專業人士會發現一些端倪——眼鏡框並不左右對稱,而且在右耳邊有一處詭異的扭曲,而他背後的風景則更加模糊,似乎是建築,但顏色與線條都難以辨認。社交媒體情報集團Graphika和大西洋理事會數字取證研究實驗室為這個用戶身份出具報告,他們認為,這個人的圖像資料是偽造的。

而與阿方索並肩作戰的幾十個假賬戶被用來運營幾十個支持特朗普的臉書群組,名稱包括「美國需要特朗普總統」和「我們與特朗普和彭斯站在一起」。

阿方索的照片里,眼鏡框與背景泄露了他的AI身份。(圖源:FT)

這個問題從2018年6月開始發酵,當時美聯社在領英上發現了一個偽裝成智庫員工的賬戶。而2019年12月,Graphika和大西洋理事會的數字取證研究實驗室發布了一份關於一個由900多個頁面、小組和賬戶組成的網路的報告,這些頁面、組和賬戶與某右翼新聞機構有關。「他們利用這些假面孔來增強影響力,並向更多的受眾傳遞他們的信息,」實驗室工作人員說。

上述主頁被發現后,都被臉書封禁,但由假面孔生成的假新聞不會只出現在臉書平台上。深度造假檢測平台Sensity的首席執行官喬治·帕特里尼(Giorgio Patrini)表示,GAN生成的面孔也出現在企業界,截至目前,他們發現了一家軟體公司使用假面孔假扮用戶推薦產品,一家營銷公司使用該技術生成其「團隊」的照片。

在今年7月,路透社報道了一位偽造得更為精緻的AI記者。他叫奧利弗·泰勒(Oliver Taylor),稱自己畢業於伯明翰大學,是個咖啡愛好者和政治迷,在一個傳統的猶太家庭長大。他的六篇自由撰稿的社論和博客文章表明他對反猶太主義有著濃厚的興趣,在《耶路撒冷郵報》和《以色列時報》上都有署名。

但伯明翰大學並沒有他的學籍記錄,他只在問答網站Quora上有一個賬戶,3月時活躍過2天,除此以外沒有任何網路痕迹;他留給編輯的英國電話是假的,也從不回複核查者們發給他的郵件。至於他提供給報社的照片,牙齒上有明顯的重影,照片背景也有失真——這是多個圖像重合時留下的痕迹。

路透社無從得知這位假記者的真實身份,但假記者的言論卻在產生真實的影響——他稱一位巴勒斯坦權利運動家「同情恐怖分子」,這個指控令後者感到十分不安,隨後他向兩家報紙提出抗議,只有《以色列時報》刪除了文章。

而在得知這位作者的假身份時,《以色列時報》的編輯也對未來產生了擔憂,不只因為它們可能會扭曲公共話語,更是因為這可能會使編輯們在不知名的作者身上抱有更大的疑慮,從而使新的作者、新的言論被發表的可能性降低,「我並不想,但或許不得不,阻止某些聲音被人們聽見。」

奧利弗·泰勒的頭像里,兩側的牙齒和背景都有明顯的模糊。(圖源:路透社)

在過去的一年裡,圖像偽造技術已經拓展向視頻,大西洋理事會數字取證研究實驗室的研究者利茲圖(Rizzuto)指出,去年三星公司進行的深度偽造研究將蒙娜麗莎變成了一個逼真的會說話的頭。他說,這項技術有朝一日可以應用於創造更逼真的假檔案,創造出各種角度和表情的照片。

去年,當人工智慧創造的假臉和假人開始在社交網路上遍地開花時,事實核查組織已經開始介入。事實核查組織Snopes和Lead Stories持續地報道類似的問題,Snopes還發布一篇報道,批評臉書的不作為。

對抗的第一步是發現。在這些假臉里往往存在類似的問題,大西洋理事會數字取證研究實驗室的研究者利茲圖(Rizzuto)說,儘管GANs技術取得了顯著的進展,但仍有一些蛛絲馬跡——例如,受試者的頭部可能是傾斜的,而鼻子和牙齒仍然是直的,該演算法在納入背景物體和其他人時也會很吃力,有時會無意中創造出扭曲或模糊的眼鏡。還有專家指出,GANs生成的人臉里,眼睛都會出現在圖像內的同一個地方——無論「人」面向哪個方向。

而達特茅斯學院研究數字取證學的漢尼·法里德(Hany Farid)正在研究更好的方法來發現假視頻,比如檢測吸氣和呼氣引起的臉部顏色的輕微變化,而GANs很難精確模仿。

但未來似乎並不樂觀,利茲圖說,AI潛在的欺騙能力已經超過了要識破它所需的工作量,而法里德的擔憂則更為長遠——GANs的技術本身,就包含著發現自己的弱點、進行提升的功能,這意味著人類的識別工作或許不過是在幫助GANs完成它自己的工作,「我們從根本上來說處於弱勢地位,」法里德說。

 

作者:龐礡;公眾號:全現在

來源:https://mp.weixin.qq.com/s/gm2BkuNQIBoGPi6n6pHMOg

Go Top