多倫多大學(xué)創(chuàng)造“隱私過(guò)濾器”，利用算法干擾社交巨頭的人臉識(shí)別

過(guò)去幾個(gè)月信息安全和數(shù)據(jù)隱私問(wèn)題被人們熱議，熱議的內(nèi)容中包括了英國(guó)數(shù)據(jù)分析公司 Cambridge Analytica 的數(shù)據(jù)收集策略和 Facebook 首席執(zhí)行官馬克·扎克伯格在美國(guó)參議院的證詞。

人臉識(shí)別技術(shù)利用基于人臉特征點(diǎn)的算法進(jìn)行識(shí)別，因此人臉特征點(diǎn)是其中的一種主要的數(shù)據(jù)形式。每次你上傳一張照片到 Facebook、Instagram，或者其他地方，你都會(huì)將照片中人的面部特征點(diǎn)和照片中其他物體的特征點(diǎn)提供給這些學(xué)習(xí)系統(tǒng)。

為了解決這個(gè)問(wèn)題，多倫多大學(xué)的 Parham Aarabi 教授和研究生 Avishek Bose 領(lǐng)導(dǎo)的研究小組開(kāi)發(fā)了一種算法來(lái)動(dòng)態(tài)干擾這項(xiàng)技術(shù)。

這種技術(shù)原理基于“對(duì)抗性訓(xùn)練”，本質(zhì)上是建立起兩種相互對(duì)抗的算法。Aarabi 和 Bose 創(chuàng)建了兩個(gè)神經(jīng)網(wǎng)絡(luò)，一個(gè)是識(shí)別人臉的網(wǎng)絡(luò)，另一個(gè)是破壞其既定目標(biāo)的神經(jīng)網(wǎng)絡(luò)。這兩個(gè)網(wǎng)絡(luò)互相學(xué)習(xí)，相互提升效果。

Bose 在接受 Eureka Alert 的采訪時(shí)說(shuō)：“具有破壞性的人工智能可以‘攻擊’人臉識(shí)別時(shí)神經(jīng)網(wǎng)絡(luò)所尋找的東西。例如，如果檢測(cè) AI 正在尋找眼角，它會(huì)調(diào)整眼角，這樣眼睛就不那么明顯了。它會(huì)在照片中產(chǎn)生非常細(xì)微的干擾，但對(duì)探測(cè)器來(lái)說(shuō)，這些干擾足以愚弄整個(gè)系統(tǒng)。”

在實(shí)踐中，這意味著用戶可以使用一個(gè)過(guò)濾器 (比如 Instagram 或 Snapchat 上的普通視覺(jué)過(guò)濾器)，改變圖像中人眼無(wú)法察覺(jué)的特定像素，使人臉識(shí)別技術(shù)失效。

在一個(gè)包含 600 多張不同種族、光照和環(huán)境的人臉圖像的測(cè)試集上，該系統(tǒng)能夠?qū)⒖蓹z測(cè)的臉從 100% 降低到 0.5%。

研究小組將在 2018 年 IEEE 多媒體信號(hào)處理國(guó)際研討會(huì)上展示他們的研究成果，之后他們希望通過(guò)一個(gè)應(yīng)用程序或網(wǎng)站將該過(guò)濾器公之于眾。

“十年前，這些算法必須是人類定義的，但現(xiàn)在神經(jīng)網(wǎng)絡(luò)可以在訓(xùn)練集上自己學(xué)習(xí)，”Aarabi 說(shuō)?！白詈?，他們可以做一些非常令人驚奇的事情。這是一個(gè)令人著迷的領(lǐng)域，有巨大的潛力。”