一夜爆火,這款換臉 App 可能會把你的臉「賣掉」

2019-09-11 09:37:53

作者 |李超凡

來源 | 愛範兒(ID:ifanr)

一夜之間,一款叫做 「ZAO」的換臉 app 火了。
朋友圈的張三李四,突然都擁有了一張「明星臉」,還跟愛豆們在螢幕裡談情說愛。
相信很多人對類似的換臉技術並不陌生,從將女明星變成小電影主角的 Deepfake ,到 B 站上朱茵變楊冪的換臉視訊,類似的技術已經多次登上過熱搜。
過去被換臉的物件多是公眾人物,一個換臉視訊的生成至少要幾個小時。而現在只需要幾秒鐘,每個人都可以變成想要變成的人。
在 Deepfake 換臉剛剛興起的時候,愛範兒曾設想當這種技術的門檻被降低後會走向何方。而現在隨著 「ZAO」這樣的換臉 app 面世,一個全民換臉的時代可能真的來了。
問題在於,這種超低門檻的換臉 app 會不會像之前的換臉工具一樣走向不可控?
ZAO 換臉初體驗:易上手、花樣多,但還不夠逼真
跟前段時間爆紅的變臉軟體 FaceApp 類似,ZAO 的操作也十分簡單,使用者只需要選定模板上傳自拍,就能自動生成屬於自己的換臉視訊。
可比起 FaceApp 免費版數量有限的變臉濾鏡,ZAO 可以選擇的素材則要豐富得多,有合演、名場面、換裝、愛豆同臺等多種場景可以選擇,甚至還細分到扮演的角色、劇情、演員和影視劇等。
我把自己的臉換到白展堂、謝爾頓等影視角色上,大概 10 秒左右就能生成一個視訊,可能是因為縮短了時間,效果只能算一般。臉部與頸部的接痕隱約可見,尤其在頭部運動時比較明顯。
此外雖然能從換臉視訊上看出自己的五官特徵,但整體而言就不太像我自己了,遠遠不如此前朱茵變楊冪的視訊逼真。
但 ZAO 能火起來,最關鍵的原因還是將換臉變成一鍵就能完成傻瓜式操作,大大降低了門檻,
除了視訊,還能將你的臉換到各種表情包上,不過表情包的素材相對視訊就沒有那麼豐富了。
除了花樣更多,ZAO 跟此前的換臉 app 不一樣的是,更加嚴格地限制了使用者的圖片上傳。
如果使用者使用的是未經本人肖像驗證的圖片,就只有 10 次的使用機會,生成的視訊也會打上浮動的水印:「未經肖像權驗證,此視訊也無法儲存」,就連截圖和錄屏也不行。
另外公眾人物的照片也能被識別出來,愛範兒嘗試使用一張黃曉明的照片來進行人臉識別,系統隨即提示「疑似侵犯公眾人物肖像權」。
ZAO 採取更加嚴格的認證機制,顯然是為了防止這種換臉工具被惡意利用,不久前可以「一鍵脫衣」的 app「DeepNude」,就是在巨大爭議和罵聲中不得不全面下線。
然而,這樣的上傳認證和限制分享設計,就能讓 ZAO 這款換臉 app 潛在的問題都扼殺在搖籃嗎?
看似嚴格的認證機制背後,卻藏著更大的貓膩
儘管 ZAO 採用了相對嚴格的認證機制,但有使用者發現這款 app 的使用者條款存在不少貓膩,在使用者玩得不亦樂乎的時候,可能已經將自己的肖像權送給了別人。
在 ZAO 使用者協議裡,有這樣一條:
在您上傳及/或釋出使用者內容以前,您同意或者確保實際權利人同意授予 ZAO 及其關聯公司以及 ZAO 使用者全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於可以對使用者內容進行全部或部分的修改與編輯..……以及對修改前後的使用者內容進行資訊網路傳播以及著作權人享有的全部著作財產權利及鄰接權利。
法律工作者@法山叔 指出,這意味著 ZAO 不僅可以免費使用你的肖像,無論是動態的還是靜態的,而且還有權將你的肖像權有償或無償授予第三方。
簡單來說,想要使用 ZAO 換臉,先得把你的臉無條件交出來。
▲ 目前 ZAO 因為訪問量過大已無法正常使用
不止如此,為了規避侵犯肖像權和影視版權風險, ZAO 還試圖在使用者協議裡將這個鍋甩給了使用者。
再來看看 ZAO 使用者協議,其中第6條第 2 款明確規定:
如果您把使用者內容中的人臉換成您或其他人的臉,您同意或確保肖像權利人同意授予‘ZAO’及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。
翻譯成人話就是,你用別人的臉之前,要先保證別人也同意將自己的臉免費交給我們哦。
那如果真的侵犯了別人權益怎麼辦,第七條第 7 款就說了:
若您侵害他人名譽權、肖像權、智慧財產權等合法權利的...ZAO 可以訴諸行政執法機構或司法機關,追究相應法律責任。若因您違反本協議或 ZAO 平臺的其他規則導致任何第三方損害的,您應當獨立承擔法律責任並承擔損害賠償責任;zao 及其關聯公司遭受損失的,您也應當一併賠償。
也就是說,如果我在 app 裡把葛優的臉換成我的,葛優來告 ZAO,ZAO 也可以對你說:「親,你怎麼沒有事先徵求葛優的同意啊?現在要賠人家 100 萬,這筆錢得你來付。」
通過這一紙協議,ZAO 可謂是佔盡了便宜又撇清了風險。正如@法山叔所說,「從來沒見過如此明目張膽攫取使用者權利的使用者協議。」
更可怕的是,目前 ZAO 已經登上了 App Store 免費榜的第二位和娛樂免費榜的榜首,大量使用者也許在毫不知情的情況下就將自己的肖像權拱手讓人。
無論 ZAO 能走多遠,鑑別換臉視訊的技術越來越重要了
除了公眾人物外,一般人對於肖像權可能並不太敏感,畢竟我們平時就在各種開放網路平臺釋出自己的照片。
但換臉 app 不太一樣,它採集的是動態的、更多細節的人臉資訊,如今人臉識別在智慧手機上十分普遍,有人開始擔心不法分子會利用這些人臉資訊進行犯罪,比如破解刷臉支付進行盜刷。
▲圖片來自:蛋蛋贊
那麼 AI 換臉視訊有可能破解刷臉支付嗎?支付寶的工作人員告訴愛範兒,不管網上各類換臉軟體換的有多逼真,都是無法突破刷臉支付的。
「刷臉支付」採用的是 3D 人臉識別技術,在進行人臉識別前,也會通過軟硬體結合的方式進行檢測,來判斷採集到的人臉是否是照片、視訊或者軟體模擬生成的,能有效地避免各種人臉偽造帶來的身份冒用情況。
不過這種擔憂未必是杞人憂天,曾有研究人員嘗試用 Deepfakes 視訊來測試的人臉識別系統,用的還是比較領先的基於 VGG 和 Facenet 神經網路人臉識別系統,結果顯示誤識率分別達到 85.62% 和 95.00%。
當然能騙過人臉識別系統的 Deepfakes 視訊質量要比一般的換臉 app 更高,但至少說明這個可能性是存在的,或許 ZAO 會是又一款月拋型的爆款應用,但提升鑑別換臉視訊的技術越來越有必要了。
其實目前已經有研究團隊採用生成式對抗網路(GAN)來鑑別換臉視訊 ,以 AI 對抗 AI。前不久加州大學伯克利分校和南加州大學的研究團隊就開發了一套 AI 鑑別系統,先通過生成式對抗網路,提取特朗普、希拉里和奧巴馬等人的面部、頭部運動特徵,合成假視訊。
隨後再用機器學習分析真假視訊的差異,從而得到每個人的「軟性生物特徵」(soft biometric signature),識別出細微的動作特徵,這種檢測工具識別 Deepfake 視訊的準確率達到 95%,研究人員希望能在未來半年內提升至 99%。
不過這種利用 AI 對抗 AI 的鑑別方式也存在問題,因為生成式對抗網路的原理就是讓兩套神經網路在相互博弈中學習,隨著鑑別技術的提升,假視訊的質量也會進一步提高,兩者永遠處在不斷的對抗當中,誰也無法徹底打敗誰。
▲ 圖片來自:allure
另一個不太令人樂觀的事實是,相比起 AI 換臉技術的研發,鑑別技術的科研力量顯得有點勢單力薄。加州大學伯克利分校的電腦科學家 Hany Farid 也指出,目前研究合成視訊和鑑別的人數是 100:1,
據稱 ZAO 一夜爆紅後,已經吸引了大批風投機構的關注,一大批「複製品」已經在排隊上線。天下熙熙,皆為利來,換臉可能帶來的商機讓資金蜂擁而至,進一步推動換臉技術的進步。
因此,僅僅依靠現有的技術可能難以避免  AI 換臉走向失控, Hany Farid 的建議也許值得參考:
解決方法不能只靠技術,還需要媒體專業的報道,以及更好的數字公民、公司和政策。
如何徹底清除 ZAO 上的人臉資訊?
對於已經在 ZAO 上體驗過換臉的使用者也不必過於擔心,愛範君告訴你一個快捷登出賬號,清除人臉資訊的方法:
  • 點選右上角頭像

  • 進入隱私協議,拉至頁面底部

  • 點選「申請登出賬號」

  • 點選「開始登出頁面」,通過手機號認證後完成登出

登出賬號後,所有上傳的面孔資訊都會被刪除,不過同一手機號未來 30 天內無法再次註冊。
題圖來自:YouTube

本文作者李超凡,首發於公眾號「愛範兒」(ID:ifanr),禁止二次轉載,如需轉載請聯絡愛範君(微信 ID:ifanr1234)。數字公民的糖,歡迎識別下方二維碼進行關注。



感謝您的認真閱讀,如果喜歡本篇文章,就點個“在看”或轉發到朋友圈,讓更多的人看到吧





毒舌科技 l ID:dushekeji

長  按  二  維  碼 , 一  鍵  關  注




MORE | 更多精彩文章


  • 你能用 50MB 流量過一天嗎?

  • 《小歡喜》大結局:廉價的人生,只分輸贏

  • 中國人廢棄的輪胎,被非洲人買去做成涼鞋!15元一雙,至少能穿10年!網友:這才是真正的變廢為寶!

  • “媽,你別抄作業了!”爸媽開學前慌張趕作業的樣子,真的太太太可愛了哈哈哈哈哈

  • 賣一雙鞋,賺24套房!一夜暴富的騙局,終於對年輕人下手了





你點的每個在看,我都認真當成了喜歡
已同步到看一看
在看



熱點新聞