AI換臉兩大風險 AI換臉APP有什麼風險?

2019-09-10 14:00:30


AI換臉兩大風險。這幾天,一款名叫“ZAO”的軟件受到熱捧,相信不少人在自己的朋友圈都看到有朋友轉發通過這個軟件生成的“AI換臉視頻”。什麼是所謂“AI換臉視頻”呢?就是通過這款軟件,用户可以將影視劇、綜藝節目片段中明星的臉換成自己的照片,因為是AI人工智能技術,所以呈現出的換臉效果比較好,臉部表情自然,效果十分逼真,就像是自己演的一樣。
因為看到很多朋友的分享,記者昨天也去應用商店下載了這個免費的軟件。打開軟件之後,趕緊通過軟件自拍了一張符合提示要求的自拍照,可是當選擇了想替換明星臉的影視片段時,軟件一直出現“服務器繁忙”的提示,可見飛速增長的用户給軟件服務器帶來多大的壓力。
沒玩成這個軟件,你沒準是幸運的。在軟件火爆之餘,昨天開始也有用户在社交媒體表達了對隱私泄露的擔憂。由於換臉後需要進行眨眼、抬頭等各種驗證,與刷臉支付採集的臉部信息類似,同時註冊平台需要手機號碼,不少用户擔心臉部數據被泄漏會引發一系列問題。也有細心的用户發現,這款軟件的用户協議中還暗藏玄機。專家指出,此類軟件的確存在隱私泄露風險,同時,軟件中提供給用户用來換臉的影視劇片段也存在侵權可能性。
“換臉”有風險,存在泄漏核心個人信息可能
利用這款軟件進行“換臉”,首先需要用手機號動態驗證碼進行驗證登錄。用户如果想要下載或分享換臉視頻,則需要進行驗證確認所使用的照片的確是用户本人,而驗證的方式則是在攝像頭前進行眨眼、扭頭、張嘴等指示動作。中國政法大學傳播法研究中心副主任朱巍分析,這個過程中,可能存在核心個人信息泄露的風險:“首先‘換臉’技術,包括在蒐集過程中左臉右臉轉動、眨眼,本質是蒐集了你的面部的識別信息,這個是一個用户最核心的個人信息。個人信息一旦被比對之後,如果落到壞人的手裏面,有可能涉及到財產安全和人身安全的問題。
軟件宣稱,照片提交上傳後,會對照片進行非公眾人物驗證和肖像權驗證,確保符合相關法規才能使用。沒有經過自拍驗證的照片會有使用次數限制,也無法被分享或下載。雖然相關措施一定程度上可以起到防止用户濫用他人照片惡搞,但朱巍指出:“這種東西看似是以娛樂為目的,因為大家笑一笑不會產生什麼傷害。但是技術的發展道高一尺魔高一丈,如果被壞人利用這個技術,盜取了你換臉的這些信息,包括你的個人信息,一旦匹配成功了,輕則是精準詐騙,重則的話有可能你的賬號、密碼都是一個不安全的狀態。所以平台的責任實際是更大的。軟件的影響範圍越大、越火,平台的社會責任和道德責任層面的法律責任也就越高。
使用影視劇片段“換臉”,是否侵權有隱患
與此同時,軟件內置可供選擇的影視劇片段中,有包括《延禧攻略》、《長安十二時辰》、《還珠格格》在內的多部熱門國內電視劇,也有石原里美、萊昂納多·迪卡普里奧等國外明星的影視劇片段,還有大量熱門的綜藝片段。對此,朱巍指出:“換臉技術涉及的是放到影視劇裏面去,那麼影視劇本身涉及著作權、知識產權。你突然間把這個臉換了的話,是不是構成合理使用?這個可能跟知識產權法是有密切關係的。
其實,人工智能進行換臉的技術數年前已經出現。2017年,國外一個論壇用户首先將自己製作的換臉視頻發佈在網絡上,利用這一技術,他將國外女明星的照片與色情影片合成,幾乎以假亂真,一度引發巨大爭議。雖然相關視頻最終被刪除,但是這項技術隨後被開源。今年年初,有國內用户在網絡上發佈一段合成的換臉視頻,將一段電影片段中朱茵的臉換成了楊冪,也曾引起爭議。隨着如今這款軟件的爆紅,視頻“換臉”門檻進一步降低。朱巍分析:“很多的換臉,它實際上並非是以娛樂為目的的,有一些涉及到一些比如説人格尊嚴,包括人的名譽權,肖像權的侵害,他換的可能不是自己的臉,可能是別人的臉,或者是在一些這種非法低俗的網站上進行這樣的一個行為,尤其它做的特別逼真,非常有可能讓其他人認為是不是被換臉的這個人就實際從事的表演,這些都是安全隱患。
用户協議暗藏玄機 “必要授權”存在大幅修改
有細心的用户發現,這款軟件的用户協議中還暗藏玄機。其中寫道,使用這款軟件的換臉功能,需要同意授予這款軟件及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的肖像權利人的肖像權,以及利用技術對肖像權利人的肖像進行形式改動。北京嶽成律師事務所律師嶽屾山指出:“我授權給你以後,但是你不能夠把我的照片用於其他的一些非法用途,或者是把我的照片來進行修改醜化,或者惡搞這樣的一些變化、修改,那這樣的話對於我授權給你的使用肖像權的目的,其實可能就會存在着一定的偏差。這個時候其實對於上傳照片的這些APP用户來講的話,可能構成的是一種名譽上的侵權,或者説是導致他的社會評價降低等等,這些也有可能會構成侵權。
用户協議中還寫道,該款軟件及其關聯公司可自行選擇是否使用以及使用方式,包括但不限於編輯相關信息、授權給合作方使用、編輯與傳播。還稱會“盡最大努力在合理範圍內使用”。嶽屾山分析:“APP用户在上傳了之後,或者説是授權給了APP經營者之後,它的經營者還要求説可能會給他的關聯公司,或者説給其他人。這個時候對於轉售權來講的話是過於的模糊並不清晰,而且很有可能會造成自己的隱私的這種泄露,所以説也是建議相關部門對於這類的用户協議予以相應規制,包括使用者也要仔細的看一下這些用户協議,如果説確實存在着這些風險和對自己很不利和不公平的條款存在的話,建議不要使用。
昨晚中國之聲記者發現,該款軟件“用户協議”中,“您的必要授權”這一項內容與此前相比進行了較大幅度的修改,去掉了關聯公司等相關表述。同時在用户協議的醒目位置,增加了一則特別提示,其中指出,用户上傳的短視頻及人臉等信息,將僅限用於為用户提供上傳/發佈短視頻,以及利用技術對平台上的短視頻進行局部修改生成新的短視頻的服務。
同時,新增內容中承諾,相關的內容將嚴格按相關法律法規的規定保留在軟件上,除非為了改善該款軟件為用户提供的服務,或另行取得用户的再次同意,不會以任何其他形式或目的使用上述內容。此外,用户協議中相比之前補充了撤回及刪除條款,並承諾用户執行相關操作後,將依據相關法律法規的規定在服務器上刪除。有關事件的最新進展,中國之聲將持續關注。
相關閲讀:AI換臉楊冪視頻 朱茵變楊冪PS已經落伍啦!



已同步到看一看
在看



熱點新聞