AI換臉兩大風險 AI換臉APP有什麼風險?

2019-09-10 14:00:30


AI換臉兩大風險。這幾天,一款名叫“ZAO”的軟體受到熱捧,相信不少人在自己的朋友圈都看到有朋友轉發通過這個軟體生成的“AI換臉視訊”。什麼是所謂“AI換臉視訊”呢?就是通過這款軟體,使用者可以將影視劇、綜藝節目片段中明星的臉換成自己的照片,因為是AI人工智慧技術,所以呈現出的換臉效果比較好,臉部表情自然,效果十分逼真,就像是自己演的一樣。
因為看到很多朋友的分享,記者昨天也去應用商店下載了這個免費的軟體。開啟軟體之後,趕緊通過軟體自拍了一張符合提示要求的自拍照,可是當選擇了想替換明星臉的影視片段時,軟體一直出現“伺服器繁忙”的提示,可見飛速增長的使用者給軟體伺服器帶來多大的壓力。
沒玩成這個軟體,你沒準是幸運的。在軟體火爆之餘,昨天開始也有使用者在社交媒體表達了對隱私洩露的擔憂。由於換臉後需要進行眨眼、抬頭等各種驗證,與刷臉支付採集的臉部資訊類似,同時註冊平臺需要手機號碼,不少使用者擔心臉部資料被洩漏會引發一系列問題。也有細心的使用者發現,這款軟體的使用者協議中還暗藏玄機。專家指出,此類軟體的確存在隱私洩露風險,同時,軟體中提供給使用者用來換臉的影視劇片段也存在侵權可能性。
“換臉”有風險,存在洩漏核心個人資訊可能
利用這款軟體進行“換臉”,首先需要用手機號動態驗證碼進行驗證登入。使用者如果想要下載或分享換臉視訊,則需要進行驗證確認所使用的照片的確是使用者本人,而驗證的方式則是在攝像頭前進行眨眼、扭頭、張嘴等指示動作。中國政法大學傳播法研究中心副主任朱巍分析,這個過程中,可能存在核心個人資訊洩露的風險:“首先‘換臉’技術,包括在蒐集過程中左臉右臉轉動、眨眼,本質是蒐集了你的面部的識別資訊,這個是一個使用者最核心的個人資訊。個人資訊一旦被比對之後,如果落到壞人的手裡面,有可能涉及到財產安全和人身安全的問題。
軟體宣稱,照片提交上傳後,會對照片進行非公眾人物驗證和肖像權驗證,確保符合相關法規才能使用。沒有經過自拍驗證的照片會有使用次數限制,也無法被分享或下載。雖然相關措施一定程度上可以起到防止使用者濫用他人照片惡搞,但朱巍指出:“這種東西看似是以娛樂為目的,因為大家笑一笑不會產生什麼傷害。但是技術的發展道高一尺魔高一丈,如果被壞人利用這個技術,盜取了你換臉的這些資訊,包括你的個人資訊,一旦匹配成功了,輕則是精準詐騙,重則的話有可能你的賬號、密碼都是一個不安全的狀態。所以平臺的責任實際是更大的。軟體的影響範圍越大、越火,平臺的社會責任和道德責任層面的法律責任也就越高。
使用影視劇片段“換臉”,是否侵權有隱患
與此同時,軟體內建可供選擇的影視劇片段中,有包括《延禧攻略》、《長安十二時辰》、《還珠格格》在內的多部熱門國內電視劇,也有石原里美、萊昂納多·迪卡普里奧等國外明星的影視劇片段,還有大量熱門的綜藝片段。對此,朱巍指出:“換臉技術涉及的是放到影視劇裡面去,那麼影視劇本身涉及著作權、智慧財產權。你突然間把這個臉換了的話,是不是構成合理使用?這個可能跟智慧財產權法是有密切關係的。
其實,人工智慧進行換臉的技術數年前已經出現。2017年,國外一個論壇使用者首先將自己製作的換臉視訊釋出在網路上,利用這一技術,他將國外女明星的照片與色情影片合成,幾乎以假亂真,一度引發巨大爭議。雖然相關視訊最終被刪除,但是這項技術隨後被開源。今年年初,有國內使用者在網路上釋出一段合成的換臉視訊,將一段電影片段中朱茵的臉換成了楊冪,也曾引起爭議。隨著如今這款軟體的爆紅,視訊“換臉”門檻進一步降低。朱巍分析:“很多的換臉,它實際上並非是以娛樂為目的的,有一些涉及到一些比如說人格尊嚴,包括人的名譽權,肖像權的侵害,他換的可能不是自己的臉,可能是別人的臉,或者是在一些這種非法低俗的網站上進行這樣的一個行為,尤其它做的特別逼真,非常有可能讓其他人認為是不是被換臉的這個人就實際從事的表演,這些都是安全隱患。
使用者協議暗藏玄機 “必要授權”存在大幅修改
有細心的使用者發現,這款軟體的使用者協議中還暗藏玄機。其中寫道,使用這款軟體的換臉功能,需要同意授予這款軟體及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視訊資料等肖像資料中所含的肖像權利人的肖像權,以及利用技術對肖像權利人的肖像進行形式改動。北京嶽成律師事務所律師嶽屾山指出:“我授權給你以後,但是你不能夠把我的照片用於其他的一些非法用途,或者是把我的照片來進行修改醜化,或者惡搞這樣的一些變化、修改,那這樣的話對於我授權給你的使用肖像權的目的,其實可能就會存在著一定的偏差。這個時候其實對於上傳照片的這些APP使用者來講的話,可能構成的是一種名譽上的侵權,或者說是導致他的社會評價降低等等,這些也有可能會構成侵權。
使用者協議中還寫道,該款軟體及其關聯公司可自行選擇是否使用以及使用方式,包括但不限於編輯相關資訊、授權給合作方使用、編輯與傳播。還稱會“盡最大努力在合理範圍內使用”。嶽屾山分析:“APP使用者在上傳了之後,或者說是授權給了APP經營者之後,它的經營者還要求說可能會給他的關聯公司,或者說給其他人。這個時候對於轉售權來講的話是過於的模糊並不清晰,而且很有可能會造成自己的隱私的這種洩露,所以說也是建議相關部門對於這類的使用者協議予以相應規制,包括使用者也要仔細的看一下這些使用者協議,如果說確實存在著這些風險和對自己很不利和不公平的條款存在的話,建議不要使用。
昨晚中國之聲記者發現,該款軟體“使用者協議”中,“您的必要授權”這一項內容與此前相比進行了較大幅度的修改,去掉了關聯公司等相關表述。同時在使用者協議的醒目位置,增加了一則特別提示,其中指出,使用者上傳的短視訊及人臉等資訊,將僅限用於為使用者提供上傳/釋出短視訊,以及利用技術對平臺上的短視訊進行區域性修改生成新的短視訊的服務。
同時,新增內容中承諾,相關的內容將嚴格按相關法律法規的規定保留在軟體上,除非為了改善該款軟體為使用者提供的服務,或另行取得使用者的再次同意,不會以任何其他形式或目的使用上述內容。此外,使用者協議中相比之前補充了撤回及刪除條款,並承諾使用者執行相關操作後,將依據相關法律法規的規定在伺服器上刪除。有關事件的最新進展,中國之聲將持續關注。
相關閱讀:AI換臉楊冪視訊 朱茵變楊冪PS已經落伍啦!



已同步到看一看
在看



熱點新聞