AI(人工智能)換臉軟件走向大眾的風險之一，是這種軟件可能會被不法分子濫用。

　　9月3日晚間，澎湃新聞(www.thepaper.cn)記者在二手交易品臺閑魚App上發(fā)現(xiàn)，有多位賣家通過AI換臉技術(shù)制作出當紅女明星的不雅視頻，進行售賣。

　　其中一位賣家告訴澎湃新聞記者，他有視頻100部，里面包括30多位明星。還有一位類似賣家報價稱，75元套餐中有40多位女明星上百部的AI換臉視頻。

　　北京志霖律師事務所副主任、中國政法大學知識產(chǎn)權(quán)研究中心特約研究員趙占領(lǐng)律師對澎湃新聞表示，這種售賣明星換臉不雅視頻的行為，毫無疑問是構(gòu)成肖像侵權(quán)的，也涉嫌構(gòu)成名譽侵權(quán)。而且還涉嫌構(gòu)成刑事犯罪，它屬于傳播淫穢物品牟利罪，情節(jié)嚴重者可判無期徒刑。

　　澎湃新聞咨詢閑魚相關(guān)人員獲得的回應是，該平臺對違反公序良俗的商品一貫以來采取零容忍態(tài)度，從嚴從重處罰違規(guī)行為。

　　電商平臺不法分子兜售女明星AI換臉視頻

　　AI換臉技術(shù)兩年前在國外出現(xiàn)時，就曾經(jīng)被“用來換臉色情片女主角”。

　　2017年12月，在海外出現(xiàn)AI換臉技術(shù)時，這項名為“deepfakes”的技術(shù)，就曾被少數(shù)懂技術(shù)的人用來換臉色情片女主角。后來，隨著一款桌面應用程序FakeApp的出現(xiàn)，普通網(wǎng)民也能簡單制作換臉假視頻，互聯(lián)網(wǎng)上的假臉視頻開始廣泛流傳。這在海外早已引發(fā)爭議。

　　目前，國內(nèi)市場上已經(jīng)有“ZAO”和顏技App攻克了AI換臉技術(shù)，將換臉從專業(yè)化變成全民化，實現(xiàn)一鍵換臉。這又讓一些不法分子看到了賺錢的機會。

　　9月3日晚間，澎湃新聞記者在二手交易品臺閑魚App上發(fā)現(xiàn)，有多位賣家通過AI換臉技術(shù)制作出當紅女明星的不雅視頻，進行售賣。

　　其中一位賣家提議在qq或者微信進行交易，并告訴澎湃新聞記者，明星換臉合成情境圖的價格如下：一個明星30元，兩個明星40元，三個明星50元，每個明星圖片數(shù)量不同，大多數(shù)都是300張左右。此外，他還有視頻100部，里面包括30多位明星。“都是當紅的，有的明星多，有的少。”他說。

　　澎湃新聞記者詢問賣家能否試看，對方表示不能，并發(fā)來了部分資料庫截圖，文件名稱極其露骨。

　　另外一位類似賣家給出的報價是：75元套餐中有40多位女明星上百部的AI換臉視頻，99元套餐則可“永久外網(wǎng)觀看任意資源”。

　　對此，澎湃新聞咨詢了閑魚相關(guān)人員。對方告訴澎湃新聞，對違反公序良俗的商品一貫以來采取零容忍態(tài)度，從嚴從重處罰違規(guī)行為。同時，在平臺處理的基礎(chǔ)上，閑魚還將向執(zhí)法機關(guān)舉報涉嫌發(fā)布違規(guī)信息的賬號，協(xié)助開展線下溯源打擊，追蹤背后的黑灰產(chǎn)團伙。

　　今年3月20日，閑魚在浙江省網(wǎng)信辦指導下，在互聯(lián)網(wǎng)行業(yè)內(nèi)率先發(fā)起為期3個月專項治理行動，用最嚴厲手段打擊各類涉嫌違反公序良俗的違規(guī)信息。

　　閑魚相關(guān)人員表示，閑魚呼吁公眾發(fā)現(xiàn)違規(guī)現(xiàn)象時積極向平臺舉報，共同凈化網(wǎng)絡(luò)社會環(huán)境。

　　利用AI換臉技術(shù)傳播淫穢物品牟利罪嚴重者可判無期徒刑

　　趙占領(lǐng)律師對澎湃新聞表示，以上這種售賣明星換臉不雅視頻的行為，涉及兩方面的法律問題，第一個是肖相侵權(quán)。按照法律規(guī)定，以營利為目的未經(jīng)授權(quán)使用他人肖像，那這屬于是侵犯他人肖像權(quán)。所以，將色情視頻換成明星的臉然后去銷售，毫無疑問是構(gòu)成肖像侵權(quán)的。

　　“第二點，這種做法也侵犯了明星的名譽權(quán)，因為他這種做法會導致一些人可能誤認為這是明星本人所出演的這種色情電影。所以導致它的社會評價降低，因此這種行為也涉嫌構(gòu)成名譽侵權(quán)。”趙占領(lǐng)說。

　　不僅如此，趙占領(lǐng)表示，這種行為既涉及到上述兩種民事侵權(quán)，同時還涉嫌構(gòu)成刑事犯罪，它屬于傳播淫穢物品牟利罪，情節(jié)嚴重者可判無期徒刑。“所以，一旦認定構(gòu)成傳播淫穢物品牟利罪，這樣的一個刑事犯罪，那么他的這個犯罪嫌疑人的責任就重了。根據(jù)《刑法》第三百六十三條第一款之規(guī)定，犯本罪的，處三年以下有期徒刑、拘役或者管制，并處罰金;情節(jié)嚴重的，處三年以上十年以下有期徒刑，并處罰金;情節(jié)特別嚴重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產(chǎn)。”

　　趙占領(lǐng)表示，“至于具體判刑情況，是跟它具體的行為，包括傳播范圍、傳播數(shù)量、金額等等有關(guān)系的。”

　　被侵權(quán)明星若協(xié)商不成可起訴

　　北京法學會電子商務法治研究會會長邱寶昌律師向澎湃新聞指出，對于AI換臉技術(shù)下被侵犯肖像權(quán)和名譽權(quán)的明星，可采取相應法律措施進行維權(quán)。

　　“第一，你可以要求停止侵權(quán)。第二，要求賠償損失。精神損失、造成的經(jīng)濟損失都可以要求索賠。首先可要求賠償，如果協(xié)商協(xié)商不成的話，可以起訴。”

　　在中國裁判文書網(wǎng)中搜索“肖像權(quán)“可見，多名當紅明星都曾涉及肖像權(quán)維權(quán)。其中，有84篇文書與范冰冰的肖像權(quán)維權(quán)相關(guān)，有29篇文書與楊穎的肖像權(quán)維權(quán)相關(guān)，有5篇文書與楊冪的肖像權(quán)相關(guān)。不過，其中大部分是利用明星肖像做廣告以謀取盈利的案件，目前暫未發(fā)現(xiàn)使用AI換臉技術(shù)侵犯肖像權(quán)的案件。

　　澎湃新聞就明星肖像權(quán)維權(quán)咨詢了幾位明星工作室的相關(guān)人員，對方均表示，目前暫未遇到AI換臉侵犯肖像權(quán)的案例。

　　普通人面部信息泄露引發(fā)監(jiān)管部門關(guān)注

　　那么，普通人的照片信息被收集后，是否存在被做成色情視頻的可能性呢?

　　此前有報道稱，在一些電商平臺上，還有賣家表示，可以提供視頻定制換臉產(chǎn)品。只需要買家提供一些被換臉人的照片，賣家便可以將照片中的人臉“轉(zhuǎn)”到特定視頻中特定人物上去。

　　雖然上述幾位閑魚上的賣家目前暫未提供此類服務，但這并不意味著將照片中的人臉“轉(zhuǎn)”到特定視頻中特定人物上去的服務不存在。

　　對于近期火爆的“ZAO”，趙占領(lǐng)律師認為，其確實存在用戶面部信息泄露的風險。

　　“‘ZAO’這個軟件，你要上傳頭像，然后經(jīng)過認證才能把你的換臉的視頻分享給他人。所以這個認證的過程就是要對用戶的人臉進行識別。至少在這個過程中，他肯定會收集臉部信息數(shù)據(jù)的，但他會不會保存就不得而知了。因為現(xiàn)在是它自己單方的說法，我們無從判斷。但不排除它存在存儲用戶臉部特征數(shù)據(jù)的可能性。”

　　趙占領(lǐng)還指出：“它如果存儲這些數(shù)據(jù)的話那確實有風險。有兩方面的風險，第一個就是它自己保管不當導致這些數(shù)據(jù)泄露出去，其他人拿著這些數(shù)據(jù)從事違法犯罪活動，另外一個就是它自身拿這些數(shù)據(jù)進行非法的使用。”

　　9月4日，“ZAO”App由于用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風險等網(wǎng)絡(luò)數(shù)據(jù)安全問題，已被工信部約談。

　　雖然在9月3日，“ZAO”曾公開致歉，稱不會存?zhèn)�人面部生物識別特征信息，且無支付風險。但是，不少網(wǎng)友還是聚集在“ZAO"的微博下，要求注銷賬號并終止授權(quán)肖像。

　　值得一提的是，9月4日上午，“ZAO”的自動回復是一張寫有指導用戶刪除面孔、注銷賬號的說明圖。

　　(澎湃新聞見習記者 揭書宜)