早在2019年，一款名為“ZAO”的AI換臉軟件曾風(fēng)靡網(wǎng)絡(luò)，只要提供一張照片就能成為影視劇的男女主角，讓眾多網(wǎng)友趨之若鶩。然而，因侵犯版權(quán)、侵害隱私、危害數(shù)據(jù)安全等問題，“ZAO”很快被下架處理。
然而，隨著技術(shù)發(fā)展和使用門檻降低，“AI換臉”的應(yīng)用場景越來越多，背后的黑灰產(chǎn)業(yè)鏈也逐漸浮出水面。記者調(diào)查發(fā)現(xiàn)，目前在網(wǎng)絡(luò)平臺上，售賣明星換臉的淫穢視頻、提供視頻定制換臉服務(wù)、教授換臉技術(shù)等已經(jīng)成為一門生意。
技術(shù)本無善惡，但技術(shù)應(yīng)用需要規(guī)制。4月11日，國家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》，在產(chǎn)品安全評估、數(shù)據(jù)合法性等方面作出具體規(guī)定。業(yè)內(nèi)人士認(rèn)為，這一規(guī)定實施后，將對包括“AI換臉”在內(nèi)的生成式人工智能技術(shù)發(fā)展起到很好的規(guī)范和指導(dǎo)作用。
“AI換臉”的法律邊界何在？“AI換臉”服務(wù)的提供者和使用者存在哪些法律風(fēng)險？如何規(guī)制和防范“AI換臉”對個人和社會造成的嚴(yán)重后果？
明星換臉視頻打包出售，定制只需兩三小時
近年來，“AI換臉”等深度合成技術(shù)快速發(fā)展，在服務(wù)用戶需求、改進(jìn)用戶體驗的同時，也被一些不法人員利用，生成惡搞視頻、色情視頻在網(wǎng)上傳播、出售。記者注意到，在有關(guān)部門和網(wǎng)絡(luò)平臺不斷加強(qiáng)監(jiān)管的背景下，一些“換臉軟件”和“定制換臉服務(wù)”轉(zhuǎn)向更隱秘的角落，形成地下黑灰產(chǎn)業(yè)鏈。
換臉應(yīng)用“FacePlay"采取會員制的方式，為用戶提供視頻和照片換臉服務(wù)（應(yīng)用頁面截圖）
記者在百度搜索關(guān)鍵詞“AI換臉”，查詢到一些標(biāo)注為“廣告”的網(wǎng)站，仍在出售“明星換臉視頻”。根據(jù)網(wǎng)頁留下的QQ號，記者聯(lián)系到一個名為“深藍(lán)”的賣家，其隨后發(fā)來“百位明星合成視頻合集”的列表截圖，文件名上標(biāo)注出多位大眾熟知的女明星。
“100部，打包價108元。”深藍(lán)表示，視頻文件將通過QQ文件發(fā)送，支持微信、支付寶、QQ紅包等支付方式。為了證明視頻的質(zhì)量，深藍(lán)隨后發(fā)來幾張動圖，內(nèi)容是幾位女明星被換臉后的淫穢視頻截圖。
另一個賣家則向記者發(fā)送了網(wǎng)盤鏈接。對方稱，視頻時長有幾分鐘到十幾分鐘不等，可以保證視頻質(zhì)量。“如果你有特別喜歡的明星，我們可以為你提供定制服務(wù)，收費比較貴。”對方表示，一段時長約5分鐘的定制視頻要價188元，“兩三個小時就能給你”。
上述兩位賣家都聲稱，出售的明星換臉視頻是團(tuán)隊自己制作的，深藍(lán)更是夸口稱“獨家發(fā)售，絕無僅有，質(zhì)量有保證”。兩名賣家提供的明星換臉合成視頻流暢度極高，幾乎達(dá)到了真假難辨的程度。
實際上，演藝明星、社會名人更容易成為“AI換臉視頻”的受害者。近期，一名男性特效師將自己的臉替換到影視片段中，生成跟女星迪麗熱巴親吻視頻，引發(fā)粉絲抗議。
因不堪其擾，一些明星選擇維權(quán)。2021年8月，劉昊然工作室發(fā)布聲明稱，有人利用“AI換臉”技術(shù)傳播對劉昊然帶有侮辱性的視頻、截圖，同時含有誹謗言論的聊天記錄。該工作室表示已向警方報案。2021年9月，林俊杰因個人肖像被短視頻博主用“AI換臉”技術(shù)制作了大量的鬼畜視頻，起訴了平臺及該博主，要求其賠禮道歉并索賠27．5萬元。
相關(guān)應(yīng)用仍可下載，賣家教授“AI換臉”技術(shù)
不僅有出售明星換臉成品視頻的賣家，各類提供“AI換臉”服務(wù)的App和小程序，仍在網(wǎng)絡(luò)中存在。更甚者，一些賣家要提供換臉技術(shù)教學(xué)服務(wù)，進(jìn)一步降低這類技術(shù)的應(yīng)用門檻，易造成對他人權(quán)益和社會公共安全的危害。
在手機(jī)應(yīng)用商城，記者搜索“AI換臉”等關(guān)鍵詞，就有不少相關(guān)App推薦，如“AI換臉”“FacePlay”等。在某社交平臺上搜索“換臉”，也能看到不少“AI換臉”的小程序，如“AI換臉變裝”等。
記者下載了熱度最高的“FacePlay”App。該App有多款換臉模板可供選擇，包括AI繪畫、影視劇、氣質(zhì)美女、男士專屬等，一鍵上傳照片便可生成換臉視頻。
要想在這些App和小程序上使用“AI換臉”功能，有些需要付費，以“FacePlay”為例，周會員17元、年會員398元。也有免費適用的App，一般用戶每日可享受一次免費“AI換臉”的機(jī)會，用完免費次數(shù)后可通過瀏覽視頻廣告獲取權(quán)限。
而在電商平臺，“AI換臉”“換臉”等關(guān)鍵詞已被屏蔽，但通過“明星視頻”“定制視頻”等更隱蔽的關(guān)鍵詞，仍能找到出售換臉軟件、定制明星換臉視頻及教授換臉技術(shù)的賣家。