
早在2019年,一款名為“ZAO”的AI換臉軟件曾風(fēng)靡網(wǎng)絡(luò),只要提供一張照片就能成為影視劇的男女主角,讓眾多網(wǎng)友趨之若鶩。然而,因侵犯版權(quán)、侵害隱私、危害數(shù)據(jù)安全等問題,“ZAO”很快被下架處理。
然而,隨著技術(shù)發(fā)展和使用門檻降低,“AI換臉”的應(yīng)用場景越來越多,背后的黑灰產(chǎn)業(yè)鏈也逐漸浮出水面。記者調(diào)查發(fā)現(xiàn),目前在網(wǎng)絡(luò)平臺上,售賣明星換臉的淫穢視頻、提供視頻定制換臉服務(wù)、教授換臉技術(shù)等已經(jīng)成為一門生意。
技術(shù)本無善惡,但技術(shù)應(yīng)用需要規(guī)制。4月11日,國家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》,在產(chǎn)品安全評估、數(shù)據(jù)合法性等方面作出具體規(guī)定。業(yè)內(nèi)人士認(rèn)為,這一規(guī)定實施后,將對包括“AI換臉”在內(nèi)的生成式人工智能技術(shù)發(fā)展起到很好的規(guī)范和指導(dǎo)作用。
“AI換臉”的法律邊界何在?“AI換臉”服務(wù)的提供者和使用者存在哪些法律風(fēng)險?如何規(guī)制和防范“AI換臉”對個人和社會造成的嚴(yán)重后果?
明星換臉視頻打包出售,定制只需兩三小時
近年來,“AI換臉”等深度合成技術(shù)快速發(fā)展,在服務(wù)用戶需求、改進(jìn)用戶體驗的同時,也被一些不法人員利用,生成惡搞視頻、色情視頻在網(wǎng)上傳播、出售。記者注意到,在有關(guān)部門和網(wǎng)絡(luò)平臺不斷加強(qiáng)監(jiān)管的背景下,一些“換臉軟件”和“定制換臉服務(wù)”轉(zhuǎn)向更隱秘的角落,形成地下黑灰產(chǎn)業(yè)鏈。
換臉應(yīng)用“FacePlay"采取會員制的方式,為用戶提供視頻和照片換臉服務(wù)(應(yīng)用頁面截圖)
記者在百度搜索關(guān)鍵詞“AI換臉”,查詢到一些標(biāo)注為“廣告”的網(wǎng)站,仍在出售“明星換臉視頻”。根據(jù)網(wǎng)頁留下的QQ號,記者聯(lián)系到一個名為“深藍(lán)”的賣家,其隨后發(fā)來“百位明星合成視頻合集”的列表截圖,文件名上標(biāo)注出多位大眾熟知的女明星。
“100部,打包價108元。”深藍(lán)表示,視頻文件將通過QQ文件發(fā)送,支持微信、支付寶、QQ紅包等支付方式。為了證明視頻的質(zhì)量,深藍(lán)隨后發(fā)來幾張動圖,內(nèi)容是幾位女明星被換臉后的淫穢視頻截圖。
另一個賣家則向記者發(fā)送了網(wǎng)盤鏈接。對方稱,視頻時長有幾分鐘到十幾分鐘不等,可以保證視頻質(zhì)量。“如果你有特別喜歡的明星,我們可以為你提供定制服務(wù),收費比較貴。”對方表示,一段時長約5分鐘的定制視頻要價188元,“兩三個小時就能給你”。
上述兩位賣家都聲稱,出售的明星換臉視頻是團(tuán)隊自己制作的,深藍(lán)更是夸口稱“獨家發(fā)售,絕無僅有,質(zhì)量有保證”。兩名賣家提供的明星換臉合成視頻流暢度極高,幾乎達(dá)到了真假難辨的程度。
實際上,演藝明星、社會名人更容易成為“AI換臉視頻”的受害者。近期,一名男性特效師將自己的臉替換到影視片段中,生成跟女星迪麗熱巴親吻視頻,引發(fā)粉絲抗議。
因不堪其擾,一些明星選擇維權(quán)。2021年8月,劉昊然工作室發(fā)布聲明稱,有人利用“AI換臉”技術(shù)傳播對劉昊然帶有侮辱性的視頻、截圖,同時含有誹謗言論的聊天記錄。該工作室表示已向警方報案。2021年9月,林俊杰因個人肖像被短視頻博主用“AI換臉”技術(shù)制作了大量的鬼畜視頻,起訴了平臺及該博主,要求其賠禮道歉并索賠27.5萬元。
相關(guān)應(yīng)用仍可下載,賣家教授“AI換臉”技術(shù)
不僅有出售明星換臉成品視頻的賣家,各類提供“AI換臉”服務(wù)的App和小程序,仍在網(wǎng)絡(luò)中存在。更甚者,一些賣家要提供換臉技術(shù)教學(xué)服務(wù),進(jìn)一步降低這類技術(shù)的應(yīng)用門檻,易造成對他人權(quán)益和社會公共安全的危害。
在手機(jī)應(yīng)用商城,記者搜索“AI換臉”等關(guān)鍵詞,就有不少相關(guān)App推薦,如“AI換臉”“FacePlay”等。在某社交平臺上搜索“換臉”,也能看到不少“AI換臉”的小程序,如“AI換臉變裝”等。
記者下載了熱度最高的“FacePlay”App。該App有多款換臉模板可供選擇,包括AI繪畫、影視劇、氣質(zhì)美女、男士專屬等,一鍵上傳照片便可生成換臉視頻。
要想在這些App和小程序上使用“AI換臉”功能,有些需要付費,以“FacePlay”為例,周會員17元、年會員398元。也有免費適用的App,一般用戶每日可享受一次免費“AI換臉”的機(jī)會,用完免費次數(shù)后可通過瀏覽視頻廣告獲取權(quán)限。
而在電商平臺,“AI換臉”“換臉”等關(guān)鍵詞已被屏蔽,但通過“明星視頻”“定制視頻”等更隱蔽的關(guān)鍵詞,仍能找到出售換臉軟件、定制明星換臉視頻及教授換臉技術(shù)的賣家。