近日，有網(wǎng)友發(fā)現(xiàn)，一些短劇通過AI技術(shù)深度合成與明星高度相似的面部特征、神態(tài)及聲音，用于塑造虛擬角色，涉事劇集熱度高達4000萬至7500萬。5日凌晨，該明星工作室發(fā)聲維權(quán)，涉事短劇隨即下架，平臺回應(yīng)稱“已完成內(nèi)容修改或刪除”。

這一事件成為AI換臉技術(shù)濫用的典型寫照。隨著AI“深度偽造”引發(fā)的侵權(quán)事件頻頻進入公眾視野，記者發(fā)現(xiàn)，在輿論聚焦個案曝光的同時，“AI換臉”服務(wù)已在電商平臺悄然出現(xiàn)，形成一條涵蓋教程傳播與定制服務(wù)的灰色產(chǎn)業(yè)鏈。

AI換臉服務(wù)

在電商平臺悄然出現(xiàn)

近日，記者在多個電商平臺發(fā)現(xiàn)，提供AI視頻生成、數(shù)字人定制等服務(wù)的店鋪不在少數(shù)。記者以普通消費者的身份，隨機選擇了5家相關(guān)商家進行實測。在詢問“是否可以用明星的頭像制作視頻”時，5家店鋪均表示可以制作，但店鋪頁面均未明確標(biāo)注提供AI換臉服務(wù)。其中，有3家客服在了解記者需求后，引導(dǎo)記者前往其他社交平臺進一步溝通制作細節(jié)。

按照商家指引，記者添加了其中一名客服的企業(yè)微信，并發(fā)去一段隨機選取的明星代言視頻，詢問：“類似這種效果，素人拍攝，后期替換成明星臉，怎么收費？”對方回復(fù)稱可以制作，拍攝完成后可用AI技術(shù)替換為明星的面孔，價格根據(jù)視頻時長計算。另一名客服在明確得知記者打算使用明星臉制作帶貨視頻后，甚至主動提出可以免費試做小樣。在5家受訪商家中，僅有一家在得知記者制作的明星AI視頻將用于商業(yè)用途后，表示無法接單。

不僅如此，部分社交平臺還出現(xiàn)了“AI換臉視頻教程”短視頻，專門教學(xué)如何進行AI換臉。記者根據(jù)其中一期教程，在某款A(yù)I視覺大模型中上傳了一段自拍視頻，同時上傳了一張明星的正面照片，等待一段時間后，模型順利將記者的臉部替換為明星的面孔，原視頻中的口型、表情和聲音得以保留，而臉部、發(fā)型乃至服裝均呈現(xiàn)為該明星的形象，幾乎以假亂真。此外，只需購買會員，即可去除AI生成內(nèi)容中的水印。

人人都可能成為

“數(shù)字盜臉”的受害者

近期，AI換臉技術(shù)濫用問題集中爆發(fā)，從演藝、體育明星到政商人士，乃至普通素人，均有可能成為受害者。據(jù)不完全統(tǒng)計，僅今年前3個月，就已發(fā)生數(shù)十起演員及影視從業(yè)者針對AI短劇的公開維權(quán)事件。

AI換臉技術(shù)的濫用甚至已延伸至犯罪領(lǐng)域。今年，晉安檢察辦理福州首例AI“活化”換臉認證案。李某甲、李某乙二人利用AI軟件將靜態(tài)照片“活化”為動態(tài)視頻，成功繞過支付App的人臉識別系統(tǒng)，協(xié)助上家轉(zhuǎn)移非法資金10萬元。兩人被公安機關(guān)抓獲后，于今年3月以非法獲取計算機信息系統(tǒng)數(shù)據(jù)罪被判處刑罰。

記者了解到，在該案中，犯罪嫌疑人購買一個未認證的支付賬戶，并配以相應(yīng)的個人身份信息和照片，成本僅需1.6元至2.5元；而利用AI生成用于繞過驗證的動態(tài)視頻，耗時不過幾分鐘，成本幾乎可以忽略不計。

“即便是專業(yè)人士，也難以準(zhǔn)確區(qū)分真實內(nèi)容與AI生成內(nèi)容。”長期深耕AI影像修復(fù)與生成領(lǐng)域的福建帝視科技集團有限公司人工智能算法總監(jiān)鄧煒表示，隨著AI視頻技術(shù)的日益普及，技術(shù)門檻持續(xù)降低，甚至部分開源模型也可免費使用，在這種低風(fēng)險、高回報的模式下，不法分子愈發(fā)肆無忌憚。

筑牢AI換臉“防火墻”

鄧煒認為，防治AI換臉技術(shù)濫用，可以從技術(shù)源頭上筑牢安全防線。例如，可以在AI生成的內(nèi)容中添加“隱形水印”，即便內(nèi)容經(jīng)歷裁剪、壓縮等操作，水印仍可被專用檢測器提取，從而實現(xiàn)來源追溯。

此外，還可以采用更具“進攻性”的防御思路。“運用‘數(shù)據(jù)投毒’技術(shù)，當(dāng)不法分子抓取圖片用于訓(xùn)練換臉模型時，被‘下毒’的數(shù)據(jù)會干擾模型的學(xué)習(xí)過程，導(dǎo)致生成內(nèi)容出現(xiàn)扭曲、偽影等無法修復(fù)的缺陷，從而變得容易被識別。”鄧煒指出，然而，相關(guān)技術(shù)的落地應(yīng)用，需要有關(guān)部門加快出臺配套的法律法規(guī)與標(biāo)準(zhǔn)規(guī)范。

AI換臉技術(shù)的灰黑產(chǎn)業(yè)鏈涉及圖像提供者、內(nèi)容制作者、AI技術(shù)公司、平臺等多個環(huán)節(jié)。業(yè)內(nèi)人士認為，AI技術(shù)公司在嚴格遵守相關(guān)法律規(guī)定的同時，平臺方也應(yīng)優(yōu)化內(nèi)容審核與技術(shù)監(jiān)管，相關(guān)部門則需加大備案審查與執(zhí)法力度。

福州檢察機關(guān)也提醒廣大消費者，應(yīng)增強自我保護意識，妥善保管個人信息。一旦發(fā)現(xiàn)賬戶異常，應(yīng)及時聯(lián)系平臺客服并向公安機關(guān)報案，共同營造“放心消費”的良好環(huán)境。

記者了解到，AI換臉技術(shù)的濫用已引發(fā)有關(guān)部門的高度關(guān)注。今年1月1日，新修改的《中華人民共和國網(wǎng)絡(luò)安全法》正式施行。其中，新法增設(shè)了人工智能專章，明確禁止利用人工智能從事危害公民合法權(quán)益的活動。深度偽造他人肖像、聲音，或利用AI實施詐騙等行為，均被納入法律的嚴格監(jiān)管范圍。（記者 沐方婷）