11月2日，有網(wǎng)友發(fā)現(xiàn)演員溫崢嶸同時(shí)“現(xiàn)身”在三個(gè)不同直播間，且還穿著不一樣的服裝，推廣不一樣的產(chǎn)品，這一情況很快引發(fā)熱議。溫崢嶸又沒有影分身之術(shù)，今年四月她就發(fā)視頻澄清過自己僅在抖音官方認(rèn)證賬號(hào)進(jìn)行直播，沒有授權(quán)其他平臺(tái)，那么事實(shí)顯而易見了，這三個(gè)不同的直播間或者是使用了錄屏摳圖，或者是用AI換臉偽造技術(shù)，合成了虛假直播內(nèi)容，偏巧開播的時(shí)間差不多，正好被網(wǎng)友刷到。

/strip/ignore-error/1|imageslim"/>

調(diào)查：欺騙性很高的“賽博溫崢嶸”正在泛濫

記者注意到，有類似操作的恐怕不是只有這三個(gè)直播間，互聯(lián)網(wǎng)上儼然出現(xiàn)了一支“賽博溫崢嶸”大軍。記者在搜索溫崢嶸相關(guān)內(nèi)容時(shí)候，短短十來分鐘時(shí)間內(nèi)刷到了四個(gè)溫崢嶸推薦的不同品牌產(chǎn)品的視頻，但令人大為迷惑的是，明明是不一樣的品牌產(chǎn)品，但話術(shù)卻是同一套。視頻里的“溫崢嶸”非常有誠意的表示：“它就是好用啊，我很愛我很愛?！苯又嬅媲械疆a(chǎn)品，“溫崢嶸”的聲音繼續(xù)講解這個(gè)產(chǎn)品的亮點(diǎn)，多個(gè)不同品牌的產(chǎn)品廣告都是類似的敘事邏輯，溫崢嶸說：“它就是好用”的畫面也是一樣的，這顯然是溫崢嶸此前某場直播的切片，然而在這一畫面之后講解的產(chǎn)品不同，但聲音卻又是一樣的，給人一種這是溫崢嶸在講解推薦產(chǎn)品的感覺，有網(wǎng)友疑惑提問：“溫崢嶸帶貨就一套話術(shù)的嗎？太敷衍人了吧?！绷硪粋€(gè)網(wǎng)友回復(fù)：“我覺得是AI的吧，口型都對(duì)不上，好多都是她直播間聊天的切片?！?/p>

多個(gè)這類廣告并沒有任何AI生成標(biāo)注，很難分辨出這是盜播直播切片還是AI合成了溫崢嶸的聲音又或是使用了類似的人類聲音達(dá)到偷梁換柱的效果，但也有部分商家在視頻右下角打上了AI生成的水印，某商家的面膜推廣視頻同樣有“它就是好用啊，我很愛我很愛?！钡闹辈デ衅嬅?，隨后切入產(chǎn)品亮點(diǎn)介紹，但其中有一段“溫崢嶸展示產(chǎn)品效果”的畫面右下角可以看到“剪映AI”的水印，但因?yàn)楸挥疫吔换谡趽?，不仔?xì)觀察很難注意到。

/strip/ignore-error/1|imageslim"/>

還有的商家的廣告在AI合成上更加離譜，劉濤、張柏芝、舒淇、戚薇等一眾知名女明星為溫崢嶸宣傳的某品牌面膜站臺(tái)，視頻里的戚薇說：“對(duì)不起溫崢嶸我給你道歉”，劉濤說：“我很感謝溫崢嶸給我推薦了xx面膜，我能有這樣一個(gè)福氣?！彪m然聲音聽起來非常像本人，但是口型的確很明顯對(duì)不上，這個(gè)廣告視頻內(nèi)容已經(jīng)被不少人打假，有戚薇的粉絲指出戚薇視頻片段是她出席某品牌婚紗活動(dòng)的現(xiàn)場內(nèi)容，和面膜毫無關(guān)系。

有粉絲“一天舉報(bào)18個(gè)”

濫用AI打虛假廣告正在透支消費(fèi)者的信任

今年4月1日，溫崢嶸發(fā)視頻打假，明確的表示自己只有一個(gè)賬號(hào)直播，她和團(tuán)隊(duì)也注意到了有很多賬號(hào)冒充她開直播、打廣告，她也支持粉絲看到了盜播的直播間進(jìn)行舉報(bào)。有一名溫崢嶸的粉絲在五月時(shí)表示，自己在一天之內(nèi)一連舉報(bào)了18個(gè)偽造溫崢嶸的直播間，“根本舉報(bào)不過來啊，舉報(bào)一個(gè)又新增一個(gè)?！贝蟀肽陼r(shí)間過去了，仍舊有商家盜用溫崢嶸過往的直播素材，用錄播摳圖或者AI換臉等方式合成虛假直播內(nèi)容。

/strip/ignore-error/1|imageslim"/>

不管是盜播還是用AI合成，對(duì)溫崢嶸本人來說，這是對(duì)她肖像權(quán)、聲音權(quán)的侵犯毋庸置疑，這一行為還可能誤導(dǎo)公眾對(duì)其商業(yè)合作范圍的認(rèn)知，損害專業(yè)形象，但AI技術(shù)可快速批量生成侵權(quán)內(nèi)容，一些商家還通過相當(dāng)隱蔽的手段逃脫監(jiān)管，藝人要取證、維權(quán)需投入大量資源，成本高昂，困難重重。

對(duì)消費(fèi)者來說，商家通過AI合成技術(shù)將溫崢嶸的過往錄播片段摳圖嵌入不同直播間，模擬實(shí)時(shí)互動(dòng)，消費(fèi)者誤以為在與真人主播交流，甚至基于對(duì)明星的喜愛和信任下單支持。更嚴(yán)重的是，非官方直播間銷售的商品可能存在假貨風(fēng)險(xiǎn)，買到假冒偽劣產(chǎn)品時(shí)有發(fā)生。另一方面，由于AI直播間未明確標(biāo)識(shí)技術(shù)合成屬性，消費(fèi)者難以追溯責(zé)任主體。即使發(fā)現(xiàn)受騙，也需面對(duì)商家推諉、平臺(tái)追責(zé)困難等問題，維權(quán)效率低下。

從長期來看，在帶貨直播間和廣告短視頻中濫用AI深度偽造技術(shù)，是對(duì)營商環(huán)境的破壞，AI仿冒行為可能導(dǎo)致消費(fèi)者對(duì)"明星直播"產(chǎn)生普遍懷疑，削弱對(duì)正規(guī)品牌的信任，消費(fèi)者可能形成“狼來了”效應(yīng)，即便是正規(guī)做廣告做直播的商家，也要被懷疑是不是假的，以犧牲"真實(shí)"為代價(jià)的品牌推廣，本質(zhì)是透支社會(huì)信任。當(dāng)消費(fèi)者對(duì)宣傳真實(shí)性失去信心，整個(gè)電商生態(tài)將陷入信任危機(jī)，抑制數(shù)字消費(fèi)潛力，若對(duì)直播、廣告營銷領(lǐng)域的AI合成技術(shù)不加以約束，最終將形成劣幣驅(qū)逐良幣的惡性循環(huán)。

今年9月1日起，由國家互聯(lián)網(wǎng)信息辦公室等制定的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》開始施行，要求所有AI生成的文字、圖片、視頻等內(nèi)容，都要“亮明身份”，即添加標(biāo)識(shí)以明確其來源和真實(shí)性。在新規(guī)推進(jìn)的過程中，鉆漏子的商家肯定還存在，各種五花八門試圖繞開監(jiān)管的“技巧”一定也還會(huì)有，但也相信在監(jiān)管部門、平臺(tái)等多方面的合力下，“溫崢嶸”的影分身們能越來越少，讓直播電商回歸到誠信做生意的本分上來。

揚(yáng)子晚報(bào)|紫牛新聞?dòng)浾?沈昭