近日，有網(wǎng)友發(fā)現(xiàn)演員溫崢嶸同時(shí)“現(xiàn)身”多個(gè)直播間，她身著不同服裝推廣各類產(chǎn)品，動(dòng)作神態(tài)與本人高度相似，不知情的觀眾極易信以為真。但事實(shí)上，這是不法商家利用錄屏摳圖或盜用過往直播素材，用AI生成的虛假內(nèi)容。
隨著人工智能技術(shù)逐漸成熟，AI換臉門檻降低，這一原本用于影視等領(lǐng)域的技術(shù)，如今卻成為不法商家炮制AI“李鬼”、謀取私利的工具。此前主持人李梓萌的AI形象被用于推銷“深海多烯魚油”，結(jié)果被查出產(chǎn)品僅是普通糖果。奧運(yùn)冠軍、專家教授等各界名人也屢遭AI換臉帶貨。而帶貨視頻中的商品多是山寨貨，與宣傳相差甚遠(yuǎn)。這種行為不僅侵犯名人肖像權(quán)、聲音權(quán)，還可能損害消費(fèi)者權(quán)益、誤導(dǎo)公眾。
今年9月1日，《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行，要求所有AI生成的文字、圖片、視頻等，都要添加標(biāo)識以明確來源和真實(shí)性。新規(guī)的出臺為治理AI造假亂象提供了制度保障，有助于推動(dòng)人工智能規(guī)范發(fā)展。
然而現(xiàn)實(shí)中，不少造假者將標(biāo)識藏在視頻、直播簡介的角落，用極小的字體顯示，消費(fèi)者很難注意到。有的商家利用技術(shù)手段對AI生成內(nèi)容進(jìn)行去標(biāo)識化處理，或?qū)I合成內(nèi)容拆分、在多個(gè)賬號碎片化發(fā)布，讓AI造假內(nèi)容混跡在正常信息流中，難以被精準(zhǔn)識別。
部分平臺在內(nèi)容審核方面也存在不足，有的平臺尚未建立起“事前預(yù)防、事中監(jiān)控”的全流程治理體系。更值得警惕的是，由于AI仿冒名人的直播自帶“名人效應(yīng)”，能快速吸引消費(fèi)者點(diǎn)擊購買、提升商品轉(zhuǎn)化率，部分平臺的推薦算法也有可能在沒有識別出此類侵權(quán)內(nèi)容的情況下，助長其傳播擴(kuò)散。
對于被侵權(quán)者來說，即便發(fā)現(xiàn)疑似侵權(quán)內(nèi)容，要想固定證據(jù)、證明相關(guān)內(nèi)容由AI生成，過程復(fù)雜且技術(shù)門檻高。而立案訴訟往往耗時(shí)數(shù)月，在此期間，侵權(quán)內(nèi)容可能已廣泛傳播。違法成本低、維權(quán)成本高的現(xiàn)實(shí)，使不法商家有恃無恐，助長了其囂張氣焰。
AI技術(shù)本應(yīng)更好地服務(wù)于人，而非成為侵權(quán)造假的工具。破解AI造假困境，需要監(jiān)管部門進(jìn)一步規(guī)范AI技術(shù)應(yīng)用標(biāo)準(zhǔn)，加大對違法商家、失職平臺的處罰力度，強(qiáng)化制度建設(shè)、筑牢監(jiān)管防線；平臺也應(yīng)主動(dòng)承擔(dān)主體責(zé)任，加大技術(shù)投入，優(yōu)化AI內(nèi)容識別系統(tǒng)，完善審核機(jī)制與追責(zé)體系。唯有以技術(shù)賦能創(chuàng)新，以規(guī)則護(hù)航發(fā)展，才能讓AI真正成為推動(dòng)社會(huì)進(jìn)步的力量。
（稿件來源：新華每日電訊）
掃一掃分享本頁
