聽新聞
近日,有網友發現演員溫崢嶸同時“現身”多個直播間,她身著不同服裝推廣各類產品,動作神態與本人高度相似,不知情的觀眾極易信以為真。但事實上,這是不法商家利用錄屏摳圖或盜用過往直播素材,用AI生成的虛假內容。
隨著人工智能技術逐漸成熟,AI換臉門檻降低,這一原本用于影視等領域的技術,如今卻成為不法商家炮制AI“李鬼”、謀取私利的工具。此前主持人李梓萌的AI形象被用于推銷“深海多烯魚油”,結果被查出產品僅是普通糖果。奧運冠軍、專家教授等各界名人也屢遭AI換臉帶貨。而帶貨視頻中的商品多是山寨貨,與宣傳相差甚遠。這種行為不僅侵犯名人肖像權、聲音權,還可能損害消費者權益、誤導公眾。
今年9月1日,《人工智能生成合成內容標識辦法》正式施行,要求所有AI生成的文字、圖片、視頻等,都要添加標識以明確來源和真實性。新規的出臺為治理AI造假亂象提供了制度保障,有助于推動人工智能規范發展。
然而現實中,不少造假者將標識藏在視頻、直播簡介的角落,用極小的字體顯示,消費者很難注意到。有的商家利用技術手段對AI生成內容進行去標識化處理,或將AI合成內容拆分、在多個賬號碎片化發布,讓AI造假內容混跡在正常信息流中,難以被精準識別。
部分平臺在內容審核方面也存在不足,有的平臺尚未建立起“事前預防、事中監控”的全流程治理體系。更值得警惕的是,由于AI仿冒名人的直播自帶“名人效應”,能快速吸引消費者點擊購買、提升商品轉化率,部分平臺的推薦算法也有可能在沒有識別出此類侵權內容的情況下,助長其傳播擴散。
對于被侵權者來說,即便發現疑似侵權內容,要想固定證據、證明相關內容由AI生成,過程復雜且技術門檻高。而立案訴訟往往耗時數月,在此期間,侵權內容可能已廣泛傳播。違法成本低、維權成本高的現實,使不法商家有恃無恐,助長了其囂張氣焰。
AI技術本應更好地服務于人,而非成為侵權造假的工具。破解AI造假困境,需要監管部門進一步規范AI技術應用標準,加大對違法商家、失職平臺的處罰力度,強化制度建設、筑牢監管防線;平臺也應主動承擔主體責任,加大技術投入,優化AI內容識別系統,完善審核機制與追責體系。唯有以技術賦能創新,以規則護航發展,才能讓AI真正成為推動社會進步的力量。(張曉雨)
分享成功
相關推薦
參與評論積分 龍珠商城兌好禮
打開第1眼TV-華龍網查看全部評論 >