人工智能“造(zao)假式(shi)索賠(pei)”,違法(fa)嗎?
2025-11-03 15:51:55 來源: 中(zhong)央廣(guang)播電視(shi)總臺中(zhong)國之(zhi)聲
近期,一些消費者利用AI工具制作虛假圖片來騙取退款的行為,被部分商家在社交平臺上曝光,隨即引發熱議,AI軟件甚至又多了個“退款神器”的名頭。發霉的水果、破裂的鏡子、灑掉的奶茶……據記者了解,社交平臺上類似被商家披露的案例中,大多是消費者對AI軟件下達指令,生成相應的偽造圖片后,再聲稱貨品存在質量問題,以此申請售后處理。
消費者利用AI偽造商品有問題的圖片申請退款,這種行為該如何定性,是否涉嫌違法?平臺如果沒有盡到審核義務支持買家退款,商家損失怎么辦?監管部門、電商平臺及商家可采取哪些具體措施予以監管和遏制?
?案例一:偽造酸奶發霉圖片

△人工智能修改偽造的酸奶發霉圖(tu)片,原圖(tu)和(he)偽造圖(tu)對比

?案例二:偽(wei)造蛋糕磕碰破損圖片及視頻


在社交平臺上,有商家曬出了一些所謂商品“瑕疵”圖,部分商品圖片似乎可以以假亂真,但是仔細看依舊有不少漏洞。例如修改后的圖片中,商品出現了不合邏輯、不合常理、不符合物理規律的變化等,部分圖片還留有“人工智能生成”的水印或者標注。記者檢索發現,涉事商品大多為食品、生活用品等,雖然單價不高但是依舊引發討論。這種行為到底是“薅羊毛”還是涉嫌違法?
中國互聯網協會法治工作委員會副秘書長 胡鋼:依照我(wo)國(guo)《民法(fa)典(dian)》和《消(xiao)費者(zhe)權益保護法(fa)》的有(you)關規(gui)定(ding),消(xiao)費者(zhe)應當遵循誠信原則,依法(fa)維護自身的合法(fa)權益。消(xiao)保法(fa)實施條例也規(gui)定(ding),消(xiao)費者(zhe)通過造假、捏造事實等(deng)方式騙取經營者(zhe)的賠償(chang),或者(zhe)對經營者(zhe)進行敲詐(zha)勒索的,不適(shi)用懲罰(fa)性(xing)賠償(chang)的規(gui)定(ding)。
北京郵電大學互聯網治理與法律研究中心主任、教授 謝永江:如果是數額較小,消費者可能涉嫌民事欺詐,商家可以要求返還貨款。如果涉及金額較大或者情節嚴重的,消費者還可能構成行政違法甚至涉嫌詐騙罪。
《治(zhi)安(an)管理處(chu)罰法(fa)》就有相關規定,這種詐騙要處(chu)5到(dao)10日的(de)拘留或者2000以(yi)下(xia)的(de)罰款,情節較重(zhong)的(de)話,要處(chu)10到(dao)15日拘留,3000以(yi)下(xia)的(de)罰款。如果數額夠(gou)大,比(bi)如說3000以(yi)上(shang)達到(dao)這個(ge)刑事立(li)案的(de)標準,那可(ke)能構成這個(ge)刑法(fa)上(shang)的(de)詐騙罪了。
胡鋼表示,除了消費者,不少經營者也利用人工智能等技術實施造假。同時,惡意索賠的消費者畢竟僅占廣大消費者中極少的部分。那么,如果平臺沒有盡到審核義務,支持買家“AI造假”退款,給商家造成損失怎么辦?
胡鋼:依照我國《網絡安全法》《電子商務法》等法律的有關規定,平臺經營者應當履行合理的身份核驗、內容審查、爭議調處等法定職責。平臺經營者沒有妥善盡到合理的審核義務和調處義務,造成平臺內經營者損失的,平臺經營者應當與惡意索賠的消費者共同承擔相應的賠償責任。
記者也嘗(chang)試使用多款人工智能(neng)軟件(jian)進行“復(fu)現(xian)”,發現(xian)部分生成(cheng)結果(guo)的確可以以假亂真。
商家無法分辨誠實消費者,不得不增加防偽成本,如錄制商品封裝過程等;消費者難以甄別商家宣傳的真偽,購物決策變得猶豫;平臺則陷入對交易雙方行為的審核困境。部分消費者利用AI造假破壞市場環境,監管部門、電商平臺及商家可采取哪些具體措施予以監管和遏制?
面對AI偽(wei)造的(de)退貨圖片,商家也探索應用了(le)一系列應對措施。部分商家表(biao)示(shi),對于“僅(jin)退款”的(de)交易申請已經提高(gao)審核門(men)檻(jian),例(li)如要(yao)求買家提供(gong)不(bu)同角度的(de)拍(pai)(pai)攝照(zhao)片,甚至提供(gong)連續的(de)視(shi)頻證據。還(huan)有(you)的(de)購物App要(yao)求必須通過(guo)自(zi)帶(dai)拍(pai)(pai)照(zhao)功能拍(pai)(pai)攝商品圖片,無法從相冊選擇(ze)圖片。
胡鋼:從監管部門而言,需要不斷完善相關法律法規,特別是及時出臺有關AI技術實施欺詐等違法行為的專門規定,或健全有關技術指南,從而明確其法律性質和處罰標準。其次,要加強技術監管,利用技術手(shou)段(duan)來強化(hua)對相關違法行為的監(jian)測、識別和打擊力度,同時對個(ge)別典型的案例嚴格處罰,形成震懾效應。
胡鋼認為,要(yao)(yao)強(qiang)化國家強(qiang)制性標(biao)準的(de)建設和(he)實施,即強(qiang)制要(yao)(yao)求人工(gong)智能技術生成的(de)內容(rong)必須帶(dai)有不(bu)可篡改的(de)水印或標(biao)識,以便及(ji)時(shi)識別和(he)有效(xiao)溯源。
胡鋼:對(dui)于電商平臺經(jing)營者(zhe)而(er)言,要強(qiang)化其技術和管(guan)理(li)措施,例如升級審核(he)技術,優化審核(he)流程,并且加強(qiang)對(dui)商家和消費者(zhe)的培訓和支持。對(dui)于商家,需要強(qiang)化證(zheng)據留存,提高(gao)風險防范意識,并且積(ji)極有效維權。
為規范AI發展問題,自9月1日起,《人工智能生成合成內容標識辦法》已正式實施,明確規定AI生成內容需要“持證上崗”,人工智能生成合成內容應有顯式標識和隱式標識。但是新規(gui)并(bing)沒有就不(bu)進行(xing)AI標注(zhu)的(de)(de)法(fa)律后果進行(xing)明示。謝永(yong)江(jiang)建議,對(dui)此類“僅退款”的(de)(de)申(shen)請,平(ping)臺方應(ying)當升級(ji)相應(ying)的(de)(de)技術手(shou)段,對(dui)新規(gui)要求下的(de)(de)圖(tu)片或者視頻進行(xing)實質性(xing)審(shen)核,盡到合(he)理的(de)(de)審(shen)查(cha)義(yi)務(wu)。
謝永江:平臺(tai)碰到(dao)這種(zhong)新現象,它應該對照(zhao)片(pian)、圖片(pian)進行實(shi)質審(shen)核,判(pan)斷是否偽造,要(yao)有(you)(you)配套的技術(shu)手(shou)段,提高識別率(lv)。另(ling)外最好也聽取商(shang)家的意見,看(kan)看(kan)商(shang)家陳(chen)述,對于商(shang)家有(you)(you)救(jiu)濟(ji)渠(qu)道。如(ru)果(guo)平臺(tai)沒(mei)有(you)(you)盡到(dao)審(shen)核義務的話,平臺(tai)方就(jiu)有(you)(you)過錯(cuo),如(ru)果(guo)對商(shang)家造成損害(hai),也應該承(cheng)擔責任。
此外,謝永江還建(jian)議,構建(jian)跨平臺消費(fei)者信(xin)用(yong)聯動機制(zhi)(zhi),對此類惡意退款行為進行限制(zhi)(zhi),將(jiang)不(bu)誠信(xin)消費(fei)者納入征信(xin)體系。
謝永江:如(ru)果能夠跨平(ping)(ping)臺(tai)進行信用聯動(dong),你(ni)在某平(ping)(ping)臺(tai)上用這(zhe)種手段(duan)來(lai)(lai)申(shen)請退款(kuan),那(nei)在別的(de)平(ping)(ping)臺(tai)上也把你(ni)列入相應(ying)的(de)黑名單或(huo)者是關(guan)注名單。對(dui)消費(fei)者來(lai)(lai)講,如(ru)果惡意申(shen)請退款(kuan),那(nei)就付出相應(ying)的(de)代價。可以通過主管(guan)部門(men)來(lai)(lai)牽頭,或(huo)者行業平(ping)(ping)臺(tai)來(lai)(lai)牽頭建(jian)立這(zhe)種機制。
責任編輯:李遠山



                    
                    
                
        
                
            
發言請遵守新聞跟帖服務協議