網(wǎng)購時(shí)遇到商品問題，內(nèi)容隨手拍張照片申請(qǐng)售后，鑒定本是國家功加勒比海盜1百度影音消費(fèi)者維權(quán)的常規(guī)操作。可近期，反詐不少電商商家反映，中心有買家使用AI偽造出來的線新“問題圖”申請(qǐng)僅退款，不用退貨還能白拿商品，內(nèi)容這讓商家叫苦不迭。鑒定

對(duì)此，國家功部分網(wǎng)友推薦使用國家反詐中心App近期上線的反詐“AI內(nèi)容鑒定”功能，用戶可通過上傳圖片、中心視頻、線新音頻或文本來檢測AI生成痕跡，內(nèi)容加勒比海盜1百度影音主要用于識(shí)別詐騙場景中的鑒定偽造內(nèi)容。

也有部分網(wǎng)友提出疑問，國家功用AI治理惡意AI能有效果嗎？是否能利用“AI內(nèi)容鑒定”功能進(jìn)行維權(quán)？

買家以AI偽造枯黃果苗圖片

申請(qǐng)“僅退款”

河北辛集市的張先生是一名無花果樹種植戶，上個(gè)月他把店開到了某直播電商平臺(tái)，售賣無花果苗。然而僅賣出12單，他就收到了一份“僅退款”申請(qǐng)，對(duì)方的理由是收到的無花果苗已干枯死亡，隨申請(qǐng)附上的，是一張葉片全黃、毫無生機(jī)的果苗圖片。

張先生滿心疑惑，自己明明是帶盆發(fā)貨，兩天時(shí)間果苗怎么會(huì)完全枯死？“直播選的苗，他選了一棵特別健壯的。我是帶盆發(fā)貨的，發(fā)貨之前也會(huì)保證土壤濕潤。發(fā)貨到客戶收到就兩天時(shí)間，苗不可能干到顏色枯黃。缺水枯黃至少要5天到7天。”

憑借多年種植經(jīng)驗(yàn)，張先生找出了圖片中的破綻。“如果真的失水，就是運(yùn)輸途中有問題的話，它的葉子不會(huì)展開，應(yīng)該是皺且下垂的。這個(gè)圖片枯萎死亡的狀態(tài)，完全是把正常植物的葉片改成枯黃的顏色，稍微有點(diǎn)經(jīng)驗(yàn)的人都能看出來。”

張先生斷定，這就是AI造假。他隨即駁回了申請(qǐng)，并聯(lián)系買家退貨退款，但買家直接申請(qǐng)了平臺(tái)介入。盡管張先生據(jù)理力爭，平臺(tái)還是依據(jù)顧客發(fā)來的這張圖片，幾分鐘內(nèi)就批準(zhǔn)了“僅退款”申請(qǐng)。最終，這筆45元的訂單讓張先生直接啟動(dòng)退店流程，不再在該平臺(tái)賣苗。

記者調(diào)查發(fā)現(xiàn)，張先生的遭遇并非個(gè)例。在社交平臺(tái)上，不少商家現(xiàn)身說法，講述自己見過的AI偽造售后圖片。五只衣架在同一位置整齊斷裂、塑料手機(jī)殼斷裂邊緣出現(xiàn)毛刺、手串破碎后呈空心殼狀……記者梳理多位商家曬出的疑似AI造假圖發(fā)現(xiàn)，這些圖片雖然乍看逼真，但細(xì)看卻漏洞百出，存在邏輯硬傷。

國家反詐中心App上線鑒定功能

記者體驗(yàn)AI鑒真工具使用效果

在AI生成圖像泛濫的當(dāng)下，如何精準(zhǔn)鑒別真?zhèn)我殉蔀槔@不開的現(xiàn)實(shí)問題。近期，國家反詐中心App正式上線“AI內(nèi)容鑒定”功能，引發(fā)網(wǎng)友關(guān)注。該功能支持圖像、視頻等內(nèi)容的AI識(shí)別檢測，與此同時(shí)，各互聯(lián)網(wǎng)平臺(tái)也在積極布局“AI鑒真工具”。

記者在網(wǎng)絡(luò)上隨機(jī)選取了十張商家宣稱的疑似AI生成“售后圖”，上傳國家反詐中心App及多個(gè)AI鑒真工具，結(jié)果無一例外，均被系統(tǒng)判定為“圖像含AI生成痕跡”。張先生提供的干枯無花果圖片也被系統(tǒng)認(rèn)定“圖像含AI生成痕跡”。與之相對(duì)比，記者上傳一張自己隨手拍攝的照片，系統(tǒng)則提示“未檢測到合成痕跡”。

某網(wǎng)絡(luò)平臺(tái)安全內(nèi)容視覺算法負(fù)責(zé)人蘭鈞介紹，檢測方法由兩部分組成，一部分是小模型來學(xué)習(xí)AIGC模型生成內(nèi)容的模式，基于大量的內(nèi)容學(xué)習(xí)和訓(xùn)練，然后進(jìn)行判斷。另外會(huì)用大模型來關(guān)注內(nèi)容本身，看它內(nèi)容上有沒有物理上的瑕疵，比如文字有沒有亂碼；此外也會(huì)看它邏輯語義上是否會(huì)出現(xiàn)不符合邏輯的問題。最終小模型和大模型結(jié)合，一起來進(jìn)行判斷。

“我們希望它不要出現(xiàn)誤識(shí)別。用戶或者商家可以嘗試外部的一些AI鑒真工具，來輔助進(jìn)行判斷。對(duì)于目前這種AIGC的技術(shù)生成內(nèi)容還是比較有效的。”

業(yè)內(nèi)人士：應(yīng)對(duì)AI造假

核心在于“以AI治AI”

業(yè)內(nèi)人士表示，應(yīng)對(duì)AI造假，核心在于“以AI治AI”。目前較為成熟的鑒真工具幾乎能不誤傷真實(shí)內(nèi)容，又能較為精準(zhǔn)識(shí)別AI造假內(nèi)容。

AI偽造圖片騙取退款的行為，本質(zhì)是民事欺詐，若不及時(shí)遏制，將威脅電子商務(wù)的正常秩序與健康發(fā)展。AI鑒真工具能大幅降低商家的辨別成本，既能震懾不法分子，也能作為商家與平臺(tái)交涉、維護(hù)自身權(quán)益的有力證據(jù)。

北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心主任謝永江表示，現(xiàn)在從技術(shù)上已經(jīng)有相應(yīng)的AI內(nèi)容鑒定工具了，平臺(tái)有義務(wù)引進(jìn)這種技術(shù)手段來維護(hù)平臺(tái)上的交易秩序，維護(hù)商家和消費(fèi)者的合法權(quán)益。（記者：譚瑱）