本文來(lái)自微信公眾號(hào)： 小聲比比 ，作者：梓泉，責(zé)編：美味蟹黃堡

大家好，今天刷到一個(gè)視頻，直接給我看愣住了。

有個(gè)買(mǎi)家花190塊買(mǎi)了一顆榴蓮，轉(zhuǎn)頭就給商家發(fā)了張發(fā)霉的圖片，申請(qǐng)不退貨只退款。

商家看完一口咬定這顆榴蓮根本不是自己家賣(mài)的，氣不過(guò)直接倒貼五千塊路費(fèi)，親自找上門(mén)去找買(mǎi)家對(duì)峙。

（來(lái)源：抖音@程大叔 下同）

等老板到現(xiàn)場(chǎng)，還真找出了不對(duì)勁的地方，可只剩下空包裝袋，早就看不到那顆發(fā)霉榴蓮的蹤影了。

對(duì)峙之后才真相大白：榴蓮早就被買(mǎi)家吃掉了，那張發(fā)霉的圖片，居然是買(mǎi)家自己用AI生成偽造的。

再仔細(xì)看賬單圖，連生成AI圖的水印都沒(méi)刪掉，實(shí)在是太離譜了。

（劃到圖末有亮點(diǎn)）

這事一出，不禁讓人感慨：現(xiàn)在有圖都不一定是真相了。

這件事傳開(kāi)之后，網(wǎng)友們議論紛紛，不少人提到反詐APP能識(shí)別AI內(nèi)容

反詐APP真的能準(zhǔn)確識(shí)別AI生成內(nèi)容嗎？

我好奇打開(kāi)了反詐APP想親測(cè)一下，進(jìn)去才發(fā)現(xiàn)，AI內(nèi)容鑒別功能直接放在主頁(yè)顯眼的位置。

上傳那張偽造的發(fā)霉榴蓮圖之后，不到五秒就出結(jié)果，直接判定是AI生成的假圖，看起來(lái)還挺像那么回事。

沒(méi)想到這APP還真有火眼金睛？

我轉(zhuǎn)念又想，萬(wàn)一真圖被誤判了怎么辦？于是我又找了幾張真正發(fā)霉的水果圖片上傳測(cè)試。

系統(tǒng)幾秒就給出了結(jié)果：真實(shí)拍攝，不是AI生成，兩次判斷都準(zhǔn)確。這結(jié)果換誰(shuí)看了不得吃驚。

不過(guò)我換了一張?zhí)幚磉^(guò)的AI圖上傳之后，出問(wèn)題了：系統(tǒng)一直提示上傳失敗，難道剛增加一點(diǎn)難度就扛不住了？

我反復(fù)上傳了好幾次才成功檢測(cè)，最終結(jié)果依然準(zhǔn)確識(shí)別出這是AI生成的圖片。

（左劃查看檢測(cè)結(jié)果）

測(cè)到這里，能看出來(lái)這個(gè)功能對(duì)圖片的鑒別效果還是不錯(cuò)的

不過(guò)現(xiàn)在AI不止能做假圖，做假視頻也已經(jīng)做得非常逼真了，這個(gè)功能能鑒別AI視頻嗎？

帶著疑問(wèn)，我做了新的測(cè)試

我找了一個(gè)把男生AI變成女生的視頻，上傳到APP里測(cè)試，不到五秒就出了結(jié)果，準(zhǔn)確識(shí)別出了是AI生成內(nèi)容。

（來(lái)源：抖音@網(wǎng)痞桃）

我接著測(cè)試了兩個(gè)小時(shí)發(fā)現(xiàn)，這個(gè)AI檢測(cè)功能大部分時(shí)候都挺好用，可只要遇到截圖、錄屏下來(lái)的AI素材，檢測(cè)效果就大打折扣。

比如我這張截圖下來(lái)的AI圖，它檢測(cè)了幾秒，居然給這個(gè)假貨蓋了合格章，判定成真實(shí)內(nèi)容了。

再比如之前有明星被AI換臉做虛假帶貨視頻，原視頻本來(lái)就是假的早就全網(wǎng)下架了，我拿錄屏下來(lái)的版本去檢測(cè)，APP也沒(méi)有識(shí)別出來(lái)這是AI生成內(nèi)容。

（到底是太逼真測(cè)不出來(lái)？還是必須上傳原圖原視頻才能檢測(cè)準(zhǔn)確？有沒(méi)有懂行的朋友來(lái)說(shuō)說(shuō)這是什么原理）

我查了一下才知道，反詐中心APP的這個(gè)AI檢測(cè)模型，3月份才開(kāi)始測(cè)試，5月18號(hào)才正式上線，從上線到我測(cè)試的時(shí)候才剛剛四天，目前還在持續(xù)優(yōu)化當(dāng)中，有一點(diǎn)小瑕疵其實(shí)也可以理解。

但AI造假泛濫這件事，如果沒(méi)人好好管的話，普通人的日子遲早會(huì)受影響。

首先，AI造假會(huì)直接拉高整個(gè)社會(huì)的信任成本，就像碰瓷的人多了之后，沒(méi)人再敢隨便扶馬路上摔倒的老人一樣，現(xiàn)在AI假圖假視頻滿天飛，要是被別有用心的人用上，后果不堪設(shè)想。

比如人販子要是用AI圖片，都能靠假圖給自己洗白自證清白了。

人和人之間的信任一旦崩塌，再想重新建立就太難了。萬(wàn)一哪天我真遇到危險(xiǎn)發(fā)圖求救，結(jié)果朋友以為是AI生成的惡作劇，那豈不是要出大事。

其次，普通人有真實(shí)訴求，拿出來(lái)憑證也會(huì)被質(zhì)疑，對(duì)方第一反應(yīng)不是解決問(wèn)題，而是嘀咕一句：這不會(huì)是AI做的假圖吧？本來(lái)一分鐘就能解決的事，現(xiàn)在要來(lái)回申訴折騰好幾天，這個(gè)虧找誰(shuí)去說(shuō)??？

最后，AI假圖假視頻，本質(zhì)上就是騙子騙錢(qián)的新工具，直接威脅大家的財(cái)產(chǎn)安全

就像現(xiàn)在已經(jīng)有騙子用AI換臉騙老人，冒充老人的孫子孫女打視頻電話哭訴求助，老人一看人對(duì)得上，放松警惕之后，一輩子攢的養(yǎng)老錢(qián)就直接進(jìn)了騙子的口袋。

如果不對(duì)AI造假加以規(guī)范，以后普通人不知道要吃多少虧。騙子靠著AI假圖輕輕松松躺著騙錢(qián)，老實(shí)人只能靠自己的眼睛苦哈哈地分辨真假，說(shuō)句話沒(méi)人信，做什么事都得先做一遍AI鑒真，保不齊以后發(fā)展下去，不止要驗(yàn)圖的真假，連我自己都得證明我是個(gè)真人才行。