中國教育報-中國教育新聞網訊（記者 王瓊 通訊員 丁嘉鋮 於樂）當AI生成虛假新聞、偽造明星海報、造假證件圖片越來越逼真，肉眼幾乎難以分辨，該靠什麼來判斷真假？近日，江南大學人工智慧與計算機學院2022級人工智慧專業本科生王心暢團隊給出了自己的答案大學。
“我們不再問‘這張圖哪裡不對’，而是問‘擾動它一下，它會怎麼反應’大學。”王心暢這樣概括團隊的核心思路。傳統方法檢測AI生成影像，大多依賴尋找畫素瑕疵、頻域異常等“外觀破綻”，但隨著生成技術不斷升級，這些痕跡越來越隱蔽，檢測效果大打折扣。王心暢所在團隊跳出這一思路，轉而關注影像的“行為反應”。
王心暢介紹，團隊發現了一個有趣現象：真實影像在被施加微小擾動後，特徵依然高度穩定，而AI生成影像哪怕只受到輕微擾動，特徵就會明顯漂移大學。“就像泰山崩於前而色不變，和稍微一碰就站不穩的區別。”王心暢說。這種差異被稱為“魯棒性非對稱”。
基於這一關鍵發現，團隊構建了魯棒性非對稱檢測框架，讓機器透過影像的“行為表現”而非“外貌特徵”來區分真假大學。該框架的核心邏輯清晰而巧妙，首先透過差分魯棒性探測，對影像施加人眼幾乎無法察覺的結構化微小擾動，主動放大真實與生成影像之間的穩定性差異。然後，再利用多分支特徵融合，從語義特徵、特徵漂移程度、畫素級細微偽影三個維度同時捕捉線索，最後透過對比損失訓練，進一步拉大二者在擾動下的表現差距。
實驗結果顯示，該檢測框架在14種主流AI生成模型、超過10種現有檢測方法的對比中，檢測準確率最高提升5.61%，整體效能平均提升7.81%大學。即便影像被壓縮或模糊處理，依然表現穩健。
“我們希望這項研究能真正服務於社會，幫助人們在AI時代重新建立對影像的信任大學。”王心暢說。目前，該論文與程式碼已全部開源，供全球科研人員使用。
作者大學：王瓊 丁嘉鋮 於樂
