“打假神器”識別深偽視頻

據英國《新科學家》網站報道，人工智能(AI)深度偽造技術日益泛濫，美國加州大學爾灣分校科學家開發出一款通用檢測器，能以百分之九十五至九十九的準確率識別各類AI深度偽造視頻，有望成為打擊網絡虛假資訊的有力武器。

隨着AI技術門檻降低，深度偽造視頻正以驚人速度污染網絡空間。從偽造政客演講干擾選舉，到製作名人色情視頻敲詐，再到仿冒高管實施金融詐騙，這些“數字贗品”已成為新型網絡公害。然而，現有檢測工具大多只能識別換臉視頻。

為精準檢測出各種各樣的深度偽造視頻，研究團隊開發出新款“打假神器”。這款檢測器可發現深度偽造視頻中時空維度的失真痕跡，不僅能捕捉人臉部位的細微破綻，還能發現背景光影的異常波動，發現純AI生成視頻中不自然的圖元排列，甚至辨別出高模擬遊戲畫面的非AI生成本質。

新系統名為“通用篡改與合成視頻識別網絡”(UNITE)，通過分析完整視頻幀（包括背景和運動模式）而非僅關注臉部來識別偽造。這使其成為首批能夠識別不依賴臉部內容的合成或者篡改視頻的工具之一。

研究人員表示，“深度偽造技術已進化，不再局限於換臉，人們現在使用強大的生成模型創建從臉部到背景的完全虛假視頻。我們的系統旨在捕捉所有這些偽造。”UNITE的開發正值文本轉視頻和圖像轉視頻技術在網上廣泛普及之際。這些AI平台使幾乎任何人都能製作高度逼真的視頻，對個人、機構乃至民主制度構成嚴重風險。

研究人員續稱，“這些工具的可及性令人擔憂，具備中等技能的人就能繞過安全篩檢程式，生成公眾人物‘說從未說過的話’的逼真視頻。”

早期深度偽造檢測器幾乎完全依賴臉部線索，如果幀中沒有臉部，許多檢測器就會失效，但虛假資訊可以有多種形式——篡改場景背景同樣能扭曲事實。為解決這一問題，UNITE採用基於Transformer的深度學習模型分析視頻片段，檢測傳統系統常忽略的細微空間和時間不一致性。該模型借鑒了名為SigLIP的基礎AI框架，可提取不綁定特定人物或物體的特徵。其創新的“注意力多樣性損失”訓練方法，促使系統監控每一幀的多個視覺區域，避免僅聚焦臉部。

這一設計使UNITE成為“通用檢測器”，能夠標記從簡單臉部交換到完全無真實素材的複雜合成視頻等各類偽造。

測試數據顯示，這款“打假神器”在識別四類主流偽造視頻時，準確率碾壓所有現有工具。

值得注意的是，研發團隊成員包括多位谷歌科學家。雖然谷歌尚未回應是否會在YouTube部署該技術，但作為AI內容浮水印技術的宣導者，這家科技巨頭的參與預示着該檢測器可能擁有廣闊的應用前景。

研究團隊接下來將攻關即時視訊會議的偽造檢測，以應對最新的視訊會議詐騙手法。

月 比