AI鑒假，煙酒包易，黃金難
目前鑒假AI應用背后的基本原理基本類似，用大量且準確標注的圖片數據訓練。
以飛天茅臺為例，需要采集的照片包括酒的外觀、瓶頂、瓶帽噴碼、飛天標、背標、瓶底等，專業鑒定師要標注的數據包括顏色、大小、字體、粗細等細節。
?“AI鑒定就像雙刃劍，假如造假團隊掌握了AI鑒定都是看哪些參數，他們可以對標真品的參數提高造假技術，比如回收真品包材，破解溯源碼算法，那會很可怕?！?/blockquote>責任編輯：汪韜
想象一下,你是一名跨國公司的財務，總部首席財務官發起視頻會議。參會露臉的都是你熟悉的公司高管，安排你轉賬，你會猶豫嗎？
2024年年初，香港警方披露首起涉及AI“多人換臉”詐騙案，受害人先后轉賬2億港元到不同賬戶后才察覺不對勁。除了財務是本人，所謂視頻參會高管都是假的——犯罪團伙從公開渠道獲取影像資料，利用AI深度偽造（deepfake）技術，精心合成。
AI換臉變聲的門檻越來越低，“孫燕姿”唱《淚橋》、“張文宏”直播間賣蛋白棒、“泰勒·斯威夫特”頭像被用于制作色情照片……
2024年12月25日，在南方周末主辦的一場直播對話中，中國作家協會科幻文學委員會副主任陳楸帆擔憂，AI合成滲入生活，或許僅剩面對面的交談成為無真相時代“最后的凈土”。
有圖有真相的歷史被終結，也給詐騙分子可乘之機。不同的統計報告均指出，2023-2024年，利用AI偽造詐欺的案件數量和涉案金額激增。而AI鑒假的商業賽道也越來越擠，這些鑒假AI應用背后的基本原理基本類似，用大量且準確標注的圖片數據訓練。
虛假與真實是一場沒有盡頭的軍備競賽。AI可鑒假，也可學真，鑒假的AI會不會被有心之人用來造假？
鑒假臉
靠近鏡頭，眨眼、張嘴、轉頭——這是登錄人臉識別系統最常見的提示，以區分屏幕面前是動態的人，還是一張靜態的照片，抑或是一副面具。然而，AI的出現，讓虛擬與真實的博弈變得更加殘酷。
AI換臉，是指通過深度學習模型，如卷積神經網絡（CNN）提取人臉的關鍵特征，再利用生成對抗網絡模型（GAN）生成人臉。
“現在常見的造假臉手段是文生圖、文生視頻；或者利用算法和模型，把圖像人臉變成動態效果?！比鹑R智慧（RealAI）聯合創始人蕭子豪對南方周末記者介紹。2024年，視頻類的AI詐騙數量激增，實時視頻換臉，一般是播放事先做好的AI換臉視頻，或是接入實時換臉視頻。
瑞萊智慧創辦于2018年，從事AI安全與偽造內容檢測，客戶來自安防、政務、金融、教育等領域。蕭子豪畢業于清華大學計算機系，研究AI模型的漏洞問題與攻防訓練。
如何鑒別假臉？瑞萊智慧推測換臉類App背后的算法模型，以了解反常識之處。比如兩只眼睛是否對稱？瞳孔是否圓的？視頻中人物是否長時間不眨眼？
某些AI還不能理解“瞳孔應該是圓形”的生物知識。放大圖片，左邊圖片瞳孔為圓形，右邊不是。所以左邊為真人，右邊為假。
重視保密的機構比如政府、銀行等已經陸續用上了防換臉的AI安防系統，但是個人用戶還在“裸奔”，暴露
登錄后獲取更多權限
歡迎分享、點贊與留言。本作品的版權為南方周末或相關著作權人所有，任何第三方未經授權，不得轉載，否則即為侵權。
