全國政協委員肖新光：大模型既帶來了風險，也帶來安全助力

全國政協委員、安天集團創始人肖新光常年奮戰在網絡安全對抗的一線，安天科技的反病毒引擎累計覆蓋了超過四十億部手機終端、PC終端、網絡設備和網絡安全設備，對于新一輪人工智能帶來的安全威脅，肖新光有著最切身的感受。

他觀察到了一些新的威脅，比如利用AI生成的釣魚郵件，有將深度偽造運用于金融詐騙，甚至還有很多惡意軟件偽裝成DeepSeek的安裝包。那么，針對這些威脅，到底有哪些破解辦法，肖新光接受了南方周末記者的專訪。

全國政協委員、安天集團創始人肖新光。圖片來源：受訪者提供。

有惡意軟件冒充DeepSeek客戶端

南方周末：生成式人工智能給國家網絡安全帶來哪些新的情況？

肖新光：人工智能對安全威脅的加速作用已經產生。過去幾年，我們捕獲和關注到的APT攻擊的釣魚郵件中，已經出現了AI生成內容，金融詐騙中出現了深度偽造的案例。

同時，大模型平臺成為新的攻擊目標，例如DeepSeek在年初遭遇的大規模DDoS攻擊，我們也快速跟進和提供了相關的樣本分析，發布了樣本分析報告。

由于人工智能熱度很高，惡意軟件偽裝成人工智能App，在部署包中捆綁木馬的案例很多，我們此前就依托國家計算機病毒協同分析平臺，發現了冒充DeepSeek客戶端的木馬樣本，并進行了分析響應。

南方周末：Sora為代表的生成式視頻大模型，為深度偽造創造了條件。技術上是否可以識別出哪些是人工智能生成的內容？我們普通人應該如何去甄別深度偽造的信息？

肖新光：識別深度偽造目前來看有一些方法，包括基于生理信號比對、基于物理規律分析、基于元數據指紋等，但每種技術方法都有其適用場景和相關前提條件。

如基于生理信號分析，主要是驗證微表情等和本人是否一致，前提是需要存儲可對比的樣本；基于物理規律捕捉分析光影效果是否一致等等，需要相關的算力、元數據指紋等。更多只適用于版權保護等相關場景，而且需要非常完善的配套治理體系。

相關攻擊之所以稱為深度偽造，就是它已經超出普通人