全國政協委員張毅：AI給金融消費者權益保護帶來新課題

隨著Sora文生視頻的驚人問世，人工智能的創新速度再度刷新了人類的認知。在為人類生產力極大賦能之際，它將帶來哪些前所未有的挑戰？相關的法律法規如何及時跟進？

全國政協委員、金杜律師事務所高級合伙人張毅長期關注研究人工智能發展和監管進程，包括網約車、短視頻等與用戶直接相關的一些行業。他為此提交了關于進一步完善人工智能算法治理體系的相關提案，建議盡快推進《人工智能法》出臺。

他在接受南方周末專訪時稱，中國互聯網行業發展水平和監管水平均居世界領先水平，可以把互聯網領域成熟有效的監管經驗借鑒到人工智能領域，進而構建人工智能算法治理體系，彌補監管體系空白。但需要建立對人工智能審慎、包容的監管。這應成為中國對人工智能技術立法監管的方向。

他還向南方周末表示，每年斥巨資投入科技領域的金融機構對于最前沿的人工智能大語言模型技術“既愛又怕”，既希望通過科技賦能實現商業模式上的迭代進化，又擔心技術失控給金融機構帶來新的風險隱患。而人工智能也給金融消費者權益保護帶來全新課題。他為此建議，強化由網信牽頭，發展改革、數據、工信、公安等多部門共同參與的算法治理聯席會議制度，完善“橫向協同，縱向聯動”算法治理格局。

全國政協委員、金杜律師事務所高級合伙人張毅（受訪者供圖）

新質生產力話題最為熱烈

南方周末：全國政協委員們在分組討論政府工作報告時，哪個話題最熱？

張毅：幾天的分組討論中，我的感受是大家對新質生產力的討論最為熱烈。如何加快發展新質生產力？很多委員從多角度提出了自己的意見和建議。在我看來，人工智能與實體經濟各個行業產業相結合的過程，就是為各個行業產業科技賦能，推動各個行業產業加快數字化轉型步伐，重構行業產業新生態，從而極大帶動社會進步和新質生產力發展。

南方周末：政府工作報告亦提出，要開展 “人工智能＋”行動，打造具有國際競爭力的數字產業集群?！叭斯ぶ悄?”何以推動新質生產力發展？

張毅：生成式人工智能（大模型）正在改變幾乎所有行業的底層邏輯，極大促進生產要素的重新組合配置，數據和算力的重要性大幅提升。這是從未有過的歷史性變革。這幾天，我參加分組討論及與許多政協委員溝通交流，很明顯感到，大家對人工智能推動新質生產力發展的重要意義已形成廣泛共識。

盡快彌補監管體系空白

南方周末：你長期關注人工智能發展和監管進程。有何研究成果？

張毅：我一直關注研究網約車、短視頻等與用戶直接相關的一些行業?；ヂ摼W平臺企業算法導致算法歧視、算法黑箱、信息繭房等法律甚至倫理的一系列問題。如何在促進發展的同時，更好完善人工智能算法治理體系，監管手段和能力如何提升，對我國相關產業的發展和國家治理能力現代化至關重要。

南方周末：你有什么建議？

張毅：我建議，盡快推進《人工智能法》出臺，構建人工智能算法治理體系，彌補監管體系空白。同時，可考慮通過針對性的法規予以補充規范。針對產業鏈上各主體，采取權責相統一原則，根據不同主體對于人工智能系統的控制力度來加諸相應的合規義務。將人工智能和算法技術按風險等級進行劃分并采取不同監管措施，并設置事前、事中和事后全生命周期監管措施義務。

對人工智能宜審慎包容監管

南方周末：生成式人工智能技術對各行業產業帶來新的挑戰。國內外對該技術的監管現狀如何？

張毅：大模型具有基于海量數據進行自學習特性，迭代快，其在垂類領域應用快速多樣化，難以為現有監管體系和技術/工具覆蓋，從而產生監管真空或失焦的情況。面對新興事物，監管總是“慢半拍”是正?，F象。

南方周末：上一個監管“慢半拍”的似乎是互聯網？

張毅：對。中國的互聯網行業崛起初期就已經經歷過類似過程，起初人們擔心加強監管會抑制創業創新，但隨著行業發展甚至有時出現亂象叢生時，又迫切需要監管到位。

南方周末：你認為，對互聯網行業的監管成功么？

張毅：中國的互聯網行業發展水平和監管水平均居世界領先水平，我認為可以把互聯網領域成熟有效的監管經驗借鑒到人工智能領域。建立對人工智能審慎、包容的監管，正確處理好發展與平衡問題，應該成為中國對人工智能技術立法監管的方向。

商業銀行對人工智能“既愛又怕”

南方周末：我們的“2023新金融發展報告”顯示，系統重要性銀行均持續巨額科技投入，且對前沿科技保持很高的敏銳度。很多銀行是你們服務的客戶，你如何評價中國銀行業智能化水平？

張毅：科技對銀行經營管理的支撐作用正在持續加大。但在我看來，銀行的智能金融發展還處在早期階段，各大銀行對人工智能和大模型的應用仍主要集中在前臺的產品營銷、客戶服務，中臺的運營管理、風險控制等領域，但距離真正的“人工智能”仍有相當差距。

南方周末：什么原因造成了這種差距？

張毅：金融機構對最前沿的人工智能大語言模型技術“既愛又怕”，既希望通過科技賦能實現商業模式上的迭代進化，又擔心技術失控給金融機構帶來新的風險隱患。例如，商業銀行正在探索通過智能圖像管理系統對各種票據和合同進行真實性審核，甄別克隆票據和虛假合同，準確提取數據并及時納入賬務系統；但又擔心未來的人工智能技術制作出足以亂真的假票據、假合同，增加相關業務的潛在風險。

應鼓勵金融機構擁抱人工智能

南方周末：人工智能確實是雙刃劍。立法和強化監管是否能避免人工智能干壞事？

張毅：任何法律和監管都無法保證違法行為不會發生，但可對違法行為及其后果進行有效處理和管控。金融機構應用人工智能技術優化其風控，是值得鼓勵的進步。問題的關鍵在于如何強化和創新算法監管，使得監管機構對此類新型違法行為的追究有法可依，依法處置。

南方周末：你有何具體建議？

張毅：我建議強化由網信牽頭，發展改革、數據、工信、公安等多部門共同參與的算法治理聯席會議制度，完善“橫向協同，縱向聯動”算法治理格局。借助市場力量，外聘或者借調算法及人工智能領域的專家共同參與監管流程，補齊監管技術短板。引入“監管沙盒”制度，允許算法及人工智能企業在監管機構的監督下，在相對可控的環境內進行試驗性的開發、測試和驗證。此外，或可考慮探索將人工智能技術應用于人工智能監管，以提高監管效率。

保護用戶享有拒絕算法服務的選擇權

南方周末：人工智能也給金融消費者權益保護帶來新課題。很多人基于各種原因不會使用智能手機。一旦金融業人工智能快速普及，會不會反而增加一部分群體的不便甚至是糾紛投訴？

張毅：的確很有可能。因此，我在提案中專門提出建議，保障用戶權利。有關部門應推進算法服務商以個人能夠理解的方式披露算法風險與可能產生的損害、算法運行步驟與決策結果間關系等運行規則，減少專業術語，便于用戶理解和決策。

同時，應該要求算法服務商在個人用戶決定選擇拒絕使用算法服務的情況下，進一步優化用戶便捷關閉算法服務的選項。

金融消費者無須“自證清白”

南方周末：個人用戶在使用金融服務時，如果碰到電信詐騙、變相收費、強制消費和過度營銷等問題糾紛時，往往處于弱勢。人工智能技術能夠給人們帶來哪些幫助？

張毅：技術是中性的，但算法服務商和金融機構在此類案件或糾紛中是否負有責任，各自承擔多少責任，實踐中尚無定論，還需各方深入探討。但在我看來，算法提供者擁有信息資源和技術優勢，算法機制和決策過程不可解釋或難以理解等原因，被侵害對象客觀上面臨“理解難、取證難”問題，而執法者也面臨“認定難”問題。

南方周末：你的意思是，金融機構也可能成為弱勢一方？

張毅：比如，金融機構一旦發生被不法分子利用高科技手段攻擊，諸如利用人臉識別或人工智能技術冒領儲戶存款，損失誰來承擔？誰有舉證義務？這些問題現實且棘手。

南方周末：如何破解新難題？

張毅：我的建議是，拓展算法侵害行為維權路徑與責任模式，增強用戶維權力量。在算法侵權的訴訟中采取“過錯推定”歸責原則，實行“舉證責任倒置”。用戶僅承擔受到算法損害的責任，由算法服務商對算法和損害之間無因果關系，以及無過錯承擔舉證責任。探索人工智能算法領域的民事公益訴訟制度。

此外，不宜局限于要求具體損害結果的責任模式，可考慮綜合考量訓練數據、科技倫理等多維度規定算法侵害行為的違法責任，增強源頭治理，形成責任閉環。