智源研究院院長王仲遠談人工智能：大象不屑于踩螞蟻，但不代表不會誤傷

2024年4月26日，中美兩國政府共同宣布，雙方達成五點共識，包括將舉行中美人工智能政府間對話首次會議。

一個多月前，圖靈獎得主約書亞·本吉奧、杰弗里·辛頓、姚期智等近二十位中外專家，就曾在北京聯合簽署了由智源研究院發起的《北京AI安全國際共識》（以下簡稱北京共識），涉及人工智能“風險紅線”和“路線”兩大板塊。

這是就人工智能安全達成的首份專家共識，未來也將成為政府間對話的重要參考。

圖靈獎得主約書亞·本吉奧、杰弗里·辛頓、姚期智等近二十位中外專家，曾在北京聯合簽署了由智源研究院發起的《北京AI安全國際共識》，為超級人工智能劃定紅線。（圖片來源：受訪者供圖）

中美兩國政府為何如此關注人工智能？當前人工智能安全面臨著哪些挑戰？南方周末記者近日采訪了智源研究院院長王仲遠。

王仲遠曾在微軟研究院、美團、快手任職，負責人工智能相關業務。在他看來，一個屬于AGI（通用人工智能）的大時代正在靠近，而智源研究院是離大時代最近的地方。

智源研究院是成立于 2018 年的一家非營利機構，也是國內最早的大模型研究機構，為這一波國內人工智能大模型產業的發展作出了獨特的貢獻，炙手可熱的 OpenAI CEO 山姆·奧特曼在中國唯一一次公開演講就是出席2023年的智源大會。

當務之急是進行體系化的設計

南方周末：智源發起北京共識的背景是什么？

王仲遠：智源是國內最早做大模型研究的，一開始就非常堅定地選擇了大模型這條技術路線，認知上我們是領先的。

智源是一個非營利性的第三方機構，本身也承擔著這樣一個責任、使命，有義務讓政府、社會意識到這種風險。

形成監管政策的方式有兩種，一是威脅還沒有實質發生之前，越來越多技術專家開始呼吁，逐漸影響政府制定政策。另一種是，現實威脅實實在在發生之后，政府也會迅速行動。我們希望促成第一條路而不是第二條。

南方周末：北京共識中，不少國外頂尖專家都參與了簽署，他們為什么會認可“北京共識”？

王仲遠：過往這5年，他們很認可智源的學術水平、學術生態的代表性，以及在中國AI領域的代表性。大家也都有充分共識，AI安全需要國際間合作，可能智源是與中國建立合作最好的選擇。

南方周末：北京共識形成的過程是怎么樣的？大家是怎么討論的？

王仲遠：不是先有一個共識，再讓大家簽署，參會的專家基于各自的技術背景，提出主張，這個持續兩天的閉門討論會中，有技術的分享、產業界的分享、學術界的分享，還進行了分組討論，包括最后一天晚上，還有和科技部、北京市政府的對話。

為了讓大家能夠充分討論，也采用了國際對話的一些規則，大家充分發表觀點，這些觀點都不進行任何記錄，也不會對外透露具體某個人的發言內容，就是為了讓大家能