生存或者毀滅：

AlphaZero通過自己與自己對弈來提高技能，在開始學習圍棋幾天后，它的水平就超過了人類最好的棋手。 （資料圖/圖）

（本文首發于2019年10月10日《南方周末》）

當人工智能在越來越多的領域超越人類時，我們不得不思考它到底會發展成什么樣，又會對人類社會產生哪些影響。

人工智能領域的科學家已經取得了一項驚人的成就。戴維·希爾弗（David Silver）是DeepMind團隊的負責人，他和團隊共同研發的AlphaZero從掌握初步規則開始，通過自己與自己對戰，獨立學會了國際象棋、圍棋和將棋（日本棋類游戲）。對于這三種棋類游戲，AlphaZero已經超過了最好的人類棋手。

這一進步非常了不起。1997年，計算機深藍（Deep Blue）打敗了國際象棋世界冠軍加里·卡斯帕羅夫（Gary Kasparov），它結合了優秀的算法與對棋局的出色理解。最好的人類棋手也貢獻了關于開局、殘局和局面評估的專業知識，從某種意義上來說，是人類將這些知識“教”給了程序。

而AlphaZero不同，不需要由人類專家向它傳授自己掌握的知識。對于這樣的棋類游戲，AI可以獨立學習，快速達到人類需要幾個世紀才能累積的高度。AlphaZero的研發人員表示：“無論對于國際象棋、將棋還是圍棋， AlphaZero使用的都是同樣的算法，同樣的網絡結構。結果表明，通用強化學習算法（即能夠勝出的決策將被算法優先選擇）能夠從一塊白板出發，學會任何事物。它不需要依靠知識，也不需要來自人類的特定經驗?！?/p>

隨著人工智能快速發展，這個領域也開始面臨越來越迫切的問題。研究人員、哲學家還有技術預言家紛紛開始辯論，設想未來可能出現的種種矛盾。無論是感到期待還是恐慌，沒有人會懷疑人工智能將主導我們的未來。這種主導作用也許是通過互聯網，也許是與人類融合。

許多思想家都曾經深入思考過超級人工智能（以及它對人類的態度），試圖以此預測未來的趨勢。我們將探討尼克·博斯特羅姆（Nick Bostrom）、雷·庫茲韋爾（Ray Kurzweil）、本（Ben）和泰德·戈爾澤爾父子（Ted Goertzel）、漢斯·莫拉維克（Hans Moravec）、弗朗西斯·海利根（Francis Heylighen）、雨果·德·加里斯（Hugode Garis）和克萊蒙·維達爾（Clement Vidal）的思考。

評論的風口浪尖

當我們還不了解一件事物時，往往會作出夸張的設想，討論它的性質時也會出現兩極分化的觀點。但是，正如劇作家拉辛（Racine）借他筆下人物所說，AI無法承擔我們過分施加的榮耀，也不至于因為它引發的憂慮而遭受羞辱。

盡管我們對AI取得的成就感到震驚，也意識到它可能會造成巨大的影響，但不能被狂熱沖昏頭腦。AI在許多高度專業化的任務中都取得了驚人的成績，但它仍然難以勝任所有需要常識