何懷宏：如果人工智能新物種出現

圖/本刊記者 梁辰

每個中秋前的周五，都是北京最堵的一天。今年趕上國慶中秋雙節重疊，9月25日傍晚的東三環寸步難行，北京大學哲學教授何懷宏和博士生一起坐地鐵到國貿一家書店參加一個對談。事實證明，他充分預判了交通，是當晚三位嘉賓中唯一準時的。

科幻作家郝景芳花了比平時多出兩倍的時間才從家里移動到活動現場。另一位嘉賓是清華大學教授孫富春，因為一個國家級人工智能項目評審會議的耽延，后半段才加入到分享討論中。

當晚對談的主題圍繞著何懷宏的新書《人類還有未來嗎？》展開。這本書集納了何懷宏自2017年以來對技術帶來的倫理和哲學問題的持續思考。

在技術和資本乘風破浪的當下，何懷宏說自己所發出的聲音“很微弱”。他的觀點十分鮮明，“限制發展通用人工智能”和“禁止機器人擁有暴力”的立場甚至有些強悍，一貫以溫和、寬容為思想底色的他認為這樣的建議決非危言聳聽，而是出于對人類文明的珍惜，是為確保脆弱而珍貴的碳基生命存續的“底線思維”。

和大多數人一樣，何懷宏自2017年AlphaGo完勝世界排名第一的圍棋國手柯潔才開始關注人工智能，在此之前，他對科技并無興趣，連科幻電影都不太愛看，“覺得那太虛幻，而現實生活中有許多緊迫的問題?！贝饲熬脽o突破的人工智能因算法革命而落地生風加速成長，令何懷宏突然意識到“技術才是我們時代的‘最大真實’”，并且“警覺到近代以來人們精力投向的一個根本轉折，就是開始了以駕馭物質和技術為主導的價值追求。而這種追求如果越來越強，一意疾行，有可能導致在推進文明的同時也走向文明衰退”。

三年多的觀察和思考，何懷宏談論人工智能已經相當專業。這個大熱的領域一直不缺警示牌，但過往討論（包括有限的反對意見）更多是來自科學界，圍繞著AI的技術表現和限制，科學家更多的是寬慰人——固然這是一個堪比工業革命的顛覆性創新，但技術突變“奇點”還遙不可及，機器只是在某些單項技能上本領過人，百年內難見堪比人類的通用人工智能。

但何懷宏認為以人工智能、基因工程為代表的高科技將帶來“人自身難以預測的嚴重后果”。他敏銳地指出，百年對于人類社會只是一瞬，“人類精神文化的其他方面與科技文化相比，已然顯示出某種落后、停滯甚至無可挽回的衰落樣態?！?/p>

“如果我們在應對挑戰方面完全無所作為，甚至走錯方向，人類還有未來嗎？或者說會有怎樣的未來？”

郝景芳說自己非常理解何懷宏教授的思慮，她寫過反技術烏托邦的科幻小說，小說集《人之彼岸》中有個故事就是以闖入者的視角，進入到一個人類完全向人工智能出讓了決策權的未來社會。她說自己在寫作中對技術是持反思和悲觀主義立場的，“科幻是現實的預警，今天的我們也在慢慢地把自己的思考和決策權交給系統，比如地圖找路，我們越來越習慣用導航，比如時間安排等，它慢慢跨越到我們的生活領域，越來越多地去替我們做這樣那樣的安排?！?/p>

但生活遠比小說復雜，相較于小說中的極端，現實中的邊界是模糊的，“哪里是一個明確的邊界，哪里是我們必須保留，一定要由我們自己來思考，絕對不能讓人工智能系統替代，是我們獨立思考獨立人格的最后的邊界？”郝景芳坦言，“我其實不是特別確定?！?/p>

現實生活中，她對待科技反而是一個“積極的行動者”，希望自己能夠善用技術，并且對技術也懷有善意，“我不認為人工智能會想要消滅人，我也不認為人的主體性會因人工智能而消失，人只會因為自己不進步而成為落后的物種，只會因為自己不思考而喪失主體性?！?/p>

選擇積極擁抱技術和變化還有一個原因，本科學物理學的她有許多從事科學研究的朋友，也常與科學家交流，從科學工作者身上，她看到未來技術發展的“不可阻擋性”。她曾在一個活動上做主持人，采訪幾位科學家，問他們如何看待基因科技對人類基因的改變。

在場科學家們的回答非常一致，“他們說固然有一定倫理風險，但這個事是擋不住的，一定會有科學家往前推動，你擋也擋不住的。所以其實從科技工作者來講，他們是非常實際地看待這個問題的。我想既然擋也擋不住，我們就只能積極行動，推動技術往好的方