馬斯克的“腦機融合”比人工智能更危險

（東方IC/圖）

（本文首發于2017年5月25日《南方周末》）

無論是馬斯克之流的AI腦機接口派還是VR領域的直接輸入派，都沒回答過這樣一個致命的問題：“你們知道如何防止人類的自我意識被徹底抹除嗎？”

弄好了我們接近神仙，弄不好呢，馬斯克還沒來得及做的事，被虛擬現實大牛搶先了。一旦大家腦部被插，無論是在VR還是AI領域的人干的，可能結果就是人類文明終結。

馬斯克和霍金都在預警人工智能對人類的極大威脅，馬斯克還宣稱有了應對措施：先把人腦與人工智能融合。他還說干就干，成立了新公司。

但我的預警卻是：馬斯克要做的事對人類的威脅，比人工智能的威脅要大得多。我們要聯合起來，堅決抵制！

致命的問題

埃隆·馬斯克（Elon Musk）成立的新公司Neuralink要把人腦與計算機直接融合。馬斯克宣稱，人類社會即將全面進入人工智能時代，為了避免被新物種——超人工智能威脅甚至消滅，人們唯一的出路就是將自己的大腦與AI融為一體。

無獨有偶，我最近在很多場合做演講談到VR（虛擬現實）的未來發展，期望頭盔越來越小越來越輕變成一般眼鏡的樣子，就經常有業界人士接茬說，以后哪里需要眼鏡，接到腦中樞就是了。

馬斯克希望“腦機界面”能進行人類意識的實時翻譯并將之轉化為可輸出的電子信號，從而可以連接并控制各種外部設備，用他的話說就是“當你的念頭一閃而過時，電視機或車庫門便自動打開了”。初一看，這里說的是人腦控制信號的輸出，但是所有的控制都需要信號的反饋，也就是說，在設計輸出的接口時同時還要設計輸入的回路，才能實施控制。

但是，無論是馬斯克之流的AI腦機接口派還是VR領域的直接輸入派，都沒回答過這樣一個致命的問題：“你們知道如何防止人類的自我意識被徹底抹除嗎？”

信息與信號的分離或混淆

我們的自然感官，主要是讓我們接受認知性的信息，而不是讓外來的控制信號隨便侵入，這就為保護和維持我們每個個體的主體地位打下了基礎。有鑒于此，我們必須要堅持如下三條初始狀態的“非對稱原則”：

1.從客體到主體這個方向，信息越通暢越好，控制信號阻滯度越高越好。

2.從主體到客體這個方向，控制信號越暢通越好，信息密封度越高越好。

3.以上兩條的松動調節，以最嚴苛的程序保證以各個主體為主導。

那么，如果現在放開搞“腦機連接”，危險在哪里呢？對照以上原則，我們可以歸納出以下幾方面的可能風險。

其一，由于現今人類對自己的大腦與自我意識的關聯的認識還非常有限，也對認知性智能與自由意志之間的關聯的認識基本為零，在這樣無知的前提下貿然實施大腦直接干涉，很有可能將人類的自我意識（或曰“靈魂”）嚴重破壞甚至徹底抹除。

其二，就算沒有抹除，在作為認知材料的“信息”和控制人的行為的“信號”之間不能做到基本分離的社會和技術條件下，有了繞過人的自然感官直接刺激腦中樞的技術手段，將給一部分人控制另一部分人提供極大的方便，對人的自由和尊嚴構成嚴重的外來威脅。

其三，當人們還沒達成法律共識將腦機接口的信息和信號的流向設置權完全賦予同一主體之前，一個人由于可能直接被外