【專欄】數學之美番外篇:快排為什么那樣快(1)

徐宥在討論中提到,這種策略的本質可以概括成“讓未知世界無機可乘”。它是沒有“弱點的”,答案的任何一個分支都是等概率的。

前言

g9很久以前在Blog里說:

有時無知是福。俺看到一點新鮮的科普也能覺得造化神奇。剛才讀Gerald Jay Sussman(SICP作者)的文章,Building Robust Systems – an essay,竟然心如小鹿亂撞,手心濕潤,仿佛第一次握住初戀情人溫柔的手。

而看到MacKay的這篇文章我也有這種感覺——以前模糊的東西忽然有了深刻的解釋,一切頓時變得明白無比。原來看問題的角度或層面能夠帶來這么大的變化。再一次印證了越是深刻的原理往往越是簡單和強大。

這篇文章相當于MacKay原文的白話文版。MacKay在原文中用到了信息論的知識,后者在我看來并不是必須的,盡管計算的時候方便,但與本質無關。所以我用大白話解釋了一通。

作者:劉未鵬 出版:電子工業出版社

1.猜數字

我們先來玩一個猜數字游戲:我心里默念一個1-64之間的數,你來猜(你只能問答案是“是”或“否”的問題)。為了保證不論在什么情況下都能以盡量少的次數猜中,你應該采取什么策略呢?很顯然,二分。先是猜是不是位于1~32之間,排除掉一半可能性,然后對區間繼續二分。這種策略能夠保證無論數字怎么跟你捉迷藏,都能在log_2{n}次以內猜中。用算法的術語來說就是它的下界是最好的。

我們再來回顧一下這個游戲所蘊含的本質:為什么這種策略具有最優下界?答案也很簡單,這個策略是平衡的。反之如果策略不是平衡的,比如問是不是在1-10之間,那么一旦發現不是在1-10之間的話就會剩下比N/2更多的可能性需要去考察了。

徐宥在討論中提到,這種策略的本質可以概括成“讓未知世界無機可乘”。它是沒有“弱點的”,答案的任何一個分支都是等概率的。反之,一旦某個分支蘊含的可能性更多,當情況落到那個分支上的時候你就郁悶了。比如猜數字游戲最糟糕的策略就是一個一個的猜:是1嗎?是2嗎?…因為這種猜法最差的情況下需要64次才能猜對,下界非常糟糕。二分搜索為什么好,就是因為它每次都將可能性排除一半并且無論如何都能排除一半(它是最糟情況下表現最好的)。

2.稱球

12個小球,其中有一個是壞球。有一架天平。需要你用最少的稱次數來確定哪個小球是壞的并且它到底是輕還是重。

這個問題是一道流傳已久的智力題。網絡上也有很多講解,還有泛化到N個球的情況下的嚴格證明。也有零星的一些地方提到從信息論的角度來看待最優解法。本來我一直認為這道題目除了試錯之外沒有其它高妙的思路了,只能一個個方法試,并盡量從結果中尋找信息,然后看看哪種方案最少。

然而,實際上它的確有其它的思路,一個更本質的思路,而且根本用不著信息論這么拗口的知識。

我們先回顧一下猜數字游戲。為了保證任何情況下以最少次數猜中,我們的策略是每次都排除恰好一半的可能性。類比到稱球問題上:壞球可能是12個球中的任意一個,這就是12種可能性;而其中每種可能性下壞球可能輕也可能重。于是“壞球是哪個球,是輕是重”這個問題的答案就有12×2=24種可能性?,F在我們用天平來稱球,就等同于對這24種可能性發問,由于天平的輸出結果有三種“平衡、左傾、右傾”,這就相當于我們的問題有三個答案,即可以將所有的可能性切成三份,根據猜數字游戲的啟發,我們應當盡量讓這三個分支概率均等,即平均切分所有的可能性為三等份。如此一來的話一次稱量就可以將答案的可能性縮減為原來的1/3,三次就能縮減為1/27。而總共才有24種可能性,所以理論上是完全可以3次稱出來的。

如何稱的指導原則有了,構造一個稱的策略就不是什么太困難的事情了。首先不妨解釋一下為什么最直觀的稱法不是最優的——6、6稱:在6、6稱的時候,天平平衡的可能性是0。剛才說了,最優策略應該使得天平三種狀態的概率均等,這樣才能三等分答案的所有可能性。

為了更清楚的看待這個問題,我們不妨假設有6個球,來考慮一下3、3稱和2、2稱的區別:

在未稱之前,一共有12種可能性:1輕、1重、2輕、2重、…、6輕、6重?,F在將1、2、3號放在左邊,4、5、6放在右邊3、3稱了之后,不失一般性假設天平左傾,那么小球的可能性就變成了原來的一半(6種):1重、2重、3重、4輕、5輕、6輕。即這種稱法能排除一半可能性。

現在再來看2、2稱法,即1、2放左邊,3、4放右邊,剩下的5、6不稱,放一邊。假設結果是天平平衡,那么可能性剩下——4種:5重、5輕、6重、6輕。假設天平左傾,可能性也剩下4種:1重、2重、3輕、4輕。右傾和左傾的情況類似??傊?,這種稱法,不管天平結果如何,情況都被我們縮小到了原來的三分之一!我們充分利用了“天平的結果狀態可能有三種”這個條件來三等分所有可能性,而不是二等分。

說到這里,剩下的事情就實在很簡單了:第二步稱法,只要記著這樣一個指導思想——你選擇的稱法必須使得當天平平衡的時候答案剩下的可能性和天平左傾(右傾)的時候答案剩下的可能性一樣多。實際上,這等同于你得選擇一種稱法,使得天平輸出三種結果的概率是均等的,因為天平輸出某個結果的概率就等同于所有支持這個結果(左傾、右傾、平衡)的答案可能性的和,并且答案的每個可能性都是等概率的。

MacKay在他的書《Information Theory: Inference and Learning Algorithms》里面4.1節專門講了這個稱球問題,還畫了一張不錯的圖,我就照抄了:


圖中“1+”是指“1號小球為重”這一可能性。一開始一共有24種可能性。4、4稱了之后不管哪種情況(分支),剩下來的可能性總是4種。這是一個完美的三分。然后對每個分支構造第二次稱法,這里你只要稍加演算就可以發現,分支1上的第二次稱法,即“1、2、6對3、4、5”這種稱法,天平輸出三種結果的可能性是均等的(嚴格來說是幾乎均等)。這就是為什么這個稱法能夠在最壞的情況下也能表現最好的原因,沒有哪個分支是它的弱點,它必然能將情況縮小到原來的1/3。

(待續;此文的修訂版已收錄《暗時間》一書,由電子工業出版社2011年8月出版。作者于2009年7月獲得南京大學計算機系碩士學位,現在微軟亞洲研究院創新工程中心從事軟件研發工程師工作。)

網絡編輯:謝小跳

{{ isview_popup.firstLine }}{{ isview_popup.highlight }}

{{ isview_popup.secondLine }}

{{ isview_popup.buttonText }}
午夜宅男在线,中视在线直播,毛片网站在线,福利在线网址