“變得更大就能變得更好”:GPT為什么是一件大事?
我們一生當中只能聽到10億個單詞、讀到數十億個單詞、但我們可以看到高三個數量級的圖形圖像,我們的大腦皮層有三分之一都是用于處理圖像。一個例子是,在GPT3.5理解準確性2.5%-20%的場合,具有圖像處理能力的GPT4將準確性提升到了20%-40%
(本文首發于2023年5月4日《南方周末》)
責任編輯:陳斌
“神經網絡變得更大就能變得更好”——GPT(Generative Pre-trained Transformer)的這一特性是這一輪AI革命的鑰匙。
在GPT解鎖這個“更大就是更好”的抓手前,經歷了漫長的30年,神經網絡機器學習始終無法工業化、產業化,直到“更大就是更好”解鎖——神經網絡終于走上了工業化的快車道。
為什么?因為這樣發展的抓手就從復雜的技術高維變成了資本低維,接軌在了資本加持、資源加持、工程加持即可提升的標準快車道上了。最新的例證是,GPT4比較GPT3.5提升是巨大的;進一步,GPT5是用GPT4訓練的——這意味著,“變得更大就能變得更好”這件事
登錄后獲取更多權限
歡迎分享、點贊與留言。本作品的版權為南方周末或相關著作權人所有,任何第三方未經授權,不得轉載,否則即為侵權。