如何再造一個(gè)硅基大腦
洪 波
清華大學(xué)為先書院院長、生物醫(yī)學(xué)工程學(xué)院教授
當(dāng)今人類的生產(chǎn)生活已經(jīng)被人工智能的浪潮裹挾,這不是第一次,也不會(huì)是最后一次。有智能行為的東西,很容易觸動(dòng)人類內(nèi)心的好奇和同情。人們喜歡和自己養(yǎng)的貓狗互動(dòng),跟我們喜歡和GPT胡亂聊天,喜歡看機(jī)器狗摔倒爬起,其實(shí)是一樣的心理。這種心理的背后深層次的原因,是人類總是試圖認(rèn)識(shí)自身的思維和行為,從心理行為層面,從生理機(jī)制層面,甚至是從計(jì)算機(jī)制層面。如果從計(jì)算機(jī)制層面搞清楚了,那再造一個(gè)硅基大腦就有希望了。
物理學(xué)家費(fèi)曼說過:我造不出來的東西,我就還沒理解。(What I cannot create, I do not understand.)反之,如果我們還沒有理解,當(dāng)然也就造不出來。要造出一個(gè)硅基大腦,使它像生物大腦一樣有感知、有記憶、有決策、有行動(dòng),我們必須努力觀察和發(fā)現(xiàn)生物大腦運(yùn)行的機(jī)制,并把它們構(gòu)建成數(shù)學(xué)模型,感知、記憶、決策和行動(dòng)才能在硅基的計(jì)算機(jī)中復(fù)現(xiàn)。
這是一本很有雄心的書,作者林賽試圖用10個(gè)數(shù)學(xué)模型來回答生物大腦的計(jì)算機(jī)制究竟是什么。這也是一本安靜的書,不適合那些想從腦科學(xué)中淘金,拿去人工智能領(lǐng)域變現(xiàn)的匆匆過客。如果你稍有一點(diǎn)耐心,坐下來一兩小時(shí),試著讀一章,你就會(huì)被其中有趣而深刻的故事所吸引,一定會(huì)在某個(gè)地方受到震撼,得到啟發(fā)。不要擔(dān)心數(shù)學(xué)模型的深?yuàn)W,正文里沒有一個(gè)公式,即使是附錄里的公式也是極其克制而簡潔的。
疫情防控期間,偶然的機(jī)會(huì)讀了本書的英文版Models of the Mind,立刻被作者試圖用10大數(shù)學(xué)模型總結(jié)大腦運(yùn)行機(jī)制的雄心所打動(dòng)。作者還用講故事的方式,介紹了這些數(shù)學(xué)模型背后的科學(xué)家以及他們之間的互動(dòng),硬核模型背后又平添了人性的溫度。湛廬能選中這本書翻譯出版,對(duì)那些試圖理解智能本質(zhì)的人們是一件幸事。你盡可以把它當(dāng)作一本大腦建模的旅游攻略,在其中走一遍會(huì)大開眼界,最重要的是,下次你想去哪個(gè)模型景點(diǎn)深度游的時(shí)候,就有了一張系統(tǒng)的文獻(xiàn)地圖和人物關(guān)系圖。作者顯然是計(jì)算神經(jīng)科學(xué)領(lǐng)域的資深旅行者,對(duì)過去一個(gè)世紀(jì)腦科學(xué)和大腦建模的歷史了解得很通透。
這個(gè)星球上有兩種智能:生物智能和機(jī)器智能。生物智能是從自然界億萬年的生物進(jìn)化中涌現(xiàn)出來的,是生命體為了自身生存,不斷攝取環(huán)境中的物質(zhì)和能量,自下而上自監(jiān)督訓(xùn)練出來的,簡單講是靠投喂物質(zhì)和能量得到的生物體內(nèi)活的碳基的神經(jīng)結(jié)構(gòu);機(jī)器智能是人類受到生物智能,特別是人類自身智能行為的啟發(fā),自上而下設(shè)計(jì)出來的,需要人為設(shè)定目標(biāo)并監(jiān)督訓(xùn)練。在當(dāng)前階段,機(jī)器智能主要靠人為提供的計(jì)算體系和海量數(shù)據(jù),簡單講是靠投喂信息得到的計(jì)算機(jī)里無生命的硅基神經(jīng)網(wǎng)絡(luò)。這兩者的差別是不言而喻的,我深信前者更加優(yōu)雅,背后的數(shù)學(xué)模型也更加簡潔。
我們通常高估了人類頂層設(shè)計(jì)的智慧,低估了自然進(jìn)化的智慧。我們也一定高估了人工智能發(fā)展的快變量――算力和數(shù)據(jù),低估了人工智能顛覆性發(fā)展的慢變量――自然界放在我們眼前的生物智能結(jié)構(gòu)。朝菌不知晦朔,蟪蛄不知春秋,在自然進(jìn)化的生物智能面前,人類就是朝菌和蟪蛄。 這本書提醒我們,其實(shí)今天如日中天的人工智能就是在努力模仿生物神經(jīng)網(wǎng)絡(luò)的核心結(jié)構(gòu)和動(dòng)態(tài)規(guī)律,只是人工智能的快速迭代,模糊了背后的神經(jīng)科學(xué)背景。
書中的10個(gè)模型可以分為兩類:一類是功能輸出型的大腦模型,這類模型對(duì)人工神經(jīng)網(wǎng)絡(luò)和人工智能的發(fā)展起到了非常直接的推動(dòng)作用;另一類是數(shù)學(xué)抽象型的大腦模型,為腦科學(xué)研究提供了信息論、系統(tǒng)論與概率論的分析視角和工具。我重點(diǎn)提一下7個(gè)經(jīng)典的功能輸出型的大腦模型,它們?cè)谶^去70年人工智能的發(fā)展歷程中發(fā)揮了關(guān)鍵性的作用。
- 單個(gè)神經(jīng)細(xì)胞的動(dòng)力學(xué)模型。烏賊粗大的神經(jīng)纖維給了科學(xué)家精確測(cè)量細(xì)胞膜內(nèi)外電流的機(jī)會(huì),再借鑒電子電路的思想,定量刻畫了一個(gè)神經(jīng)細(xì)胞是如何放電的,構(gòu)建了泄漏整合發(fā)放(Leaky Integrate-and-Fire,LIF)模型和霍奇金-赫胥黎(Hodgkin-Huxley,HH)模型,這成為后來的脈沖神經(jīng)網(wǎng)絡(luò)的出發(fā)點(diǎn)和依據(jù)。一個(gè)神經(jīng)細(xì)胞雖然簡單,但是離子通道豐富多變的動(dòng)力學(xué)特性,以及神經(jīng)細(xì)胞樹突的豐富形態(tài),為脈沖神經(jīng)網(wǎng)絡(luò)建模帶來了極大的想象空間。
- 多層前向神經(jīng)網(wǎng)絡(luò)感知機(jī)。把單個(gè)人工神經(jīng)細(xì)胞拼接起來,形成多層結(jié)構(gòu),并發(fā)展出相應(yīng)的學(xué)習(xí)算法,這樣建成的感知機(jī)可以識(shí)別手寫體數(shù)字,成為第一個(gè)有用的人工神經(jīng)網(wǎng)絡(luò)。感知機(jī)看上去像一個(gè)玩具模型,但它無愧于一個(gè)頂天立地的智能英雄,一方面開啟人工神經(jīng)網(wǎng)絡(luò)的工業(yè)化應(yīng)用,另一方面把圖靈所提出的可學(xué)習(xí)可教育的機(jī)器變成了現(xiàn)實(shí),使智能理論邁出了一大步。
- 模仿視覺大腦的卷積神經(jīng)網(wǎng)絡(luò)。把貓的初級(jí)視覺皮層簡單細(xì)胞和復(fù)雜細(xì)胞處理圖像邊緣的機(jī)制,抽象為兩個(gè)層次的圖像卷積操作,并模仿視覺通路的層次化結(jié)構(gòu),不斷重復(fù)這樣的分層卷積,最終構(gòu)建了能夠識(shí)別復(fù)雜圖像的卷積神經(jīng)網(wǎng)絡(luò)。這個(gè)多層結(jié)構(gòu)幾乎復(fù)制了猴子和人類的腹側(cè)視覺通路。 加上反向傳播算法的發(fā)明,以及此后網(wǎng)絡(luò)深度的快速提升,開啟了基于深度學(xué)習(xí)網(wǎng)絡(luò)的智能新時(shí)代。
- 模仿海馬等大腦認(rèn)知模塊的循環(huán)神經(jīng)網(wǎng)絡(luò)。把記憶等大腦內(nèi)生狀態(tài)抽象為循環(huán)連接的神經(jīng)網(wǎng)絡(luò),基于神經(jīng)可塑性的赫布法則,把需要記憶或者臨時(shí)處理的信息(及其序列),以吸引子的方式隱藏在復(fù)雜的網(wǎng)絡(luò)連接系數(shù)中,構(gòu)建出霍普菲爾德網(wǎng)絡(luò)、玻爾茲曼機(jī)、連續(xù)吸引子網(wǎng)絡(luò)等。這一升級(jí),使人工神經(jīng)網(wǎng)絡(luò)有了動(dòng)態(tài)的隱空間,網(wǎng)絡(luò)的行為也變得更加靈活而智能。
- 大腦運(yùn)動(dòng)控制的群體向量模型。猴子運(yùn)動(dòng)皮層單個(gè)神經(jīng)細(xì)胞總是偏好某個(gè)特定方向,大量運(yùn)動(dòng)腦區(qū)的神經(jīng)細(xì)胞用放電頻率來投票,共同決定了手的運(yùn)動(dòng)。在數(shù)學(xué)上,用一個(gè)簡單的線性回歸模型,就可以從一群神經(jīng)細(xì)胞放電頻率推算出猴子的手如何運(yùn)動(dòng)。這一模型雖然存在爭(zhēng)議,但它幾乎是腦機(jī)接口解碼運(yùn)動(dòng)參數(shù)的標(biāo)準(zhǔn)算法,非?煽。有時(shí)候我甚至懷疑,這是運(yùn)動(dòng)皮層神經(jīng)細(xì)胞在粗暴算法的逼迫之下快速學(xué)習(xí)和適應(yīng)的結(jié)果,而不是什么解碼。
- 模仿生物獎(jiǎng)懲學(xué)習(xí)行為的強(qiáng)化學(xué)習(xí)算法。生物體在環(huán)境中尋求獎(jiǎng)勵(lì)的過程是不斷探索、不斷更新預(yù)期的過程,大腦深部的神經(jīng)細(xì)胞會(huì)根據(jù)預(yù)期誤差的大小,釋放適量的多巴胺,來指導(dǎo)生物體的下一步行動(dòng)。這種機(jī)制對(duì)應(yīng)的數(shù)學(xué)模型就是著名的強(qiáng)化學(xué)習(xí)算法――時(shí)間差分學(xué)習(xí)。如果把游戲終局時(shí)的獎(jiǎng)勵(lì),通過深度學(xué)習(xí)網(wǎng)絡(luò)投射到玩家當(dāng)前位置的預(yù)期,強(qiáng)化學(xué)習(xí)會(huì)更加精準(zhǔn)有效,于是就催生了DeepMind Alpha系列的各種超級(jí)智能。
- 生物神經(jīng)網(wǎng)絡(luò)陰陽平衡的機(jī)制模型。大腦是由千億個(gè)神經(jīng)細(xì)胞連接形成的復(fù)雜網(wǎng)絡(luò),這些細(xì)胞是如何協(xié)作,確保這個(gè)復(fù)雜系統(tǒng)不會(huì)崩潰的呢?背后是興奮性和抑制性神經(jīng)細(xì)胞之間的陰陽平衡。這兩類神經(jīng)細(xì)胞可能一直處于勢(shì)均力敵的拔河狀態(tài),神經(jīng)活動(dòng)中觀測(cè)到的所謂噪聲和震蕩實(shí)際上就是這兩種力量來回拉鋸。這種拉鋸狀態(tài)使得大腦可以快速有效地處理外界的輸入。拔河力量失衡的大腦,就會(huì)出現(xiàn)癲癇或者其他精神疾病。
推薦序一 如何再造一個(gè)硅基大腦
洪 波
清華大學(xué)為先書院院長、生物醫(yī)學(xué)工程學(xué)院教授
推薦序二 腦科學(xué)的數(shù)學(xué)之旅:一場(chǎng)科普的破冰行動(dòng)
顧凡及
復(fù)旦大學(xué)生命科學(xué)學(xué)院退休教授、博士生導(dǎo)師
引言穿越400年時(shí)空,開啟心智探索之旅
第1章 我們頭腦中的火樹銀花
帶泄漏整合發(fā)放模型與霍奇金-赫胥黎模型
|19世紀(jì)20年代至21世紀(jì)10年代|
萊頓瓶與青蛙實(shí)驗(yàn)
歐姆定律與帶泄漏整合發(fā)放模型
烏賊實(shí)驗(yàn):動(dòng)作電位是如何形成的
電纜理論:樹突是神經(jīng)元中一枚有用的齒輪
賦予神經(jīng)系統(tǒng)研究勃勃生機(jī)的正是電學(xué)研究
第2章 一團(tuán)執(zhí)行精密邏輯計(jì)算的粉色物質(zhì)
麥卡洛克-皮茨模型與人工神經(jīng)網(wǎng)絡(luò)
|17世紀(jì)70年代至20世紀(jì)70年代|
麥卡洛克 - 皮茨模型:將大腦理解為一個(gè)遵循邏輯規(guī)則的計(jì)算設(shè)備
感知機(jī),像人腦一樣思考和學(xué)習(xí)
小腦的神經(jīng)元結(jié)構(gòu)與感知機(jī)原理:從錯(cuò)誤中學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)
多層感知機(jī):人工智能領(lǐng)域的變革引擎
反向傳播算法:推動(dòng)人工智能發(fā)展的關(guān)鍵突破
霍普菲爾德神經(jīng)網(wǎng)絡(luò)與環(huán)形網(wǎng)絡(luò)
|20世紀(jì)40年代至20世紀(jì)90年代|
印跡與赫布型學(xué)習(xí):記憶科學(xué)的演進(jìn)
霍普菲爾德網(wǎng)絡(luò):跨學(xué)科的記憶模型
海馬,解開記憶奧秘的關(guān)鍵樞紐
環(huán)形網(wǎng)絡(luò):建立優(yōu)質(zhì)工作記憶系統(tǒng)的得力干將
第4章 花樣百出的神經(jīng)元制衡戰(zhàn)
平衡神經(jīng)網(wǎng)絡(luò)與神經(jīng)震蕩
|20世紀(jì)30年代至20世紀(jì)末|
神經(jīng)元噪聲:神經(jīng)元反應(yīng)的亂糟糟有何大用處
抑制性神經(jīng)元:使大腦產(chǎn)生思維的關(guān)鍵角色
神經(jīng)元的噪聲之戰(zhàn):興奮與抑制的平衡vs. 大腦的隨機(jī)性
平衡網(wǎng)絡(luò):大腦中的興奮與抑制如何共舞
混沌理論:為什么相同的輸入會(huì)引發(fā)千變?nèi)f化的反應(yīng)
大腦中的振蕩與混沌:認(rèn)知活動(dòng)之謎
第5章 層層堆疊造就的清晰視野
新認(rèn)知機(jī)與卷積神經(jīng)網(wǎng)絡(luò)
|20世紀(jì)20年代至20世紀(jì)80年代|
模板匹配的變革之路:從機(jī)械裝置到計(jì)算機(jī)
群魔殿:從模板匹配到視覺系統(tǒng)的層次結(jié)構(gòu)
探秘初級(jí)視覺皮質(zhì):大腦如何解讀復(fù)雜的視覺信號(hào)
新認(rèn)知機(jī):師從生物學(xué)以拓展計(jì)算機(jī)視覺
卷積神經(jīng)網(wǎng)絡(luò):給人工視覺網(wǎng)絡(luò)的發(fā)展插上翅膀
跨學(xué)科合作,共同探索生物視覺科學(xué)的未來
第6章 降本增效的信息處理大法
神經(jīng)編碼與信息論
|20世紀(jì)40年代至20世紀(jì)60年代|
信息論的起源:香農(nóng)領(lǐng)航的通信革命
信息論的應(yīng)用:應(yīng)對(duì)神經(jīng)編碼的多樣性與復(fù)雜性
有效編碼假說:大腦如何以最優(yōu)方式傳遞和利用信息
大腦就像一套通信系統(tǒng),但這還不夠
第7章 在亂糟糟中合并同類項(xiàng)
動(dòng)力學(xué)、運(yùn)動(dòng)學(xué)與降維
|20世紀(jì)30年代至20世紀(jì)90年代|
從抽搐到動(dòng)作:19世紀(jì)的大腦運(yùn)動(dòng)控制機(jī)制發(fā)現(xiàn)之爭(zhēng)
埃瓦茨的腕力研究:運(yùn)動(dòng)皮質(zhì)編碼與動(dòng)力學(xué)的開端
重新定義運(yùn)動(dòng)皮質(zhì)的角色:不僅僅是編碼
解碼運(yùn)動(dòng)皮質(zhì):繞過理解直達(dá)行動(dòng)
降維:掙脫神經(jīng)群體思維的困境
運(yùn)動(dòng)皮質(zhì)的探索之路,道阻且長
第8章 簡單線條揭示的龐雜秘密
圖論與網(wǎng)絡(luò)神經(jīng)科學(xué)
|18世紀(jì)30年代至21世紀(jì)10年代|
圖論:解密復(fù)雜網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)學(xué)之鑰
六度分隔:神經(jīng)系統(tǒng)領(lǐng)域的降本增效
連接組:從圖論視角探索神秘的大腦世界
連接組與精神疾。簣D論方法的醫(yī)學(xué)應(yīng)用
從爆發(fā)到精雕細(xì)琢:如何構(gòu)建穩(wěn)定高效的神經(jīng)網(wǎng)絡(luò)
超越連接組,探索理解大腦復(fù)雜性的多維視角
第 9 章所知所見決定出牌策略
概率論與貝葉斯法則
|16世紀(jì)至19世紀(jì)10年代|
從骰子到大數(shù)據(jù):貝葉斯法則如何改變世界
從概率到認(rèn)知:貝葉斯法則在心理學(xué)中的崛起
貝葉斯法則如何幫我們解讀感知到的世界
用貝葉斯法則理解大腦的決策過程
貝葉斯大腦假說:靈活與挑戰(zhàn)并存的探索之路
第10章 用當(dāng)下的驚喜修正對(duì)未來的預(yù)期
時(shí)間差分學(xué)習(xí)與強(qiáng)化學(xué)習(xí)
|20世紀(jì)50年代至20世紀(jì)70年代|
如何規(guī)劃最佳路線:從巴甫洛夫的狗到貝爾曼方程式
從蘭德公司到動(dòng)態(tài)規(guī)劃:貝爾曼如何改變決策科學(xué)
從條件反射到價(jià)值函數(shù):強(qiáng)化學(xué)習(xí)的數(shù)學(xué)之旅
從蜜蜂到猴子:神經(jīng)遞質(zhì)在學(xué)習(xí)與成癮中的角色
大腦中的獎(jiǎng)勵(lì)與學(xué)習(xí):馬爾思考給我們的啟示
結(jié)語 有沒有一個(gè)簡明的大統(tǒng)一理論能解釋大腦?
附錄
致謝
譯者后記