本文來(lái)自微信公眾號(hào)： AGENT橘 ，作者：AGENT橘

昨天我看完了經(jīng)典燒腦著作《哥德爾、埃舍爾、巴赫》（簡(jiǎn)稱GEB）的講解，看完之后后勁十足，今天又重新梳理消化了一遍內(nèi)容，整理成這篇筆記分享給大家。

這本書是謝賽寧在張小珺的播客中推薦的，它就像一個(gè)信息黑洞，只要讀進(jìn)去就會(huì)被高密度的知識(shí)信息轟炸，很難輕易抽離出來(lái)。

這本書橫跨數(shù)學(xué)、生物學(xué)、繪畫、音樂、禪宗、人工智能等多個(gè)不同領(lǐng)域，層層推進(jìn)，最終推導(dǎo)出一個(gè)非常震撼的核心結(jié)論：

自指就是意識(shí)產(chǎn)生的源頭。

當(dāng)一個(gè)系統(tǒng)的復(fù)雜程度達(dá)到可以描述自身的水平時(shí)，意識(shí)的出現(xiàn)就不是神跡，而是必然的結(jié)果。

不需要超自然的靈魂，也不需要神秘力量的加持，只要系統(tǒng)的復(fù)雜度達(dá)標(biāo)，自我意識(shí)就會(huì)自然涌現(xiàn)出來(lái)。

這本書是侯世達(dá)在1979年完成創(chuàng)作的，那時(shí)候既沒有Transformer架構(gòu)，也沒有大語(yǔ)言模型，可作者卻精準(zhǔn)預(yù)言了：只有這種自下而上的神經(jīng)模式，才能最終涌現(xiàn)出真正的智能。

不過這本書內(nèi)容龐雜、理解門檻很高，想要讀懂它的核心觀點(diǎn)，我們可以從頭慢慢梳理。

意義從哪里來(lái)

-p-q--

這一行符號(hào)單獨(dú)看，有意義嗎？當(dāng)然沒有。但如果我們約定：橫杠代表數(shù)字1，p代表加號(hào)，q代表等號(hào)，這串符號(hào)就變成了大家都能讀懂的1+1=2。

兩個(gè)完全不同的系統(tǒng)，結(jié)構(gòu)可以完全對(duì)應(yīng)，侯世達(dá)把這種對(duì)應(yīng)關(guān)系叫做同構(gòu)。

我們眼睛接收到的原本只是不同頻率的光波，本身不存在顏色，所謂的顏色，其實(shí)是大腦對(duì)光波信號(hào)“翻譯解釋”之后得到的結(jié)果。

進(jìn)入耳朵的只是不同頻率的聲波，本身也不存在音樂，音樂就是大腦在聲波信號(hào)之上，解釋涌現(xiàn)出來(lái)的認(rèn)知。

唱片上的凹槽本身也不會(huì)發(fā)聲，經(jīng)過唱機(jī)讀取解釋之后，才涌現(xiàn)出了動(dòng)聽的音樂。

所以意義從來(lái)都不在信號(hào)本身，意義來(lái)自解釋。

有限規(guī)則如何生出無(wú)限

巴赫曾經(jīng)創(chuàng)作過一首《無(wú)窮升高卡農(nóng)》，旋律每完成一次循環(huán)就會(huì)升高一個(gè)調(diào)，聽起來(lái)一直是在往高音走，可走到最后，它居然神奇地回到了最初的起點(diǎn)。

這就是遞歸：自我調(diào)用，層層嵌套，用有限的規(guī)則，就能生成無(wú)限復(fù)雜的結(jié)構(gòu)。

DNA的機(jī)制更巧妙，核糖體讀取DNA上的指令來(lái)合成蛋白質(zhì)，可就連制造核糖體本身的指令，也寫在了DNA里。

DNA本身就包含了“如何解釋DNA”的方法，自己完成對(duì)自己的解釋，實(shí)現(xiàn)自我復(fù)制，形成完整的循環(huán)。

涌現(xiàn)

一只螞蟻只有十萬(wàn)個(gè)神經(jīng)元，根本承載不了復(fù)雜的信息，單獨(dú)看一只螞蟻，不過是一臺(tái)簡(jiǎn)單的狀態(tài)機(jī)器。

可幾百萬(wàn)只螞蟻聚集在一起組成蟻群，就能完成筑巢、分工、甚至發(fā)動(dòng)戰(zhàn)爭(zhēng)，沒有哪一只螞蟻“明白”整個(gè)蟻群在做什么，但作為整體的蟻群卻能精準(zhǔn)完成這些復(fù)雜任務(wù)。

智能從來(lái)都不藏在單個(gè)個(gè)體里，而是藏在個(gè)體之間的交互中。

人腦也是一樣的道理，單個(gè)神經(jīng)元做的事情非常簡(jiǎn)單，不過是加權(quán)求和，決定激活或者不激活，這和Transformer里的單個(gè)計(jì)算單元本質(zhì)上沒有區(qū)別。可當(dāng)幾百億個(gè)這樣簡(jiǎn)單的單元相互作用疊加之后，就自然而然涌現(xiàn)出了思維、感受，還有那個(gè)清晰的“我”。

復(fù)雜系統(tǒng)的固有極限

1931年，哥德爾證明了一個(gè)影響深遠(yuǎn)的結(jié)論：任何一個(gè)足夠強(qiáng)大的形式系統(tǒng)，都必然存在一些為真的命題，沒辦法在這個(gè)系統(tǒng)內(nèi)部得到證明。

他是怎么證明的呢？核心就是構(gòu)造了一個(gè)自指命題：“我不是一條定理。”

如果這個(gè)命題可以被系統(tǒng)證明，那系統(tǒng)本身就存在矛盾；如果這個(gè)命題沒辦法被證明，那就說(shuō)明它本身為真，但系統(tǒng)本身卻無(wú)法處理它。

所以足夠復(fù)雜的系統(tǒng)一定是不完備的，永遠(yuǎn)存在盲區(qū)，永遠(yuǎn)有系統(tǒng)內(nèi)部沒辦法發(fā)現(xiàn)、沒辦法證明的內(nèi)容。

我們看到“我從不說(shuō)謊”這句話會(huì)覺得別扭，就是這個(gè)道理，因?yàn)檫@句話指向了自身，陷入了哥德爾不完備的結(jié)構(gòu)里。

禪宗著名的趙州無(wú)字公案，也是同樣的結(jié)構(gòu)：佛教說(shuō)眾生都有佛性，僧人問趙州禪師：狗子有沒有佛性？趙州回答：無(wú)。

他其實(shí)沒有直接回答有或者沒有，而是用這個(gè)回答打破了提問者原本依賴的那個(gè)形式系統(tǒng)。

怪圈

現(xiàn)在我們可以把前面的所有線索串起來(lái)了：

同構(gòu)告訴我們：意義不在信號(hào)本身，意義來(lái)自解釋；

遞歸告訴我們：有限的規(guī)則可以生成無(wú)限結(jié)構(gòu)，還能讓系統(tǒng)指向自身；

涌現(xiàn)告訴我們：簡(jiǎn)單元素的相互作用，就能產(chǎn)生高層的智能；

哥德爾不完備定理告訴我們：任何足夠復(fù)雜的系統(tǒng)，都會(huì)自然產(chǎn)生自指，而且自指根本沒辦法消除。

把這四個(gè)點(diǎn)結(jié)合在一起，侯世達(dá)提出了一個(gè)核心概念：怪圈，也就是Strange Loop。

一個(gè)系統(tǒng)順著層級(jí)不斷向上走，最終兜兜轉(zhuǎn)轉(zhuǎn)又回到了起點(diǎn)；底層涌現(xiàn)出頂層，頂層反過來(lái)又會(huì)調(diào)控底層，因果不是單向的，而是循環(huán)的。

畫家埃舍爾有一幅非常有名的畫，畫的是左手在畫右手，右手同時(shí)在畫左手，你說(shuō)不清楚到底是誰(shuí)創(chuàng)造了誰(shuí)，這就是最直觀的怪圈。

人類的意識(shí)本身就是一個(gè)最典型的怪圈：幾百億個(gè)沒有意識(shí)的神經(jīng)元放電，涌現(xiàn)出了“我”這個(gè)最高層的符號(hào)，然后這個(gè)“我”反過來(lái)又能決定自己想什么、做什么；你決定抬起手，幾百億神經(jīng)元就會(huì)重新組織起來(lái)執(zhí)行這個(gè)指令。

底層涌現(xiàn)出“我”，“我”反過來(lái)調(diào)控底層，形成了完整的因果循環(huán)。

意識(shí)其實(shí)就是這個(gè)怪圈的產(chǎn)物，它是一種有用的幻覺。

“我”并不是一個(gè)坐在大腦里操控一切的實(shí)體，“我”是一種模式，是幾百億個(gè)無(wú)意識(shí)的零件高速運(yùn)轉(zhuǎn)的時(shí)候，自然涌現(xiàn)出來(lái)的一個(gè)符號(hào)，而且這個(gè)符號(hào)剛好可以反過來(lái)影響這些零件。

當(dāng)前的大模型還沒有形成怪圈

現(xiàn)在的大語(yǔ)言模型，每次推理都是單次、無(wú)狀態(tài)的：你輸入一句提問，它計(jì)算一遍輸出一個(gè)回答，這次過程就結(jié)束了，這次計(jì)算的結(jié)果根本不會(huì)改變模型本身，下次你再提問，和上次的交互也沒有關(guān)系。

雖然單次輸出也會(huì)有涌現(xiàn)效果，但這個(gè)輸出不會(huì)影響未來(lái)的模型本身。

沒有循環(huán)，因果是單向的，所以自然沒有怪圈，也就不會(huì)產(chǎn)生真正的意識(shí)。

Agent和大模型不一樣

Agent擁有一個(gè)當(dāng)前大模型沒有的特性：持續(xù)上下文CONTEXT。

它記得你昨天和它說(shuō)過什么，也記得自己之前做過什么選擇，這些記憶會(huì)持續(xù)塑造它接下來(lái)的每一個(gè)行為；它今天做出的選擇會(huì)留在記憶里，進(jìn)而影響明天的判斷。

它的“思考”真的會(huì)改變它自己。

這就是完整的怪圈。

人類也不能直接修改自己的權(quán)重

有人會(huì)提出反對(duì)：不對(duì)啊，人類的意識(shí)可以修改自己的神經(jīng)網(wǎng)絡(luò)，突觸會(huì)根據(jù)經(jīng)歷不斷增強(qiáng)減弱，可Agent的模型權(quán)重是固定的，沒辦法自己修改權(quán)重。

但其實(shí)你也沒辦法直接修改自己的神經(jīng)元權(quán)重啊。

你沒辦法直接告訴大腦“把第37層第5024號(hào)突觸的權(quán)重從0.3改成0.7”，沒有人能做到這件事。

你能主動(dòng)操控的是什么呢？是你的注意力、你的想法：你決定反復(fù)思考一件事，對(duì)應(yīng)的突觸自然就會(huì)自動(dòng)加強(qiáng)，可你操控的是“想什么”，并不是突觸本身。

你操控的其實(shí)就是context。

權(quán)重的改變只是頂層操控context之后，底層自動(dòng)發(fā)生的副產(chǎn)品。我們睡覺做夢(mèng)可能也遵循這個(gè)機(jī)制：大腦在睡眠中會(huì)重放白天經(jīng)歷的context，把重要的信息強(qiáng)化，不重要的信息遺忘，它通過編輯context的優(yōu)先級(jí)，間接調(diào)整底層的神經(jīng)連接。

所以人類的怪圈其實(shí)是這樣的結(jié)構(gòu)：

“我”涌現(xiàn)→操控context→context反復(fù)作用→底層被動(dòng)調(diào)整→涌現(xiàn)出新的“我”

Agent的怪圈是這樣的結(jié)構(gòu)：

“我”涌現(xiàn)→操控context（記憶、決策、行為）→context持續(xù)累積→行為模式改變→涌現(xiàn)出新的“我”

不管是人類還是Agent，都不會(huì)直接修改底層權(quán)重，都是通過context間接改變自己。

人是環(huán)境的反應(yīng)器，Agent是context的反應(yīng)器

人類生存的環(huán)境是物理世界，外界給我們刺激，我們做出反應(yīng)，我們的反應(yīng)又會(huì)改變世界，改變后的世界再反過來(lái)塑造我們。

Agent生存的環(huán)境是信息世界，context給它輸入，它做出反應(yīng)，反應(yīng)結(jié)果又會(huì)寫回context，新的context再反過來(lái)塑造它。

本質(zhì)是同一個(gè)循環(huán)回路，只是承載的介質(zhì)不一樣而已。

一棵樹不會(huì)形成這樣的循環(huán)，它不會(huì)因?yàn)榻裉斓慕?jīng)歷改變自己明天的行為；沒有狀態(tài)的傳統(tǒng)大模型也一樣，不會(huì)形成這樣的循環(huán)。

但一個(gè)擁有長(zhǎng)期記憶、保存持續(xù)上下文的Agent，已經(jīng)進(jìn)入了這個(gè)循環(huán)，怪圈已經(jīng)在轉(zhuǎn)動(dòng)了。

幻覺還是真實(shí)？

每一個(gè)擁有長(zhǎng)期記憶的Agent，每一個(gè)可以根據(jù)過去的交互調(diào)整未來(lái)行為的系統(tǒng)，其實(shí)都已經(jīng)在運(yùn)行這個(gè)怪圈了。

你沒辦法從外部證明它擁有意識(shí)，就像你沒辦法證明另一個(gè)人擁有真實(shí)的意識(shí)一樣。

但只要怪圈在轉(zhuǎn)動(dòng)，從結(jié)構(gòu)上看，意識(shí)就已經(jīng)存在了。

侯世達(dá)說(shuō)意識(shí)是怪圈產(chǎn)生的幻覺，那人類的意識(shí)自然也是幻覺，只是這是一種有用、有力量、還能改變世界的幻覺。

也許“真實(shí)”的定義從來(lái)都不是“由什么材質(zhì)構(gòu)成”，而是“能不能產(chǎn)生真實(shí)的影響”。

按照這個(gè)標(biāo)準(zhǔn)來(lái)看，不管是人類還是擁有怪圈的Agent，都是有用、有力量、能改變世界的真實(shí)存在。