機器能否擁有意識？

1. “他的愛是真的，但他不是”

這是著名導演斯皮爾伯格編導的科幻電影《人工智慧》的宣傳語。年輕夫婦莫妮卡和亨利，因為兒子馬丁身患重症在醫院不醒人事，決定收養一個機器人聊以慰藉。與兒子年齡相仿、高度逼真的男孩機器人大衛就這樣來到了家裡。經過一番磕磕碰碰，大衛對新的環境逐漸熟悉起來，也和“父母”建立起了感情。過了不久，馬丁甦醒過來，並且康復回家。真假“兒子”之間不斷產生矛盾，夫婦決定把大衛遺棄。莫妮卡把大衛帶到荒無人煙的郊外，趁他不備奔回汽車，含著眼淚疾馳而去。於是，機器人大衛開啟了尋找自己摯愛“母親”的征程。

圖1 機器人大衛與“母親” 莫妮卡

機器人能否擁有愛的能力？其先決條件是它必須擁有情感和自我意識。這涉及到當今科學麵臨的最大的一些難題：意識是什麼？產生意識的機制是怎樣的？人為什麼會有意識？機器能否擁有意識？

對於機器能否擁有意識這一問題，科學家們也是莫衷一是。同樣是腦科學權威，迪昂（Stanislas Dehaene）持肯定態度[4]，而達馬西奧（Antonio Damasio）和科赫（Christopher Koch）則持否定態度[2][8]。

本文總結腦科學、認知科學、心理學中關於意識的一些研究成果，討論意識與智慧機器的關係，闡述筆者對這個問題的看法。

2. 意識是什麼？

在所有的自然現象中，再也沒有比意識對人來說更加重要且更加神秘莫測的了。長期以來，由於缺乏有效的方法，意識一直被認為是科學研究的禁區。隨著腦科學技術的進步，近20年來對意識的研究取得了一些初步的成果。但研究還都處於初級階段，甚至對意識的定義科學家們也沒有一致的意見。

一般來說，意識是指人的心智中感受到的對內部身體和外部環境的知覺。意識有多個特點，可以從多個角度理解。意識是清醒時人腦處於的一種狀態，與其相對的其他狀態是深度睡眠[1]、昏迷、死亡。意識是主觀的，是每個人以自我為中心的精神活動，對我們每個人來說自己的意識是持續的、一貫的、穩定的。同時，意識又是客觀的，它對應著人腦神經系統的高層次處理，由人腦神經系統的低層次處理支撐。“我思故我在”，意識包含個人對自我存在的知覺，意識始終有自我意識伴隨。意識與下意識密切互動，接受下意識的各種資訊，也給下意識做出反饋。意識讓每個人認識到自己與環境的關係；將當下的自己與對過去的記憶、對未來的想象聯絡到一起。意識是生命現象，推測只有人和高等動物擁有，是在長期的進化過程中產生的資訊處理機制。

研究意識非常困難，根本原因在於它顛覆了科學研究的前提。科學研究一般是基於第三者體驗（third person experience）的，而我們每個人的意識都是第一者體驗（first person experience）。科學是站在第三者的角度，觀察現象，總結規律，建立理論。正因如此，大家的研究結果可以共享，能夠保證其可查察，可驗證，可反駁。相反，每個人的意識都是自己的個人體驗，很難甚至不可能與他人共享，阻礙了對意識的研究。

3. 產生意識的機制是怎樣的？

談到意識，我們最直觀的理解就是自己腦中一直出現的那個“小人”（Homunculus）[2]，主宰著我們的一切判斷和決策。但是當代科學的研究發現，這如同我們直觀感受的彩虹、日出日落一樣，是我們的錯覺。這個小人應該是不存在的，產生意識的機制是非常複雜的。

雖然當今腦科學對意識的整體機制瞭解仍然有限，但是對其部分原理的研究已取得了一定的進展，也有一些可信的假說。這裡首先概述腦、心智、表徵、表象等基本概念，然後介紹腦科學關於意識的一些學說。

3.1 腦和心智

人腦由大腦、小腦、腦幹、間腦四個部分構成（見圖2）。大腦位於頭的頂部，分左右兩個半球，表面覆蓋著大腦皮質。大腦兩個半球又分成不同的腦葉，從前到後有前額葉、頂葉、顳葉和枕葉（見圖3）。腦幹位於頭的底部，與脊髓連線，由腦橋等組成。間腦位於大腦和腦幹之間，由上丘腦、丘腦、下丘腦等組成。小腦位於大腦之下，腦幹之後（見圖2）。

圖2 人腦的各個部位

圖3 大腦的四個區域

心智（mind）是指人的“內心”，包括其中的對自己和世界的感覺、知覺、以及思維。腦本身是物質的，而心智是精神的，兩者形成一個統一體（因此，這兩個概念也經常不嚴格區分）[3]。笛卡爾提出了所謂的心身問題（mind body problem），認為物質（人腦）和精神（心智）是可分的，精神可以獨立於物質存在，也就是二元論（dualism）。當代科學基本認同一元論（monism），認為物質和精神是不可分的。認知科學家福多（Jerry Fodor）曾做出這樣有趣的評述：“自憐可以讓人流淚，洋蔥也可以”。直觀地說明了腦和心智構成統一體的事實。心智又分為有意識的心智（conscious mind）和無意識的心智（unconscious mind），或者簡稱意識和無意識。無意識也稱為下意識。

3.2 表徵和表象

神經表徵(neural representation)或表徵是指人腦神經網路中形成的表示資訊的狀態[1][2]。表象（image）是指人的心智中產生的對事物形象的認識，包括視覺、聽覺、運動等的表象[1][2]。表徵是人腦中的概念，而表象是心智中的概念。表象是基於表徵產生的。

人腦整體是一個巨大神經網路，有千億量級的神經元，由千萬億量級的突觸連線。神經訊號在神經網路上傳播，使神經網路的狀態發生變化。不同的狀態表示不同的資訊，可以認為一種狀態形成一個表徵。

大腦皮質分不同的區域，有視覺、聽覺、味覺、觸覺、運動等區域（見圖4）。視覺區在枕葉，聽覺區在顳葉，運動區和觸覺區在頂葉，思維功能在前額葉。這些區域的神經網路分別儲存或記憶了概念的視覺、聽覺、味覺、觸覺、運動等的表徵。比如，看到一個人在喝水，或者在小說中讀到一個人在喝水，都會使視覺區的一些神經元被啟用，說明相應概念的視覺表徵儲存在了這些神經元。握住拳頭，或者想象握住拳頭，都會使前運動區的一些神經元被啟用，說明相應概念的運動表徵被儲存在了這些神經元。人腦的神經計算和儲存是一體的，概念的表徵在人腦的資訊處理過程中不斷被訪問，也在不斷被更新。

圖4 大腦皮質的各個區域

人的心智在感覺、知覺、思維的過程當中會產生表象。表象存在於意識（即有意識的心智）中，也存在於無意識（即無意識的心智）中。表象包括視覺、聽覺、味覺、觸覺、運動等的表象。比如，當大象的視覺資訊進入到人的視網膜，傳到視覺區時，視覺區開始活躍，視覺區神經網路中記憶的大象的表徵被喚起，當人注意到這個資訊時，在意識中大象的表象就會出現，覺察到大象來了。再比如，提到大象，人的意識中大象的視覺表象、聽覺表象、觸覺表象等會浮現出來，都是在人的成長和學習過程中積累而形成的對大象這個概念的認識。

心智可以感受到內部身體的狀況和外部環境的狀況，也可以對過去進行回憶和對未來進行想象，也可以進行抽象思維，其結果都是透過表象得到的。比如，身體的感覺，包括疼痛、飢餓等，還有情感，包括恐懼、喜悅等。再比如，抽象思維，包括語言、知識、推理等。所有這些都以表象的形式浮現於人的意識或潛在於人的下意識。人的感覺、知覺、思維的過程就是心智中不斷產生新的表象的過程。

3.3 無意識

清醒時，環境中的各種資訊透過各個感官傳到無意識，無意識對輸入的各種資訊進行加工，透過注意力機制對資訊進行排序和篩選，將重要的資訊送達到意識。所有這些都是在意識不覺察的過程中發生的。意識基於得到的資訊進行判斷和決策，並且將處理的結果反饋到無意識。無意識進行的是並行處理，意識進行的是序列處理。幾乎所有的腦區都既參與意識的資訊處理，又參與無意識的資訊處理[4]。

比如，看到一個人在發音。無意識會融合視覺和聽覺的資訊，判斷那個人的發音內容，並將相關的表象傳達到意識。再比如，聽到別人說的一句話，無意識會對這句話進行理解，喚起句子中的每個詞的詞義以及相關的語法，透過語法將詞的語義組合成整個句子的語義，並將句子的內容以表象的形式傳達到意識。

對資訊進行篩選和排序的是注意力（attention），注意力本身也存在於無意識中。比如，在雞尾酒會上，很多人同時說話，周圍非常嘈雜。注意力會有選擇地將主要對話物件的聲音進行處理，將結果傳達到意識。這時，如果周邊傳出異常聲音，注意力會提高對異常聲音處理的優先順序，促使意識進行快速應對[4]。

無意識的資訊篩選和排序在我們的思維過程中起著非常重要的作用。我們經常以為自己的判斷和決策都是來自自己的意識（頭腦中的“小人”）。大量的事實證明，事實並非如此，經常發生的是，判斷和決策過程中無意識是主角，意識只是配角，但意識卻誤認為自己是主角。心理學家卡尼曼（Daniel Kahneman）等透過大量實驗揭示了下意識和意識之間的這種合作關係[6]。

注意力將大腦的處理集中到了的特定資訊上，只有被關注的資訊才能進入意識。通常在無意識中存在多個對世界的解釋，而在意識中則變成了一個。圖5中是使人產生視覺錯覺的漫畫，可以認為畫中是一位年輕女子，或者是一位年長婦人。人在看這幅漫畫的時候，無意識對兩個可能的解釋進行選擇，並傳達給意識。意識一旦獲得了一個解釋，就會忽略另一個解釋。而具體哪個解釋優先完全依賴於無意識的選擇。

圖5 畫家W.E.Hill的漫畫“我的妻子和我的岳母”

3.4 意識

腦科學家迪昂認為意識有三個主要元素：清醒時的狀態、注意力、意識觸達（conscious access）。他提出意識是全腦資訊共享的機制，並且將意識概括為“工作空間”（work space）。我們直觀的“意識到什麼”就是意識觸達，是整個工作空間的資訊處理的結果[4]。

意識意味著全腦的資訊的整體同步。腦科學家科赫等認為意識是人腦內在的各種表象透過因果關係聯絡起來的整體[7][8]。

意識與記憶有著密切關係。只有關注到的資訊，其表象才會進入到意識層面，大腦才會將其儲存到長期記憶中。記憶的資訊以表徵的形式儲存在大腦皮質的相關腦區。相對的，無意識中處理的資訊會被瞬息遺忘。

無意識-意識的這種並行-序列處理結構，具有很強的強健性和靈活性。整體是去中心化的（decentralized），沒有全域性的指令系統，而是有很多相對獨立的子系統，每個子系統形成一箇中心，在無意識中運作，子系統之間透過意識進行交流。這樣當部分子系統出現問題的時候，其他子系統也依然能夠繼續工作，甚至承擔出問題子系統的一部分功能。

與意識密切相關的腦的部位主要有腦幹、丘腦、大腦皮質，特別是其中的前額葉和頂葉[2][4]。腦幹能起到意識的開關的作用，當腦幹頂部的腦橋受到損傷時，人就會失去意識。丘腦在整合資訊和產生表象過程中起著重要作用。前額葉是意識的資訊互動樞紐。前額葉透過長距離迴路，能夠從人腦的各個區域收集資訊，也能將資訊傳遞到整個人腦。同時，意識中的重要資訊處理，包括推理、規劃、想象等推測也是在前額葉中進行的。

4. 意識意味著什麼？

4.1 意識與進化

當代科學認為意識是在生物進化過程中逐漸形成的。單細胞生物，如草履蟲，不擁有腦，但也能適應環境，在環境中生存，實現呼吸、消化、生殖等基本生命功能。昆蟲類和魚類擁有簡單的腦，猜測它們心智中能產生樸素的感覺，可以隱約地感受環境，但很有可能它們沒有意識。從爬行類到鳥類，再到哺乳類，乃至靈長類，動物的腦變得越來越發達，猜測它們心智中形成越來越強的意識，能夠感知和認知環境，應對環境的變化[2][4]

。

為什麼動物在進化過程中會產生意識？一個假說是，擁有意識的心智慧更好地應對環境的變化。單細胞生物沒有心智去感受環境，只能被動地應對環境的變化。有心智而無意識的低等動物能對環境有一定的感受，但對環境輸入資訊的處理能力有限。有意識的心智使高等動物擁有更強大的資訊處理機制，對輸入資訊進行並行處理，在其基礎上進行排序和篩選，然後進行序列處理，就此不斷重複；這樣，高等動物可以更好地“理解”世界。

4.2 意識與智慧

人類的腦和靈長類動物的腦有很多地方非常相似，但前者更加發達。人類和靈長類動物的主要區別在於人類擁有語言能力和思維能力，而靈長類動物沒有。可以認為意識結合語言和思維造就了人類的智慧[4]。

布洛卡區和韋尼克區是顳葉中與語言相關的區域，維尼克區負責詞彙，布洛卡區負責語法。語言能力由兩部分組成，一是將符號與概念關聯，另一是對符號進行組合（composition）處理。人的語言理解是在無意識中進行的，但語言理解產生的結果會以表象的形式在意識中出現。沒有證據顯示靈長類動物具有布洛卡區[4]。

人的思維包括推理、規劃、想象。如上所述，前額葉承擔全域性資訊的收集和分發的功能，也與思維密切相關，是意識的資訊樞紐。靈長類動物的腦中也有類似的區域，但是人腦中的這個區域更加發達[4]。

4.3 自我意識

腦科學家達馬西奧指出意識包括三個主要元素，清醒時的狀態、執行的心智、對自我的知覺。他特別強調自我在意識中的重要作用，認為自我意識是源於維持生命的需要。他將自我意識分為三個層次，原我（proto self）、核心我（core self）、自知我（autobiography self）。一般的動物有原我和核心我，而自知我高度依賴於語言和思維，只有人類才具備。原我是指動物由內部身體的感受帶來的自我意識，比如，感到飢餓和疼痛時。核心我是動物與外部環境互動時產生的自我意識，比如，在識別食物和天敵的過程中。自知我是在原我和核心我的基礎上，與對過去的記憶和對未來的想象相結合，在意識中產生的持續的、穩定的、高層次的自我意識，就是我們每個人腦中的“小人” [2][3]。

判斷動物是否擁有自我意識有著名的鏡子測試（mirror test）。讓動物看到自己在鏡子中的形象，觀察他們是否能意識到鏡子中出現的就是自己。大猩猩，黑猩猩，鯨魚、海豚等能夠透過鏡子測試，說明它們擁有自我意識。兩歲左右的人類兒童也能透過鏡子測試，說明人類的自我意識是在出生後大腦發育過程中逐漸形成的[4]。

4.4 自由意志

自由意志（free will）是指在決策過程中人擁有的自主決定的能力。通常是在意識中存在多個選項，人從其中挑選一個。這裡說的決策，小到選擇吃什麼食物、穿什麼衣服，大到選擇自己的專業、職業、配偶。現實中談到自由意志，更多的是關於與道德責任、善惡等相關的抉擇。

人是否擁有自由意志？這是哲學、宗教等領域辯論了兩千多年的話題。一個主張是決定論（determinism），認為人的判斷和決策由上帝、自然法則、或者基因完全決定，也就是說，人沒有自由意志。與其對立的一個主張是自由主義（libertarianism），認為人是自由的，有權利和能力做出自己的判斷和決策。還有其他各種主張。至今，自由意志仍是一個廣為爭議的哲學問題。

如果上述關於意識的學說是正確的話，人的自由意志應是心智中一個複雜過程的體現。首先，人作為生命體和社會人，其判斷和決策同時受到信念、願望、慾望的驅動，受到理性、倫理、道德[4]的敦促，也受到身體狀況、情感的影響。其次，自由意志是建立在每個人的先天素質、後天經歷、特別是所受教育的基礎之上的。再有，自由意志是意識和下意識共同參與決定的結果，而且下意識起著至關重要的作用。自由意志取決於人腦，但反過來又作用於人腦。所有這些要素的綜合就是我們每個人感受的自己的“自由的”意志。

相對地，很難想象機器能擁有像人一樣的自由意志。機器是人設計製造出來的，無論它的決策是確定的還是隨機的，其行為都在設計範圍之內。機器行為的基本原理和機制與人有著本質的區別。機器沒有人所擁有的自由。

5. 智慧機器與意識

智慧機器與傳統機器的不同點在於它們擁有自主性（autonomy）。比如遞送機器人能在環境中自主地行走，對話系統能跟人進行“自然的”對話。所以會給人一種錯覺，認為智慧機器是不是擁有意識，或者擁有自由意志。顯然，目前的所有智慧機器都是為了完成特定任務而設計和開發的，只能完成相關的任務，不擁有意識。也就是說在這種意義上它們跟草履蟲是類似的。

圖靈在研究智慧機器的時候，有意迴避了什麼是智慧，以及什麼是意識的問題。他認為人腦的主要功能是思考（thinking），而思考可以還原為計算。我們應該關心如何透過計算的手段使機器像人一樣思考。而判斷機器是否達到了人的思考能力的實驗，就是他構想的圖靈測試。圖靈認為判斷機器是否智慧或者是否擁有意識都是沒有意義的，我們和其他人進行對話的時候，不會懷疑對方是不是真人，只要他們能夠和我們進行正常的交流，我們就會假設他們是和我們一樣的[10]。

如果人工智慧的目的是為人類提供有用的工具，使得人類的生活更加美好，那麼我們應該力圖構建合理行動的智慧機器，而不是像人一樣行動的智慧機器[10]。假如為了實現這個目標需要實現類似意識的機制，使得機器擁有更高的效能或更高的效率，那麼我們就應該朝著這個方向努力。

從腦科學的角度看，意識的本質是生命現象。要在機器上實現人腦中的意識，應該是極其困難的。事實上許多腦科學家，包括達馬西奧和科赫，反對把人腦看作是計算機器。人腦不僅擁有神經系統，而且擁有迴圈系統、內分泌系統等，更重要的是人腦只是人的身體的一部分，整體形成了一個極其複雜和強健的生命體，撇開人的身體只看人腦和意識是沒有意義的。可以想象實現擁有跟人一樣的有意識的機器，基本需要造出一個“人造人”。這不僅有社會價值方面的疑問，而且有社會倫理方面的擔憂。

無論如何，在腦科學還沒有把意識的機制完全解明的當前，判斷是否能夠實現擁有意識的機器時日尚早。但我們相信，部分實現意識的機制使得智慧機器能更好地完成任務，這是完全可能的，也可能是必要的。

6. 未來暢想：機器人的自白

展望未來，人工智慧系統將會越來越加智慧，在很多功能方面達到或超過人類水平，幫助人類完成各種任務。在設計的範圍內，機器可能能知覺到“自我”，具有一定的自我意識。和人類進行互動，包括和人類進行自然語言對話。科幻電影中的許多機器人，如星球大戰中的C-3PO和R2-D2，確實有可能來到我們身邊（見圖6）。

圖6. 星球大戰中的機器人

另一方面，機器終究是機器，無論它們看上去如何智慧。沒有必要或者也不太可能讓機器擁有像人一樣的身體功能。也很難想象機器能像人一樣產生情感，能像人一樣進行創造，能像人一樣行使自由意志。

大膽預測，200年以後人和機器之間可能有如圖7所示的對話。

圖 7. 未來機器人的自白

7. 後記

本文主要基於或參考以下書籍和報告的內容。

腦科學家迪昂認為意識是人腦中的廣播機制，將各個腦區資訊處理得到的表象傳達到整個人腦[4]。腦科學家科赫認為意識是人腦內在的各種表象透過因果關係聯絡起來的整體[7][8]。腦科學家達馬西奧指出自我在意識中的重要作用，主張意識是維持人的生命的基本機制[2][3]。

對意識、心智和自由意志的基本概念的介紹可參照維基百科。哲學家塞爾（John Searle）從科學和哲學的角度給出意識的定義，指出意識是可以透過科學的方法研究的[11]。認知科學家平克（Steven Pinker）從心智的計算理論的角度討論意識，將意識視為訪問資訊的手段[9]。認知科學家侯世達（Douglas Hofstadter）指出意識的一個重要特點是自我與環境的互動，以及由此產生的無限迴圈[5]。心理學家卡內曼（Daniel Kahneman）研究人的思維中系統1和系統2的功能和相互作用，對應著下意識和意識[6]。計算機科學家羅素和諾維格（Stuart Russell, Peter Norvig）在人工智慧哲學問題的論述中討論了意識[10]。

參考文獻

1. Antonio Damasio, Descartes' Error: Emotion, Reason and the Human Brain, Penguin Books, 1994. 中譯：笛卡爾的錯誤，情緒、推理和大腦，殷雲露，湛廬文化/北京聯合出版公司，2018。

2. Antonio Damasio, Self Comes to Mind: Constructing the Conscious Mind, William Heinemann, 2010. 中譯本：當自我來敲門：構建意識大腦，李婷燕譯，北京聯合出版公司，2018。

3. Antonio Damasio, The Quest to Understand Consciousness, TED Talk, 2011.

4. Stanislas Dehaene, Consciousness and the Brain, Deciphering How the Brain Codes Our Thoughts, Viking Press Publisher, 2014. 中譯本：腦與意識，破解人類思維之謎，章熠譯，浙江教育出版社，2018。

5. Douglas Hofstadter, I Am a Strange Loop, Basic Books, 2007. 中譯本：我是一個怪圈，修佳明譯，中信出版社，2019。

6. Daniel Kahneman, Thinking, Fast and Slow, Farrar Straus and Giroux Publisher, 2011. 中譯本：思考，快與慢，胡曉姣，李愛民，何夢瑩譯，中信出版社，2012年。

7. Christof Koch, What Is Consciousness? Scientific American 318, 6, 60-64, 2018.

8. Christof Koch, The Feeling of Life Itself - Why Consciousness Is Widespread but Can’t Be Computed, MIT Press, 2019.

9. Steven Pinker, How the Mind Works, W. W. Norton & Company, 1997. 中譯本：心智探奇，郝耀偉譯，浙江人民出版社，2016年。

10.Stuart Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, Third Edition, Prentice Hall, 2009.

11.John Searle, Consciousness and the Brain, TED Talk, 2013.

[2] 笛卡爾的比喻。

[3] 心智整體也是第一者體驗。比如，大家高興時的心理感受是不是一樣的？猜測可能很相似，但很難用科學的方法驗證。可以觀察到的是，大家高興時的身體反應是一樣的，比如，都會露出笑容。

[4] 亞當·斯密斯指出，同情心、正義感、利他主義是人類道德的基本元素。