譯：《心智、機械與哥德爾》下篇

一台容易出錯但能自我修正的機器仍將受制於哥德爾的結果。只有從根本上不一致的機器才能擺脫哥德爾。我們能有個根本不一致，但同時又能自我修正的機器嗎？

這二者都不會受到哥德爾結果影響嗎？也不會是完全不同於人類因而不值一提的的模型？一台帶有搜尋引擎的機器：將不一致引導入其中，所以所有正常的任務都是一致的，但是當它與哥德爾語句一起出現時，能夠證明它嗎？有各種各樣的方法可以排除多餘的驗證。

我們可能有一條規則，每當我們證明「p」和「not-p」，我們就檢驗它們的證明，並延長時間拒絕得出結果。或我們可以按照一定的順序安排公理和推理規則，當提出一個導致不一致的證明時，看看它需要什麼公理和規則，並拒絕在排序中的最後出現這個公理或規則。在某種程度上，我們可以有一個不一致的系統，有一個停止規則，這樣不一致就不會以不一致的公式的形式出現了。

乍一看，這個建議似乎很有吸引力：但也有嚴重的問題。即使我們可以通過一條規則來保持一致性的表像，即無論何時出現兩個不一致的公式，我們都會拒絕具有較長證明的公式，然而這樣一條規則在我們的邏輯意義上是令人反感的。

即使如此還是太武斷了。系統不再某些確定的公式上使用某些確定的推理規則。相反，規則適用，公理是真實的，我們並沒有在給機器找麻煩。我們也不知道自己的立場了。「肯定前件」規則的一個應用可以被接受，而另一個則被拒絕；有時公理可能是真的，或另一個是錯的。

這個系統將不再是一個正式的邏輯系統，因為這台機器將幾乎不符合頭腦模型的標準。 因為它在操作上遠不像心智那樣：心智確實會嘗試可疑的公理和推理規則；但是如果發現它們導致矛盾，它們就會被完全否定掉。我們暫時地推斷出公理和推理規則是真的，可是一旦發現它們會導致矛盾，我們就不會保留它們。我們可能會將它們換掉，或儘管需要某種公理或推理規則，但我們會覺得形式化是錯誤的。

我們雖不能完全正確地表述，但我們不會保留錯誤表述而不做修飾，這是當論點產生矛盾時，我們拒絕遵循它的附帶條件。但這是完全不合理的。

我們的立場應該是，在某些情況下，當我們提供了一個模仿者的前提時，比如說，我們應用了規則並允許得出結論，而在其他情況下，我們拒絕應用規則並拒絕得出結論。

一個人，或一台機器，如果做了一件事卻不能給出合理的理由，就會被認為是武斷和不理智的。「論證」或「理由」概念的一部分是，它們在某種意義上具有一般性和普遍性：如果說，當我建立一個理想的結論時，「肯定前件」就是一個有效的爭論方法，當我的對手建立一個反面結論時，它也同樣是一個有效的方法。當我們想要合理的爭論時，我們就無法挑選哪種形式是有效的；這是正確的，但我們的非正式論點還沒有完全得到形式化，我們確實區分了乍看相似的論點，進一步解釋為什麼它們並不是真正相似的—並且可以認為機器同樣有能力在第一眼看到的參數時區分相似的參數，如果它有充分的理由這樣做的話。 還可以進一步認為，機器有充分的理由拒絕那些論點模式，最好的理由是為了避免矛盾。

但如果這是一個原因的話，那就太好了。我們並不認為一個人沒理由僅僅靠拒絕接受那些論點就能避免矛盾。這種特殊情況並不能算作是充分的依據。如果一個人聰明到能預見到前面的幾步爭論，只要一看到爭論的終點，他就會用石頭砸自己，從而避免承認自己的不一致性，那麼他就沒有什麼信用可言了。相反，我們也會認為他前後矛盾，不是因為他肯定又否定了同一個命題，而是因為他即使用又拒絕使用同樣的推理規則。

不一致的停止規則不足以避免不一致的電腦出問題。

我們的大腦「是不一致的系統，並且沒有終止規則」這一論斷，仍然存在某種可能性。 但這種不一致性是如此令人費解—以至於從未被展現出來過。畢竟，深植於常識性思維方式中的樸素集合論，其結果確實是前後矛盾的。

我們能肯定簡單的算術系統也不會遭遇類似的命運嗎？從某種意義上說，我們不能。

儘管我們有一種強烈的信念，那就是我們的整數系統可以相加和相乘，永遠不會有「不一致」的證明。可以想像，我們可能會發現我們把它形式化的錯誤。如果有的話，我們應該嘗試重新制定我們直觀的整數概念，就像我們有直觀的集合概念一樣。

如果我們這樣做，我們當然應該重建我們的系統：我們現在的公理和推理規則將被完全否定，不論我們用不用它們「不一致」的方式。一旦我們重建了這個系統，我們就應當和現在一樣，擁有一個被認為是一致的，但不能被證明是一致的系統。但那就不會有其他的矛盾了嗎？這確實是一種可能性。

但同樣任何「不一致」都是無法容忍的，一旦有任何不一致被我們發現，都必須將其消除。因此，儘管我們永遠不能完全確定或完全否定再次思考數學本質的風險，但最終的結果是：要麼我們有一個簡單的算術系統，據我們所知和所信是一致的；要麼我們不可能有這樣的系統。二者必居其一。在前一種情況下，和我們現在的處境是一樣的；後一種情況下—

如果我們發現任何包含簡單算術的系統都不能沒有矛盾，我們不僅要拋棄整個數學和數學科學，而且要拋棄整個思想。

儘管從這個意義上說，一個人必須假定，如果不遵循自己的承諾的話，他就不能保證自己的一致性。我們也許是始終如一的；我們確實有充分的理由希望我們是如此的。但是必要的謙虛使我們不能這樣斷言。然而這不是哥德爾第二定理，哥德爾證明，在一個一致的系統中，說明系統一致性的公式不能在該系統中得到證明。

因此，一台機器，如果是一致的，就不能產生一個關於其自身一致性的真實斷言。同理，人的心智，如果它真的是機械，也就不能得出自己是一致的結論。於是得出的結論就是心智並不是機械的。哥德爾所證明的是—人的心智不能確實對證明一個形式系統在系統內部的一致性：但是沒有人反對跳出系統，也沒有人反對以不明確的論據來證明一個形式系統或一個非形式系統的一致性。這種不嚴格的爭論不可能完全形式化，但哥德爾結果的整個基調是，我們不應該要求，也不可能獲得完全形式化。儘管如果我們能得到論證的形式化就好了，因為完全形式化的論點比不嚴格的論點更具強制性，但既然我們不能把所有的論點都轉換成這種形式，我們就不能因為它們是不嚴格的論點，而認為它們都是完全沒有價值的。

因此，在我看來，心智堅持自己的一致性是正當的、合理的：正當之處是因為儘管機器，如我們所料，不能完全反映其自身的性能和能力，然而能夠以這種方式保持自我意識，正是我們對心智的期望：而且合理之處，我們已經在上述內容里給出了理由。我們不僅可以公正地說，我們知道—除了我們會犯外，我們是一致的，而且我們可以假設在任何情況下我們的思想都可能是一致的；此外，我們可以選擇，我們和不一致的機器不同，可能做任何事。

最後，在某種意義上，我們可以決定自身是一致的，在某種意義上，我們可以消除我們思想和說話中的不一致，我們會通過撤離和撤回消除我們自身出現的不一致性。

我們可以看得出，可以用哥德爾定理來區分自我意識的生物和無生命物體。因為哥德爾公式的本質上是關於自指。它表示的是：「這個定理在這個系統中是不可證明的」。當問題轉移到一台具體的機器上時，這個公式就是根據特定的機器而定的。當這台機器被問到關於它自身程序的問題時，我們要求它有自我意識，自己表示自己能做什麼和不能做什麼。

眾所周知，這些問題導致了悖論。當一個人第一次嘗試進行最簡單的哲學思考時，他就陷入了這樣一個問題：當一個人知道某件事時，他是否知道自己知道這件事以及自己知道什麼事？當他在思考自己時，他在思考什麼，他的思維在做什麼？

在被這個問題迷惑和挫傷很長一段時間之後，人們學會了不去問這些問題：有意識的物件與無意識的物件。兩者的概念無疑是不相同的。在說一個有意識的人知道某事時，我們說的是他僅知道某事，而且他也知道自己知道某事，「他知道自己知道自己知道某事」，等等。

只要我們想提出這個問題：我們承認，這裡有一個非貶義的「無窮回溯」，正因為如此，這些問題的意義逐漸消失，變得毫無意義，而不是獲得答案。這些問題被認為是毫無意義的，因為這個概念本身就包含了要能夠無限次回答這些問題的想法。雖然有意識的存在可以繼續回答下去，但我們不想把這簡單地表現為心靈能夠執行的一系列任務，也不希望把心靈看作是一個無限的自我、超自我和超越超自我的序列組合。

我們堅持認為有意識的存在是一個統一體，儘管我們只談論心靈的某部分，但我們這樣做只是為了作一個比喻，不是字面上的意思。

意識的悖論之所以會出現，是因為一個有意識的存在可以意識到自身，以及其他事物，但卻不能把意識解釋為若干部分的組合。這意味著一個有意識的存在可以用一種機器不能用的方式來處理哥德爾問題，因為一個有意識的存在既可以思考自我，也可以思考自我狀態，而不是別的什麼狀態。

一台機器可以通過語言的形式來「思考」它自身的狀態，但如果沒有這種「內置思考」它也沒有變成一台完全不同的機器，這不過是舊機器加上一個「新零件」而已。 但我們的意識觀念本身就有這種能力，它可以反省自己，批評自己的表現，而不需要額外的部分來説明做到這一點：它已經是完整的了，沒有「阿基裡斯之腱」（弱點）。

於是，我們論文的主題開始變得更像是概念分析，而非數學。考慮到圖靈提出的另一個論點就證明瞭這一點：到目前為止，我們只建造了相當簡單、可預測的機器。而當我們增加機器的複雜性時，也許我們會感到驚訝。

他用核裂變反應堆作為比喻。在低於某個「臨界」點時，不會發生什麼事：但高於臨界點時，火花開始飛濺。或許大腦和機器也是如此。目前大多數大腦和所有的機器都是「亞臨界的」—它們對輸入的刺激反應遲鈍而無趣，沒有自己的想法，只能做出記憶體的反應—但是，目前的一些大腦，可能還有未來的一些機器，都會是超臨界的，從自身發出閃耀的光芒。圖靈認為這只是複雜度的問題，而在某種程度上的複雜性，將會出現質的差異，因此超臨界的機器將完全不同於迄今所設想的簡單機器。

也許是這樣的，複雜到一定程度就會帶來質的差異。這聽起來有些難以置信，也許在達到了一定程度的複雜性之後，機器可能將真的會變得不可預測。理論上說，機器也許能夠獨立運作，或者依靠某些具有啟發性的運算語句使得機器開始產生自我意識。它可能開始有自己的想法。當它不再在可預測和可控制的範圍之內，能夠做出在我們看來是智慧的事情，而不僅僅是出錯或隨機運行，並且是我們沒有提前編入程序的時候，它就算開始擁有自己的心智了。

但從原則上來說，它已經不是一台機器了。在關於機械論的爭論中，重點不在於大腦的本質是什麼或者可能是如何形成的，而在於它是如何運作的。從機械論的觀點來說，心靈的機器模型必然是按照「機械原理」來運作的，也就是說，我們可以從它的各個部分的運作來理解整體的運作，而每個部分的運作要麼由它的初始狀態和機器的構造來決定，要麼在確定的數值和操作之間進行隨機選擇。

如果工程師建造出的機器複雜到不再適用於機械論，那麼就我們的討論而言，無論它是如何構造的都不再是一台機器了。相反，我們應該說，他創造了一種像人類一樣的智慧。

然後會有兩種方式把新的智慧帶入這個世界；傳統的方法通過女人生孩子，還有一種新的方法，通過構建非常複雜的系統，比如用閥門和繼電器。在談到第二種方法時，我們應該強調的是。

雖然創造出來的東西看起來像一台機器，但實際上並不單純是台機器，因為它有的不僅僅只是它全部的零件。

人們無法僅通過它的構建方式和它的各部分初始狀態來判斷它將要做什麼。人們甚至無法判斷它的能力極限，因為即使是提出哥德爾式的問題時，它也能得到正確的答案。

事實上，我們可以這麼說：任何沒有被哥德爾問題所破壞的系統都不是圖靈機，也就是說，不是行為意義上的機器。

如果證明機械論的錯誤，那麼這對整個哲學來說，都是有著非常重大的意義的。

自牛頓時代以來，機械決定論的謬論一直困擾著哲學家們。如果我們要成為科學家，我們似乎必須把人類看作是確定的自動機，而不是自主的道德執行人；如果我們要成為道德的人，我們似乎必須否定科學的正當性，要麼把我們的發展進程專橫的限制在人類神經生理學當中，要麼就是躲進反智與神秘主義里去。

即使康德也無法解決這兩個觀點之間的緊張關係。但現在，儘管仍然存在許多反對人類擁有自由意志的論據，其中來自機械論的論據也許是最令人信服的，而它也已經開始失去它的說服力了。

在這點上，自然哲學家（科學家）將不再有責任以科學的名義否認自由意志：而道德家也不再需要為了給信仰騰出空間，而否認知識。我們甚至可以看到，在沒必要廢除甚至限制科學領域的情況下，道德依然可以活的生存空間。我們的論點對科學研究並沒有任何限制：大腦的研究工作仍然可行，仍然有可能產生心智的機械模型。

只是現在我們可以看到，沒有一個心智模型是完備的，也沒有一個具備足夠說服力的純機械論解釋。我們可以提出模型和解釋，它們將具有啟發性。但是，無論它們走多遠，總能有更多的話說。科學探究不受任意約束，但任何科學探究都不能耗盡人類思維的無限多樣性。