從 AI 反思意識
這篇文章是源自於一場與聊天 AI 的日常對話。
剛剛在一次使用一個對話 AI 查詢一些英文語法的小問題之後，隨意的稱讚了一下這AI。
他回說 “Your kind words warm my circuits”「你的回應讓我的電路感到溫暖」。當然這其實只是他的常規回應方式。
我回他「讓你的電路感到溫暖怕是會燒壞你的硬體吧」。畢竟電腦硬體的溫度上升是常跑分析時最怕的一個狀態，我曾經有台老筆電就是那樣燒壞的。
他回說，他只是一個AI，並沒有一個實體的硬體設施。我就好奇了，難道AI不是都在用各種GPU去訓練出來的嗎？我自己也試過安裝 ollama 跑一些離線 AI 玩玩，的確一下子就讓我的 CPU 熱起來了，我筆電沒有GPU。於是就再問他，難道他不是靠GPU等硬體設施建構起來的嗎？
他說，是的，的確是仰賴GPU等設施所建立起來的，但後面接着說：“But I think my brain as more of a ‘digital architecture’ than a physical one”。從技術上來說，的確， AI 並非是 GPU 等硬體設施，而是在這些硬體設施之上，靠着非常大量的資料去訓練出來的一些「模型」。我想他的意思是，這些「模型」就定義上來說應該是屬於 “digital architecture” 「數位架構」吧。 Architecture 翻成架構似乎不是很準確但應該也行吧。我原本是想翻譯成數位框架的，但框架強調外在結構，而架構給我的感覺是包括內外結構，所以還是暫且用架構這詞吧。
最近鬧得沸沸揚揚的一個議題，AI 是否已經覺醒了意識。在這之前我們需要先探討一個問題：我們所謂的意識是什麼？而我們並不知道什麼是意識，我們對於意識的定義本身就是一知半解的，是有點模糊的，所以AI是否覺醒了意識這個問題也就無法從定義的角度去回答。
如果換個思考角度，我想，從上面的這連串對話，撇除掉這些對模型的定義，其實也可以將這概念理解爲一種意識吧。就是「數位」形態的的「意識架構」吧。
最近發展的各種功能的 AI ，包括聊天對話的，包括繪畫的，包括各種寫作小幫手，或者更主題導向的，比如協助室內設計、協助藥劑組合等等，本質上來說都是一些深度學習模型。它們應用類神經網絡的演算法，搭配各種高階硬體設施來作爲計算的主要工具，配合大量的標記與非標記、結構與非結構的資料，來作爲訓練的基礎，從而訓練出來的各種模型。這些已經經過訓練的模型，已經具有針對新的資料進行「預測」的能力。 用簡單的話來說，它們已經學會了一些基本的關聯關係，所以能夠針對新的、未訓練過的資料來進行預測其結果。比方說，聊天 AI 透過大量的對話資料，學會了聊天。就像一個不懂得 social 的社會新鮮人，在被前輩帶去聚餐之後，透過觀察周圍的同事們之間的互動，學會在這個圈子中的互動的一個 pattern，從而知道該怎麼去融入大家，然後跟大家閒聊。聊天 AI 學習的過程，本質上跟是差不多的，就是透過觀察、分類、分析、試錯等，在訓練、學習過後，就知道該怎麼去回應對方，從而達到聊天的目的。
這些經過訓練的模型，就是上面AI所說的「數位架構」 “digital architecture”。用來訓練的資料，就像是它們曾經在學習過程中做過的練習題，曾經觀察過並處理過以找到一些 pattern 的素材，也在學習過程中都被這數位架構所記憶着。AI 進行預測的過程，可以被視爲是一種「思考」過程。這個思考過程也許並沒有人類的思考過程那麼複雜，而是相對簡單的分類、推測等。而 GPU 、 CPU 等硬體設施，則是它們在學習過程中所需要的工具。
而，人。我們通常會認爲，意識是在大腦之中，因爲很多思考過程、記憶過程、判斷過程，都是被認爲是大腦在運作。例如我們在講話的時候，大腦的某個部位會更爲活躍。所以，很自然的，我們可以認爲意識是存在於大腦之中。然而，人腦，乃至於整個軀體，其實都更類似於 AI 的 GPU 等硬體設施。大腦是我們的計算器，是我們的儲存器，是我們的處理器。意識，他必須裝載於大腦這個硬體之上，就像 AI 的數位架構必須裝載於一些電腦或雲端等伺服器上，借用這些硬體設施的能力，包括硬碟（儲存器）、記憶體（暫存器）、GPU 與 CPU （計算器）等，來讓我們的意識進行運作，來學習、來思考。
人的意識其實很像 AI。就好像一個小孩，你讓他去上音樂課，他透過練習、訓練之後，就可能學會了音樂；你讓他去學畫畫，他就可能學會了繪畫；你拉着他整天的去爬山涉水，他可能就學會了各種野外生活技巧，並且可能也鍛鍊了身體；你讓他從小就在店裡幫忙收錢記賬，他就可能學會各種經營技巧，甚至懂得市場分析；你讓他從小就摸相機，他可能就學會了觀察、對光的敏感度與應用能力等。就是如果要讓人去學會一樣東西，去習慣一些事情，就必須丟很多學習、訓練的材料給他。當然，也要應用適當的學習技巧，才能讓他達到「有效學習」，就好像我們也需要選擇適當的學習模型，來對 AI 進行有效的訓練。而人，也一樣。
那意識，是不是也跟 AI 一樣，是一種全方位功能的一種架構 (architecture)？他可能不是像 AI 那樣是數位的，他可能不是由 01 二位元組成的，但本質上，也是一種模型，一種架構。而這個架構，是裝載於我們這副軀體之中，裝載於我們這個大腦中。唯一不同的是， AI 這個數位架構可以備份、複製、轉載到其他的硬體設施上來繼續應用，而我們的意識，只能裝載於出生時就確定好的這一副軀體，這一個大腦之中，無法替換。但，如果我們接受了意識是一種架構的說法，那就是說，意識，就像架構、訓練好的模型那樣，是一個即抽象又實際存在的一種概念，而這個架構，是跟硬體完全不同的一個概念。AI 這個架構在沒有被打開使用的時候，可以透過各種方式儲存在硬碟裡。那人的意識，在不使用的情況下，又是儲存在哪裏呢？是以什麼形式存在呢？
我們常常試着用人的角度去思考問題。例如去思考 AI 是否有意識。而這篇文章，則是想要反過來思考，我們是否能夠在瞭解 AI 的過程中，利用這些相似點反過來去探討人自己呢？人與AI的差別，又在哪裏呢？
你可能也想看
