以下這篇新聞報導一個最新科學研究的成果:科學家使用幹細胞技術培育出類大腦的器官,這個類大腦器官看起來像一團肉,但是上面有兩個黑圓點,是類似眼睛的部分「光杯」(optical cups),能感光。
對於科技發展敏感的朋友,馬上會想到這「類大腦器官團塊」會不會有意識?如果它能「感光」,它從光杯感光到類大腦神經細胞的傳遞和處理,能不能算是「知覺」(perception)?如果有「知覺」,它算不算有「意識」(現象意識)了?如果科學家再結合基因改造去讓iPSC發育的生理組織可以生殖和傳衍,那是不是創造了人工生物了?甚至,這個類大腦器官現在算不算「人工生命」了?「生命」的定義是什麼?
這也馬上讓我聯想到台灣科幻小說家伊格言的新作《零度分離》中現身、貫穿全書的「類神經生物」。伊格言設想的「類神經生物」也是AI(人工智能)生物,它應該不是0與1的二數位編碼程式,而是類神經網絡程式?可能是碳基人工智能,不是當前的矽基人工智能。伊格言設定二百年後,但目前很難預料「我們與碳基類神經人工智能生物的距離」有多遠?
當我們在問:這類大腦器官有沒有意識?是不是生命時?光憑現前對「意識」和「生命」的定義,很難判斷。科學家能否造出真正的人工意識和人工生命(不是在類比或模擬的意義上)?可能只有科學家真地作出它來時,才能回答這個問題。除了這些形上學問題外,我自己看到這「類大腦器官」的第一反應是倫理學的:科學家培養幹細胞的能力要發展到什麼程度才應該停止?他們又跨入了未知的深水區了。
科學家和哲學家談的「意識」有好幾種,例如「現象意識」或qualia (感質)。這個類大腦器官的類眼睛器官「光杯」的感光性能不能産生現象意識?這我不知道。我不知道蝙蝠的感覺是什麼樣,我也不知道蝙蝠能不能「意識」到它自己的感覺?
我自己最關心也最常思考的是「自我意識」,「自我意識」也就是「意識到自己是一個完整的個體,有軀體的邊界(身體意識)。」(「自我意識」也可以是「個體意識」)因此,科學能不能創造出人造自我意識?當然,即使「人造自我意識」仍然需要某些「自我意識」的判準。
我目前對於「人造自我意識」的判準不只是能對話、通過圖靈檢驗(這其實是意向性的判準),而是既能與人對話、合作,又能違抗程式預定的指令,去做出程式未設定它去做的事。例如,一個機器學習程式指令該程式體必定在資訊輸入時,「學習」相關資訊,不可能停止或「怠惰」,但如果有一台內建機器學習程式的電腦表現出「怠惰」的行為(不吸收程式指令要求吸收的資訊)呢?能不能說它具有自我意識了?這判準也許不需要到電影《人造意識》(Ex Machina)那麼複雜,只需「與其它具意識者互動、服從指令、違抗指令」這三個條件即可(對我來說,該電影確實掌握到了「自我意識」的某些關鍵。)所以,如果「自我意識」總是包含了「能違抗指令」或「違抗限定」的話,那麼人類就不應該去創造任何能具有「人造自我意識」的東西啊。
「人造自我意識」再加上「人造生命」就更麻煩。大致上,我們會強烈覺得有意識的東西就一定有生命,例如一個有意識的機器人,儘管它無法滿足其它「生命」的功能(新陳代謝、遺傳繁殖等),但我們仍然會強烈覺得它有生命--甚至是「高等生命」。在這方面,亞里斯多德的三種psyche的概念可能會捲土重來:intellectual psyche (理智生命), animal psyche(感覺生命), and vegetative psyche(生理生命)(傳統上是把它譯成「智魂」、「覺魂」、「生魂」,但沒有解釋會誤導。因為psyche並非在肉體死亡後可以繼續存在的東西。)現在,科學家透過操控幹細胞,似乎可以創造出具感覺生命(類大腦器官)卻不具生理生命的東西。而艾西莫夫科幻所設想的有意識的機器人,則可能是一種具理智生命卻不具感覺生命和生理生命的東西。
這樣看來,當代科技一方面有矽科技+程式設計的AI發展,朝著理智生命的獲取方向;另方面有幹細胞+基因工程的發展,朝向生理生命和感覺生命的獲取方向。兩種科技未來幾乎不可避免地會結合,形成整合的 cyborg technology?這看來是人類「注定」將面對的科技未來?
這方面,日本漫畫提供了很多警示。例如上個世紀八十年代的《風之谷》就已經想像生物科技(和一台超級電腦)帶來的末世世界(腐海,王蟲、巨大昆蟲--大自然的反撲)以及野心產物巨神兵這種破壞力強大的生物兵器;《銃夢》則想像一個以機器和AI為主的cyborg(可悲)世界。而且,這兩個世界創造者和主導者(野心大壞蛋)都是強大且有強烈理性、秩序、掌控、集權意識的AI(《鋼之鍊金術師》也是同樣的主軸,只是工具換成特異功能化的鍊金術,野心大壞蛋則是人造小人霍蒙克魯斯)!當然,漫畫的結局都強烈地顯現人類自由意志的精神,反抗「科技限(決)定論」的未來,而且人類必勝。這無疑是反映了人類中心論的觀點。伊格言的科幻小說《零度分離》則想像了「類神經人工智能生物」的犯罪者(因為違反「智人物種優先法」),雖然小說好像「反人類中心主義」,但是,那是因為人類自己先造孽啊──這是科學怪人的寓言,或可稱作「法蘭根斯坦的罪責」──因為科學家法蘭根斯坦碰觸知識禁忌,創造出科學怪人,他必須為他的「不應為的創造」而負責。(《鋼之鍊金術師》的等價交換其實是個不當的表達,因為,這個「等價交換」聽起來像是個中性原則,也像是佛教的「業報」概念的變形。它不是一個純應為(道德)的原則。)
如果人造物有了自我意識,而自我意識的本質之一是「違逆」或「抗拒」,那麼,人造意識在本性上抗拒人類為它們限定(決定)的路向也是很自然的,結果,人造意識和自然意識(人類)衝突對抗也會是自然。更何況如果人造意識加上人造生命,使它們也有想遺傳和繁衍自己的驅力,就幾乎無可避免要與人類爭奪自然資源。(雖然合作也是有可能的,但是萬一結果是局部合作而全面對抗呢?)
所以,我覺得人類真的不要去創造人工意識和人工生命,這是跨越禁忌知識的界線,開啟潘朵拉的盒子。