以下這篇新聞報導一個最新科學研究的成果：科學家使用幹細胞技術培育出類大腦的器官，這個類大腦器官看起來像一團肉，但是上面有兩個黑圓點，是類似眼睛的部分「光杯」（optical cups），能感光。
https://www.eurekalert.org/news-releases/925127
對於科技發展敏感的朋友，馬上會想到這「類大腦器官團塊」會不會有意識？如果它能「感光」，它從光杯感光到類大腦神經細胞的傳遞和處理，能不能算是「知覺」（perception）？如果有「知覺」，它算不算有「意識」（現象意識）了？如果科學家再結合基因改造去讓iPSC發育的生理組織可以生殖和傳衍，那是不是創造了人工生物了？甚至，這個類大腦器官現在算不算「人工生命」了？「生命」的定義是什麼？這也馬上讓我聯想到台灣科幻小說家伊格言的新作《零度分離》中現身、貫穿全書的「類神經生物」。伊格言設想的「類神經生物」也是AI（人工智能）生物，它應該不是0與1的二數位編碼程式，而是類神經網絡程式？可能是碳基人工智能，不是當前的矽基人工智能。伊格言設定二百年後，但目前很難預料「我們與碳基類神經人工智能生物的距離」有多遠？
當我們在問：這類大腦器官有沒有意識？是不是生命時？光憑現前對「意識」和「生命」的定義，很難判斷。科學家能否造出真正的人工意識和人工生命（不是在類比或模擬的意義上）？可能只有科學家真地作出它來時，才能回答這個問題。除了這些形上學問題外，我自己看到這「類大腦器官」的第一反應是倫理學的：科學家培養幹細胞的能力要發展到什麼程度才應該停止？他們又跨入了未知的深水區了。
科學家和哲學家談的「意識」有好幾種，例如「現象意識」或qualia （感質）。這個類大腦器官的類眼睛器官「光杯」的感光性能不能産生現象意識？這我不知道。我不知道蝙蝠的感覺是什麼樣，我也不知道蝙蝠能不能「意識」到它自己的感覺？
我自己最關心也最常思考的是「自我意識」，「自我意識」也就是「意識到自己是一個完整的個體，有軀體的邊界（身體意識）。」（「自我意識」也可以是「個體意識」）因此，科學能不能創造出人造自我意識？當然，即使「人造自我意識」仍然需要某些「自我意識」的判準。
我目前對於「人造自我意識」的判準不只是能對話、通過圖靈檢驗（這其實是意向性的判準），而是既能與人對話、合作，又能違抗程式預定的指令，去做出程式未設定它去做的事。例如，一個機器學習程式指令該程式體必定在資訊輸入時，「學習」相關資訊，不可能停止或「怠惰」，但如果有一台內建機器學習程式的電腦表現出「怠惰」的行為（不吸收程式指令要求吸收的資訊）呢？能不能說它具有自我意識了？這判準也許不需要到電影《人造意識》（Ex Machina）那麼複雜，只需「與其它具意識者互動、服從指令、違抗指令」這三個條件即可（對我來說，該電影確實掌握到了「自我意識」的某些關鍵。）所以，如果「自我意識」總是包含了「能違抗指令」或「違抗限定」的話，那麼人類就不應該去創造任何能具有「人造自我意識」的東西啊。
「人造自我意識」再加上「人造生命」就更麻煩。大致上，我們會強烈覺得有意識的東西就一定有生命，例如一個有意識的機器人，儘管它無法滿足其它「生命」的功能（新陳代謝、遺傳繁殖等），但我們仍然會強烈覺得它有生命－－甚至是「高等生命」。在這方面，亞里斯多德的三種psyche的概念可能會捲土重來：intellectual psyche （理智生命）, animal psyche（感覺生命）, and vegetative psyche（生理生命）（傳統上是把它譯成「智魂」、「覺魂」、「生魂」，但沒有解釋會誤導。因為psyche並非在肉體死亡後可以繼續存在的東西。）現在，科學家透過操控幹細胞，似乎可以創造出具感覺生命（類大腦器官）卻不具生理生命的東西。而艾西莫夫科幻所設想的有意識的機器人，則可能是一種具理智生命卻不具感覺生命和生理生命的東西。
這樣看來，當代科技一方面有矽科技＋程式設計的AI發展，朝著理智生命的獲取方向；另方面有幹細胞＋基因工程的發展，朝向生理生命和感覺生命的獲取方向。兩種科技未來幾乎不可避免地會結合，形成整合的 cyborg technology？這看來是人類「注定」將面對的科技未來？
這方面，日本漫畫提供了很多警示。例如上個世紀八十年代的《風之谷》就已經想像生物科技（和一台超級電腦）帶來的末世世界（腐海，王蟲、巨大昆蟲－－大自然的反撲）以及野心產物巨神兵這種破壞力強大的生物兵器；《銃夢》則想像一個以機器和AI為主的cyborg（可悲）世界。而且，這兩個世界創造者和主導者（野心大壞蛋）都是強大且有強烈理性、秩序、掌控、集權意識的AI（《鋼之鍊金術師》也是同樣的主軸，只是工具換成特異功能化的鍊金術，野心大壞蛋則是人造小人霍蒙克魯斯）！當然，漫畫的結局都強烈地顯現人類自由意志的精神，反抗「科技限（決）定論」的未來，而且人類必勝。這無疑是反映了人類中心論的觀點。伊格言的科幻小說《零度分離》則想像了「類神經人工智能生物」的犯罪者（因為違反「智人物種優先法」），雖然小說好像「反人類中心主義」，但是，那是因為人類自己先造孽啊──這是科學怪人的寓言，或可稱作「法蘭根斯坦的罪責」──因為科學家法蘭根斯坦碰觸知識禁忌，創造出科學怪人，他必須為他的「不應為的創造」而負責。（《鋼之鍊金術師》的等價交換其實是個不當的表達，因為，這個「等價交換」聽起來像是個中性原則，也像是佛教的「業報」概念的變形。它不是一個純應為（道德）的原則。）
如果人造物有了自我意識，而自我意識的本質之一是「違逆」或「抗拒」，那麼，人造意識在本性上抗拒人類為它們限定（決定）的路向也是很自然的，結果，人造意識和自然意識（人類）衝突對抗也會是自然。更何況如果人造意識加上人造生命，使它們也有想遺傳和繁衍自己的驅力，就幾乎無可避免要與人類爭奪自然資源。（雖然合作也是有可能的，但是萬一結果是局部合作而全面對抗呢？）
所以，我覺得人類真的不要去創造人工意識和人工生命，這是跨越禁忌知識的界線，開啟潘朵拉的盒子。
