我有二十多年科技業從業經驗,這兩年也研究過 AI 與機器學習,從碼農到業務都經歷過。在職涯專業之餘也酷愛音樂喜好文學... 誒誒這篇不是在寫履歷啦,只是當我初次看到這本書名《科技X愛X12 則奇思妙想:從吸血鬼到人工智慧,我們是在前進還是倒退?》(12 Bytes: How We Got Here. Where We Might Go Next)時,馬上就被吸引取來一翻。快速瀏覽第一章內容時就瞄到 Keith Richards(滾石合唱團吉他手)、Brian Eno(電子 / 環境音樂大師)、Andy Warhol(普普藝術之王)、勃朗特姐妹、維吉尼亞・吳爾芙等等大名,又是科技又是音樂又是藝術文學,完全我的菜,當下秒買。
書底摺頁上說本書部分內容來自作者 Jeanette Winterson 在撰寫某本小說時的閱讀筆記,由此可見此君應該也博覽群書,而且不是科技小白(我才是小白本人),沒有忽視科技領域的發展趨勢。
我自己也時常思考科技相關議題,當今 AI 風潮下滋生的海量正反面意見都會參考,態度基本上算開放,喜歡自己打臉自己以避免偏見。雖然本書中許多觀點都不算特別新穎獨到,但仍有我沒想到或是不曉得如何有效表達的部分。作者旁徵博引幫了讀者如我不少忙,省卻整理功夫,簡言之這本書可以被視為到目前(2023 年)生成式 AI 領銜的科技發展進行式下,十分具有「一言以蔽之」或懶人包效果的趨勢書。關心此類議題者必讀。
我想從三點來總結我的讀後心得:宗教化、主宰化、父權化。且聽我娓娓報來。
首先是宗教化,警語在先:基督徒請不要太激動。以下這一大段出自第四章「諾斯替學說竅門」,覺得再貼切不過,且容我整頁摘錄:
激情倡導 AI,跟傳統宗教的交集如此之多,從小生長在信教家庭的人想必都有同感,既看得入迷,也同樣心寒。
相似處不外乎基本概念:俗世不是我的家。我只是個過客。我的白身/靈魂和肉體不是一體。人死後,生命會變成另一種形式。我對 AI 探討愈深,愈會不知不覺再三審視這群人的宗教心態。這群穿著高科技智慧布料服飾的人。
不信教的人警告說,AI 將引發世界末日,人類有四條路可走:一、滅絕。二、人性被掃除殆盡。三、被機器人取代。四、被迫進人新不平等時代,富人體內有智慧晶片,被基因改造過,肢體換新,認知強化,其他人只有滑著過時手機、爭奪低薪血汗工作的份。
反觀 AI 樂天派展望未來,態度積極,如同揮舞著《聖經》等候基督復臨的教徒。
人類即將脫離:苦勞/苦海/死亡/一夫一妻制(詳見馬太 22:30)/妊娠/疑慮/以下願望清單隨你填。
人類將可以隨心所欲生活在太空(天堂)。
時間再也不重要。人類會被 AI 控制嗎?我們會淪為寵物嗎?會變奴隸嗎?最後的一項發明——指曾和圖靈及史丹利・庫柏力克合作過的傑克・古德所謂的「超智能(ultra-intelligent)機器」——會不會也是最後—次歡呼?這根本是上天堂/下地獄的二元式想法,太老套了,無濟於事。
我去查了馬太 22:30:耶穌說「復活的時候,人既不娶也不嫁,而是像天上的天使一樣。」純猜測作者 Jeanette 應該意指復活後單身最大、無需伴侶吧?(教義最忌俗人亂解釋,我怕我是裝熟俗人...)
如果 AI 啥都能做,包含《黑鏡》S2E1〈馬上回來〉中利用記憶再現與生理特徵合成之術而讓死人復活,那麼這無疑是瑪麗雪萊筆下科學怪人驚夢成真,而《黑鏡》亦非無的放矢,因為 Google(見
此)和微軟(見
此)都正有此意。所以 AI 正扮演著上帝角色,信者得OO,不信者被XX,豈不真如作者所說已與宗教無異?!
又,復活是好事嗎?復活前後是「同一個人」?能使死人復活的超技能不就好棒棒?
除了被宗教化外,AI 日趨主宰化也是一大問題。作者寫到:
人類無能,開發 AI 是為了全民福祉,卻叫不動 AI。錯不只是在哪一國,美國、中國、俄羅斯、英國都有錯,全都沒看清重點:全人類不是受害者,而是侵害者。
不是 AI 這工具翻臉對付人類,而是人類叫工具對付人類。
大數據不是新石油,不是一種開採出来發電推動數位世界的原料,大數據其質是新二氧化碳,是一種能影響所有人的汙染物。
這其實也是我現在觀察許多 AI 擁護者——不曉得是真沒看到還是刻意矇上眼睛——所忽略的收集使用者資料所導致侵犯隱私問題,我在〈
我是人,不是機器的柴火〉文中聊過這點,不再贅述。
隱私是一種人有百百款的明證,擅長異中求同的科技業最亟欲挖掘的就是隱私。別被「個性化」、「個人化」的廣告行銷術語給騙了,那只是利用同一套演算法將你的隱私參數化所得到的輸出結果,目的是反過來從你身上扒出更多的錢。你不但個資變成人家商品,還被回頭榨出更多錢,遭扒兩層皮你還在那邊「我小咖隱私不重要」?
廣告業如此,AI 也沒好到哪兒去。作者提到過去許多知名哲學家與心理學家崇尚理性,譬如人人都會背的笛卡兒「我思故我在」——自認人類會思考而為萬物之尊;或是「行為主義者」(behaviorist)諸如宣稱用適當的行為技術就可以把小嬰兒塑造出任何特質的約翰・華生(真人,非福爾摩斯助手),或是發明讓白老鼠按壓槓桿就可以得到食物的「史金納箱」的 B.F. 史金納,都認為人類行為可以被預測進而控制,於是最終多元性不敵預測值。理性的產生基礎是知識與思考,可這正是 AI 擅場之處呀!如果 AI 也習慣異中求同而非同中求異,那麼人類真的會親手毀滅自己。
AI 和機器學習的成效優劣端視預測或判斷的準確率而定,通常會有個閾值做為判斷邊界。顯然,這就是一種二分法。其實這本書裡面,身為女人的作者 Jeanette Winterson 無處不在的論述精神就源自於女性在科技史上所遭受的不平等待遇:性別原罪。
書中提到 2017 年位於波士頓的「生命未來」(Future of Life)研究院召開大會,目的是研擬一套目標來規範現有的 AI 和日後的通用 AI,Elon Musk 也應邀出席,權威性可見一班。會中召集了大約一百位科學家、律師、思想家、經濟學家、科技大師、電腦學家,研擬出二十三條原則以規範 Al 的走向,比著名的艾希莫夫「機器人三定律」更嚴謹。但是與會人士多數是白人男性,研究院本身的顧問委員也多半是。作者試問,如此缺乏膚色、性別、職業或其他多元化屬性的會議,不也和見解偏頗的數據組一樣嗎?這種會議得出的結論,能帶給我們人類多少洞見?
AI 竟步上父權化,這著實是我沒想過的問題。這段話讓我印象深刻:
我建議多召集幾位有聲望地位的文藝人士和公眾知識分子,在每一層次請他們一同研商科學、科技、政府課題。文藝不是休閒業。一直以來,文藝是憑想像力和情緒來對抗現實的一種作為,由此開發出一連串的創建和發明,我們因此能換個視角思考問題,改變你我對人類的認知,也能幫助我們變得更賢明、更有反省能力,並且少一分害怕。
文藝工作者每天都能無中生有。文藝人士過著多元而主動的生活 ,多數人嘗過貧困和被拒的滋味。在困境中,我們文藝工作者擅長想像出替代途徑。
依文藝人士看,當前社會上 AI 應用和誤用的問題並非科技問題。人類的社會體系、對階級的迷戀、財富和權力愈來應集中在極少數人手裡——是這些現象讓人類和 AI 的關係變得緊繃。我們應想一想這個新現實以面對問題——我們面對的不是技術問題,而是社會問題。想探討 AI 未來,召開大會時,多加幾位不常見的族群吧,最好愈加愈多。
另外,到處充滿艱澀專有名詞和陳腐行銷術語,也讓科技業顯得拒人於千里之外。所以作者也拜託 AI 業界:「多找幾個非業界的文膽吧!求求你們。」
宗教化、主宰化與父權化,的確是一般科技業內人員在觀察新科技時比較少會去探討的現象,其實一言以蔽之,就是「同質化」。AI 的多維(multi-dimention)只是輸入,但輸出是單一結果,且能符合現實最好。這是異中求同,就算有所謂的個性化結果也只是偽同中求異。某種程度上,說 AI 正走上集權路亦不為過,而那條路可以向左(如口國的「社會信用體系」)也可以向右(如被大企業所把持的 AI 技術)。《魔鬼終結者》中的天網和《1984》中的雙向電屏是前者,《機器戰警》中的 OmniCorp 公司和《美麗新世界》中的波康諾夫斯基程序則屬後者,而這更是我們應警覺而未警覺的水下冰山。
本書結論稍嫌雞湯:「愛就是全部」,不過作者正面看待 AI 發展實也植基於此,她期許未來人類和 AI 結合成「超人類」之時,仍能保有人性最優良最神秘的特質:愛。「心碎了, 派再多 DNA 和蛋白質組成的奈米機器人在血液裡流竄,也無法修復」,我愛故我在,人類僅存之。