首先是花體力的工作,再來是重複性工作,接著,說不定就輪到純腦力工作被取代了。~ 馮內果《自動鋼琴》1952 ( 頁07 )
第一次見過無人手彈的自動鋼琴,是好幾十年前的某個一級教學醫院的正門口大廳,這在當時對科技毫無概念的我,無疑是神奇又新穎的音樂藝術展演。我記得當時刻意停下來聆聽許久,然而我並無法聽出來它與真人演奏有何差別,甚至擔憂鋼琴演奏家的未來出路。
大約5年前吧,路經台南市中西區的某個路口,三角窗的店面櫥窗內是機器手臂正在做一杯咖啡,而櫥窗內並無任一人類。當時的我也覺得咖啡師將何去何從 ? 又會是一個AI搶走人類工作的大哉問。這麼多年過去了,機械自動化與電腦智能化,讓我們不必去音樂廳就能聆聽悅耳的鋼琴曲,讓我們不用被因職業倦怠的咖啡師店員用有點複誦甚至不耐煩地 ( 剛好他或她心情不好的時候 )詢問咖啡豆品種、烘焙深度、加不加糖、加不加奶、糖奶量的多寡,而能夠快速買到一杯咖啡,甚至欣賞機器手臂毫無違和地做好一杯咖啡的精準度,這無疑也是一種AI藝術。
科學技術發展的普及,讓人類的生活更便利,同時也帶給這個社會進步,這無庸置疑,然而這不見得是全人類的社會福祉,也不見得是一般社會大眾的共同願景。
作者認為,科學通用技術的發展方式有很多,一旦共同的願景鎖定特定的方向,眾人就很難擺脫束縛、探索其他或許對社會更有益的方向。而會受到這些決定所影響的人,多半並沒有人在意他們的意見。於是自然而然地,進步的方向會偏袒社會上某些階級 ~有利於能夠主導願景的強大決策者,而聽不到小人物的聲音。( 頁55 )
甚至,願景也可能形成一種扭曲的觀點,讓我們的視野為之受限。
有些想法本身就相當有說服力,如果搭配適當的情境與說話者的自信,說服力還會更高。當想法開始不斷地自我複製 ( self-replicate,說服第一批人之後,這批人還會用同樣的方式去說服別人,把想法傳播出去 ),就會持續發生的影響力。這種會被重複傳播的想法,就是個強而有力的想法。( 頁113 )
這就是一個「願景的陷阱」 ( vision trap ),一旦某項願景成為主流,大家都願意相信這項願景的主張,也就形成一套難以擺脫的枷鎖。可以想見,要是願景失控,但大家都過度自信、對代價視而不見,情況只會更糟。面對這種情況,如果不是從事科技業,也不在權力核心,很容易就會感到無力;但事實上,我們對這種願景陷阱絕非只能舉手投降。我們可以支持不同的論述,打造更具包容性的制度,也可以強化其他的社會權力來源,以此削弱陷阱的力量。 ( 頁146 )
19世紀中葉,英國數以萬計的中產階級開始相信,靠著創業與掌握技術,就能讓自己平步青雲。眾多的中產階級嘗試打破社會階級制度。這種背景之下催生出一些創新者,致力於研究新的工業(生產)程序。
早期最成功的幾位,包括有亞伯拉罕·達比(Abraham Darby,發明以焦炭為燃料、用高如鑄鐵,1709年)、湯瑪士·紐科門(Thomas Newcomen,發明蒸汽機,1712年)、理查·阿克萊特(Richard Arkwright,發明紡紗機,1769年 )、約書亞·瑋緻活(Joshua Wedgwood,創設伊特魯里亞陶器場[Etruria Pottery works],1769年)、以及詹姆士·瓦特(大幅改良蒸汽機,1776年)。這些人多半沒有閱讀拉丁文的能力,也沒花什麼時間來讀學術著作。至少在1850年前,無論是這些先驅、或者幾乎所有形塑技術發展的人,都沒有接受過全面的正規教育。這些人就像史蒂文森一樣,小人物出生,但隨著投資人與客戶開始欣賞他們的新產品,就能在幾十年間長期成長。在這個時期共有226人創辦大型工業企業,其中只有僅僅2人來自貴族階級,而與上層社會有關聯的也不到10%。但這些人倒也不是出生於社會最底層,多數人的父親就是從事小規模製造業、某種手工藝、又或是做貿易。此外,這些實業家多半身懷實用技能,也曾投身於同類型的小型企業,之後才創辦日後的大型企業。這些人都相信技術,既認為這能夠推動進步,也認為能夠提升自己的社會地位。他們的膽識究竟是從何而來?為什麼會想到可以利用技術來達成目標?此外,又有什麼因素讓他們的努力沒有受到阻礙、也沒有以某種方式被抵銷?最具決定性的因素,是一連串重大的制度改變,不僅行數這場社會改革的過程、也說服貴族階級願意接納這些新人的加入。( 頁232、233、234 )
英國有位數學家艾倫·圖靈(Alan Turing)一直都對機器的能力深深著迷。他在1936年對於「可運算」(Computable)的問題提出重大的貢獻。
他想像有一台運算機(現在被稱為「圖靈機」),能用可能無限長的紙帶來輸入資料、進行運算,例如執行基本的算數。接著他下了一個定義:只要某個函數能用這樣的機器來運算,這樣的函數就屬於「可運算」的。而只要某台機器能夠運算其他任何圖靈機能夠運算的任何數字,該機器就能稱為「通用圖靈機」。值得注意的是,如果說人腦本質上就是一台非常複雜的運算機,所執行的任務也屬於可運算的函數,那麼通用圖靈機就應該能夠複製人類的所有能力。圖靈在1950年發表一篇極為重要的論文〈論運算機器與智能〉(Computing Machines and Intelligence)試圖對機器智能提出一種定義。圖靈認為,機器在越多任務達到「等同於人類」的標準,就代表智能越高。圖靈還認為,機器光是透過測試,還不代表它具備真正的思維能力。在當時,雖然圖靈有所保留,但現在A I領域依然追隨著他的腳步,運用他所下的定義(這種機器能夠自主行動、符合等同於人類的標準,後續還能夠超越人類),專注於A I的發展。(頁412、413、414)
相較之下,現代AI的應用並不是從明確的因果假設開始。
舉例來說,想要辨識某個圖像時,研究者不會先指出數位圖像該具有的特徵或重點,而是會將多層統計模型應用與大量資料數據。這種A I發展方式以帶來三種重要的影響,第一,它將A I與大數據的使用緊密結合在一起。第二,這種方式讓現代A I具有高度的可擴展性和可移轉性;第三,更嚴重的問題在於,這種方式是把科技進一步往自動化的方向推動。要是機器能夠自主、具備智能,當然就會接手更多勞工的工作。企業也可能把現代的各個職位,拆成更狹隘的任務,運用A I程式與大量資料來學習人類的工作,最終由演算法來取代人力。(頁418、419、420)
但作者認為,人類的價值顯然被低估了。
人類智能之所以強大,是因為能夠配合情境與社會狀況而調整。人類就是因為能夠理解並成功應對環境,才能順利適應各種不斷變化的情況。人類的智能與社交脫離不了關係,還與下列三個面向有關。第一,想要成功解決問題、適應環境,很多時候得從社群取得必要資訊,這就需要透過各種隱性或顯性的交流(像是模仿他人的行為)。而人類認知的一項重要功能,就是詮釋這類的外部知識,這也正是「心智理論」(Theory of the mind)所強調的基礎。心智理論就是在探討人類為何能夠推論他人的心理狀態,進而正確的理解他人的意圖與知識。第二,人類的推理過程會受到社會互動的影響。我們會根據不同的假設,提出支持或反對的理由,並在這個過程中評估自己的理解。要是人類缺少社會層面的考量,做出來的決策肯定很糟。第三,人類能夠藉由對他人的同理心,以及從中感受到他們的目標與企圖,因而學習更多的技能。(頁421、422、423)
然而,目前A I發展路線是以圖靈的主張為圭臬,追求的就是通用、達到人類水準的智能。
數位科技與大企業的結合,創造出21世紀中葉一位又一位億萬富翁,而隨著A I工具在2010年代日益普及,他們的財富甚至翻倍成長。但這些AI工具並沒有像像科技先進所說的那樣帶來令人驚嘆的生產力及效率,相反地,以AI為基礎的自動化常常對生產力的提升頗有限;而更糟的一點在於,還根本無法創造共享繁榮。儘管如此,富豪與企業高層依然對AI趨之若鶩,因為他它不僅削弱勞工的權力,還找出新的方式,把與人有關的資訊用來發利市。(頁452)
於此,人的心智可能被操控著,這樣一來,甚麼才是真實?是了,是AI製造出來的假象欺騙了我們?還是我們一廂情願地相信AI?
最後兩章,民主崩潰與讓科技重新導向,說的就是現今世界正在發生的事.....