最近晨讀時間幾乎都在讀AI相關的書，女兒問我是不是要寫論文。😅其實只是個人興趣，我的「AI/未來」書櫃中，已有約30本相關主題的書，這是我探索自己和世界的歷程。
這次我想兩本書一起介紹，它們都是很新的書——《AI霸主》幾乎與國外同步出版（原文2024/9、繁體中文2024/12），《拐點》也是2024的新書（簡體版5月出版，繁體版8月）。《AI霸主》深具批判性，《拐點》則非常樂觀。兩本書都易讀且好看，論點清晰，分別為兩種視角提供了精闢的見解。
《AI霸主》作者帕米．奧森是《華爾街日報》和《富比世》記者、《彭博觀點》專欄作家，專門報導科技法規、人工智慧和社群媒體。她在本書中以如小說般流暢的筆法為我們梳理了這波AI革命性發展的來龍去脈，以及Open AI、DeepMind與其金主馬斯克、微軟、字母公司（Google母公司）等彼此之間的愛恨糾葛。讀者能因此明白這些AI巨星原本的初衷、接續的挑戰、每個重要環節的掙扎和選擇，也會更看懂趨勢背後的較勁和微妙心態。當然還有最重要的，對我們這些廣大使用者的影響——絕非只在工作層面。這本書的寫作令我非常佩服。能從眾多人事物中抽絲剝繭、理出脈絡，並提出令人信服的論點，還要會說故事，這是很了不起的工程。因此讀書的過程非常享受，每天都像看影集那樣。以下分享幾點個人心得（對熟悉該領域的朋友來說或許算不得有什麼新意，僅供參考🙂）。
首先，我要修正自己曾經的說法，我曾以為，對於AI競賽，我們應該著眼的是「意圖」。讀了《AI霸主》才意識到這說法其實站不住腳。歷史上大概沒有一個惡人會認為自己是邪惡的，每個人都認為自己是在為世界做好事。這些AI天才的意圖同樣也都很良善，甚至是非常大愛的。然而因為開發技術需要資金，最有能力的金主就是富可敵國的大企業，而企業的目標是什麼？是成長獲利。天才們努力在「利他」和「為企業服務」當中找平衡點，但這當中的衝突幾乎是不可免的。
第二個心得對我是全新視角。原來在科技圈，末日警鐘不是沒有，一直都有，甚至有許多有力人士大聲疾呼，並組織研究。弔詭的是，這反而促使資金更集中，賺最多錢的AI公司更容易募到錢。為什麼？因為只要打著「為開發更安全的人工智慧」旗幟即可。說白了，意思就是「由我們來做，才能避免這項強大工具落入惡人手中（？）」。因此，類似提醒並未使這些公司放緩腳步，反而加速。
同時，愈聚焦在末日預言，更顯得這項技術強大，更讓人好奇。另一個副作用是，關注在「已發生的問題」（例如歧視、偏見等）並試圖解決的議案和技術，相較之下資金和關注度無法與前述相比。
再來是關於「有效利他主義」。這個名詞我最早是在《無限風暴》（講述震驚全球的FTX破產事件，由《大賣空》、《魔球》作者所著）讀到的，FTX創始人山姆．班克曼就是有效利他主義的信奉者。這個概念似乎在矽谷非常流行。我對科技圈陌生，但「利他」這個詞很熟，只是我個人鮮少使用。在我的學習和理解中，人有些基本原則，是標識人性的基礎；而基於萬物一體的真理，利他其實就是利己，並不需要特別標榜。打著「利他」口號，有可能做出危險和瘋狂的事。「有效」就更令人不安了。
所謂「人類問題」，千絲萬縷，簡化為「先有錢→發展強大的AI→所有問題都能解決→烏托邦理想得以實現」，這個進程，目前我是抱持著懷疑的。當然它有可能，但我想同時知道代價，所有進步都有代價，代價是什麼？
最後，最令人質疑的一點：所謂「有錢」，是少數人有錢，錢都集中在AI霸主手上，利了誰？資金集中後，由少數人來決定分配，這不是極權嗎？為什麼是由這些人決定呢？我們是否創造了新的神？
要解決人類問題（請先定義是什麼問題），真正需要的未必是錢。
—————————————
接下來講講樂觀的。
《拐點》是由物理學者、暢銷作家萬維鋼所寫。他在「得到」APP開設計的「精英日課」非常受歡迎。我在網路上聽過幾次他的演講，是個邏輯及表達能力都很強的學者。他為談AI這個題目，訪問不少該領域第一線的參與者。
讀了《AI霸主》再讀《拐點》非常有趣，等於先了解這盤旗局怎麼產生，再來看我們能怎麼看待及怎麼「玩」。
必須承認，讀了《拐點》之後，我有點被他說服了。這是人類2.0時代，重點並不是AI的升級，而是人類的升級。《拐點》結合了科學、哲學，還有數學，同時有許多實例，包括作者自己和其他聰明人已試過的例子。這本書厚達400頁，讀來卻津津有味，每一章的提問都引人深思。我對作者的觀點有時佩服，有時保留，有時懷疑，不論哪一種，都讓我覺得這一天獲得了更新。
分享幾個特別欣賞的論點。
******************
很多人覺得可以用AI寫報告，可是如果報告裡沒有你自己的東西，它有什麼意義呢？⋯⋯AI的意義是幫助你生成更有自身特色的報告。⋯⋯你借助AI完成的這份作品，價值不在於資訊量足，更不在於語法正確，而在於它體現了你的風格、你的視角、你的洞見、你選定的方向、你做出的判斷、你願意為此承擔的責任。
AI的作用應該是放大你，而不是取代你。
******************
預測與判斷脫鉤，對人是一種賦能。
我們與 AI的這種「prompt一生成一選擇」關係，並非新的。⋯⋯事前提要求，事後決定滿意不滿意，中間盡量少干涉——老闆對員工不也是這樣嗎？甲方對乙方不也是這樣嗎？都是後者在生成，但雙方共同創造了最終結果。⋯⋯讓專業的人做專業的事，而真正的老闆可以提prompt和做選擇，這不但是AI時代的新風尚，也是一種理想的做事模式。
⋯⋯所有品牌競爭都是人的精神核心的較量。AI只是放大了這種較量。⋯⋯ChatGPT這波浪潮給了我們一個啟示：用上AI很容易，任何公司都能以非常便宜的價格購買OpenAI的算力。但是一家有AI而沒有核心的公司應該被AI淘汰。
******************
人是由肉體構成的這件事；對人類智慧的意義可能比現行想像的要大得多。肉體不僅僅是大腦的維護系統，人不僅僅是一台大腦。⋯⋯事實上，我們甚至可以說，正因為身體也會影響思想，每個人才有自己的獨立思考。
你的身體對外界會有各種感知，那些感知是主觀的，是每個人都不一樣的。⋯⋯有身體才有生活，才有成長，才有從小到大不同的經歷，才有千變萬化的個性。⋯⋯正是因為每個人的自主思考，團隊才有了不同視角，才有創造性和活力，才有生成性的發揮，才能處理複雜問題。
如果每個人都活得像AI一樣，AI就沒有新訓練素材了，AI會停止進步。⋯⋯新資料是人生成的。人不是程式，人不應該按照固定規則生活。人生的使命就是要製造意外，增加資訊。有些意外來自你的情感，有些來自你身體的獨特感知，有些來自你自主的思考——不管來自哪裡，它們一定不是來自AI給你的灌輸，一定不是來自你對領導階層意圖的揣摩。
那些你任性而為的時刻才是你真正活著的時刻。
這樣看來，AI不是取代人，而是解放了人。AI能讓我們活得更像人。
******************
「計算不可化約性」告訴我們，任何複雜系統本質上都是沒有公式、沒有理論、沒有捷徑、不可概括、不可預測的。這看起來像是個壞消息，實則是個好消息。⋯⋯因為計算不可化約性，人類對世間萬物的理解是不可窮盡的。這意味著不管科技多麼進步、AI多麼發達，世界上總會有對你和AI來說都是全新的事物出現，你們總會有意外和驚喜。
計算不可化約性還意味著，我們不可能徹底「管住」AI。⋯⋯大家聯合起來設計一套AI防範機制的做法，注定不可能100%成功。
我們管不住AI，那會不會出現一個終極AI，能把我們的一切都給管住呢？也不可能，還是因為計算不可化約性。AI再強，也不可能窮盡所有演算法和功能，總有些事情是它想不到也做不到的。
同樣根據計算不可化約性，AI無法完全『預測』我們到時候會喜歡什麼。只有我們親自面對未來的情況，在我們特有的生物特性和歷史文化的影響下，才能決定喜歡什麼。⋯⋯所以，未來AI跟我們真正的關係不是降臨，不是拯救，也不是倖存，而是「共存」。
******************
討論還可以繼續下去。在歷史的當下，身處其中的我們，是不可能完全理解這一切意味著什麼——直到它真的發生。但我覺得讀書的好處也在這裡，書（厲害的作者）可以提供我們思考的素材和線索，它們會幫助我們在渾沌不明的處境中，試著邁開一小步。或許我們個人的性格及經驗使我們受限，但書本總會點亮幾條神經網路，使我們看見原來沒看見的可能性及連結。
我的分享只汲取了好書的一小部分，我的智慧目前也只能前進到這裡。如果其中有片段引起你的興趣，希望你願意親自去讀這些書，用你自己的思考決定自己的行動。
期盼這個新世界的演進有我們每個人的智慧參與其中。🙂
*《AI霸主》，帕米．奧森著，吳凱琳譯，天下文化
*《拐點》，萬維鋼著，先覺出版
