AI 2041

AI 2041：預見10個未來新世界

李開復, 陳楸帆  2021 天下文化

★★★☆☆

一句話：

以現行AI科技在各方面的發展為脈絡，用十個短篇小說描繪人類未來將面臨的機會與挑戰。

重要字句：

人工智慧研究的是如何透過智慧軟體和硬體來完成通常需要人類智慧才能完成的任務。AI是對人類學習過程的闡釋，對人類思維過程的量化，對人類行為的澄清，以及對人類智慧邊界的探索。

AI發展的巨大轉折在2016年AlphaGo擊敗人類圍棋冠軍，AlphaGo所用的「深度學習」演算法其實早就出現，直到大數據與大算力的條件成熟才真正發揮威力。

摘要：

人類總是高估一項科技所帶來的短期效益，卻又低估它的長期影響 -- Amara's Law

一葉知命

小說中的智慧保險計畫運用AI透過一系列的生活應用與被保險人連結，這些應用獲得的資料與保險演算法不斷動態互動。保險計畫軟體藉著不斷提高保費來阻止女主角和弱勢群體的男孩交往。

所以，AI是透過對資料的學習，將社會上對於種性的隱性歧視，顯性化成可以量化計算的保費。

解讀：

深度學習：深度學習模擬生物神經網路，建構出包括輸入層、輸出層、以及很多中間層在內的人工神經網路。訓練方法並非使用特定的規則去「編碼」或「教導」AI，而是針對特定的應用場景給予大量數據樣本，同時給輸出層相對應的正確答案，優化神經網路內的大量內部參數，使根據輸入生成最接近「正確答案」的輸出的概率最高。深度學習可是為解決目標函數對大化問題的一種數學運算，三個要件(大量相關資料、單一領域的應用場景、明確的目標函數)缺一不可。

深度學習的特色：需要的數據量遠比人腦多得多，但經過大數據訓練後，它在相同領域的表現將遠超過人類。它可以找出人類無法理解的資料組合和價值，也可以客製化地提供結果。但不具備人類在面對決策時獨一無二的汲取過去經驗、使用抽象概念和常識的能力。

深度學習的應用：網際網路公司根據使用者行為推動業務量；在單一領域擁有大量高品質資料的金融業。

深度學習的問題：

• AI專注於優化單一目標函數時所帶來的外部效應，例如社群網路為了增加使用者黏著度帶來的負面影響。解決方法有訂出不同目標的混合函數，或制定法規監督及鼓勵企業。
• 讓資料中的不公平和偏見得以延續。
• 不可解釋性。

假面神祇

小說主角被招募製作一段真假難辨的deepfake影片用於打擊政治敵手。

偽造一張真實的臉需要透過防偽檢測器的所有檢測，包括色彩失真、噪點模式、壓縮率變化、眨眼頻率、生物信號……你能做到嗎？

解讀：

電腦視覺技術：包含圖像採集和處理(將三維世界採集而來的影片化為像素)、目標檢測和圖像分割、目標識別、目標追蹤、動作識別、場景理解。電腦無法像人類對事物進行廣義的理解和抽象的認知，即使同一物體在不同角度光線距離下存在視覺差異，人類也能透過推理產生相應的視覺認知和理解當下的脈絡。

目前電腦視覺技術的應用：無人超市識別顧客、機場保安、體感遊戲、人臉識別、智惠相機等等。

卷積神經網路：模仿人類視覺工作機制，有大量類似於人腦接受域的濾波器，針對圖像的部分區域進行特徵提取。

Deepfake：可以使用現有的方法或是像動畫電影的三維建模方式製作，目前的deepfake影片因為演算法還不夠完善，算力也不足夠，所以許多甚至人眼就可以辨識。

生成式對抗網路Generative Adversarial Network：生成式網路負責生成看起來很真實的東西，交由判別式網路判斷是真是假，根據回饋生成式網路重新進行自我訓練，而判別是網路也會自我調整。2041年重要的政府網站可能需要配備高強度的防偽軟體識別偽造影片，並立法嚴懲惡意製造deepfake影片的人。

AI安全：攻擊AI的方式包含挑戰AI系統的決策邊界已調整對AI系統的輸入(例如用路面貼紙讓自動駕駛系統出錯)、汙染訓練資料(因為AI學習的不可解釋性而難以被發現)。

雙雀

AI教師運用自然語言處理技術化身為學童的虛擬夥伴。

可人不是機器，不能光靠數字和勝利活著。你的量表結果告訴我，你的外部期望和內在驅動力並不一致。

解讀：

自然語言處理NLP：透過深度學習，讓AI擁有分析、理解和處理人類語言的能力，甚至可以自己生成人類語言。

有監督的NLP：用成對的標注資料(輸入和對應的輸出)訓練人工神經網路，在自然語言識別領域(語音辨識、語音合成、光學字元辨識)裡AI的表現超過大多數人類。但在自然語言理解(理解語言所表達的真正意圖)上，需要投入大量的人工標注成本，而且無法廣泛通用。

自監督的NLP：Transformer(GPT)的重點與相關內容來「理解」輸入端的語詞在該語境中的涵義。依靠的不是人類語言學理論中的詞性變化和文法規律，而是依靠AI自創的結構和抽象概念，從資料中汲取知識。GPT-3使用了當時世界上最大的語言資料集(45TB)，經過長時間高成本的訓練之後，成為擁有1750億個參數的龐大模型。GPT-3可以對任意一串單詞序列輸出一段他認為可以接續的單詞序列。

GPT模型的缺陷：

• 不具備自我認知的能力，有可能傳播虛假資訊。
• 在抽象概念、因果推理、解釋性陳述、理解常識以及有意識的創造力等方面的能力也很弱。
• 吸收了人類的主觀偏見與惡意。

教育領域的AI：

• AI助教可以協助重複性高的工作，例如作業批改、考試、閱卷。
• 協助策劃和設計課堂教學內容。
• 提供客製化的個性教育，隨時待命。
• 擬定教學計劃，進行教學評估。
• 降低教育成本，幫助貧窮國家的學童。

人類老師的角色：

• 做學生的個性化人生導師，理解學生的心理和情緒，用更多的時間培養學生的價值觀、情商以及批判性思維、創造力等軟實力上。
• 規劃AI導師的目標。

無接觸之戀

假想人類社會持續與新冠病毒共存的狀況。

幸好AI預測蛋白質結構的技術大大加速了疫苗研製過程，同時CRISPR技術(基因編輯)讓像牛和馬這樣的大型動物能夠大批量地製備抗體藥物。每個人接種疫苗的時間、種類和有效期都惠被記錄在個人檔案中，可以顯示在生物感應貼膜或smartstream上，作為進入各類公共場所、乘坐交通工具或使用公共服務的數位健康憑證。

解讀：

數位醫療：適合使用AI的領域比如藥物和疫苗研發、可穿戴設備的資料獲取、基因的解讀和應用、放射科的輔助看片、精準醫療方案、智慧化的醫生助手等等。

藥物及疫苗研發：傳統方法在探索病原體蛋白質序列的三維結構、確定靶點和生成有效的標靶分子作為藥物等步驟，都需耗費大量的時間、成本和臨床實驗。蛋白質摺疊軟體AlphaFold類比未知蛋白質結構的能力和傳統方法不相上下，但成本更低，此外AI也可用來合成新的化合物。NLP則可以對大量學術論文和專利成果進行資訊挖掘，或根據過去的臨床試驗安排進一步研究。

精準醫療與診斷：病歷、DNA序列或其它可被穿戴式裝備採集的生物資訊合成強大的資料庫，可用以判斷一個人的健康狀況。

機器人技術：在二十年內還很難完美地達到人類在視覺、觸覺、操控、移動和協調、根據環境應變等方面的水準。

偶像之死

遊戲都將是五感沉浸式的互動體驗。

解讀：

XR：XR包含AR、VR和MR，AR(Augmented Reality)擴增實境，透過演算法將文字、3D模型或影片等虛擬資訊疊加到真實世界的環境中。VR指虛擬實境，使用者完全沉浸在電腦創建的虛擬世界。M(mixed)R透過在虛擬環境中引入現實場景資訊，需要理解場景並與現實世界進行互動，在虛擬世界、現實世界和使用者之間搭起互動回饋的資訊橋梁。

覆蓋六感的設備：目前體積和價格限制了全像頭盔的普及，眼鏡式設備的發展也不成熟，隱形眼鏡則較具潛力。

XR技術的兩大挑戰：裸眼顯示(全像攝影還無法與之互動)和腦機介面。

社會問題：個人隱私、肖像權、數位化存在下生命的意義。

神聖車手

自動駕駛技術和利用AR技術讓人類駕駛員可以在失控的狀況下遠端駕駛車輛。

所有車子如訓練有素的士兵，向道路兩側有序錯開，闢出一條新的車道。隨即，鳴著警笛的救護車飛馳而來，……

解讀：

自動駕駛：駕駛是非常複雜的任務，包含感知；導航規畫(將地圖與真實位置場景連結)；推理(行人和車輛的可能意圖)；決策；車輛控制，需要面對變幻莫測和意想不到的場景。除了這些困難，還需要城市道路相關基礎建設的改建，以及處理人命的問題。自動駕駛將省下許多時間、閒置的車輛以及浪費的能源。

非技術性難題：如果自動駕駛導致死亡，誰應該負責任？汽車製造商、演算法軟體的供應商、還是工程師？

人類剎車計畫

一名精神失常的科學家利用量子計算和自主武器打算毀滅人類所有的電腦網路。

所有的拯救方案都是由AI反恐系統在數秒內生成的，人類的作用只是做出選擇。其實這種選擇，只是在演算法給出的成功概率與附帶傷害程度之間進行權衡。

解讀：

量子計算：到了2041年，量子計算有80%的概率進入實用階段，它帶給人類的影響將會遠超過AI。量子計算是一種通用目的技術，可以極大地促進科技進步。量子疊加與量子糾纏給量子位元帶來的超級計算能力，但硬體的要求非常高，不能有任何的環境干擾。解決數量級問題(如研發新藥分子、破解比特幣金鑰)就需要量子電腦。

自主武器：智慧、精準、敏捷、難以追蹤攔截、而且廉價，降低了戰爭的門檻，也難以讓各個國家停止或管制研發。

職業救星

隨著AI向各行各業進軍，人類接下來所能從事的工作是什麼？故事中的轉職公司想用完全虛擬的工作讓失業的人從中獲得成就感。

當你不知道工作是真是假的時候，這就不算詐欺。相信我，如果你讓人們選擇紅藥丸還是藍藥丸，大多數人都會選擇藍藥丸。有誰願意承認自己一無是處，只能靠AI的施捨過日子。

解讀：

AI將如何取代人類員工：

• AI取代人工是漸進的，逐漸被機器人流程自動化Robotic Process Automation技術取代，RPA能透過軟體觀察人類員工的工作，掌握重複性日常工作的完整過程。需要處理大量資料，甚至複雜的藍領工作，都可以和AI結合，不像以前大多數的技術會創造一部分新的就業機會，AI會入侵各行各業，並且應用、泛化和遷移的速度驚人。

AI取代人類員工的危機：

• 財富不平等：科技巨頭獲得更多收益，但工人薪資將因競爭而被壓縮，少數雇員的工作必須有廣泛的技能、戰略性規劃以及創意。
• 挫敗感：人類不再能從工作獲得自我價值。

到2041仍不容易被取代的工作：

• 創造力：AI無法選擇自己的目標，無法跨領域、創造性的思考，也難以具備那些對人類「不言自明」的常識。
• 同理心：AI無法在情感方面實現與人類的真正互動。
• 靈活性：精確而複雜的體力工作，和應對未知或非結構化的空間。

智力型工作就業形勢：

• 就工作需要的社交能力和創意(是否為重複性工作)來區分
• 弱社交優化型：可能全部被AI接管，如放射科醫師、保險核保員、客服。
• 強社交優化型：人機協同合作，如老師、婚禮策畫、導遊、老人陪伴、美妝師。
• 弱社交創意決策型：AI幫助人類發揮潛力，如科學家、藝術家、經濟學家。
• 強社交創意決策型：最難被AI取代，如社工、事業規畫師、市場公關總監、創業家。

勞力型工作就業形勢：

• 就工作需要的社交能力和所需體力勞動的複雜程度來區分
• 弱社交高機械性：適合AI，如保全、快遞員、速食店廚師、洗碗工、倉庫揀貨員。
• 強社交高機械性：調酒師、遊樂場員工、高級餐廳侍者。
• 弱社交高靈活性：建築工人、卡車司機、保潔員、太空工程師。
• 強社交高靈活性：髮型設計師、運動物理治療師、養老院看護。

如何化解AI時代的人類工作危機：

• 二次學習Relearn：政府應盡速重新設立職業培訓的課程。著重以人為中心的服務性工作。
• 二次定義Recalibrate：重新調整工作的「人機協作」模式。
• 二次復興Renaissance：將AI節省下來的時間精力用於創意和發掘自身的才華。

幸福島

AI能讓我們幸福嗎？幸福是什麼？如何衡量？

演算法並不能讓你們快樂，相反，目標函數最大化會讓你們都變成享樂跑步機上的白老鼠。

解讀：

AI時代的幸福準則：當人們的基本需求都能被AI輕易滿足，對幸福的追求也會發生改變。

如何利用AI衡量和提升幸福感：目前AI可以透過表情、聲音、行為反映的觀測來識別情緒，也能透過相關激素水準來評估，但還未能涉及腦電波與大腦組織結構的資料。

AI數據的隱私問題：目前歐盟推行嚴格的《一般資料保護規則》，讓每個人都能控制和知道資料將會被誰查看和從中獲利，但也限制了日新月異AU的更新和發展。

值得信賴的資料儲存：目前問題在於使用者和持有者的利益不一致。

豐饒之夢

人類將有可能史無前例地徹底擺脫貧窮和饑餓。到那時，錢是否可以逐步退出歷史舞台呢？人類社會將如何維持運轉？

解讀：

可再生能源革命：能源的成本將為之下降。

材料革命：內容數位化和去物質化。合成生物學可用於農業、食品以及環保化工材料。

生產力革命：自動化。

豐饒(後稀缺)時代：製造和運輸的邊際成本降至極低，更多優質的商品和服務會分配到愈來愈多的人手裡。

後稀缺時代的經濟模式：當供給大於需求，現行以有限資源為前提的經濟學和貨幣制度將全部失效，工作、金錢和理想都會被重新定義。

關於2041年的預測

• 醫生將愈來愈信任 AI診斷助手。醫生將更注重對病人的關懷和病人的信任。
• AI將延長我們的生命。AI將加快新藥研發、機器人手術、精準醫療和預防性維護等領域的發展步伐。
• AI 將用因材施教的算法承擔大部分教學任務（大大降低教育的成本，讓更多貧困地區的孩子能夠接受教育），更多人類教師則會側重於幫助學生成長，發展孩子的創新能力、溝通能力、同理心等。
• AI將承擔保險產品設計和股票交易工作，而更複雜的金融工作如風險投資和併購仍將繼續由人類主導。
• 隨處可見的機器人會把我們從工作（及家務）中解放出來。
• 全自動駕駛車輛將因智慧城市和物聯網（IoT）的發展而得到安全的普及。
• 能源和材料成本將大幅下降，自動化將使大部分勞動力被取代，大多數商品幾乎免費，屆時會需要新的經濟模式。
• 借助於虛擬實境（VR）/擴增實境（AR）技術，虛擬會議給人的感覺將和真實會議基本相同。
• 「一級玩家」類的虛擬實境（VR）遊戲將改變遊戲和娛樂業。
• 日常重複性工作將被淘汰，而服務性工作的社會地位和薪酬將
提高。
• 許多人會從事非常逼真的「虛擬工作」，並從中得到滿足感。企業也能從中挖掘人才從事「真正的工作」。
• 自主武器將受到監管，以免對人類的生存造成威脅。
• AI 的隱私和安全問題將通過「技術＋法規」的方式得到解決。
• AI 將學會滿足人類深層需求（如幸福或成長），而不只滿足AI 公司的商業目標。
• 量子計算將解決許多以前無法解決的問題，讓我們能理解宇宙和自然。
• 不會出現電影「駭客任務」中那種完整的腦機介面（BCI），不會出現電影「雲端情人」中那種AI愛人，也不會出現奇點。

短評：

這本小說是AI專家李開復對二十年後AI發展的預測，並深入淺出地介紹AI在各個領域現今的發展及未來可能的走向，因此讀來不會有天馬行空的感覺。不過看完超智慧以後，實在很難對AI有樂觀的看法。畢竟，如果AI不需要用人類的方法，就能以自己的規則學習並且做得比人類更好，那麼人類自認為「獨特」的特質也就沒那麼不可取代了。