AI革命是人類的危機，還是轉機？：讀周恒星的《奧特曼傳》

本文首刊於開根好，特此致謝

要優先注意AI的「風險」或「益處」？：「有效利他主義」與「有效加速主義」的爭論

不過，回顧網際網路和全球化經濟發展的歷史，特別是它們所帶來的危機；「AI革命」對於世界未來的影響和可能的危險，確實是我們必須正視的。究竟該如何應對AI的發展？人們目前主要有兩種想法：一種是基於「安全優先」的前提，主張人類必須慢下腳步，審查AI可能帶來的風險；即使在實務上，這可能會導致放慢甚至暫停AI的發展。在AI領域，許多「有效利他主義者」都抱持著這種強調安全性、風險控管的立場。另一種想法則正好相反：主張人們應該盡可能的加速科技進步的步伐，不須要限制科技發展；因為目前許多人類遭遇到的問題，很可能會在技術更新之後很快的被解決、甚至不再被視為是問題；持這樣立場的人常常被稱為「有效加速主義者」。而這兩種思想的人為了實踐自己的想法，也勢必互相爭奪權力，並且導致了AI發展史上一個相當具有代表性的事件：OpenAI執行長奧特曼，被董事會突襲解雇的事件。

團結在利益之下：奧特曼與OpenAI的轉型

在周恒星的《奧特曼傳》中，對於這個極具戲劇張力的事件，有著許多很有意思的記述。這本《奧特曼傳》是第一本建立在於對奧特曼的個人採訪上，所撰寫的傳記；也因此，書中的觀點自然是從奧特曼的視角出發，偏向奧特曼的立場與想法，來敘述發生在他身上和在AI發展史上的故事。

本書的看法是（這也許也是奧特曼對自己的認知）：奧特曼並不是依循著一套固定的理論來行動；關於AI的發展，他的行動方針只不過是確保有足夠（甚至更多）的資源能夠投入開發，讓OpenAI這個事業體繼續正常運轉罷了。不過，擔憂AI發展之安全風險的「有效利他主義者」，藉著OpenAI董事會中的多數優勢，暗中策劃開除了奧特曼。然而最終，奧特曼卻基於員工的支持、股東（特別是微軟）的支持，讓曾經敵視他的董事會不得不將他迎回領導者的地位。

這樣的敘事，整體而言和關鍵事實之間並沒有很嚴重的出入；不過，我們也不能忽視的是：奧特曼管理下的OpenAI，確實也和原本OpenAI創立之初制定的方向非常不一樣。本書提到：「奧特曼善於凝聚人心，並利用利益掛勾來強化合作關係。」奧特曼藉由利益（如股權），將公司的利益、股東的利益和員工的利益深度的捆綁在一起；並獲得了大多數人的資源和支持。隨著許多OpenAI發展的相關人士獲益，OpenAI也慢慢從一個非營利組織，轉型成了一個類似商業公司的事業體；變得由營利的子公司來主導其未來的發展方向。在奧特曼的視角來看，想必他會認為自己的做法並沒有問題：要發展AI的科技，勢必需要大量的研究資源；而如果沒有足夠的利益，怎麼能夠增加、提升人們與各組織的動機和參與程度呢？所以，OpenAI漸漸轉型成營利導向的組織，似乎是理所當然的。

封閉的AI技術與其多層面的問題

不過，在我們「局外人」的視角來看、作為人類社會的一個成員的眼光來看，把對於世界和人們的生活有重大影響、風險的技術，任由它封閉起來，而托付給一個營利機構。這確實是人們必須嚴格檢視的、甚至監控的。這其中涉及了全人類的生存處境、地球環境的保存發育、社會經濟的變化，以及科技與民主之間如何合宜的互動，而不至流於僅僅由少數強者來決定人類社會的未來等種種的問題。這些問題絕不能被輕易的抹煞；不能只因為某些人沒有根據的樂觀，就無限制的任由科技加速，而把許多人置於風險之中。

為科技所奴役？：「實用主義」的危險

我們如果回到上文說過的「有效利他主義」和「有效加速主義」的區分來說，奧特曼確實不是「有效加速主義者」；因為他並沒有天真的認為只要科技進步了，社會上的許多重要問題都會自動獲得解決，而是主張人類必須改善自己的社會制度，才更可能享用到科技進步帶來的成果（關於奧特曼對人類社會的觀點，可以參看他的〈萬物摩爾定律〉一文）。我會把奧特曼的行動特性稱作「實用主義」，因為他的關注點主要圍繞在AI科技的維持和發展上，而不及於人們為了什麼「目的」去運用AI科技的問題，也不處理人類社會其他正當的發展目標和發展AI之間如何協調的問題。然而，這樣的思考方式是有一定的侷限的，因為AI的發展不是存在於真空之中，而是存在於現有的人類社會中；如果現存的人類不能基於自己的目的去運用AI科技，而是說不出理由、說不出AI和自己更好的生活之間有什麼關聯，卻仍然被科技推著前進、彷彿不得不如此的發展AI。那麼，即使AI不像是許多科幻小說說的一樣擁有自己的意識，人類依然是貨真價實的被AI所奴役、被科技所奴役了。

2025/3/30