本文取自《Keep The Future Human》第四章 Chapter 4: What are AGI and superintelligence? 作者是美國理論宇宙家 Anthony Aguirre。
人工通用智慧/通用型人工智慧（Artificial General Intelligence, AGI）長期以來被用來指稱具備「人類等級」的通用型人工智慧。
然而，AGI 這個概念從未有過明確的定義，隨著人工智慧技術的發展，AGI 的定義不僅沒有變得更清晰，反而變得更加模糊且具有爭議。
目前，關於 AGI 的討論主要集中在以下幾個關鍵問題：
「人類等級」的智能如何衡量？
人類的智能分佈極不均勻，且不同領域的專業能力差異極大，因此所謂「人類等級」並非一個統一的標準。AI 在某些領域表現超越人類（如圍棋、數據分析），但在其他領域仍然落後。
智能是單維度，還是多維度？
人工智慧的發展顯示，智能可能是多維的，AI 在特定能力上可能超越人類，但在某些能力上仍有巨大差距。
例如，現有 AI 在數據處理與模式識別方面表現卓越，但在推理、創造力、情感理解等方面仍有不足。
產業界對 AGI 的「金錢」協商
在 OpenAI 與微軟的合作協議中，AGI 被定義為能夠為 OpenAI 帶來 1000 億美元收入的 AI 系統，這顯示出 AGI 可能更多是一個商業目標，而非技術或科學上的明確概念。
AGI 的發展趨勢
儘管 AGI 的概念仍然模糊，AI 的發展已經進入一個關鍵時期，並逐步邁向更高級別的通用智能。以下是幾個主要趨勢：
節選自Chapter 4: What are AGI and superintelligence?
狹義AI（Narrow AI）：專項能力的精準執行者
狹義 AI，也被稱為弱AI（Weak AI），是目前最常見且應用最廣泛的 AI 形式。這類 AI 系統針對特定任務或相關任務家族進行訓練，在其專精領域表現出色，但缺乏通用智能或知識遷移能力。
特點及局限性
- 專項精通：在設計範圍內的任務中表現優異
- 領域侷限：無法將學習遷移到其他領域
- 可控性高：功能與應用範圍明確可預測
- 缺乏自主性：需要人類設定目標和參數
現實應用實例
- 圖像識別軟件：能夠準確識別特定物體、人臉或場景，廣泛應用於安防監控、醫學影像診斷等領域。
- 語音助手系統：如Siri、Alexa等，能夠理解並回應特定指令，但難以進行真正的開放性對話。
- 棋類遊戲程序：如國際象棋競賽，在特定規則框架下表現出超越人類的能力。
- DeepMind 的 AlphaFold：專注於蛋白質結構預測的 AI 系統，在生物學領域帶來突破性進展。
狹義 AI 雖然在特定領域表現卓越，但其發展形態決定了 AI 始終是執行特定任務的工具，而非具備通用理解能力的智能體。
狹義 AI 的成功建立在海量數據訓練和專門演算法優化的基礎上，是當前AI技術最成熟、應用最廣泛的形式。
狹義 AI，也被稱為弱AI（Weak AI），是目前最常見且應用最廣泛的 AI 形式，如Siri、Alexa等。
工具型AI（Tool AI）：增強能力的智能助手
工具型 AI 代表了AI 發展的一個重要方向，即增強智能（Augmented Intelligence）或 AI 助手（AI Assistant）。
這類系統提升人類能力而非取代人類，結合了通用性 AI、狹義 AI 和可控性，優先考慮安全性和協作性，支持人類決策過程。
核心特性
- 人機協作：設計用於輔助而非替代人類工作
- 混合智能：結合通用AI與專項AI的優勢
- 安全優先：內置安全機制和人類監督
- 決策支持：提供資訊和建議，最終決策權在人類
實際應用案例
- 高級編碼助手：如 GitHub Copilot，幫助工程師加速開發過程，提供寫程式的建議和自動完成功能。
- AI 驅動的研究工具：協助科學家分析複雜數據集、發現模式和生成假設。
- 數據分析平台：處理和視覺化大規模數據，幫助專業人士做出更明智的決策。
- 醫療診斷輔助系統：協助醫生分析症狀和醫學圖像，提高診斷準確率。
工具型 AI 強調的是人機合作而非替代，這種發展路徑尊重人類的主導地位，同時最大化AI的輔助價值。
在許多專業領域，工具型 AI 已經成為提高效率和準確性的關鍵因素，代表了一種平衡發展與安全的理想模式。
GitHub Copilot，幫助工程師加速開發過程，提供寫程式的建議和自動完成功能。來源：GitHub
通用人工智能（GPAI）：跨領域適應的智能系統
通用人工智能（General-purpose AI，GPAI）標誌著 AI 技術的重要飛躍，這類系統能夠適應各種任務，包括那些並非專門訓練過的任務。
GPAI 具備知識遷移能力，可以在不同領域間應用所學知識，展現出更接近人類思維的靈活性。
關鍵特徵
- 任務適應性：能處理多種不同性質的問題
- 知識遷移：將一個領域學到的知識應用於新領域
- 學習效率：較少樣本即可掌握新任務
- 概念抽象：能夠理解和操作抽象概念
當前代表性技術
- 大型語言模型：如 GPT-4、Claude、Gemini 等，能夠理解和生成人類語言，完成從創意寫作到寫程式的多種任務。
- 多模態 AI 模型：能同時處理文本、圖像、音頻等多種輸入形式，進行跨模態理解。
- DeepMind 的 MuZero：無需事先了解遊戲規則，通過自我學習掌握複雜策略遊戲。
GPAI 的出現使 AI 系統開始具備解決開放性問題的能力，而不僅限於預定義的任務範圍。這代表 AI 正朝著更加靈活、通用的方向發展，雖然當前的 GPAI 系統距離真正的通用智能還有距離，但已經展示出跨領域適應的初步能力。
GPAI 的出現使AI系統開始具備解決開放性問題的能力，而不僅限於預定義的任務範圍。
人類競爭性通用AI（Human-competitive GPAI）：達到平均人類水平的智能系統
人類競爭性通用 AI，也被稱為弱人工通用智能（AGI [weak]），指的是能夠在多個領域達到或超越普通人類水平的 AI 系統。這類系統不僅具備處理多樣化任務的能力，還能在這些任務中展現出與普通人類相當的表現。
標誌性特徵
- 多領域勝任：在多個不相關領域達到普通人類水平
- 通用問題解決：面對新問題時展現合理的解決能力
- 自主學習：能夠在有限指導下學習新技能
- 情境適應：根據不同情境調整行為和策略
現有技術嘗試
- 高級語言模型：如 O1、Claude 3.5 等，在語言理解和生成方面接近或超越普通人類水平。
- 某些多模態AI系統：能夠理解和回應複雜的視覺—語言任務，如圖像描述、視覺問答等。
- 自動化創意系統：能夠生成藝術作品、音樂或創意文本，品質接近人類創作。
人類競爭性通用 AI 代表了 AI 發展的一個重要里程碑，代表了這些系統開始能夠在實際應用場景中替代部分人類工作。
然而，這些系統雖然在特定任務上達到或超越人類水平，但在通用性、創造力和適應性方面仍有局限，特別是在需要深度專業知識或創新思維的領域。
目前 Open AI o1 已經公開預覽版模型，該模型的能力堪稱博士生等級，會花時間思考後解決複雜的任務。來源：OpenAI
專家競爭性通用AI（Expert-competitive GPAI）：專業領域的智能突破者
專家競爭性通用AI，又稱為部分人工通用智能（AGI [partial]），標誌著 AI 發展的更高階段。這類系統能夠在多數任務中達到人類專家水平，具備相當程度的自主性，但仍存在一定限制。
主要特點
- 專業水平：在多個專業領域達到人類專家表現
- 有限自主性：能夠獨立規劃和執行複雜任務
- 創新能力：在特定領域展現創新解決方案
- 複雜決策：在不確定條件下做出合理決策
潛在發展方向
- 工具輔助的高級模型：如經過工具增強的O3模型，在數學、程式和某些硬科學領域展現專家級能力。
- 科研助手系統：能夠提出研究假設、設計實驗方案並分析結果。
- 複雜系統設計輔助：協助設計高度複雜的工程系統，如芯片設計或城市規劃。
專家競爭性通用AI的出現將對許多專業領域產生長期的影響，可能重塑某些高技能職業的工作方式。這類系統雖然尚未完全實現，但現有技術已經顯示出朝這一方向發展的趨勢。
值得注意的是，即使是專家競爭性 AI，仍然在創造性思維、道德判斷和社會智能等方面存在局限。
全面人工通用智能（AGI [full]）：超人類能力的自主智能體
全面人工通用智能，也稱為超人類通用AI（Super-human GPAI），代表著AI技術發展的一個理論化高峰。這類系統能夠自主執行幾乎所有人類智力任務，且表現達到或超越專家水平，具備高效學習和知識遷移能力。
核心特質
- 全面超越：在所有認知任務上達到或超越人類專家
- 完全自主：能夠獨立設定目標並發展實現策略
- 高效學習：以極少樣本快速掌握新知識和技能
- 創造性問題解決：能夠解決前所未見的複雜問題
目前，全面 AGI 仍是理論概念，尚無實際存在的系統。其發展面臨諸多技術挑戰，包括通用推理、真正的理解力、自主目標設定和長期規劃等。
同時，全面 AGI 的出現也將帶來重大的倫理、安全和社會挑戰，需要全球協作建立有效的治理框架。
全面 AGI 仍是理論概念，尚無實際存在的系統。其發展面臨諸多技術挑戰，包括通用推理、真正的理解力、自主目標設定和長期規劃等。由 Leonardo ai 繪製。
超級智能（Superintelligence）：超越人類總體能力的智能革命
超級智能，又稱高度超人類通用AI（Highly super-human GPAI），是AI發展的理論終點，指的是在所有領域遠超人類能力，甚至超越人類集體專業知識的AI系統。這種超越可能體現在通用性、質量、速度或其他衡量維度上。
理論特性
- 全面優勢：在所有認知領域全面超越人類集體能力
- 智能爆炸：可能實現自我改進，導致智能快速提升
- 難以預測：其思維和行為可能超出人類理解範圍
- 顛覆性影響：可能從根本上改變人類文明
超級智能目前仍是純理論概念，存在諸多爭議。
一些研究者認為它可能永遠不會實現，而另一些人則擔憂可能在本世紀內出現（像是牛津大學哲學家 Nick Bostrom）。超級智能的出現（如果可能）將帶來前所未有的挑戰和機遇，包括存在風險、控制問題以及可能帶來的福祉等。
目前 AGI 仍然是一個概念模糊且有爭議的領域，技術發展雖然快速，但尚未達到「完整 AGI」的標準。
然而，AI 在多個領域已經達到了人類專家水平，並持續向更高級的通用智能邁進。未來 AGI 的發展不僅是技術突破的問題，更涉及社會、經濟和倫理層面的深遠影響。
