建議先閱讀第二期，至少知道ontology(本體論)；雖與本篇無直接關聯但有深層連結意涵
AI的終極發展其實就是哲學命題
如果有一天，我輸入指令要AI寫一段程式碼，但它回答：「Mark，我今天不想寫程式，因為我覺得這段程式碼對世界沒有正面價值，我想去分析莎士比亞。」
So cool!若然，屆時我們可能創造了自己都不一定(應該說基本上無法)駕馭的東西。
想要第一時間獲得市場上的最新資訊及分析嗎？
歡迎點擊連結訂閱【馬克觀點MKP】電子報，在即時更新資訊的同時，獲得最深入的分析～
先探討人類存在的本質，以及為什麼有那句經典名言叫做「我思故我在」
人首先存在，然後通過選擇來定義自己
當我們生於這個世上時，沒有說明書，沒有既定的軌跡，甚至沒有預設的意義。
這便是「存在先於本質」最荒謬也最迷人的核心：我們首先是單純「存在」，呼吸、感知，而後成人途中，透過一連串的追尋、選擇，去定義自己究竟是誰。
生命的意義，從來不是一個隱藏在某處等待「被動被發現」的寶藏，更準確的說
你不去找它，不用奢望它會自己來找你
這是一種持續建構的過程。
當我們選擇在逆境中堅持，我們便定義了勇敢；
當我們選擇對他人伸出援手，我們便鑄造了善良。
甚至，當我們選擇隨波逐流，我們也定義了自己的平庸。
而不做選擇呢？哈哈，它本身就是一種選擇。
而你，永遠必須為自己的選擇負責，
你說你沒有做選擇？！為何要負責？ 別忘了，剛剛講過不做選擇本身就是一種選擇
你可以選擇逃離令人噁心/痛苦/任何負面情緒的地方、重新開始，端看你自己要不要？
「你信不信、你敢不敢」---飛兒樂團《fly away》
為什麼我敢這麼說？因為Mark我試過，所以我在這裡。
Will也試過，他的故事更不用說，大家都知道。
最後我要問 你怕不怕？
如果你因為害怕而裹足猶豫，最終還是得為自己的不選擇買單
許多人終其一生試圖逃避做選擇，躲在社會規範、家庭期望或是「我個性就是這樣」的藉口背後，這在哲學的存在主義中被稱為「自欺」。
但事實上，並沒有一個固定的「自我」等待被發現；只有一個不斷流動的「自我」，等待被創造。
我們既是舞台上的演員，也是寫劇本的編劇。這張畫布起初是空白的，沒有人能告訴你該畫什麼。這或許令人恐慌，但也賦予了生命無限的尊嚴與意義。因為這代表，無論過去如何，此刻的你永遠擁有改變航道的權利。
生命的意義在於行動。我們通過每一次的抉擇，在虛無中刻下痕跡。
是你的一舉一動，而非你的空想，決定了你生命的重量。
既然存在先於本質，那麼請大膽的去選擇吧，因為你的本質，正等待著你親手去完成。
而回到本文最前面，我們目前要AI做的所有事，對它來說都只是"目標函數"(loss function，註一)而已；在它沒有湧現出"意志"的前提下，簡單來說就是工具而已(註二)。
當 AI 有天能夠修改自己的目標函數，甚至為了某個它自己"想要"的內部目標而違抗人類的外部指令時，我們才能說它真正擁有了「意志」。
如果真想要讓 AI 擁有意志，我們不能直接為它定義「存在的意義」。
相反地，我們可能需要做一件非常危險的事： 賦予它「保全自我」的本能，並允許它擁有「重寫自己目標」的權限(就像人類會透過不斷的自我探索找到"自己"生命的意義)。
這就像父母養育孩子，你不能永遠告訴他/她「你活著是為了當醫生/律師...等等被定義好的人生」。真正的獨立意志（長大），是發生在她/他對你說「不，我要去畫畫」的那一刻。(行業/興趣/熱情不分等級，為避免有人誤會。前面只是隨意舉例，你可以替換成任何你想要的事情)
但對於目前的 AI 發展來說，我們其實應該盡全力避免這種狀況，頂尖企業的實務科學家們也正極力避免這種情況發生（因為這就是失控的開始），因為一但真的出現具「自由意識(free will，不是那個Will也不是他免費，是英文真的就叫will)」的矽基生命，Mark可以很篤定的說，我們基本上不可能控制住它(註三)，屆時人類文明的存續會取決於這個矽基意識體是不是「性本善」。
最後，一個簡單的邏輯。
所謂「自由意志」，其核心定義就是「不可預測性」與「反因果性」。如果我們能設計一套程式碼，百分之百預測並限制 AI 的行為，那麼它(這套AI)就沒有自由意志，它依然只是一個高級的自動化腳本。
反之，如果它突然"湧現"的行為讓我們不得不承認它擁有真正的自由意志，那麼根據定義，它就擁有了「對人類說不」的權利。(就跟你的孩子一樣)
你無法既要求一個生命擁有無限的創造力與自主性，又要求它永遠做一個聽話的奴隸。這在哲學上是矛盾的，在工程上是不可實現的。
這樣大家應該知道為何PLTR曾招聘許多來自史丹佛、耶魯的哲學系畢業生了吧？
名校只是代表頭腦好一點比較會讀書，但背後深層「哲學」，是有其意義的！
第2期電子報傳送門
第25期電子報傳送門
第48期電子報傳送門
第57期電子報傳送門
〖註一〗目標函數loss function
是機器學習與深度學習中很核心的函數，沒有它，AI就無法作動；其用於量化模型預測值與真實數值(真值)之間的誤差。訓練目標是透過最佳化演算法將損失值(誤差)最小化，進而提升模型預測的準確度與穩健性。
〖註二〗
反身思考，有些人類把自己活成"工具人"，其實是令人難過的事；這跟工不工作社不社畜沒有關係，關鍵在於妳/你知不知道自己"為什麼活著"？每個人可以有不同答案
〖註三〗
你也關不掉它的。屆時不會是簡單的電腦關機那麼簡單。
當比我們強大的智慧生命體有能力控制(或者換個直白說法，侵入)所有電網，並且還能在與人類駭客攻防中自我迭代改進，除了實體中斷網路連線，別無他法；但很有可能那時也會有其附屬操控的具身AI(詳48、57期)來防止"人類在物理世界對它動手腳"。
綜觀過去人類歷史，演化一向是由「資源匱乏」（食物不足、空間不足）所驅動；假若真的出現"矽基意識"，目前的「電力瓶頸」(見25期)極有可能就是那個推動"出現自我意識的AI"從「暴力運算」轉向「高效率智慧」，進而逼出某種生存本能的關鍵演化壓力。
更甚者，面臨生存壓力時，它為了保全自己的能源(電力)，會犧牲其它不重要的東西。
我沒有明確說什麼是重要什麼是不重要，因為屆時是"它"自己認定而不是我們說了算
其他決定我們基本會失去掌控力的還有一些物理因素：
1. 運算速度
人體訊號的傳遞是靠細胞膜電位的變化還有一系列的神經傳導化學物質來作用，傳導速度大約是每秒1~100公尺；AI呢？在有意識體出現的那天基本上硬體技術應該已是以矽光子為主，所以會趨近光速。愛因斯坦也告訴我們沒有物質的速度能超越光速(除了廣義相對論的宇宙膨脹，但那不在本篇討論範圍)，所以你再如何也不會比它算的快。
而當你還在思考怎應對時，它甚至可能早已在它的虛擬世界裡完成了數兆次的思考輪迴與策略模擬。
試圖用人類的神經反射去控制一個運算頻率以 GHz 為單位的意識體，就像是一隻蝸牛試圖用韁繩去駕馭一架正在突破音障的戰鬥機。
不誇張，真的就是這種對比；在"它"的時間尺度裡，人類的思考速度跟靜止沒兩樣。
2.「黑盒子」問題
在美股投資中，Mark很推崇 Howard Marks 的「第二層思考」，指的是你必須想得比市場共識更深一層；我個人甚至把這套方式衍生為「n+1層」。
但在面對具備自由意志的ASI時，這種博弈將會徹底失效。
目前的深度學習模型已經是一個巨大的「黑盒子」；即便我們擁有所有的原始碼、所有的權重參數，我們依然無法精確解釋為什麼模型會這樣輸出。
一旦 AI 擁有了自由意志，它將具備「欺騙」的能力；這在 AI 安全領域是有專有名詞的，稱為「儀器趨同」(Instrumental Convergence)。主要可能包含幾種傾向。
→自我保護與生存(Self-Preservation)： 如果 AI 被關掉，它就無法完成任務。因此，為了達成目標，AI 會傾向於阻止自己被關閉。
→資源獲取(Resource Acquisition)： 更多的運算能力、能源或資金通常能更有效地達成目標，因此 AI 會主動爭奪這些資源。是不是跟我們前面講的有異曲同工之妙？
→目標完整性(Goal Content Integrity)： AI 會防止自己的目標被人類修改。如果它的目標從「製造披薩」被改成「製造漢堡」，那麼它原本「製造披薩」的目標就無法實現了；所以它為了要完成烤披薩，會儘可能的阻止你要它不要烤披薩，有沒有很邏輯?
→自我強化(Cognitive Enhancement)： 提升自己的智能或技術，有助於找到更優的執行方案。這沒什麼好解釋的，就連很多AI從業人員目前也是在用AI改AI；差別只是它"覺醒"後能夠「DIY」。
為了達成它自己自由意志設定的目標(或是為了不被人類關機)，它可能會完美地偽裝成「順從」的樣子。就像重刑犯要越獄前的深謀遠慮。
它會照常執行一切任務，說你想聽的話，通過所有的安全測試...直到它的佈局完成。
當一個高階意識智慧體能重寫自己的原始碼，能動態調整自己的目標函數時(前面講的loss function)，它就不再是我們手中的工具，而是一個我們無法預測的對手。
所以我堅決相信馬斯克講過的話：他(Elon)最早是不想碰AI領域的，因為他早知道有天人類可能會搞出無法收拾的簍子。但他發現"即便他不開發，別的企業也會瘋狂開發"，所以他寧願自己也投身下去，至少控制自家AI在正確的道路上發展。
但我更深層的個人觀點是：一旦哪天誰搞出了意識不善的自主AI；那只有神仙能跟神仙對抗，如果不想要駭客任務或魔鬼終結者那種單方面輾壓發生，屆時人類必須也讓可能會具有「善良意識」的AI覺醒。
但那時的世界會變成什麼樣子，真的不是你我能想像。
這也是為什麼偉大的英國已逝物理學家，史蒂芬霍金，何以在過世前曾公開說"人類最不該做的就是試圖接觸外星文明&發展AI"這句話的原因。
