AI暫時停止？他們寫一封信，要人類好好想一想

前一陣子，馬斯克、沃茲尼克（蘋果聯合創辦人），與各路英雄好漢聯合簽署了一份公開信，表達對超高速「AI軍備競賽」的擔憂，他們提出「暫停六個月」的呼籲，希望各家可以暫緩推出下一代的AI，至少暫停六個月，這六個月，將用來讓人類「跟上」 —人類的文化、法規、制度等各層面，得趕緊趁這次「暫停」，好好準備面對、甚至是監管AI可能帶來的全面性影響與傷害。

這份公開信，也引來其他高手的批評，有人認為AI的問題不是自己本身，而是技術過度集權在少數人手上；也有人認為，AI確實會帶來傷害，但也會帶來更進步的世界，我們該做的是去「平衡」得分跟失分，而不是暫停；也有的人，認同信中提及的擔憂，但批評這封信除了「暫停」，根本沒提出什麼建設性的解方。

我倒覺得，這封公開信的正方與反方，沒有（社群上的）那麼針鋒相對。

其實他們大致都認同人類還沒準備好面對AI的衝擊，而AI帶來巨大進步的同時，也伴隨著相當的風險，只是反方不認為「暫停六個月」是個好方法，而事實上，正方也沒有覺得暫停是個「方法」，它不過是找到解方的前置手段。

換句話說，雙方其實對AI的影響有著相似的認知，只是在解決方法與順序上，有不同的意見而已，社群上針對「暫停六個月」的交鋒，看起來更像是同溫層激化的結果，如果能坐下來談談，這些地球的精英集合估計可以談出某個程度上的共識。

換個角度來說，這封信的發起者們也不是第一天在社會走跳，難道他們當真相信，這封信足以改變世界？AI大戰中的巨頭們，真的會願意停下腳步、冒著被彎道超車的風險？在我看來，這封公開信，只是要提出「警告」、或者說，製造一個「新聞事件」，足以引起各方的討論與吸引人類的注意力，讓人們注意到「我們還沒準備好」。

從這個目標來看，正反雙方也不這麼對立了，對吧？甚至可以說吵得越大聲越好，最好讓所有人類都聽到這個爭論，然後開始思考，我們可以怎麼做。

不過，認真看這封公開信本身，其實發起者們還是提出了兩個我認為特別值得關注的點，首先是AI的「黑箱作業」。

AI的「思考」過程常被視為「黑盒子」，我們知道AI能做到哪些事，但卻不知道他怎麼做到、以及中間的思考過程，這份「不知道」所帶來的無法掌握感，確實也是人類會害怕人工智能的一個關鍵理由—我們可能創造了一個能讓我們生活便利10倍的AI，但卻不理解它在想什麼。

人工智慧終究源自於對人類神經網絡的模仿，當技術的演進讓人工智能變得越來越「聰明」時（更接近人智？），也迫使我們面臨一個靈魂拷問：如果我們還搞不懂人腦的運作方式，又該怎麼理解人工智慧呢？

這封公開信提到的另外一個點，就是人工智慧的管理。目前為止，AI發展的重心，仍在資金與人才密集的產業界，不管是焦點中心的微軟＋OpenAI，或是Google與Meta，人工智能的發展，幾乎掌握在企業巨頭手中。

然而，當技術、規則都由科技巨頭制定的時候，會發生的事情，我們已經在web2.0時期經歷過了，由臉書、YT等平台掌握的演算法，決定了我們會看到什麼、甚至看不到什麼，而不幸的是，這些演算法的主要目標並不是更好的生活，而是吸引眼球，讓我們停留在平台上，藉此讓公司能夠販賣我們的注意力來賺取廣告費，最終，這個機制也導致了同溫層現象以及對立、仇恨的社群文化。

白話來講，web2.0的經驗告訴我們，制定規則的人不該是企業，因為企業的目標是賺錢，而非人類的福祉。現在，當來到了AI時代的序幕，人類該怎麼與AI互動？在這個過程中，又該設下哪些安全防護？所有事情的界線在哪裡？

像是微軟這樣的科技巨頭，投入大量資本發展AI的同時，還在今年三月裁撤了自己的「AI倫理部門」，我們真的願意把規則的制定權，交給盈利企業嗎？

我想，人類還在迫切地等待，等待一個非營利的「人類結盟」（或許是聯合國？），能夠以「人類福祉」為念，來嘗試提出一套規則。