AI遭遇定律

AI遭遇定律

更新於 發佈於 閱讀時間約 6 分鐘

楊道還 2/12/2023

(一)三個定律的闡釋。摘自網絡,屬於AI的工作:

「墨菲定律」、「帕金森定律」和「彼德原理」並稱為二十世紀西方文化三大發現。

墨菲定律是一種心理學效應,由愛德華·墨菲(Edward A. Murphy)1949年提出。墨菲定律的原句是:如果有兩種或兩種以上的方式去做某件事情,而其中一種選擇方式將導致災難,則必定有人會做出這種選擇。根本內容是:如果事情有變壞的可能,不管這種可能性有多小,它總會發生。

帕金森定律是官僚主義或官僚主義現象的一種別稱,源於英國著名歷史學家諾斯古德·帕金森(Cyril Northcote Parkinson)1958年出版的《帕金森定律》一書的標題。

帕金森在書中闡述了機構人員膨脹的原因及後果:一個不稱職的官員,可能有三條出路,第一是申請退職,把位子讓給能幹的人;第二是讓一位能幹的人來協助自己工作;第三是任用兩個水平比自己更低的人當助手。這第一條路是萬萬走不得的,因為那樣會喪失許多權利;第二條路也不能走,因為那個能幹的人會成為自己的對手;看來只有第三條路最適宜。於是,兩個平庸的助手分擔了他的工作,他自己則高高在上發號施令,他們不會對自己的權利構成威脅。兩個助手既然無能,他們就上行下效,再為自己找兩個更加無能的助手。如此類推,就形成了一個機構臃腫,人浮於事,相互扯皮,效率低下的領導體系。帕金森得出結論:在行政管理中,行政機構會像金字塔一樣不斷增多,行政人員會不斷膨脹,每個人都很忙,但組織效率越來越低下。這條定律又被稱為「金字塔上升」現象。

彼得原理由勞倫斯·彼得(Laurence J.Peter)提出。《彼得原理》在1969年出版,裏面提出的「彼得原理」是指:在組織或企業的等級製度中,人會因其某種特質或特殊技能,令他被擢升到不能勝任的高階職位,最終變成組織的障礙物、冗員、負資產。

(二)AI與三個定理

根據墨菲定律,人工智能如果可能被濫用,就一定會被濫用。這似乎是悲觀論,只有在某些有著陰暗心理或病態心理使用人工智能時,才有可能發生。但墨菲定律並沒有說明這個限製,也就是說,在一般情形下的正常應用、好心的情形下,即便「無咎」,「事情變壞」也會發生。這裏的「無咎」是引用《易經》的,人無過失的意思。「事情變壞」,即如《易經》中的悔、兇。

那麽人工智能的「事情變壞」會怎樣發生呢?這要從彼得原理來看。當人們使用人工智能時,一定會學和習,學即是慢慢掌握與人工智能的交流,習是練習用人工智能為人服務。這個階段是蜜月期。當人們確定對人工智能有些了解,就一定會去探索人工智能的潛能,不斷將更具挑戰性的實際任務交給人工智能。

這個過程不會以人工智能不能處理或開始出錯為止,即有個理性的停止點;而只能在人工智能的潛能達到極限、崩潰而導致大的危害的極端情形下,使用者才會達到理性。彼得原理的重點,即在於,人會自以為理性地走極端,「亢龍有悔」是不可避免的。

「亢龍有悔」與彼得原理不同,不將其「悔」僅僅限製在「組織或企業的等級製度」,而是指一般的規律。舉個例子,愛德華·威爾遜指出,人類社會中,「文明湧現的關鍵是過度肥大癥」。(Edward·Wilson,《論人性》,林和生等譯,貴州人民出版社,1987.8)威爾遜這句話,實際上就是莊子所說的「駢拇枝指,出乎性哉!而侈於德」(《莊子·駢拇》)的翻版。(參見楊道還《經濟的兩重性:水準與超水準》,2016年)

過度肥大癥是個比喻,當人掌握某種知識、能力、技術、製度等等,會不斷地簡單重復,疊屋架床,人們對其有效性的認識,一直要到使其崩潰的時候,才發生「有悔」。在稻草沒有壓倒駱駝之前,人們不會停止再加一根、再加一根……的過程。

此類的例子很多,古來如此,埃及的金字塔,只會越建越大,直至超出經濟能力太多,社會崩潰,而不得不終止。科學初期的機械知識,最終導致毫無用處的的機器人的發明。在英國和中國的博物館裏,至今仍有那個時代所費不貲的能歌舞寫字的機械人玩具存留。

在藝術上,有技法;在哲學上,有主義,「亢龍有悔」無所不在,正如老子說:「天下皆知美之為美,斯惡已。皆知善之為善,斯不善已。」藝術技法和哲學主義,其初未嘗不美或不善,而卒不美與不善。

渡過了蜜月期的人工智能,如不能逃脫彼得原理,可以想見,墨菲定律就是下一步。「事情變壞」會如何發生,人們不知道,否則就沒有墨菲定律——我們只知道「事情變壞」必然發生。《易·大過》有,「過涉滅頂,兇,無咎。」

人類在「亢龍有悔」上的理解有多麽消級,在「事情變壞」之後的彌補上,就有多麽積極。科學時代人物靠此登場揚名。這就進入到了帕金森定律階段。

這一場景,見上第一部分定律的解釋,很容易想象,這裏不必詳述,只指出其結果。其結果是,人工智能無法處理的問題,將會由更平庸的補丁彌補,以至於臃腫狼犺,效率越來越低下。這就像新的計算機、手機出現,人們以為它們更快,可以節省時間,但卻發現並非如此。

這也像計算機、手機的出現,人們以為可以節省時間,但更忙。這又回到了一個「大」彼得定律。

人工智能會擊敗三定律,還是被其限製,我們可以拭目以待:其「碩果不食,君子得輿,小人剝廬」(《易·剥》)之謂歟?

(三)

那麽為什麽會有這樣的演變?所以然是什麽?那是另外的問題了。

avatar-img
Daohuan Yang的沙龍
7會員
33內容數
對現代科技、科技文明、哲學、和未來的反思。
留言
avatar-img
留言分享你的想法!
Daohuan Yang的沙龍 的其他內容
AI是今年特大的一個新聞,但也是特別詭異的一個。資本家們一邊努力地推廣,一邊又大聲地警告,十分不尷尬。這就像開著大奔進胡同裡的農貿市場,一邊鳴笛,一邊前進;一邊擠了市場裡的攤位,一邊又提供了推車、修車和擦車的新行當——司機都在跳車。日前又有新聞、新名詞
最近網上流傳一篇《孔子的理想世界》。這篇文章節選了孫震的《孔子新傳》。既雲節選,有點兒斷章取義也就理所當然。我寫這篇博文評論這篇文章,主要是梳理,也有消斷章歧義的意思。孫震這本書淺讀之下,已使我獲益良多。 這篇短文不是書評,而是有感而發。 (一) 文中節選了孫論述「孔子所處的
新右衛門問一休和尚,如果因聽從命令而造業,還屬自己造業否?一休說,院中樹上雪將樹壓彎了,去將雪掃掉來。須臾,新右衛門掃完雪回來。又問。一休說,誰的身上濕了? 新右衛門問一休和尚,如果因聽從命令而造業,還屬自己
AI是今年特大的一個新聞,但也是特別詭異的一個。資本家們一邊努力地推廣,一邊又大聲地警告,十分不尷尬。這就像開著大奔進胡同裡的農貿市場,一邊鳴笛,一邊前進;一邊擠了市場裡的攤位,一邊又提供了推車、修車和擦車的新行當——司機都在跳車。日前又有新聞、新名詞
最近網上流傳一篇《孔子的理想世界》。這篇文章節選了孫震的《孔子新傳》。既雲節選,有點兒斷章取義也就理所當然。我寫這篇博文評論這篇文章,主要是梳理,也有消斷章歧義的意思。孫震這本書淺讀之下,已使我獲益良多。 這篇短文不是書評,而是有感而發。 (一) 文中節選了孫論述「孔子所處的
新右衛門問一休和尚,如果因聽從命令而造業,還屬自己造業否?一休說,院中樹上雪將樹壓彎了,去將雪掃掉來。須臾,新右衛門掃完雪回來。又問。一休說,誰的身上濕了? 新右衛門問一休和尚,如果因聽從命令而造業,還屬自己