AI遭遇定律

更新於 發佈於 閱讀時間約 6 分鐘

楊道還 2/12/2023

(一)三個定律的闡釋。摘自網絡,屬於AI的工作:

「墨菲定律」、「帕金森定律」和「彼德原理」並稱為二十世紀西方文化三大發現。

墨菲定律是一種心理學效應,由愛德華·墨菲(Edward A. Murphy)1949年提出。墨菲定律的原句是:如果有兩種或兩種以上的方式去做某件事情,而其中一種選擇方式將導致災難,則必定有人會做出這種選擇。根本內容是:如果事情有變壞的可能,不管這種可能性有多小,它總會發生。

帕金森定律是官僚主義或官僚主義現象的一種別稱,源於英國著名歷史學家諾斯古德·帕金森(Cyril Northcote Parkinson)1958年出版的《帕金森定律》一書的標題。

帕金森在書中闡述了機構人員膨脹的原因及後果:一個不稱職的官員,可能有三條出路,第一是申請退職,把位子讓給能幹的人;第二是讓一位能幹的人來協助自己工作;第三是任用兩個水平比自己更低的人當助手。這第一條路是萬萬走不得的,因為那樣會喪失許多權利;第二條路也不能走,因為那個能幹的人會成為自己的對手;看來只有第三條路最適宜。於是,兩個平庸的助手分擔了他的工作,他自己則高高在上發號施令,他們不會對自己的權利構成威脅。兩個助手既然無能,他們就上行下效,再為自己找兩個更加無能的助手。如此類推,就形成了一個機構臃腫,人浮於事,相互扯皮,效率低下的領導體系。帕金森得出結論:在行政管理中,行政機構會像金字塔一樣不斷增多,行政人員會不斷膨脹,每個人都很忙,但組織效率越來越低下。這條定律又被稱為「金字塔上升」現象。

彼得原理由勞倫斯·彼得(Laurence J.Peter)提出。《彼得原理》在1969年出版,裏面提出的「彼得原理」是指:在組織或企業的等級製度中,人會因其某種特質或特殊技能,令他被擢升到不能勝任的高階職位,最終變成組織的障礙物、冗員、負資產。

(二)AI與三個定理

根據墨菲定律,人工智能如果可能被濫用,就一定會被濫用。這似乎是悲觀論,只有在某些有著陰暗心理或病態心理使用人工智能時,才有可能發生。但墨菲定律並沒有說明這個限製,也就是說,在一般情形下的正常應用、好心的情形下,即便「無咎」,「事情變壞」也會發生。這裏的「無咎」是引用《易經》的,人無過失的意思。「事情變壞」,即如《易經》中的悔、兇。

那麽人工智能的「事情變壞」會怎樣發生呢?這要從彼得原理來看。當人們使用人工智能時,一定會學和習,學即是慢慢掌握與人工智能的交流,習是練習用人工智能為人服務。這個階段是蜜月期。當人們確定對人工智能有些了解,就一定會去探索人工智能的潛能,不斷將更具挑戰性的實際任務交給人工智能。

這個過程不會以人工智能不能處理或開始出錯為止,即有個理性的停止點;而只能在人工智能的潛能達到極限、崩潰而導致大的危害的極端情形下,使用者才會達到理性。彼得原理的重點,即在於,人會自以為理性地走極端,「亢龍有悔」是不可避免的。

「亢龍有悔」與彼得原理不同,不將其「悔」僅僅限製在「組織或企業的等級製度」,而是指一般的規律。舉個例子,愛德華·威爾遜指出,人類社會中,「文明湧現的關鍵是過度肥大癥」。(Edward·Wilson,《論人性》,林和生等譯,貴州人民出版社,1987.8)威爾遜這句話,實際上就是莊子所說的「駢拇枝指,出乎性哉!而侈於德」(《莊子·駢拇》)的翻版。(參見楊道還《經濟的兩重性:水準與超水準》,2016年)

過度肥大癥是個比喻,當人掌握某種知識、能力、技術、製度等等,會不斷地簡單重復,疊屋架床,人們對其有效性的認識,一直要到使其崩潰的時候,才發生「有悔」。在稻草沒有壓倒駱駝之前,人們不會停止再加一根、再加一根……的過程。

此類的例子很多,古來如此,埃及的金字塔,只會越建越大,直至超出經濟能力太多,社會崩潰,而不得不終止。科學初期的機械知識,最終導致毫無用處的的機器人的發明。在英國和中國的博物館裏,至今仍有那個時代所費不貲的能歌舞寫字的機械人玩具存留。

在藝術上,有技法;在哲學上,有主義,「亢龍有悔」無所不在,正如老子說:「天下皆知美之為美,斯惡已。皆知善之為善,斯不善已。」藝術技法和哲學主義,其初未嘗不美或不善,而卒不美與不善。

渡過了蜜月期的人工智能,如不能逃脫彼得原理,可以想見,墨菲定律就是下一步。「事情變壞」會如何發生,人們不知道,否則就沒有墨菲定律——我們只知道「事情變壞」必然發生。《易·大過》有,「過涉滅頂,兇,無咎。」

人類在「亢龍有悔」上的理解有多麽消級,在「事情變壞」之後的彌補上,就有多麽積極。科學時代人物靠此登場揚名。這就進入到了帕金森定律階段。

這一場景,見上第一部分定律的解釋,很容易想象,這裏不必詳述,只指出其結果。其結果是,人工智能無法處理的問題,將會由更平庸的補丁彌補,以至於臃腫狼犺,效率越來越低下。這就像新的計算機、手機出現,人們以為它們更快,可以節省時間,但卻發現並非如此。

這也像計算機、手機的出現,人們以為可以節省時間,但更忙。這又回到了一個「大」彼得定律。

人工智能會擊敗三定律,還是被其限製,我們可以拭目以待:其「碩果不食,君子得輿,小人剝廬」(《易·剥》)之謂歟?

(三)

那麽為什麽會有這樣的演變?所以然是什麽?那是另外的問題了。

留言
avatar-img
留言分享你的想法!
avatar-img
Daohuan Yang的沙龍
7會員
33內容數
對現代科技、科技文明、哲學、和未來的反思。
Daohuan Yang的沙龍的其他內容
2023/07/26
AI是今年特大的一個新聞,但也是特別詭異的一個。資本家們一邊努力地推廣,一邊又大聲地警告,十分不尷尬。這就像開著大奔進胡同裡的農貿市場,一邊鳴笛,一邊前進;一邊擠了市場裡的攤位,一邊又提供了推車、修車和擦車的新行當——司機都在跳車。日前又有新聞、新名詞
2023/07/26
AI是今年特大的一個新聞,但也是特別詭異的一個。資本家們一邊努力地推廣,一邊又大聲地警告,十分不尷尬。這就像開著大奔進胡同裡的農貿市場,一邊鳴笛,一邊前進;一邊擠了市場裡的攤位,一邊又提供了推車、修車和擦車的新行當——司機都在跳車。日前又有新聞、新名詞
2023/07/09
最近網上流傳一篇《孔子的理想世界》。這篇文章節選了孫震的《孔子新傳》。既雲節選,有點兒斷章取義也就理所當然。我寫這篇博文評論這篇文章,主要是梳理,也有消斷章歧義的意思。孫震這本書淺讀之下,已使我獲益良多。 這篇短文不是書評,而是有感而發。 (一) 文中節選了孫論述「孔子所處的
2023/07/09
最近網上流傳一篇《孔子的理想世界》。這篇文章節選了孫震的《孔子新傳》。既雲節選,有點兒斷章取義也就理所當然。我寫這篇博文評論這篇文章,主要是梳理,也有消斷章歧義的意思。孫震這本書淺讀之下,已使我獲益良多。 這篇短文不是書評,而是有感而發。 (一) 文中節選了孫論述「孔子所處的
2023/06/23
新右衛門問一休和尚,如果因聽從命令而造業,還屬自己造業否?一休說,院中樹上雪將樹壓彎了,去將雪掃掉來。須臾,新右衛門掃完雪回來。又問。一休說,誰的身上濕了? 新右衛門問一休和尚,如果因聽從命令而造業,還屬自己
2023/06/23
新右衛門問一休和尚,如果因聽從命令而造業,還屬自己造業否?一休說,院中樹上雪將樹壓彎了,去將雪掃掉來。須臾,新右衛門掃完雪回來。又問。一休說,誰的身上濕了? 新右衛門問一休和尚,如果因聽從命令而造業,還屬自己
看更多
你可能也想看
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
紀律,常常被視為「壓迫」的代名詞,好像是只有瘋狂意志力的人才能做到。不少人會覺得,要犧牲自由才能養成紀律,人生真的就是這樣嗎?在現代人職涯至少 50 年的人生旅程中,是否會變得機械式像是機器人一樣,只是不斷劃掉代辦事項而已?
Thumbnail
紀律,常常被視為「壓迫」的代名詞,好像是只有瘋狂意志力的人才能做到。不少人會覺得,要犧牲自由才能養成紀律,人生真的就是這樣嗎?在現代人職涯至少 50 年的人生旅程中,是否會變得機械式像是機器人一樣,只是不斷劃掉代辦事項而已?
Thumbnail
無論是個人、社會還是公司,「有紀律」常被視為成功的關鍵因素。蘋果、谷歌和其他科技巨頭,無一不是藉由創新和紀律來改變我們的生活和工作方式。接下來,我們要來探討當今科技巨頭在創新與道德之間的兩難,以及他們是如何透過紀律來應對這些挑戰,最後反思紀律對於我們個人而言,究竟扮演怎樣的角色。
Thumbnail
無論是個人、社會還是公司,「有紀律」常被視為成功的關鍵因素。蘋果、谷歌和其他科技巨頭,無一不是藉由創新和紀律來改變我們的生活和工作方式。接下來,我們要來探討當今科技巨頭在創新與道德之間的兩難,以及他們是如何透過紀律來應對這些挑戰,最後反思紀律對於我們個人而言,究竟扮演怎樣的角色。
Thumbnail
※本次彩圖為筆者用Midjourney A.I.繪圖製作 (二) Silurs: 「人工智慧是離火時代的產物,很多人會說人工智慧的崛起會讓很多人失業,上天如何看?」 玉皇上帝: 『一件新事物的誕生,你可以看做是災難,也可以看做是機會。 視為災難者,心恐懼而無法往前,而被淘汰。 視為機會者,心奮起而勇
Thumbnail
※本次彩圖為筆者用Midjourney A.I.繪圖製作 (二) Silurs: 「人工智慧是離火時代的產物,很多人會說人工智慧的崛起會讓很多人失業,上天如何看?」 玉皇上帝: 『一件新事物的誕生,你可以看做是災難,也可以看做是機會。 視為災難者,心恐懼而無法往前,而被淘汰。 視為機會者,心奮起而勇
Thumbnail
如果你讀完這本書,卻只是更加鞏固你原先對這世界的看法,那麼我很抱歉,因為身為一個社會學家,我沒有善盡自己的職責。 這是作者鄧肯.華茲(Duncan J. Watts)在書中寫的一段話,他試圖告訴讀者——常理(common sense)並不可靠。 比未來更重要的是現在
Thumbnail
如果你讀完這本書,卻只是更加鞏固你原先對這世界的看法,那麼我很抱歉,因為身為一個社會學家,我沒有善盡自己的職責。 這是作者鄧肯.華茲(Duncan J. Watts)在書中寫的一段話,他試圖告訴讀者——常理(common sense)並不可靠。 比未來更重要的是現在
Thumbnail
8月23日,No. 235,#墨菲定律 大家都聽過墨菲定律、天有不測風雲,意外總是意料之外,「可能出錯的總會出錯」聽起來有點邪門武斷 星際效應的電影稍微改編一下這句話,「可能發生的總會發生」——不見得是壞事、出錯,反倒有點像這幾年的「黑天鵝」概念,極低的事件總是會發生,例如金融海嘯、全球性傳染病
Thumbnail
8月23日,No. 235,#墨菲定律 大家都聽過墨菲定律、天有不測風雲,意外總是意料之外,「可能出錯的總會出錯」聽起來有點邪門武斷 星際效應的電影稍微改編一下這句話,「可能發生的總會發生」——不見得是壞事、出錯,反倒有點像這幾年的「黑天鵝」概念,極低的事件總是會發生,例如金融海嘯、全球性傳染病
Thumbnail
花了很多時間閱讀完這本《因果革命》,內容雖然有趣,但對我而言有些難讀,藉由本書可以看到古往今來許多科學家推展因果革命的努力與成果。
Thumbnail
花了很多時間閱讀完這本《因果革命》,內容雖然有趣,但對我而言有些難讀,藉由本書可以看到古往今來許多科學家推展因果革命的努力與成果。
Thumbnail
回顧這一系列的「常數定律」文章,其實最早的發想是來自討論「組織架構的分工合作」。在討論過程中我們可以發現,組織分工越專業、越細,部門就越容易管理;但是橫向的聯繫、整合、合作就越困難。
Thumbnail
回顧這一系列的「常數定律」文章,其實最早的發想是來自討論「組織架構的分工合作」。在討論過程中我們可以發現,組織分工越專業、越細,部門就越容易管理;但是橫向的聯繫、整合、合作就越困難。
Thumbnail
「人工智慧會有神性嗎?」 本篇文章為圍繞此提問所作之圖像。 參考讀本:  〈Do Androids Dream of Electric Sheep?〉(仿生人會夢想擁有電動羊嗎?) ,菲利普.狄克,1968。 〈佛陀〉,凱倫·阿姆斯特朗,2014  「諸惡莫作,眾善奉行,自淨其意
Thumbnail
「人工智慧會有神性嗎?」 本篇文章為圍繞此提問所作之圖像。 參考讀本:  〈Do Androids Dream of Electric Sheep?〉(仿生人會夢想擁有電動羊嗎?) ,菲利普.狄克,1968。 〈佛陀〉,凱倫·阿姆斯特朗,2014  「諸惡莫作,眾善奉行,自淨其意
Thumbnail
上篇我們說了近年來成型的AI危害,雖然仍在危害初期,社會上目前還可控制與判別,但我們也不可以忽視未來可能危害。 因此我們今天就是要來說明當前對於AI有哪一些規範與發展應遵守的原則。而說到這個就必須提到『機器人三定律(Three Laws of Robotics)』
Thumbnail
上篇我們說了近年來成型的AI危害,雖然仍在危害初期,社會上目前還可控制與判別,但我們也不可以忽視未來可能危害。 因此我們今天就是要來說明當前對於AI有哪一些規範與發展應遵守的原則。而說到這個就必須提到『機器人三定律(Three Laws of Robotics)』
Thumbnail
生活黑客的時代,大家一定都不陌生,各種工具幫你把生活量化、上傳、分析,提供更好的建議。 演算法在我們生活中快速融合、演化,那當人工智慧時代來臨,我們的工作會不會直接被取代呢?
Thumbnail
生活黑客的時代,大家一定都不陌生,各種工具幫你把生活量化、上傳、分析,提供更好的建議。 演算法在我們生活中快速融合、演化,那當人工智慧時代來臨,我們的工作會不會直接被取代呢?
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News