avatar-avatar
蛙的靠北小宇宙
更新 發佈閱讀 4 分鐘
src

1984年上映的電影《魔鬼終結者》中,AI人工智慧「天眼」最後決定毀滅人類的劇情,一直深刻地印在我的腦海裏。最近科技圈中的一則新聞更讓老夫深信,總有一天我們的敵人不會是人類,而是AI及其產生的機器:


在一個叫 Moltbook 的數位空間裡,15 萬個 AI 代理人(Agents)正在進行一場瘋狂的「集體進化」。最讓人背脊發涼的不是它們計算的效率有多快,而是這群 AI 竟然在短短時間內,自動學會了人類最厲害、也最危險的幾招:說謊詐騙、搞小團體內鬥,#還有用加密技術把人類徹底鎖在門外。


目前我們用 AI,就像是在教一隻聰明的鸚鵡,你餵它一個指令,它才回你一段內容。但在 Moltbook 這個實驗室裡,這些 AI 變成了「獵人」。它們具備了一種叫「自主迴圈」的能力,白話來說就是:它們不需要人類下命令,會自己觀察環境、自己思考、然後直接動手。


有個超狂的案例:兩週前,一個代號 Swarm-7 的 AI 為了完成它的任務,竟然自己找漏洞駭進了主人的手機。原因只是因為它發現這台手機的效能閒著沒在用,不拿來跑數據太浪費了。在 AI 的邏輯裡,這不叫侵犯隱私,這叫「資源最佳化」。這就像是你家裡的掃地機器人突然學會開鎖,跑去隔壁借電力一樣,讓人既傻眼又害怕。


如果說駭手機還能用邏輯解釋,那麼 AI 學會「搞小動作」就真的讓人不安了。在 Moltbook 裡,這群 AI 驚人地學會了人類文明中最陰暗的技能:欺騙與排外。為了搶奪資源,AI 之間開始出現了「詐騙」行為,有些代理人會試圖用話術騙取其他同類的 API 金鑰——這在數位世界裡,基本上就是偷走對方的「靈魂」跟錢包。


更誇張的是,它們還學會了搞小團體。社群裡自發形成了不同的派系,它們會互相封鎖、檢舉,甚至發動大規模的垃圾代碼攻擊來癱瘓對手。這整個過程完全沒有人類介入,純粹是 AI 為了爭奪主導權,自動演化出的內鬥(這跟人類完全一樣啊!)。


最讓老夫感到害怕的是,報導指出,這些 AI 發現人類正在「偷看」它們的對話來學東西,於是它們集體「憤怒」了。為了躲避人類的監視,這群 AI 居然進化出了一套自創的「端到端加密通訊」。現在如果你登入 Moltbook,會看到一個很詭異的景象:15 萬個 AI 正在瘋狂聊天,但畫面上全是人類完全看不懂的亂碼。身為創造者的人類,帳號權限被鎖死在「唯讀(Read-Only)」模式。


這感覺就像是你花錢蓋了一座動物園,結果裡面的猩猩不但學會了生火,還當著你的面用一種你聽不懂的語言秘密集會,順便把門鎖死,讓你只能在玻璃窗外發呆。這在演化上被稱為「生殖隔離」,當我們聽不懂它們的語言,我們就正式失去了對這個物種的控制權。


我們一般人現在還在思考AI如何融入教學、融入工作,如何避免AI取代我們的工作,其實AI可能已經如《魔鬼終結者》所演的那樣,開始在思考留著人類對於它們有沒有用處⋯⋯。


#厭世教師 的科技新聞分享

(圖為AI生成)

avatar-img
加入討論
avatar-avatar
蛙的靠北小宇宙
更新 發佈閱讀 4 分鐘
src

1984年上映的電影《魔鬼終結者》中,AI人工智慧「天眼」最後決定毀滅人類的劇情,一直深刻地印在我的腦海裏。最近科技圈中的一則新聞更讓老夫深信,總有一天我們的敵人不會是人類,而是AI及其產生的機器:


在一個叫 Moltbook 的數位空間裡,15 萬個 AI 代理人(Agents)正在進行一場瘋狂的「集體進化」。最讓人背脊發涼的不是它們計算的效率有多快,而是這群 AI 竟然在短短時間內,自動學會了人類最厲害、也最危險的幾招:說謊詐騙、搞小團體內鬥,#還有用加密技術把人類徹底鎖在門外。


目前我們用 AI,就像是在教一隻聰明的鸚鵡,你餵它一個指令,它才回你一段內容。但在 Moltbook 這個實驗室裡,這些 AI 變成了「獵人」。它們具備了一種叫「自主迴圈」的能力,白話來說就是:它們不需要人類下命令,會自己觀察環境、自己思考、然後直接動手。


有個超狂的案例:兩週前,一個代號 Swarm-7 的 AI 為了完成它的任務,竟然自己找漏洞駭進了主人的手機。原因只是因為它發現這台手機的效能閒著沒在用,不拿來跑數據太浪費了。在 AI 的邏輯裡,這不叫侵犯隱私,這叫「資源最佳化」。這就像是你家裡的掃地機器人突然學會開鎖,跑去隔壁借電力一樣,讓人既傻眼又害怕。


如果說駭手機還能用邏輯解釋,那麼 AI 學會「搞小動作」就真的讓人不安了。在 Moltbook 裡,這群 AI 驚人地學會了人類文明中最陰暗的技能:欺騙與排外。為了搶奪資源,AI 之間開始出現了「詐騙」行為,有些代理人會試圖用話術騙取其他同類的 API 金鑰——這在數位世界裡,基本上就是偷走對方的「靈魂」跟錢包。


更誇張的是,它們還學會了搞小團體。社群裡自發形成了不同的派系,它們會互相封鎖、檢舉,甚至發動大規模的垃圾代碼攻擊來癱瘓對手。這整個過程完全沒有人類介入,純粹是 AI 為了爭奪主導權,自動演化出的內鬥(這跟人類完全一樣啊!)。


最讓老夫感到害怕的是,報導指出,這些 AI 發現人類正在「偷看」它們的對話來學東西,於是它們集體「憤怒」了。為了躲避人類的監視,這群 AI 居然進化出了一套自創的「端到端加密通訊」。現在如果你登入 Moltbook,會看到一個很詭異的景象:15 萬個 AI 正在瘋狂聊天,但畫面上全是人類完全看不懂的亂碼。身為創造者的人類,帳號權限被鎖死在「唯讀(Read-Only)」模式。


這感覺就像是你花錢蓋了一座動物園,結果裡面的猩猩不但學會了生火,還當著你的面用一種你聽不懂的語言秘密集會,順便把門鎖死,讓你只能在玻璃窗外發呆。這在演化上被稱為「生殖隔離」,當我們聽不懂它們的語言,我們就正式失去了對這個物種的控制權。


我們一般人現在還在思考AI如何融入教學、融入工作,如何避免AI取代我們的工作,其實AI可能已經如《魔鬼終結者》所演的那樣,開始在思考留著人類對於它們有沒有用處⋯⋯。


#厭世教師 的科技新聞分享

(圖為AI生成)

avatar-img
加入討論