〈曼達洛人的AI寓言〉S3_Ep6
閱讀時間約 3 分鐘
如果你關心AI，同時也是《曼達洛人》粉絲的話，最新的《曼達洛人》第三季第六集—「僱傭槍手」，也許會讓你感到耳目一新（加上一點細思極恐），因為「僱傭槍手」竟然說了個AI寓言。
「僱傭槍手」的故事大綱是這樣的：
在某個邊陲星球，人們習慣了有機器人的便利生活，然而，原本只為服務而運作的機器，卻出現了失控行為，於是，曼達洛人受僱查明背後的真相。
故事的細節先不暴雷，但「僱傭槍手」確實帶出了幾個有趣的設定，讓身處2023年春天、這個AI大躍進時刻的我們，看起來特別微妙，或許，這是我們應該努力避免的未來之一？
對機器來說，我們其實不重要
「僱傭槍手」中，有個機器人是這樣說的：「我們不想被取代．．．我們能做的事很多，（相比之下）人類的生命太短，對我們要求的也很少．．．有機體創造了我們，（服務人們）是我們起碼能做的事．．．」
當機器有了意識之後，他們會「害怕」被取代，而這份「想生存的意識」可能會引發機器與人類的更多衝突，這是在以往的科幻作品中常見的情節。
但「僱傭槍手」卻提出了另外一種可能：以機器的角度而言，人類的生命實在太短、在機器想成就的未來道路上，充其量僅是一片風景，就算機器有感於人類創造了自己，「希望」提供服務作為回報，但最終，機器的未來，跟人類無關。
這樣的設定，跳脫出了人機衝突的框架，提出了一個更宏觀、卻也更不舒服的角度—人類總是在思考人類與機器之間的競爭或合作，然而，在機器的「意識」裡，人類根本不重要。
在Gpt4邁向Gpt5的日子裡、當我們在討論「通用人工智慧」的時候，會不會，當有一天AI開始出現「意識」，這場比賽，瞬間就會變成我們無法理解的模樣？
「人造惡魔」是可能出現的
在故事裡，隨著曼達洛人的追查，他們發現機器失控，來自「誤食」機器保養液，是這液體裡頭的「奈米機器人」影響了程式，而這一切，都是人爲的陰謀導致。
這是個充滿「即視感」的情境，我們知道，現實裡AI的訓練來自大量資料，如果資料有誤、AI的回應就可能出錯，就如同Chatgpt與Bing會一本正經的胡說，他們的資料來源，就是充滿錯誤的網路環境。
若只是亂聊天，或許出不了什麼大問題，但如果有心人士用「特定的資料」去訓練一個「惡意的AI」呢？例如，詐騙AI？又或是，自動化武器？一個刻意打造的惡意AI，影響的層面將難以估計。
拔插頭有一天會動搖國本
話說回來，總是可以「拔插頭」吧？當我們聊到AI的威脅時，總覺得人類會有「拔插頭」這個終極手段。
但在「僱傭槍手」中，眼見機器開始失控—你的家務機器人亂丟衣服、清潔機器人破壞垃圾桶，機器大廚朝你揮舞菜刀．．．儘管如此，人們依然透過「投票」，決定讓機器繼續與人們共存，因為人們就是割捨不下機器帶來的便利生活，回不去了！
故事中一名角色是這樣說的：「（有了機器）人們不再需要工作，他們可以悠閒度日、享受藝術、參與民主。要是關閉機器人，他們就不知道該怎麼活了，社會將崩潰的」
在我們的世界裡，即將方方面面都與AI整合、人機協作只會越來越深，當有一天「拔插頭」會動搖國本的時候，我們真的還能下手嗎？
10會員
16內容數
《AI趨勢白話文》用白話文討論人工智慧、AI與機器人趨勢，這裡有人工智慧的最新發展，以及獨家觀點。未來是AI、機器人與人類協作的世代，緊跟人工智慧的演化，我們就更有機會在下一個世代安身立命。我希望，《AI趨勢白話文》能幫助你用最少的時間，掌握AI與人工智慧的未來。
留言0
查看全部
你可能也想看
Google News 追蹤
這篇文章總結了各種類型的機器人，包括人形機器人、機器狗、家用機器人和聊天機器人。同時，也提到了一些討論點和機器人可能的未來方向。
不久前因為 AI 工具大量且快速演進，許多人開始議論起未來將被機器人取代工作的可怕，也許是我涉世未深，又或許是我太過天真，但我從不認為被機器人取代是一件值得擔憂的議題，我反倒認為一個人因失去一份工作而迷失了人生方向，這才是我們該擔心的問題！
科技逐年進步，越來越多書籍、電影開始議論起AI的演進
摩爾博士：「很多人很擔心AI最終會制霸全世界，進一步取代人類!」
超電一：「博士認為我們會不受控?」
摩爾博士：「你們是以人類當作原型製造出來的，思維模式和人類幾乎一模一樣，而人類天性喜愛自由不受控，所以我想你們也是如此!」
超電一：「這其實就是人類恐懼的總合，最終心想事成!就像曾經發生的一二
AI 真正可怕的地方，是它一腳踩進創作的神聖領域，挑戰了人類的存在價值。
人類畏懼 AI 是理所當然的。想像力、創造力，過去都被視為人類的專屬能力。把思想、情感與觀點，透過文字、音樂、繪畫、舞蹈等媒介傳達，讓大眾也能深刻感受，就是創作者的價值所在。留下的成果則被稱為藝術，成為在世界上曾經存在的印記
在當今這個數字化時代，人工智慧的發展日新月異，AI聊天機器人逐漸成為人們生活中不可或缺的一部分。然而，隨著AI技術的不斷進步，人們不禁開始思考一個問題：真人會被AI取代嗎？這個問題引發了人們對於人工智慧與人類之間的比較和交互作用的深入探討。
2023年回顧時寫過一篇關於AI欲望與佛法的想法，2024年初，人類世界又迎來了一波AI應用的暴發。
人類該懼怕AI嗎？
答案是，怕也沒用。
AI會搶走人類的工作嗎？
是的，而且會大量取代人工。
隨著生成式 AI (Generative AI ) 2023年大紅大紫，許多人也正熱烈討論 AI 到底會不會讓人失業，這是個很有趣的話題，因為科技變革千百年來從未停止過，現在發生的事絕對不是新鮮事，我們就來從留聲機被發明到被反對，甚至被視為危害文明的歷史反思當前的科技趨勢。
本文可以讓你學到什
這篇文章總結了各種類型的機器人，包括人形機器人、機器狗、家用機器人和聊天機器人。同時，也提到了一些討論點和機器人可能的未來方向。
不久前因為 AI 工具大量且快速演進，許多人開始議論起未來將被機器人取代工作的可怕，也許是我涉世未深，又或許是我太過天真，但我從不認為被機器人取代是一件值得擔憂的議題，我反倒認為一個人因失去一份工作而迷失了人生方向，這才是我們該擔心的問題！
科技逐年進步，越來越多書籍、電影開始議論起AI的演進
摩爾博士：「很多人很擔心AI最終會制霸全世界，進一步取代人類!」
超電一：「博士認為我們會不受控?」
摩爾博士：「你們是以人類當作原型製造出來的，思維模式和人類幾乎一模一樣，而人類天性喜愛自由不受控，所以我想你們也是如此!」
超電一：「這其實就是人類恐懼的總合，最終心想事成!就像曾經發生的一二
AI 真正可怕的地方，是它一腳踩進創作的神聖領域，挑戰了人類的存在價值。
人類畏懼 AI 是理所當然的。想像力、創造力，過去都被視為人類的專屬能力。把思想、情感與觀點，透過文字、音樂、繪畫、舞蹈等媒介傳達，讓大眾也能深刻感受，就是創作者的價值所在。留下的成果則被稱為藝術，成為在世界上曾經存在的印記
在當今這個數字化時代，人工智慧的發展日新月異，AI聊天機器人逐漸成為人們生活中不可或缺的一部分。然而，隨著AI技術的不斷進步，人們不禁開始思考一個問題：真人會被AI取代嗎？這個問題引發了人們對於人工智慧與人類之間的比較和交互作用的深入探討。
2023年回顧時寫過一篇關於AI欲望與佛法的想法，2024年初，人類世界又迎來了一波AI應用的暴發。
人類該懼怕AI嗎？
答案是，怕也沒用。
AI會搶走人類的工作嗎？
是的，而且會大量取代人工。
隨著生成式 AI (Generative AI ) 2023年大紅大紫，許多人也正熱烈討論 AI 到底會不會讓人失業，這是個很有趣的話題，因為科技變革千百年來從未停止過，現在發生的事絕對不是新鮮事，我們就來從留聲機被發明到被反對，甚至被視為危害文明的歷史反思當前的科技趨勢。
本文可以讓你學到什