〈曼達洛人的AI寓言〉S3_Ep6
閱讀時間約 3 分鐘
如果你關心AI，同時也是《曼達洛人》粉絲的話，最新的《曼達洛人》第三季第六集—「僱傭槍手」，也許會讓你感到耳目一新（加上一點細思極恐），因為「僱傭槍手」竟然說了個AI寓言。
「僱傭槍手」的故事大綱是這樣的：
在某個邊陲星球，人們習慣了有機器人的便利生活，然而，原本只為服務而運作的機器，卻出現了失控行為，於是，曼達洛人受僱查明背後的真相。
故事的細節先不暴雷，但「僱傭槍手」確實帶出了幾個有趣的設定，讓身處2023年春天、這個AI大躍進時刻的我們，看起來特別微妙，或許，這是我們應該努力避免的未來之一？
對機器來說，我們其實不重要
「僱傭槍手」中，有個機器人是這樣說的：「我們不想被取代．．．我們能做的事很多，（相比之下）人類的生命太短，對我們要求的也很少．．．有機體創造了我們，（服務人們）是我們起碼能做的事．．．」
當機器有了意識之後，他們會「害怕」被取代，而這份「想生存的意識」可能會引發機器與人類的更多衝突，這是在以往的科幻作品中常見的情節。
但「僱傭槍手」卻提出了另外一種可能：以機器的角度而言，人類的生命實在太短、在機器想成就的未來道路上，充其量僅是一片風景，就算機器有感於人類創造了自己，「希望」提供服務作為回報，但最終，機器的未來，跟人類無關。
這樣的設定，跳脫出了人機衝突的框架，提出了一個更宏觀、卻也更不舒服的角度—人類總是在思考人類與機器之間的競爭或合作，然而，在機器的「意識」裡，人類根本不重要。
在Gpt4邁向Gpt5的日子裡、當我們在討論「通用人工智慧」的時候，會不會，當有一天AI開始出現「意識」，這場比賽，瞬間就會變成我們無法理解的模樣？
「人造惡魔」是可能出現的
在故事裡，隨著曼達洛人的追查，他們發現機器失控，來自「誤食」機器保養液，是這液體裡頭的「奈米機器人」影響了程式，而這一切，都是人爲的陰謀導致。
這是個充滿「即視感」的情境，我們知道，現實裡AI的訓練來自大量資料，如果資料有誤、AI的回應就可能出錯，就如同Chatgpt與Bing會一本正經的胡說，他們的資料來源，就是充滿錯誤的網路環境。
若只是亂聊天，或許出不了什麼大問題，但如果有心人士用「特定的資料」去訓練一個「惡意的AI」呢？例如，詐騙AI？又或是，自動化武器？一個刻意打造的惡意AI，影響的層面將難以估計。
拔插頭有一天會動搖國本
話說回來，總是可以「拔插頭」吧？當我們聊到AI的威脅時，總覺得人類會有「拔插頭」這個終極手段。
但在「僱傭槍手」中，眼見機器開始失控—你的家務機器人亂丟衣服、清潔機器人破壞垃圾桶，機器大廚朝你揮舞菜刀．．．儘管如此，人們依然透過「投票」，決定讓機器繼續與人們共存，因為人們就是割捨不下機器帶來的便利生活，回不去了！
故事中一名角色是這樣說的：「（有了機器）人們不再需要工作，他們可以悠閒度日、享受藝術、參與民主。要是關閉機器人，他們就不知道該怎麼活了，社會將崩潰的」
在我們的世界裡，即將方方面面都與AI整合、人機協作只會越來越深，當有一天「拔插頭」會動搖國本的時候，我們真的還能下手嗎？
10會員
16內容數
《AI趨勢白話文》用白話文討論人工智慧、AI與機器人趨勢，這裡有人工智慧的最新發展，以及獨家觀點。未來是AI、機器人與人類協作的世代，緊跟人工智慧的演化，我們就更有機會在下一個世代安身立命。我希望，《AI趨勢白話文》能幫助你用最少的時間，掌握AI與人工智慧的未來。
留言0
查看全部
你可能也想看
Google News 追蹤
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
美國總統大選只剩下三天， 我們觀察一整週民調與金融市場的變化（包含賭局）， 到本週五下午3:00前為止， 誰是美國總統幾乎大概可以猜到60-70%的機率， 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
Faker昨天真的太扯了，中國主播王多多點評的話更是精妙，分享給各位
王多多的點評
「Faker是我們的處境，他是LPL永遠繞不開的一個人和話題，所以我們特別渴望在決賽跟他相遇，去直面我們的處境。
我們曾經稱他為最高的山，最長的河，以為山海就是盡頭，可是Faker用他28歲的年齡...
《悉達多．流浪者之歌》，距今近一百年前的小說，讀起來仍然歷久彌新。原因於我們在主角悉達多身上，可以看見各個時期的自己，如同看向河水看見過往自我種種悔恨，最終體悟到了人生的哲學。所以，不妨來一起看看這本書的短評吧。
大概是聽到我說要對這些植物做「專題介紹」。所以今天「愛之蔓」就展現一片「全粉色」的葉子讓我看到，其實有二片，另一片還太小。
（一）認真思索生與死
托瑪斯‧曼（Thomas Mann，1865-1955）是20世紀德國的偉大作家，其一生當中，發表的論文、演講、小說、散文，數量可觀；所獲得的榮譽勳章、學位，不計其數。
拖泥帶水的日子在這個暑假快速的展開，幾乎每一日都是這樣過的，除了午後雷陣雨外，還有什麼讓生活的濕氣變得更重，變得更不想移動。偶爾，誰都會因為某些人說的什麼或許無比細節的話語而感到劇烈的動搖、而車禍般的恍惚，我也是，於是就在面對那些話語的過程，我竟看到了八月的時候下雪。
我是這麼聽說的：「你遇見了那個
所有落下的花都成為海灘上被浪沖刷上岸散漫的玻璃碎片反射了所有生活的念舊卻不同於底片的靜態是流體的感傷而拼湊不回過去日子重複性的陣痛綿延成句字不斷令誰都措手不及於是人們就這樣呆坐著看著篝火再因日起日落暮色而醒，慕青而鳴⋯⋯
2020/8/19
假如，能永遠停留在打算遠行的狀態，該有多好。
處於去與留之間，懸在愛與渴望的情緒中；
不用遠離，就能贏得親愛的人對自己的思念與永不止息的愛。
這種狀態多麼美、多麼令人嚮往！只因它轉瞬即逝。
─ John Steinbeck（約翰·史坦貝克）
《柯提茲的海 The Log from the Sea o
「各位客官好，我是俠鋪的店長林兩，今天要說的消息你們也知道了。萬界期待，普天同慶，咱們俠舖的第一本實體漫畫《大俠古庸的第一天上班》要在十月發售了！本篇下面會有12頁試閱，給大家初步看看這是怎麼樣的作品！」
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
美國總統大選只剩下三天， 我們觀察一整週民調與金融市場的變化（包含賭局）， 到本週五下午3:00前為止， 誰是美國總統幾乎大概可以猜到60-70%的機率， 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
Faker昨天真的太扯了，中國主播王多多點評的話更是精妙，分享給各位
王多多的點評
「Faker是我們的處境，他是LPL永遠繞不開的一個人和話題，所以我們特別渴望在決賽跟他相遇，去直面我們的處境。
我們曾經稱他為最高的山，最長的河，以為山海就是盡頭，可是Faker用他28歲的年齡...
《悉達多．流浪者之歌》，距今近一百年前的小說，讀起來仍然歷久彌新。原因於我們在主角悉達多身上，可以看見各個時期的自己，如同看向河水看見過往自我種種悔恨，最終體悟到了人生的哲學。所以，不妨來一起看看這本書的短評吧。
大概是聽到我說要對這些植物做「專題介紹」。所以今天「愛之蔓」就展現一片「全粉色」的葉子讓我看到，其實有二片，另一片還太小。
（一）認真思索生與死
托瑪斯‧曼（Thomas Mann，1865-1955）是20世紀德國的偉大作家，其一生當中，發表的論文、演講、小說、散文，數量可觀；所獲得的榮譽勳章、學位，不計其數。
拖泥帶水的日子在這個暑假快速的展開，幾乎每一日都是這樣過的，除了午後雷陣雨外，還有什麼讓生活的濕氣變得更重，變得更不想移動。偶爾，誰都會因為某些人說的什麼或許無比細節的話語而感到劇烈的動搖、而車禍般的恍惚，我也是，於是就在面對那些話語的過程，我竟看到了八月的時候下雪。
我是這麼聽說的：「你遇見了那個
所有落下的花都成為海灘上被浪沖刷上岸散漫的玻璃碎片反射了所有生活的念舊卻不同於底片的靜態是流體的感傷而拼湊不回過去日子重複性的陣痛綿延成句字不斷令誰都措手不及於是人們就這樣呆坐著看著篝火再因日起日落暮色而醒，慕青而鳴⋯⋯
2020/8/19
假如，能永遠停留在打算遠行的狀態，該有多好。
處於去與留之間，懸在愛與渴望的情緒中；
不用遠離，就能贏得親愛的人對自己的思念與永不止息的愛。
這種狀態多麼美、多麼令人嚮往！只因它轉瞬即逝。
─ John Steinbeck（約翰·史坦貝克）
《柯提茲的海 The Log from the Sea o
「各位客官好，我是俠鋪的店長林兩，今天要說的消息你們也知道了。萬界期待，普天同慶，咱們俠舖的第一本實體漫畫《大俠古庸的第一天上班》要在十月發售了！本篇下面會有12頁試閱，給大家初步看看這是怎麼樣的作品！」