〈曼達洛人的AI寓言〉S3_Ep6
2023/04/07閱讀時間約 3 分鐘
如果你關心AI，同時也是《曼達洛人》粉絲的話，最新的《曼達洛人》第三季第六集—「僱傭槍手」，也許會讓你感到耳目一新（加上一點細思極恐），因為「僱傭槍手」竟然說了個AI寓言。
「僱傭槍手」的故事大綱是這樣的：
在某個邊陲星球，人們習慣了有機器人的便利生活，然而，原本只為服務而運作的機器，卻出現了失控行為，於是，曼達洛人受僱查明背後的真相。
故事的細節先不暴雷，但「僱傭槍手」確實帶出了幾個有趣的設定，讓身處2023年春天、這個AI大躍進時刻的我們，看起來特別微妙，或許，這是我們應該努力避免的未來之一？
對機器來說，我們其實不重要
「僱傭槍手」中，有個機器人是這樣說的：「我們不想被取代．．．我們能做的事很多，（相比之下）人類的生命太短，對我們要求的也很少．．．有機體創造了我們，（服務人們）是我們起碼能做的事．．．」
當機器有了意識之後，他們會「害怕」被取代，而這份「想生存的意識」可能會引發機器與人類的更多衝突，這是在以往的科幻作品中常見的情節。
但「僱傭槍手」卻提出了另外一種可能：以機器的角度而言，人類的生命實在太短、在機器想成就的未來道路上，充其量僅是一片風景，就算機器有感於人類創造了自己，「希望」提供服務作為回報，但最終，機器的未來，跟人類無關。
這樣的設定，跳脫出了人機衝突的框架，提出了一個更宏觀、卻也更不舒服的角度—人類總是在思考人類與機器之間的競爭或合作，然而，在機器的「意識」裡，人類根本不重要。
在Gpt4邁向Gpt5的日子裡、當我們在討論「通用人工智慧」的時候，會不會，當有一天AI開始出現「意識」，這場比賽，瞬間就會變成我們無法理解的模樣？
「人造惡魔」是可能出現的
在故事裡，隨著曼達洛人的追查，他們發現機器失控，來自「誤食」機器保養液，是這液體裡頭的「奈米機器人」影響了程式，而這一切，都是人爲的陰謀導致。
這是個充滿「即視感」的情境，我們知道，現實裡AI的訓練來自大量資料，如果資料有誤、AI的回應就可能出錯，就如同Chatgpt與Bing會一本正經的胡說，他們的資料來源，就是充滿錯誤的網路環境。
若只是亂聊天，或許出不了什麼大問題，但如果有心人士用「特定的資料」去訓練一個「惡意的AI」呢？例如，詐騙AI？又或是，自動化武器？一個刻意打造的惡意AI，影響的層面將難以估計。
拔插頭有一天會動搖國本
話說回來，總是可以「拔插頭」吧？當我們聊到AI的威脅時，總覺得人類會有「拔插頭」這個終極手段。
但在「僱傭槍手」中，眼見機器開始失控—你的家務機器人亂丟衣服、清潔機器人破壞垃圾桶，機器大廚朝你揮舞菜刀．．．儘管如此，人們依然透過「投票」，決定讓機器繼續與人們共存，因為人們就是割捨不下機器帶來的便利生活，回不去了！
故事中一名角色是這樣說的：「（有了機器）人們不再需要工作，他們可以悠閒度日、享受藝術、參與民主。要是關閉機器人，他們就不知道該怎麼活了，社會將崩潰的」
在我們的世界裡，即將方方面面都與AI整合、人機協作只會越來越深，當有一天「拔插頭」會動搖國本的時候，我們真的還能下手嗎？
留言0
查看全部