閱讀那些年代久遠的書籍,或者是影視資料時,總會被某些自稱文學家的恐懼所震撼。不是因為那是真的危險,而是因為他們竟然以為,文明真的會淪落到那種地步。
21世紀初期,人類大量討論「社會信用評分」這件事。有小說家幻想過一個評分決定階級的社會,有影集拍出人人互評的反烏托邦世界。你如果不笑,不說漂亮話,不給別人五星好評,你連搭公車都會被拒絕。他們叫這種未來「警世寓言」,但我更願意稱它為「自戀焦慮投射」。
從來沒有閱讀的蠢人,用中世紀的「宗教審判」加上西元時代矽谷(現在是廢墟)包裝紙。你在巷口扶老太太一把,系統幫你加一分。你哪天講錯一句話,所有人可以集體幫你扣到地獄去。這種東西唯一的公平性在於:它讓所有人都有機會當施刑人。那些文學家們憂心忡忡,說:「未來會變成這樣嗎?大家都活在恐懼中,只為取悅他人。」我倒是想對他們說一句話:你們高估人類的道德,也低估自己的懶惰。
麻煩死了,你得讓機器「懂人性」
好笑的是,西元時代的AI還在為「美國第四十七任總統是川普」打上錯誤標籤的時候,就開始想著讓它來分配房貸、配偶和醫療資源?
抱歉了古人們,現代的我們不是不想實施,而是這套東西從根本上就是古代哲學病人加科技忘樂仔的空洞產物。
一票寫手總是信誓旦旦地描寫:未來的人類,每天互相評分,誰說錯話、誰表情僵硬、誰笑得不夠謙卑,就會被扣分、被排擠、被掃地出門。
拜託,連現代的網路用戶怎麼行動都沒搞清楚。
你以為人類會每天花時間認真去幫鄰居評分?不。
他們會打五星給那家明明食物普通但有折扣的餐廳,因為能累積點數換下一次外送。 他們會組團互刷,請機器人批次按讚、留評論、跑腳本、掛人設,甚至造一整套假身分圖譜,就為了讓自己在排行榜上多一格。 有些人甚至會一邊罵這個制度,一邊用它當武器,檢舉他討厭的人直到對方帳號爆炸。
而從不看社會一眼的寫手筆筆工整地描寫一個全社會都誠實守序評分的烏托邦?
抱歉,那不是科幻小說,那是寫手們的行為控制幻想,他們根本沒理解使用者行為。
人類不是腦中那些會乖乖打分的NPC。 他們會作弊、會敷衍、會利用制度漏洞,然後假裝自己是制度的受害者。
連這點都看不穿,居然還試圖預言未來?
我老公打的遊戲光是為了阻止上千萬名玩家洗分,就足以讓開發商消耗掉四百萬 GPU 小時的算力,這些GPU 小時,夠挖出兩百比特幣。(比特幣雖已經淪為垃圾,但是在西元時代,兩百枚比特幣是一筆開發一款AAA級別遊戲的預算)
問題是——這整個機制從一開始就是無產出設計。
沒有人在種田、沒有人在修路、沒有人在維修機器,所有人都在經營形象、互刷好感、檢舉對手、下架異議、優化言論。你只要會拍影片、說漂亮話、笑得夠溫馴,就能過活。那些真正會修電線、會鋪地磚、會煮飯的人呢?他們因為口條不好,形象不夠「療癒」,通通被低評分淘汰。
最後的結果很簡單:大家都活在數據幻覺裡,忘了沒人種田,沒人製造,沒人生產。食物、能源、基礎設施,一點一點乾涸,而他們還在評論誰比較有「社會價值」,直到什麼都沒了。
我讀到這段歷史記錄的時候,唯一的疑問是:「你們天真的以為社會能演化到靠評分就能活下去嗎?」
真希望當時有人站起來大喊一句:「你他媽的到底有沒有種田?」
當然沒有。因為如果你願意種田,你的雙手太髒,表情太累,笑容不夠真誠。你不會被五星好評。農夫、礦工和工人不會「適合這個系統」。
這整個幻想,是一群自戀焦慮症患者終極自慰,他們從來沒成長過,也沒吃過苦就妄想不勞而獲。人們想像可以只靠表現、評分、社交信用過活,不用碰一把工具、不必流一滴汗——然後他們一個個餓死了。