2020-10-03|閱讀時間 ‧ 約 13 分鐘

《智能社會：進退兩難》我們悄然深陷的科技困局

最近看了Netflix新出的紀錄片《The Social Dilemma》，主要形式是穿插多位受訪者的訪談，並以情境劇作輔助，幫助觀眾更容易與自身的經驗做連結。片中所邀請的受訪者都曾在各大科技公司工作，包括了我們熟悉的Facebook、Google、Youtube、Instagram、Twitter等等，但如今他們會願意冒著冒犯前東家的風險在鏡頭前接受訪談，表示他們對自己所創造出的產品，抱持著一定的憂慮。

這些平台確實帶來了許多好處，我們卻對他的黑暗面過於樂觀。

對於社群媒體的操作方式，我想我們都自認是了解的，包含哪些地方會有廣告啊、哪些內容是推薦的（我甚至有意識到Instagram偷聽我說話來下廣告），也都認為自己夠清醒，不會盲目被洗腦、跟風，但事實上，只要當那些軟體還在手機裡、當我們每天都會忍不住滑一兩下，那我們就已經是深陷在影片標題所述的困局中了。

之所以會想寫下這篇文，其一是因為一股腦看完整部片，想有系統地把各個論點統整起來；其二是想讓沒看過這部片的人能大概了解問題癥結，順便幫看過的人整理重點，所以還沒看的可以先預習，看過的人可以多複習（有興趣的話記得去Netflix看片呀）；其三則是因為過去就有觀察過這類的問題，並創作一系列有關人與社群科技的攝影作品，剛好能做結合（這篇文選擇部分作品作為附圖，完整請見文末連結）。雖然凡事都要抱懷疑態度（包含這支片以及這篇文），但希望透過分享，能讓大家對「滑手機」這件事更有想法。

那就開始囉！（以下內容多出自影片，請自行斟酌服用）

影片的一開始，要先從源頭：商業模式說起。一間公司要賺錢，要嘛是販賣實體商品，不然就是向使用者收費，但當我們在使用上述的FB、IG、Google等等時，並沒支付任何費用，而他們依舊是世界數一數二的大公司。

If you are not paying for the product, then you are the product.

當你沒有花錢買產品時，你就是產品。Google不單單只是個搜尋框，而臉書也不只是要讓你更新好友近況，當你使用他們的服務時，每個動作都在為他們建起龐大的資料庫，小至一張圖片你看了多久、大至你的性格興趣，運用這些資料，他們可以建立起準確的模型，用這些模型推薦更多你會有興趣的內容，讓你花更多時間、注意力在他們的平台中，這樣他就能更準確地讓廣告主在平台上投放廣告，並幫助廣告主達成銷售目的，過去矽谷是在賣實體的產品，但近年來他們卻開始賣使用者。這個看似合理的商業模式，卻被證實隱含著不小的風險。

ㄧ、科技上癮

你有沒有過這樣的經驗：

每當看到桌上的手機，就會想伸手拿來滑一下，看一下有沒有新訊息或通知。
當你看到有人在貼文中標註你時，就會想馬上點開來看。

每個不經意的動作，都是經過心理計算所形成的，人的心理比想像中的脆弱，而說服科技正是抓準這點，透過科技來改變人們的行為，他們會不斷進行測試，觀察人們的反應，利用人心的弱點，最後就能讓人們的行為慢慢朝他們想要的方向改變。我們已經不在工具型的科技環境（總不會用Photoshop用上癮吧），而是進入成癮、操控型的科技環境，當他們不再只是工具，就會有其目標與想法。

早上上廁所前會看手機嗎？或邊上邊看？因為只有這兩種選擇。

身為群居動物，社交是人類的基本的生理需求，社交活動會直接引響釋放多巴胺（腦內分泌物，傳遞興奮與開心的感覺）的獎賞路徑，這個機制讓人們能順利群居、合作、繁衍後代，而社群媒體能提供好的社交環境，無疑會讓人上癮，因此社群媒體就像毒品，上癮後會造成多巴安缺乏狀態，使用時間只會越來越長，一旦減短、多巴胺缺乏，就會感到渾身不對勁。（多巴胺連結內有成癮的相關說明）

二、影響價值觀

人類在演化中變得會在意身邊的人的的看法，但我們並沒有演化成每五分鐘就需要得到社會的認可。

我們在公民課本都學過顧里「鏡中自我」的概念，人們把他人的眼光當作一面鏡子，「自我意識」是建立在他人的反應之上的，也因此，大家總會希望將最好好的一面展露在社群中，每個「讚」、每則留言都是建構出自我的磚瓦，形塑出一個個脆弱的心靈，不斷推敲著腿要多長、眼睛要多大才能獲得更多讚美。在2010、2011年後（社群媒體出現的時間點），美國青少女因自殘、自殺送進急診室的比例大幅上升，社群媒體已深入腦內，控制人們的自我價值和自我認同感，整個世代都變得更加焦慮、脆弱、憂鬱。

三、未知的人工智慧

再試著回想一下，每當你感到寂寞、不確定、擔心、不舒服時，除了鑽進被窩，下意識還會想做什麼，我想應該就是滑手機。我們被訓練成只要產生負面情緒，就拿數位奶嘴麻痺我們自己，這會削弱我們處理負面感覺的能力。

人們的確是在科技不斷成長的環境中前進的，歷經過報紙、電視的出現，我們還不是過得好好的？問題就在於，電腦處理能力從1960年代到今天成長了超過一兆倍，人類過去沒任何發明的改良速度能夠相提並論，但我們的腦子構造完全沒有進化。

螢幕前的你是百萬年前就有的腦袋，螢幕後是超級電腦跟數千位頂級工程師，在這場比賽中，誰會贏？

許多人對人工智慧的想像來自於電影，卻沒想過我們現在說以經被人工智慧統治著了。透過機器學習，系統不斷學習如何讓我們花更多時間在軟體上，工程師們寫出程式，並設定目標，剩下的就由電腦不斷學習去達成目標，只有鮮少人知道整個系統如何運作，但甚至連他們都無法了解特定內容在未來會變成什麼樣子。人類幾乎無法控制這些系統，這些系統卻控制著我們看到的東西，系統對人的掌控力，超出人類對系統的掌控力。

四、社會兩極化

曾著有《Ten Arguments for Deleting Your Social Media Accounts Right Now》（十個讓你立馬刪社群帳號的理由）的Jaron Lanier提到，維基百科的內容並不會因為不同人搜尋而有不同的結果，試想如果有天維基百科為了達到商業利益，對不同的人使用不一樣的字詞、不一樣的內容、不一樣的真相，只會了讓你的行為朝著他期望的方向走、為了能更符合商業價值，你能想像嗎？這正是Facebook、Youtube正在做的事啊。

曾負責Youtube的推薦功能Guillaume Chaslot不安地說：「以觀看數來說，社會兩極化是讓用戶上線非常有效率的方法。」推薦機制不是推薦給用戶他需要的內容，而是經計算後提供一個「兔子洞」（符合其興趣與觀點的內容環境），不斷推薦，讓用戶深陷其中，深信他所看到的內容。

片中舉了個例子，當你在google上搜尋「氣候變遷」時，系統會根據你的位置、你的特性提供不同的推薦字，像是有的人得到的推薦字是「氣候變遷是個騙局」、有的人是「氣候變遷造成環境毀滅」，這個搜尋功能跟真相無關，只跟你的興趣有關。兩個再好的朋友，當他們看社群網站上的貼文時，所看到的也會是系統量身打造的、完全不同的兩個世界，每個人有自己的事實與真相。

We accept the reality of the world with which we’re presented.（我們會把自己眼前所見當作世界的真實樣貌。）

久了以後，你會認為大家都同意你的看法，因為你的動態上的所有人都跟你有同感，一旦人們處在這樣的狀態，就很容易被操控。我們都在處理不同面向的事實，早已不是客觀的人，這時候你會看到另一邊陣營的人，開始覺得「他們怎麼這麼傻？」厚重的同溫層讓社會兩邊的人們越離越遠，遠到再也聽不見彼此的聲音。先不說國外，台灣每逢公投、選舉（尤其是近年的挺韓、罷韓兩陣營），就能感受到社群媒體撕裂社會的威力。

五、假新聞猖獗

片中提到了一個可怕的事實：推特上的假新聞傳播速度，比真的新聞快六倍。臉書上的動態每天都在新增，但他們已無法分辨這上兆則貼文的真假。（像今年的武漢肺炎在各地都有假新聞誤導民眾）

以說服工具來說，臉書是最成功的發明，如果要操控全民，臉書是最有效的方式，不良份子或政府若把社群媒體當武器，能對真實世界造成一定的傷害。

影片以緬甸事件作為例子。2010年，一條來路不明的消息稱，四名羅興亞人輪姦了一名佛教徒女性，還將其頭腦割下羞辱。緬甸民族主義者通過燃燒羅興亞人居住的房屋作為回應，此次事件造成 280多人死亡，數千人受傷。然而，那件埋下雙方仇恨種子的新聞事件卻至今從未得到證實過。（參考文章讓緬甸人告訴你，緬甸人為什麼憎恨羅興亞人）。

之後緬甸軍政府被揭露曾在臉書創立大量假帳號，並以明星、新聞的名義建立粉絲專頁與社團，在裡頭張貼大量煽動性貼文，像是屍體照，並稱屍體為羅興亞人所殺害的，企圖合理化羅興亞人遭到屠殺、性侵與迫遷的事實，加深緬甸人對羅興亞人的仇恨，使本來就是少數族群的羅興亞人更加弱勢。

六、危及民主

社群媒體的出現，讓散播煽動性言論變得比以往容易，成本大減，政治人物便能以此操控選情，若俄國真要干預美國大選，他不必駭入任何網站，只需要在社群媒體上建立帳號、買廣告，以合法開發方式散播資訊，就像遙控戰爭一樣，一個國家能操控另一個國家，卻不必真的侵犯國界。有時問題並不是真的該將選票投給誰，而是要造成混亂、分裂社會，讓兩派人馬再也無法聽到對方的聲音，再也不信任對方。民主的真諦貴在互相傾聽、彼此尊重包容與適當妥協，對於很多事，我們必須有所共識，不然國家將搖搖欲墜。（推薦閱讀沃草專題《資訊戰，然後呢》）

我們真的要把社會賣給出價最高的人嗎？

那⋯⋯怎麼辦？

面對現在的情況，若我們和企業都不改善，可能會演變成什麼情況？片中受訪者的答案都不樂觀：可能導致內戰；我們會因刻意忽視，毀掉自己的文明；可能會無法面對氣候變遷的挑戰；可能會破壞民主體制，讓政府變成獨裁的失能組織；可能會摧毀全球經濟；可能會無法存活。

必須澄清的是，科技所帶來的一切便利是無庸置疑的，臉書「按讚功能」的初衷是希望能分享正能量與愛，Google的各種功能也讓生活變得非常便利。託社群媒體的福，我能夠輕易的在上面分享自己的作品；我媽媽能在四十幾歲連開好幾場小學同學會；自媒體讓人們有更多發聲管道、也有更多元的資訊來源⋯⋯許多過去難以達成的事，現在靠一隻手機、一台電腦就能搞定，它無疑帶來許多正面的影響、促成許多新興行業的發展。

科技並不是人類的生存威脅，是科技有能力將社會的黑暗面激發出來。

而我們能做的，就是盡可能阻止黑暗力量的成長與擴散。（怎麼變得有點中二）

對企業，應該要在這個產業建立更多規範，例如對企業擁有的資料徵稅，這能讓它不會毫無節制的收集人們的資料；改變商業模式，不要再使用注意力擷取模型等。

對於我們這些使用者，受訪者們提出了以下幾點建議：

刪掉多餘的程式、關掉通知功能，讓它不會在褲襠裡一直響，就像你不會在褲子裡放餅乾。（覺得餅乾形容的很貼切）
不要選Youtube推薦的影片，自己選自己要看的內容（重拾選擇權）。
Chrome有很多擴充功能，可以移除推薦功能。（Youtube推薦功能發明者說的，直接叫大家遠離自己孩子的概念哈哈）
轉貼新聞前做事實查核，評估來源、多搜尋，要小心刻意挑動情緒的內容。
追蹤不同觀點的人，即使是你不喜歡的、佔對立立場的，這能讓你不會被困在同溫層中。
很多知道背後運作模式的科技人士甚至不讓自己的小孩使用手機，或是建議到16歲後再開始使用，並且規範使用時間量。（我覺得這對我們來說可能非常困難，畢竟很多小小孩都人手一機了，而且我自己就常常不小心滑太久，真的很可怕，要有意識地使用它看似簡單，實則非常困難啊）

沒事滑個手機、按個讚，這些看似不經意的小動作，其實背後都將對社會帶來很大的改變，尤其當滑手機已成全民運動，在使用數量與使用時間的加成下，再小的的動作都有可能導致星火燎原。還是那句老話，水能載舟亦能覆舟，抓好我們的槳、好好看著前方，才能讓科技帶著我們航向更好的未來，若一直低著頭，當我們發現船要撞上冰山的前一刻，可能就為時已晚了。

相關攝影作品：《I, nstagram》（網頁作品為動態的，需要點緩衝時間讓它動起來喔）

分享至

成為作者繼續創作的動力吧！

Tammy Chen

追蹤

從 Google News 追蹤更多 vocus 的最新精選內容

你可能也想看

發表回應

成為會員後即可發表留言