《智能社會：進退兩難》我們悄然深陷的科技困局
閱讀時間約 12 分鐘
最近看了Netflix新出的紀錄片《The Social Dilemma》，主要形式是穿插多位受訪者的訪談，並以情境劇作輔助，幫助觀眾更容易與自身的經驗做連結。片中所邀請的受訪者都曾在各大科技公司工作，包括了我們熟悉的Facebook、Google、Youtube、Instagram、Twitter等等，但如今他們會願意冒著冒犯前東家的風險在鏡頭前接受訪談，表示他們對自己所創造出的產品，抱持著一定的憂慮。
這些平台確實帶來了許多好處，我們卻對他的黑暗面過於樂觀。
對於社群媒體的操作方式，我想我們都自認是了解的，包含哪些地方會有廣告啊、哪些內容是推薦的（我甚至有意識到Instagram偷聽我說話來下廣告），也都認為自己夠清醒，不會盲目被洗腦、跟風，但事實上，只要當那些軟體還在手機裡、當我們每天都會忍不住滑一兩下，那我們就已經是深陷在影片標題所述的困局中了。
之所以會想寫下這篇文，其一是因為一股腦看完整部片，想有系統地把各個論點統整起來；其二是想讓沒看過這部片的人能大概了解問題癥結，順便幫看過的人整理重點，所以還沒看的可以先預習，看過的人可以多複習（有興趣的話記得去Netflix看片呀）；其三則是因為過去就有觀察過這類的問題，並創作一系列有關人與社群科技的攝影作品，剛好能做結合（這篇文選擇部分作品作為附圖，完整請見文末連結）。雖然凡事都要抱懷疑態度（包含這支片以及這篇文），但希望透過分享，能讓大家對「滑手機」這件事更有想法。
那就開始囉！（以下內容多出自影片，請自行斟酌服用）
影片的一開始，要先從源頭：商業模式說起。一間公司要賺錢，要嘛是販賣實體商品，不然就是向使用者收費，但當我們在使用上述的FB、IG、Google等等時，並沒支付任何費用，而他們依舊是世界數一數二的大公司。
If you are not paying for the product, then you are the product.
當你沒有花錢買產品時，你就是產品。Google不單單只是個搜尋框，而臉書也不只是要讓你更新好友近況，當你使用他們的服務時，每個動作都在為他們建起龐大的資料庫，小至一張圖片你看了多久、大至你的性格興趣，運用這些資料，他們可以建立起準確的模型，用這些模型推薦更多你會有興趣的內容，讓你花更多時間、注意力在他們的平台中，這樣他就能更準確地讓廣告主在平台上投放廣告，並幫助廣告主達成銷售目的，過去矽谷是在賣實體的產品，但近年來他們卻開始賣使用者。這個看似合理的商業模式，卻被證實隱含著不小的風險。
ㄧ、科技上癮
你有沒有過這樣的經驗：
- 每當看到桌上的手機，就會想伸手拿來滑一下，看一下有沒有新訊息或通知。
- 當你看到有人在貼文中標註你時，就會想馬上點開來看。
每個不經意的動作，都是經過心理計算所形成的，人的心理比想像中的脆弱，而說服科技正是抓準這點，透過科技來改變人們的行為，他們會不斷進行測試，觀察人們的反應，利用人心的弱點，最後就能讓人們的行為慢慢朝他們想要的方向改變。我們已經不在工具型的科技環境（總不會用Photoshop用上癮吧），而是進入成癮、操控型的科技環境，當他們不再只是工具，就會有其目標與想法。
早上上廁所前會看手機嗎？或邊上邊看？因為只有這兩種選擇。
身為群居動物，社交是人類的基本的生理需求，社交活動會直接引響釋放多巴胺（腦內分泌物，傳遞興奮與開心的感覺）的獎賞路徑，這個機制讓人們能順利群居、合作、繁衍後代，而社群媒體能提供好的社交環境，無疑會讓人上癮，因此社群媒體就像毒品，上癮後會造成多巴安缺乏狀態，使用時間只會越來越長，一旦減短、多巴胺缺乏，就會感到渾身不對勁。（多巴胺連結內有成癮的相關說明）
二、影響價值觀
人類在演化中變得會在意身邊的人的的看法，但我們並沒有演化成每五分鐘就需要得到社會的認可。
我們在公民課本都學過顧里「鏡中自我」的概念，人們把他人的眼光當作一面鏡子，「自我意識」是建立在他人的反應之上的，也因此，大家總會希望將最好好的一面展露在社群中，每個「讚」、每則留言都是建構出自我的磚瓦，形塑出一個個脆弱的心靈，不斷推敲著腿要多長、眼睛要多大才能獲得更多讚美。在2010、2011年後（社群媒體出現的時間點），美國青少女因自殘、自殺送進急診室的比例大幅上升，社群媒體已深入腦內，控制人們的自我價值和自我認同感，整個世代都變得更加焦慮、脆弱、憂鬱。
三、未知的人工智慧
再試著回想一下，每當你感到寂寞、不確定、擔心、不舒服時，除了鑽進被窩，下意識還會想做什麼，我想應該就是滑手機。我們被訓練成只要產生負面情緒，就拿數位奶嘴麻痺我們自己，這會削弱我們處理負面感覺的能力。
人們的確是在科技不斷成長的環境中前進的，歷經過報紙、電視的出現，我們還不是過得好好的？問題就在於，電腦處理能力從1960年代到今天成長了超過一兆倍，人類過去沒任何發明的改良速度能夠相提並論，但我們的腦子構造完全沒有進化。
螢幕前的你是百萬年前就有的腦袋，螢幕後是超級電腦跟數千位頂級工程師，在這場比賽中，誰會贏？
許多人對人工智慧的想像來自於電影，卻沒想過我們現在說以經被人工智慧統治著了。透過機器學習，系統不斷學習如何讓我們花更多時間在軟體上，工程師們寫出程式，並設定目標，剩下的就由電腦不斷學習去達成目標，只有鮮少人知道整個系統如何運作，但甚至連他們都無法了解特定內容在未來會變成什麼樣子。人類幾乎無法控制這些系統，這些系統卻控制著我們看到的東西，系統對人的掌控力，超出人類對系統的掌控力。
四、社會兩極化
曾著有《Ten Arguments for Deleting Your Social Media Accounts Right Now》（十個讓你立馬刪社群帳號的理由）的Jaron Lanier提到，維基百科的內容並不會因為不同人搜尋而有不同的結果，試想如果有天維基百科為了達到商業利益，對不同的人使用不一樣的字詞、不一樣的內容、不一樣的真相，只會了讓你的行為朝著他期望的方向走、為了能更符合商業價值，你能想像嗎？這正是Facebook、Youtube正在做的事啊。
曾負責Youtube的推薦功能Guillaume Chaslot不安地說：「以觀看數來說，社會兩極化是讓用戶上線非常有效率的方法。」推薦機制不是推薦給用戶他需要的內容，而是經計算後提供一個「兔子洞」（符合其興趣與觀點的內容環境），不斷推薦，讓用戶深陷其中，深信他所看到的內容。
片中舉了個例子，當你在google上搜尋「氣候變遷」時，系統會根據你的位置、你的特性提供不同的推薦字，像是有的人得到的推薦字是「氣候變遷是個騙局」、有的人是「氣候變遷造成環境毀滅」，這個搜尋功能跟真相無關，只跟你的興趣有關。兩個再好的朋友，當他們看社群網站上的貼文時，所看到的也會是系統量身打造的、完全不同的兩個世界，每個人有自己的事實與真相。
We accept the reality of the world with which we’re presented.（我們會把自己眼前所見當作世界的真實樣貌。）
久了以後，你會認為大家都同意你的看法，因為你的動態上的所有人都跟你有同感，一旦人們處在這樣的狀態，就很容易被操控。我們都在處理不同面向的事實，早已不是客觀的人，這時候你會看到另一邊陣營的人，開始覺得「他們怎麼這麼傻？」厚重的同溫層讓社會兩邊的人們越離越遠，遠到再也聽不見彼此的聲音。先不說國外，台灣每逢公投、選舉（尤其是近年的挺韓、罷韓兩陣營），就能感受到社群媒體撕裂社會的威力。
五、假新聞猖獗
片中提到了一個可怕的事實：推特上的假新聞傳播速度，比真的新聞快六倍。臉書上的動態每天都在新增，但他們已無法分辨這上兆則貼文的真假。（像今年的武漢肺炎在各地都有假新聞誤導民眾）
以說服工具來說，臉書是最成功的發明，如果要操控全民，臉書是最有效的方式，不良份子或政府若把社群媒體當武器，能對真實世界造成一定的傷害。
影片以緬甸事件作為例子。2010年，一條來路不明的消息稱，四名羅興亞人輪姦了一名佛教徒女性，還將其頭腦割下羞辱。緬甸民族主義者通過燃燒羅興亞人居住的房屋作為回應，此次事件造成 280多人死亡，數千人受傷。然而，那件埋下雙方仇恨種子的新聞事件卻至今從未得到證實過。（參考文章讓緬甸人告訴你，緬甸人為什麼憎恨羅興亞人）。
之後緬甸軍政府被揭露曾在臉書創立大量假帳號，並以明星、新聞的名義建立粉絲專頁與社團，在裡頭張貼大量煽動性貼文，像是屍體照，並稱屍體為羅興亞人所殺害的，企圖合理化羅興亞人遭到屠殺、性侵與迫遷的事實，加深緬甸人對羅興亞人的仇恨，使本來就是少數族群的羅興亞人更加弱勢。
六、危及民主
社群媒體的出現，讓散播煽動性言論變得比以往容易，成本大減，政治人物便能以此操控選情，若俄國真要干預美國大選，他不必駭入任何網站，只需要在社群媒體上建立帳號、買廣告，以合法開發方式散播資訊，就像遙控戰爭一樣，一個國家能操控另一個國家，卻不必真的侵犯國界。有時問題並不是真的該將選票投給誰，而是要造成混亂、分裂社會，讓兩派人馬再也無法聽到對方的聲音，再也不信任對方。民主的真諦貴在互相傾聽、彼此尊重包容與適當妥協，對於很多事，我們必須有所共識，不然國家將搖搖欲墜。（推薦閱讀沃草專題《資訊戰，然後呢》）
我們真的要把社會賣給出價最高的人嗎？
那⋯⋯怎麼辦？
面對現在的情況，若我們和企業都不改善，可能會演變成什麼情況？片中受訪者的答案都不樂觀：可能導致內戰；我們會因刻意忽視，毀掉自己的文明；可能會無法面對氣候變遷的挑戰；可能會破壞民主體制，讓政府變成獨裁的失能組織；可能會摧毀全球經濟；可能會無法存活。
必須澄清的是，科技所帶來的一切便利是無庸置疑的，臉書「按讚功能」的初衷是希望能分享正能量與愛，Google的各種功能也讓生活變得非常便利。託社群媒體的福，我能夠輕易的在上面分享自己的作品；我媽媽能在四十幾歲連開好幾場小學同學會；自媒體讓人們有更多發聲管道、也有更多元的資訊來源⋯⋯許多過去難以達成的事，現在靠一隻手機、一台電腦就能搞定，它無疑帶來許多正面的影響、促成許多新興行業的發展。
科技並不是人類的生存威脅，是科技有能力將社會的黑暗面激發出來。
而我們能做的，就是盡可能阻止黑暗力量的成長與擴散。（怎麼變得有點中二）
對企業，應該要在這個產業建立更多規範，例如對企業擁有的資料徵稅，這能讓它不會毫無節制的收集人們的資料；改變商業模式，不要再使用注意力擷取模型等。
對於我們這些使用者，受訪者們提出了以下幾點建議：
- 刪掉多餘的程式、關掉通知功能，讓它不會在褲襠裡一直響，就像你不會在褲子裡放餅乾。（覺得餅乾形容的很貼切）
- 不要選Youtube推薦的影片，自己選自己要看的內容（重拾選擇權）。
- Chrome有很多擴充功能，可以移除推薦功能。（Youtube推薦功能發明者說的，直接叫大家遠離自己孩子的概念哈哈）
- 轉貼新聞前做事實查核，評估來源、多搜尋，要小心刻意挑動情緒的內容。
- 追蹤不同觀點的人，即使是你不喜歡的、佔對立立場的，這能讓你不會被困在同溫層中。
- 很多知道背後運作模式的科技人士甚至不讓自己的小孩使用手機，或是建議到16歲後再開始使用，並且規範使用時間量。（我覺得這對我們來說可能非常困難，畢竟很多小小孩都人手一機了，而且我自己就常常不小心滑太久，真的很可怕，要有意識地使用它看似簡單，實則非常困難啊）
沒事滑個手機、按個讚，這些看似不經意的小動作，其實背後都將對社會帶來很大的改變，尤其當滑手機已成全民運動，在使用數量與使用時間的加成下，再小的的動作都有可能導致星火燎原。還是那句老話，水能載舟亦能覆舟，抓好我們的槳、好好看著前方，才能讓科技帶著我們航向更好的未來，若一直低著頭，當我們發現船要撞上冰山的前一刻，可能就為時已晚了。
相關攝影作品：《I, nstagram》（網頁作品為動態的，需要點緩衝時間讓它動起來喔）
3會員
2內容數
留言0
查看全部
你可能也想看
Google News 追蹤
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Hi 大家好，我是Ethan😊
相近大家都知道保濕是皮膚保養中最基本，也是最重要的一步。無論是在畫室裡長時間對著畫布，還是在旅途中面對各種氣候變化，保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水，還能提升後續保養品的吸收效率。
曾經，我的保養程序簡單到只包括清潔和隨意上乳液
由傑夫奧洛夫斯基執導的2020年美國紀錄片，由奧洛夫斯基，戴維斯庫姆貝和維基柯蒂斯撰寫。它探討了社交媒體的興起及其對社會造成的破壞，重點是通過監視資本主義和數據挖掘對社交媒體的利用和操縱其用戶以獲取經濟利益。
最可怕的是，當你看完這部電影，你知道了科技產業背後的一些內幕、瞭解社群媒體的可怕，但你還是無法克制自己不去使用群媒體，你依然不會刪除社群媒體的App。
個人資料被拿來當作商品，賣給廣告商，這也許早就不是什麼新鮮事了，但這個紀錄片《智能社會：進退兩難》告訴你，事情可沒有那麼簡單，這背後的影響和嚴重性，可能正在侵蝕、破壞世界和社會的平衡。
只有毒品及社交媒體會稱他們的顧客為「使用者」
There are only two industries that call their customers "users" : illegal drugs and software.
《智能社會：進退兩難》根據谷歌、臉書、 推特、 Instagram等公司前主管跟員工的訪問，探討智能科技便利背後的隱憂，以及社群、網路媒體怎麼操控言論跟我們的思想。紀錄片進一步說明網路如何導致政治兩極化、社會信任度下降、青少女自殺率上升等社會問題。
只有理解到社群媒體正在爭奪我們的注意力，才能開始思考自己要怎麼應對，進而真正參與到這場注意力的戰爭，而這必然能夠對我們周遭的人們以及整個社會有正面的影響。
《智能社會：進退兩難》是關於網路社群、科技的紀錄片，裡面提到現代這些社群軟體：Google、Facebook、Twitter、Instagram等等，看似單純的交友與影片平台，實際上都是背後龐大的公司數據資料庫的紀錄模擬你的喜好與成長，收集你所有的隱私資料來達到龐大商機，而因為這樣的商業行為已模式，
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Hi 大家好，我是Ethan😊
相近大家都知道保濕是皮膚保養中最基本，也是最重要的一步。無論是在畫室裡長時間對著畫布，還是在旅途中面對各種氣候變化，保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水，還能提升後續保養品的吸收效率。
曾經，我的保養程序簡單到只包括清潔和隨意上乳液
由傑夫奧洛夫斯基執導的2020年美國紀錄片，由奧洛夫斯基，戴維斯庫姆貝和維基柯蒂斯撰寫。它探討了社交媒體的興起及其對社會造成的破壞，重點是通過監視資本主義和數據挖掘對社交媒體的利用和操縱其用戶以獲取經濟利益。
最可怕的是，當你看完這部電影，你知道了科技產業背後的一些內幕、瞭解社群媒體的可怕，但你還是無法克制自己不去使用群媒體，你依然不會刪除社群媒體的App。
個人資料被拿來當作商品，賣給廣告商，這也許早就不是什麼新鮮事了，但這個紀錄片《智能社會：進退兩難》告訴你，事情可沒有那麼簡單，這背後的影響和嚴重性，可能正在侵蝕、破壞世界和社會的平衡。
只有毒品及社交媒體會稱他們的顧客為「使用者」
There are only two industries that call their customers "users" : illegal drugs and software.
《智能社會：進退兩難》根據谷歌、臉書、 推特、 Instagram等公司前主管跟員工的訪問，探討智能科技便利背後的隱憂，以及社群、網路媒體怎麼操控言論跟我們的思想。紀錄片進一步說明網路如何導致政治兩極化、社會信任度下降、青少女自殺率上升等社會問題。
只有理解到社群媒體正在爭奪我們的注意力，才能開始思考自己要怎麼應對，進而真正參與到這場注意力的戰爭，而這必然能夠對我們周遭的人們以及整個社會有正面的影響。
《智能社會：進退兩難》是關於網路社群、科技的紀錄片，裡面提到現代這些社群軟體：Google、Facebook、Twitter、Instagram等等，看似單純的交友與影片平台，實際上都是背後龐大的公司數據資料庫的紀錄模擬你的喜好與成長，收集你所有的隱私資料來達到龐大商機，而因為這樣的商業行為已模式，