《誰偷走了你的專注力?》閱讀筆記(八):演算法鼓勵我們憤怒,民粹惡棍因此受益

《誰偷走了你的專注力?》閱讀筆記(八):演算法鼓勵我們憤怒,民粹惡棍因此受益

前圖紙-avatar-img
發佈於公民社會 個房間
更新於 發佈於 閱讀時間約 7 分鐘

〈《誰偷走了你的專注力?》閱讀筆記(八):演算法鼓勵我們憤怒,民粹惡棍因此受益〉2025-03-24

 

  先前,我們談論了科技企業希望控制用戶注意力的事實,以及他們之所以打算這麼做的經濟誘因,接下來,讓我們談談具體而言,他們是怎麼做的。以及,除了科技企業,還有誰在這種對人的操縱中獲益?

 

 

  首先,一個不幸的事實是,人類的認知被認為存在有所謂的「負面偏誤」。心理學家注意到,對於相同強度的事件,負面的事物對我們的認知與心理狀態之影響,比中性或正面的事物更強烈。譬如撿到一千塊的喜悅會低於弄丟一千塊的不適;對炎熱或酷寒的印象,也會比舒適氣候來得顯著許多。

 

  又或者,就算一場活動中大部分的時間是順利的,只要中間出了一些差錯,人們對那些差錯的印象,往往會比對其他部分更加深刻,甚至因此破壞了對整場活動的評價;對一個人是否誠信的判斷也經常如此,就算一個人在相處過程中百分之九十的時候都是誠實的,只要幾次被發現說謊,他就很難再被認為是一個擁有誠信的人。

 

 

  既然知道了人類有這項「弱點」,社群網站的演算法當然不會輕易放過。演算法意識到,當用戶看到令他們感到平靜、愉悅的貼文時,他們比較有辦法看完就關掉設備;而會引發憤怒、焦慮、難過等負面情緒的貼文,則更容易讓人們留在網站上。

 

  在「讓用戶待越久,公司就越賺錢」這個已知的前提之下,你猜這些企業以及他們創造的演算法會怎麼做?是的,推薦更多令人憤怒的、離譜的內容給你。Threads上面爆紅的串文大多戾氣很重,這不是巧合,也不是「所有用戶都這樣」,而是:愈是能夠引發衝突或義憤填膺的內容,愈會得到演算法的肯定。

 

  紐約大學的一項研究發現,每當你在貼文中添加一個「正義之怒」的辭彙--譬如「攻擊」、「惡劣」、「譴責」,平均會上升百分之二十的轉發率。皮尤研究中心的研究則指出,如果在貼文中寫下「憤怒的反對」,按讚和分享的數量甚至可能因此翻倍。這也讓社群網站的使用者,更習慣於對所有事情感到憤怒。

 

  以台灣近期的例子來說,Andy老師的影片之所以可以在短時間內造成那麼廣大的迴響,很大一部分的原因就是這個事件打中了那種「正義之怒」的情緒。影音平台與社群平台,也樂於推廣這些帶有大量譴責內容的評論影片和貼文,利用這種群眾的義憤情緒,將我們留在平台上。

 

 

  光是「他們選擇性地推廣令人產生負面情緒的內容」就已經夠令人髮指了,更糟糕的事情是,只要能夠讓用戶產生負面情緒,就算這個內容根本不是事實,它也能夠得到大量的推廣。譬如極端思想、陰謀論、甚至刻意加深對立的假訊息,都因為這套演算法,在社群上用比事實更快更有效的速度傳播出去。

 

  譬如說,如果你本來是在看關於911事件的報導和紀實影片,在5部影片之內,演算法會開始向你推送否認911或談論911陰謀論的影片。宣稱校園槍擊案根本不存在的影片在YouTube上得到上億觀看、極端種族主義的社團出現在FB的推薦列表……。

 

  起初,這些演算法只是獎勵那些會讓受眾長期停在網站上的內容,但演變至今,它鼓勵我們彼此仇恨、甚至用偽造的內容彼此攻擊。而這樣的現象不只停留在網路上,更直接影響到了人們的日常、乃至於國際政治局勢。

 

 

  曾任巴西軍官的民粹政客雅伊爾.波索納洛(Jair Bolsonaro)以糟糕的歧視與民粹言論著名:譬如他曾公開讚揚巴西獨裁時期的酷刑、自己寧願有一個死掉的兒子,也不要一個同性戀兒子;甚至說參議院的女同事太醜,自己懶得強姦她們,且她們也「不配」;稱貧民窟的居民「不適合繁殖」、應該「回到動物園」等……。

 

  多年以來,這樣的人物根本不可能擠身政治主流,然而,隨著演算法對他這些「驚世駭俗」言論的推薦,他反而成為一個頗具份量的社交媒體明星。這名被稱為「巴西川普」的民粹惡棍,在2018年贏得了巴西總統大選時,他的支持者在台下高喊「Facebook!Facebook!」

 

  他們很清楚自己怎麼贏的,因為在選舉前的最後階段,波索納洛陣營的人使用了大量的假新聞和網軍攻擊政敵,其中甚至包含了散布「對手發放陰莖造型奶嘴,想把巴西男童變成同性戀」的瘋狂消息。而且令人遺憾的是,他們的惡劣行為奏效了,波索納洛贏得了選舉,當地警察繼續在貧民窟濫殺、雨林繼續被無節制濫伐。

 

  當然,我們完全可以想像到,這樣的惡棍沒有能力做好總統這份工作。在波索納洛競選連任失敗之後,他拒絕承認敗選,也未出席新總統的就職典禮。或許是因為害怕總統期間的貪腐與濫權惡行被追究,在卸任前兩天,他直接逃到美國。但他對巴西、乃至於世界造成的傷害,很多都難以彌補。

 

  而且,類似的事情顯然不只發生於巴西,馬斯克與川普間的關係、祖克伯的輸誠和減少事實查核,都讓我們對這類情事更加無法樂觀。

 

 

  前Google工程師詹姆斯.威廉斯對海利說:想像一個GPS,「它第一次運作良好,下一次卻讓你偏離目的好幾條街,後來甚至帶你去另一座誠鎮」。它之所以這麼做,是因為廣告商付錢給它。我們絕對不會想要繼續使用這個GPS,我們會認為它有瑕疵、根本就沒辦法用。

 

  然而,社群媒體正是用這樣的方式在運作。我們不會希望科技帶我們前往充滿憤怒、仇恨、假資訊的世界,不會希望它想方設法把我們留在上面,拒絕讓我們得到更好的社交生活。然而,它們這麼做了,我們卻依然持續使用,就好像沒有其他更好的選擇一樣。

 

  但我們真的只能接受這個現狀嗎?在討論了這麼多社群平台對我們造成的負面影響之後,接下來,我們終於要進入下一個環節:我們可以如何應對?如何對這種糟糕現狀進行改變?





前篇:

〈(一):我們的行為已經被科技產品給重塑〉

〈(六):以控制注意力為目的的設計〉

〈(七):無限滾動與監控資本主義〉


延伸閱讀:

〈我們要永遠提防,是誰在仇恨中得利〉

〈那些被奪取的時間:前Google員工崔斯坦的反省〉

〈真實世界的「電幕」:短影音與被重塑的認知框架〉

〈抖音傷仲永:社群短影音時代中的孩子〉

〈你使用科技,還是科技在使用你?〉


avatar-img
前圖紙的沙龍
101會員
848內容數
一個寫作實踐,關於我看到和思考中的事情。
留言
avatar-img
留言分享你的想法!
前圖紙的沙龍 的其他內容
  聊天型AI也存在著相同的邏輯。而且,AI的用戶往往會更主動地嘗試讓AI理解自己。我們巴不得AI對我們的想法瞭如指掌,這樣它才可以快速且充分地為我們服務。然而,我們根本無法避免這些數據被人拿去「破解我們」。就算山姆.奧特曼的團隊不會這麼做,馬斯克或祖克伯的團隊會、威權國家的政府部門也一定會這麼做。
  尤其,這關於「女性身體如何使用」、「女性希望/不希望自己如何被對待」,連這樣的話題你都不願意去停下來聆聽,不願真正試著理解反對代孕的女性在反對什麼,只會說著能將自己行為合理化的「樂於協助別人創造家庭」個案故事。再多的漂亮話,只會讓人愈看愈氣憤而已。
  阿薩解釋,我們可以把這件事情理解為,在臉書、Google等企業的伺服器裡「有個小巫毒娃娃,『它』是你的模型」。一開始,每個人的模型都是一些沒有明顯特徵的通用模型,但它們會不停紀錄、蒐集你的點擊軌跡、搜尋內容、使用偏好、在網站上停留的時間等你自己都不在意的小細節,用它們來調整這個娃娃。
  我並不認為有任何人可以找到具說服力的理由,去正當化虐童產業鏈。也不認為有任何一個心智正常的人,會想要高喊「虐童產業合法化」。這裡不存在模糊或仍有爭議的空間,它既是犯罪、也不道德。我無法阻止有人對此毫不在乎,但如果你要在公眾面前談論,我不認為有任何人,對這件事情的公開發言可以不是譴責。
  演算法、通知提醒與AI工具的發展把這個「智慧型」的進程又往前推了一步,我們不再需要主動安排自己的時間、主動選擇自己要做什麼、工作中一大部分的思考也委託給AI來完成。一定程度下,我們貨真價實地成為了「機器的一根螺絲釘」,為什麼出現在那裡?為什麼旋轉?不清楚,電腦決定的。
  一些人可能會說「分數雖然本身不重要,但可以讓你有更多選擇」。我相信的確有人持這個觀點,並且真的從中得到了某種餘裕。但更多時候,會這麼說的人並非真的這麼想。因為不管你最後考到幾分,經常強調分數的這些人,往往會希望你去念你所能考到最高分的學校與科系,強烈建議你不要「浪費分數」去讀那些「低分科系」。
  聊天型AI也存在著相同的邏輯。而且,AI的用戶往往會更主動地嘗試讓AI理解自己。我們巴不得AI對我們的想法瞭如指掌,這樣它才可以快速且充分地為我們服務。然而,我們根本無法避免這些數據被人拿去「破解我們」。就算山姆.奧特曼的團隊不會這麼做,馬斯克或祖克伯的團隊會、威權國家的政府部門也一定會這麼做。
  尤其,這關於「女性身體如何使用」、「女性希望/不希望自己如何被對待」,連這樣的話題你都不願意去停下來聆聽,不願真正試著理解反對代孕的女性在反對什麼,只會說著能將自己行為合理化的「樂於協助別人創造家庭」個案故事。再多的漂亮話,只會讓人愈看愈氣憤而已。
  阿薩解釋,我們可以把這件事情理解為,在臉書、Google等企業的伺服器裡「有個小巫毒娃娃,『它』是你的模型」。一開始,每個人的模型都是一些沒有明顯特徵的通用模型,但它們會不停紀錄、蒐集你的點擊軌跡、搜尋內容、使用偏好、在網站上停留的時間等你自己都不在意的小細節,用它們來調整這個娃娃。
  我並不認為有任何人可以找到具說服力的理由,去正當化虐童產業鏈。也不認為有任何一個心智正常的人,會想要高喊「虐童產業合法化」。這裡不存在模糊或仍有爭議的空間,它既是犯罪、也不道德。我無法阻止有人對此毫不在乎,但如果你要在公眾面前談論,我不認為有任何人,對這件事情的公開發言可以不是譴責。
  演算法、通知提醒與AI工具的發展把這個「智慧型」的進程又往前推了一步,我們不再需要主動安排自己的時間、主動選擇自己要做什麼、工作中一大部分的思考也委託給AI來完成。一定程度下,我們貨真價實地成為了「機器的一根螺絲釘」,為什麼出現在那裡?為什麼旋轉?不清楚,電腦決定的。
  一些人可能會說「分數雖然本身不重要,但可以讓你有更多選擇」。我相信的確有人持這個觀點,並且真的從中得到了某種餘裕。但更多時候,會這麼說的人並非真的這麼想。因為不管你最後考到幾分,經常強調分數的這些人,往往會希望你去念你所能考到最高分的學校與科系,強烈建議你不要「浪費分數」去讀那些「低分科系」。