臉書可能是第一個,但不會是最後一個 注意:文中有《黑鏡》第三季劇透。 前言 黃哲斌 在《我為何像恐怖舊情人一樣追殺臉書》 一文提到,臉書在不同面向都有嚴重的問題: 操弄演算法、箝制網路訊息流、商業模式加速資訊劣化,加上臉書深入用戶個資,將隱私及人脈圖譜變現的黑暗技,讓我對這家企業的賺錢手法越來越反感 這篇文章並不打算探討全部,主要想著墨在「 AI 如何操弄演算法、箝制網路訊息流」這件事情上。 很多人可能知道,近年品牌經營者(粉絲團管理者)已經遇到觸及率下降的問題。(如果不知道也請放心,文末有參考連結) 然而,遇到問題的不是只有經營粉絲專頁的人,或許整個生態系都遇到問題了。 這篇文章嘗試從一般使用者的角度,去描述臉書讓我們遇到了什麼問題,而這個問題又怎麼跟 AI 演算法扯上關係。 在開始之前,必須先釐清一件事情:雖然「AI 發展出自我意識、開始屠殺人類」是科幻電影及很多人心中恐懼的情節,但現實生活中,AI「破壞」這個世界的方式,跟多數人想像的情節,可能不太一樣。 文章前半將會描述「這件事情是如何發生?」,後半則是說明「為什麼這件事情可怕?」 使用者逐漸失去自主權的臉書 廣告?非廣告?難以判斷 以往的廣告形式,都是大剌剌的擺在突兀的位置,甚至蓋版,直接擺明「我就是廣告,你不想看也得看」 臉書跟許多平台一樣,開始使用原生廣告(native ads),顧名思義就是讓廣告長得跟貼文有 87% 像。所以當有兩個粉絲團的貼文同時競爭顯示,即使其中一個的相關性、推薦度比較高,也很有可能因為另一個付了錢,就理所當然地勝出了(而那一個輸掉的可能就是你已經指定「搶先看」的粉絲團) 臉書說:「嘿!我們有標示那是贊助廣告呀!」 但首先,真正在乎那幾個小字的人佔多數嗎?這就像酒類廣告下方小小的一行:「飲酒過量有礙健康」一樣,大多數人都不會在意 再者,即使所有人都是道德潔癖者,意志強到把贊助貼文排除不看,但那些被排擠掉的貼文,也不會因此而有機會顯示。 塗鴉牆的緩慢演進:逆時序的消失 從前,臉書跟噗浪一樣都是「逆時序」的社群平台,使用者能夠看到任何一則從A時間到B時間的訊息(只要你時間夠多) 在佈局階段,臉書將塗鴉牆預設的演算法偷偷改成「人氣動態」,也就是機器幫你篩選「最相關、最有人氣」的貼文。在這段過渡期,我們還有辦法手動切換回「逆時序」。 最後為了討好廣告主(也就是品牌商),臉書正式把「逆時序」淘汰。使用者的確看到了比較「有人氣」的動態,但不知不覺廣告也入侵了,出現的機會也慢慢地變成用錢去買。 我必須強調,到這裡其實並不算壞(至少沒有「非常」壞),畢竟使用者免費使用,付出一定的注意力讓平台運作,也還算合理(至於等不等價就見仁見智)。 最後一根稻草:「通知」只能用金錢買 最後一階段,也是最可怕的,或許是因為品牌商越來越多,注意力不夠臉書「販賣」了,因此連「通知」功能都開始限縮。 當粉絲團管理者們發現,貼文觸擊率降低的原因是「通知」功能並不保證 100% 會將貼文送到使用者眼前,便呼籲粉絲們將自己設為「搶先看」,但可想而知,這功能最後也無效了。 也就是說,即使你按了某個粉絲團「搶先看」,它也無法與那些花錢的品牌競爭。雖然臉書官方表示一天會「選擇性地」推播三到五次,但經過我自己實驗,仍然有可能一天都看不到一次,原因很簡單:因為臉書要把這部份的注意力保留下來,賣給有花錢的粉絲團。 或許一開始的臉書使用者不知道哪些熱門、哪些相關,希望演算法推薦;但到了現在,即使使用者直接表明「我想看 A 粉絲團」,臉書也不再提供這樣的服務。 至此,臉書正式變成一個以錢決勝負、使用者毫無選擇餘地的平台。 (其實後來社團功能算是比較有自主權的,不過難保哪天不會也遭殃,這裡就先略過不談) 也因為這些功能都是「漸進式」的改變,中間甚至耗費超過一年,使用者並不容易察覺這些功能已經失效(並且也沒有公開參數的改動),臉書在這個緩慢的過程中創造了一個假象:讓使用者以為自己有選擇權 很多人都以為塗鴉牆、通知是按照我們以為的方式運作,但其實經過長久的演進,早就已經變質了: 以前的臉書或許是一個「社群平台」;而現在,我們說他是個「廣告競價平台」可能比較貼切 披著社群平台皮的廣告平台 我必須聲明一點:個人不討厭廣告競價平台,討厭的是打著「社群平台」名號,利用舊時代使用者「願意將注意力交給臉書管理」的信任度,但實際上把「推薦」與「競價」混為一談,甚至變成一個「使用者想要主動選擇關注一個粉絲團」都做不到的平台。 因此,若臉書另開一個平台、公開演算法機制(包含動態與通知的演算法),讓使用者清楚地知道自己是在「被販賣注意力」,而自己並沒有主控權,那我完全沒有意見。 可惜的是這件事情不太可能發生,因為「不讓使用者知道自己的注意力被販賣」的模糊地帶,恰巧就是廣告得以利用注意力營利的前提,而臉書這個包袱已經大到無法丟棄了。 當 AI 演算法逐漸變成問題 以上這些演算法的改動,或許有些人早就知道了,但可能還是有些人會覺得「怎麼跟我想像中的臉書不太一樣?」、「我不知道有這回事耶」 這就是問題所在。 在 AI 擁有自主意識、進化到可以反抗人類之前,我們有更近的問題要處理:「那些按照人類設計行動的 AI 演算法,正在用決策者認為最好的方式,大量介入你我的生活,而我們卻未察覺。」 有些演算法的變化很難察覺,但卻是致命的 在《黑鏡》中有一集劇情是這樣的: 人類為了要滅絕某些基因有缺陷的人種(簡稱缺陷人),將晶片植入士兵腦袋,讓他們看到「缺陷人」的時候,影像被強制轉換成怪物,就能夠毫不留情地屠殺,也不會留下任何心靈創傷。 「把注意力交給臉書管理」跟「把感官交給殺人演算法」,本質上是同一件事情 即使臉書不會讓你去殺人(真的嗎?),但它們都一樣改變了我們看世界的方式、進而影響我們的想法。 另一個共通點是使用者必須在不知情的狀況下使用系統才有意義,所以它不可能告訴你演算法,一旦這些資訊公開讓使用者知道了,整個系統的控制就無效了。 現實生活中或許還沒有這種黑科技,可以植入晶片影響視覺,不過最近影響川普競選結果的疑慮就是一個很好的例子。 可能有人會接著問:「為什麼我們願意給演算法控制呢?」 因為絕大多數時候,我們很難察覺到正在失去控制,這也就正是下一段要講的。 AI 的優勢:在高維度的數據中近似於神的存在 AI 對一般人來說,可以簡單理解為「比較厲害的演算法」;演算法不過就是程式,要說 AI 能發展出自己的智慧、屠殺人類,在現階段或許言之過早。 但 AI 最大的問題在於越來越像人類,甚至超越人類可以分析的次元範疇 古早的 AI 只能根據幾個維度或條件判斷,大部分人很快就能發現 bug、並知道這是 AI。現在 AI 可以做得更全面、更有效率,上百個維度都是可能的;反觀人類的大腦在分析數據時,能從三五個維度中找出正確的決策,已經相當了不起了(*),畢竟高中學線性規劃的時候只有兩個維度呢!所以只要在特定的問題下,AI 還可能比人類做出更準確的判斷。 * 這裡指的是分析數據,若是現實世界的類比訊號,人類或許還不差 在《星際效應》中,因為「祂們」有第五個維度,也就是重力,可以用來控制時間,這樣「更高次元的存在」在我們的觀點中,可以理解為某種鬼神。 同樣地,在分析特定問題的數據空間當中,人類的視角是低維度的,而 AI 卻在高維度。因此,在這個數據空間內,AI 之於人類,就像是神的存在。 這造成的結果是「你以為 AI 的目的,跟 AI 真正的目的,可能是兩回事」 舉例來說:現在有兩派政黨,平常臉書都推薦給你傾向 A 政黨的言論,也正好是你同溫層支持的政黨,但到了選舉時,臉書改為摻雜給你傾向 B 政黨的言論,你不知道演算法已經改變策略,便以為這些言論是 A 政黨支持者發出的聲音,進一步產生「或許 B 政黨真的比較好」的念頭,而改變政治傾向。 因為演算法可以因應選舉季節,做出不同推薦策略,而人卻不知道有這個維度會影響推薦結果。除了選舉季節,這樣的維度可能還有非常多,多到我們無法判斷臉書是如何運作的。 (以上只是舉例,並非指臉書真的有在做政治操作) 現在回到廣告,臉書說:「嘿!我們的 AI 可以讓你把時間花在那些有趣的動態!」 的確,這是真的,但臉書沒有告訴你的是:「我們也同時在優化廣告的收益」甚至更多面向,而這些參數怎麼交互運作的,臉書當然也不會告訴你。 因此,臉書篩選朋友的動態,也篩選粉絲團的動態,不知不覺中,某些人跟粉絲團的聲音慢慢消失,取而代之的,是那些「臉書認為對我們好」的訊息。 小結:臉書只是開始 臉書或許是目前最早逐漸奪走控制權、也讓我最早聯想到《黑鏡》劇情的科技產品,很明顯地,它不會是接下來唯一的一個。(賣個關子,或許之後有機會談談另一個) 現階段對廣告、社群平台比較敏感的人,或許都還有辦法看得出來臉書做了什麼事情;但隨著 AI 高度發展,或許「下一個臉書」就可以做出更完美的排序演算法,用更多的維度,讓你我都無法分辨是否擁有控制權、讓我們活在一個更完美的、自以為有控制權(但其實完全沒有)的平台當中而不自知。 AI 目前還無法用自主意識屠殺人類,但它卻不知不覺改變我們看待世界的方式,我們就像黑鏡中的士兵一樣,接收著演算法想要讓我們看到的世界,這可能有好處、也有壞處。 但不管臉書往什麼方向演進,個人認為被控制並不是最可怕的事情,最可怕的是「不知道自己被控制」。 相關主題 五十張圖、兩分鐘懶人包讓你快速看懂《網路與媒體怎麼了,與我們失去了什麼》 如果你還沒聽過什麼是「注意權」,它為什麼重要?《取回你的「注意權」》 如果你還不知道品牌經營者眼中的臉書是怎麼「改變演算法」,可以看看 陳思傑 Jesse Chen 所寫的:《祖克柏判了品牌社群死刑?不,死的是舊社群思維。(上) 》 文中提到的黑鏡劇情是指第三季第五集《戰火英雄》,Google 很容易搜尋到影片介紹,甚至有五分鐘看完劇情,不過個人建議可以看正式版比較有感覺。