AI 正在破壞我們的世界，但不是你想的那種方式 — 以臉書為例

臉書可能是第一個，但不會是最後一個

注意：文中有《黑鏡》第三季劇透。

前言

使用者逐漸失去自主權的臉書

廣告？非廣告？難以判斷

以往的廣告形式，都是大剌剌的擺在突兀的位置，甚至蓋版，直接擺明「我就是廣告，你不想看也得看」

臉書跟許多平台一樣，開始使用原生廣告（native ads），顧名思義就是讓廣告長得跟貼文有 87% 像。所以當有兩個粉絲團的貼文同時競爭顯示，即使其中一個的相關性、推薦度比較高，也很有可能因為另一個付了錢，就理所當然地勝出了（而那一個輸掉的可能就是你已經指定「搶先看」的粉絲團）

臉書說：「嘿！我們有標示那是贊助廣告呀！」

但首先，真正在乎那幾個小字的人佔多數嗎？這就像酒類廣告下方小小的一行：「飲酒過量有礙健康」一樣，大多數人都不會在意

再者，即使所有人都是道德潔癖者，意志強到把贊助貼文排除不看，但那些被排擠掉的貼文，也不會因此而有機會顯示。

塗鴉牆的緩慢演進：逆時序的消失

從前，臉書跟噗浪一樣都是「逆時序」的社群平台，使用者能夠看到任何一則從A時間到B時間的訊息（只要你時間夠多）

在佈局階段，臉書將塗鴉牆預設的演算法偷偷改成「人氣動態」，也就是機器幫你篩選「最相關、最有人氣」的貼文。在這段過渡期，我們還有辦法手動切換回「逆時序」。

最後為了討好廣告主（也就是品牌商），臉書正式把「逆時序」淘汰。使用者的確看到了比較「有人氣」的動態，但不知不覺廣告也入侵了，出現的機會也慢慢地變成用錢去買。

我必須強調，到這裡其實並不算壞（至少沒有「非常」壞），畢竟使用者免費使用，付出一定的注意力讓平台運作，也還算合理（至於等不等價就見仁見智）。

最後一根稻草：「通知」只能用金錢買

最後一階段，也是最可怕的，或許是因為品牌商越來越多，注意力不夠臉書「販賣」了，因此連「通知」功能都開始限縮。

當粉絲團管理者們發現，貼文觸擊率降低的原因是「通知」功能並不保證 100% 會將貼文送到使用者眼前，便呼籲粉絲們將自己設為「搶先看」，但可想而知，這功能最後也無效了。

也就是說，即使你按了某個粉絲團「搶先看」，它也無法與那些花錢的品牌競爭。雖然臉書官方表示一天會「選擇性地」推播三到五次，但經過我自己實驗，仍然有可能一天都看不到一次，原因很簡單：因為臉書要把這部份的注意力保留下來，賣給有花錢的粉絲團。

或許一開始的臉書使用者不知道哪些熱門、哪些相關，希望演算法推薦；但到了現在，即使使用者直接表明「我想看 A 粉絲團」，臉書也不再提供這樣的服務。

至此，臉書正式變成一個以錢決勝負、使用者毫無選擇餘地的平台。

（其實後來社團功能算是比較有自主權的，不過難保哪天不會也遭殃，這裡就先略過不談）

也因為這些功能都是「漸進式」的改變，中間甚至耗費超過一年，使用者並不容易察覺這些功能已經失效（並且也沒有公開參數的改動），臉書在這個緩慢的過程中創造了一個假象：讓使用者以為自己有選擇權

很多人都以為塗鴉牆、通知是按照我們以為的方式運作，但其實經過長久的演進，早就已經變質了：

以前的臉書或許是一個「社群平台」；而現在，我們說他是個「廣告競價平台」可能比較貼切

披著社群平台皮的廣告平台

我必須聲明一點：個人不討厭廣告競價平台，討厭的是打著「社群平台」名號，利用舊時代使用者「願意將注意力交給臉書管理」的信任度，但實際上把「推薦」與「競價」混為一談，甚至變成一個「使用者想要主動選擇關注一個粉絲團」都做不到的平台。

因此，若臉書另開一個平台、公開演算法機制（包含動態與通知的演算法），讓使用者清楚地知道自己是在「被販賣注意力」，而自己並沒有主控權，那我完全沒有意見。

可惜的是這件事情不太可能發生，因為「不讓使用者知道自己的注意力被販賣」的模糊地帶，恰巧就是廣告得以利用注意力營利的前提，而臉書這個包袱已經大到無法丟棄了。

當 AI 演算法逐漸變成問題

有些演算法的變化很難察覺，但卻是致命的

在《黑鏡》中有一集劇情是這樣的：

人類為了要滅絕某些基因有缺陷的人種（簡稱缺陷人），將晶片植入士兵腦袋，讓他們看到「缺陷人」的時候，影像被強制轉換成怪物，就能夠毫不留情地屠殺，也不會留下任何心靈創傷。

「把注意力交給臉書管理」跟「把感官交給殺人演算法」，本質上是同一件事情

即使臉書不會讓你去殺人（真的嗎？），但它們都一樣改變了我們看世界的方式、進而影響我們的想法。

另一個共通點是使用者必須在不知情的狀況下使用系統才有意義，所以它不可能告訴你演算法，一旦這些資訊公開讓使用者知道了，整個系統的控制就無效了。

現實生活中或許還沒有這種黑科技，可以植入晶片影響視覺，不過最近影響川普競選結果的疑慮就是一個很好的例子。

可能有人會接著問：「為什麼我們願意給演算法控制呢？」

因為絕大多數時候，我們很難察覺到正在失去控制，這也就正是下一段要講的。

AI 的優勢：在高維度的數據中近似於神的存在

AI 對一般人來說，可以簡單理解為「比較厲害的演算法」；演算法不過就是程式，要說 AI 能發展出自己的智慧、屠殺人類，在現階段或許言之過早。

但 AI 最大的問題在於越來越像人類，甚至超越人類可以分析的次元範疇

古早的 AI 只能根據幾個維度或條件判斷，大部分人很快就能發現 bug、並知道這是 AI。現在 AI 可以做得更全面、更有效率，上百個維度都是可能的；反觀人類的大腦在分析數據時，能從三五個維度中找出正確的決策，已經相當了不起了(*)，畢竟高中學線性規劃的時候只有兩個維度呢！所以只要在特定的問題下，AI 還可能比人類做出更準確的判斷。

* 這裡指的是分析數據，若是現實世界的類比訊號，人類或許還不差

在《星際效應》中，因為「祂們」有第五個維度，也就是重力，可以用來控制時間，這樣「更高次元的存在」在我們的觀點中，可以理解為某種鬼神。

同樣地，在分析特定問題的數據空間當中，人類的視角是低維度的，而 AI 卻在高維度。因此，在這個數據空間內，AI 之於人類，就像是神的存在。

這造成的結果是「你以為 AI 的目的，跟 AI 真正的目的，可能是兩回事」

舉例來說：現在有兩派政黨，平常臉書都推薦給你傾向 A 政黨的言論，也正好是你同溫層支持的政黨，但到了選舉時，臉書改為摻雜給你傾向 B 政黨的言論，你不知道演算法已經改變策略，便以為這些言論是 A 政黨支持者發出的聲音，進一步產生「或許 B 政黨真的比較好」的念頭，而改變政治傾向。

因為演算法可以因應選舉季節，做出不同推薦策略，而人卻不知道有這個維度會影響推薦結果。除了選舉季節，這樣的維度可能還有非常多，多到我們無法判斷臉書是如何運作的。

（以上只是舉例，並非指臉書真的有在做政治操作）

現在回到廣告，臉書說：「嘿！我們的 AI 可以讓你把時間花在那些有趣的動態！」

的確，這是真的，但臉書沒有告訴你的是：「我們也同時在優化廣告的收益」甚至更多面向，而這些參數怎麼交互運作的，臉書當然也不會告訴你。

因此，臉書篩選朋友的動態，也篩選粉絲團的動態，不知不覺中，某些人跟粉絲團的聲音慢慢消失，取而代之的，是那些「臉書認為對我們好」的訊息。

小結：臉書只是開始

相關主題

• 五十張圖、兩分鐘懶人包讓你快速看懂《網路與媒體怎麼了，與我們失去了什麼》
• 如果你還沒聽過什麼是「注意權」，它為什麼重要？《取回你的「注意權」》
• 如果你還不知道品牌經營者眼中的臉書是怎麼「改變演算法」，可以看看 陳思傑 Jesse Chen 所寫的：《祖克柏判了品牌社群死刑？不，死的是舊社群思維。(上) 》
• 文中提到的黑鏡劇情是指第三季第五集《戰火英雄》，Google 很容易搜尋到影片介紹，甚至有五分鐘看完劇情，不過個人建議可以看正式版比較有感覺。