方格精選

社群平台的管理難題:假帳號、不當內容、網軍聯合操作/施典志

更新於 2019/08/29閱讀時間約 12 分鐘

這個社會就是一樣米養百樣人。永遠都會有許多個人和組織,為了特定目的和利益,去犯法或鑽法律漏洞;在虛擬世界,當然也會有很多人用各種方式濫用平台服務,因而衍生出各種平台管理上的難題。但什麼該管、什麼不該管、該管到什麼程度,都是困難的決定。

近來和社群平台管理相關的幾條大新聞,就是各大社群平台,不約而同地發布公告,揪出一堆明顯受到中國統一操作,用來黑香港「反送中」運動的網軍帳號、專頁等,祭出停權、刪除等處分。
首先是 Twitter 開了第一槍,抓到 936 個明顯由中國網軍統一使用的帳號,以及二十萬個有問題的帳號。Twitter 非常有 guts,不但把這些問題帳號停權,還把相關的操作原始資料都放了出來:
然後,鏡傳媒旗下的《讀+》根據 Twitter 放出來的資訊,做了很精彩的資料分析與整理,讓大家看到網軍養帳號的典型操作手法,印證 Twitter 的指控確有其本:
接下來是Facebook,同樣發表了一篇公告,把一些他們偵測到中國網軍的操作行為都列出來,同樣也砍掉若干帳號和粉絲頁:
隔了兩天,Google 也公告從 YouTube 上移除了 210 個帳號,同樣是中國網軍用來統一發布「反反送中」影片用的:
不甘寂寞的還有 LinkedIn。雖然他們沒有明說砍掉的帳號和中國網軍的關係,但強調今年上半年已經砍了 2160 萬個假帳號,其中有 1950 萬個,連註冊都還沒完成就被抓到了:
這些平台接二連三宣示反制中國網軍的操作,當然引起很大的話題。不過會操作帳號養網軍的並不只是中國,一般的行銷公司也會幹這種事;而對於這些「非正常使用行為」,各平台也感到非常頭痛。
這個社會就是一樣米養百樣人。永遠都會有許多個人和組織,為了特定目的和利益,去犯法或鑽法律漏洞;在虛擬世界,當然也會有很多人用各種方式濫用平台服務,因而衍生出各種平台管理上的難題。
我猜本文讀者絕大多數都是平台「用戶」,但像筆者一樣當過平台「業者」的可能不太多,所以可能比較不清楚平台的管理難題。以下筆者就以過去在這類平台服務的經驗來幫平台「喊一下冤」,聊一下到底有哪些類型的管理難題。

假帳號:問題的最大根源

一切的社群平台服務,都從註冊帳號開始;所以帳號的管理問題,也是平台上各種問題的根源。
平台當然都希望用戶愈多愈好,所以在帳號的註冊過程和管理上,通常都會盡量給用戶方便,像是:
  • 註冊時要填的資料最好不要太多(反正日後還可以用各種手段鼓勵用戶補齊資料);
  • 驗證方式愈簡單愈好(有些平台甚至簡單到連 recaptcha 這種人類驗證機制都不需要,只要到 Email 信箱裡回覆一下就好)。
但過於寬鬆的註冊流程,往往就是對假帳號註冊大開方便之門。許多作弊者就用機器人程式大量註冊免洗假帳號,造成日後平台各種各樣的管理困難。
所以你衝到了用戶數,達成了一個 KPI;但是麻煩在後頭。

平台應該墊高假帳號的註冊成本

怎麼樣分辨來註冊的帳號是真是假?其實有很多技術或手段;其中我覺得最有效的原則,是墊高註冊帳號的成本。
例如規定註冊新帳號時,必須以「未曾登錄過的手機門號」進行簡訊回覆驗證;由於取得手機門號的成本相對較高,所以能有效墊高假帳號註冊所需的成本。雖然平台也得付出較高的認證成本,但相較於假帳號後續造成的各種麻煩,應該還是值得的。
早些年前我在某平台服務時,就因為假帳號實在太多,垃圾內容泛濫到不行,不但砍到手抽筋,忠實用戶也抱怨連連;所以我曾經提案,在註冊流程中加上簡訊認證機制。
但因為公司的多個其他服務也用到同一個會員管理系統,因而牽連甚廣、再加上成本等因素,所以沒有實現。
不過現在很多新興服務,都把簡訊認證做為必備的註冊流程了,「二階段驗證」(2FA)也愈來愈普及;甚至不少新款手機上,都還有指紋或臉孔認證機制。
所以,接下來應該也可以在確保用戶隱私的前提下,串接這些系統功能來進行認證,進一步墊高假帳號的註冊成本。

內容管理:哪些該管、哪些不該管?

社群平台的「內容管理」是個非常困難的題目,管或不管都會顧人怨;至於要「如何管」,更是難上加難。
網路就是真實社會的縮影,社群平台上就是會出現一大堆「有問題」的內容;像是例如色情、暴力、自殺或自殘、仇恨言論、霸凌、誹謗、恐怖活動、歧視、毒品、詐騙、虐童或兒童色情、Spam 廣告、盜文盜圖等等。
雖然在大一點的平台上,使用條款中都會有一堆規定,寫說哪些類型的內容是平台所不允許的,但是在實際執行面上有很多困難。

認定很困難

首先是「標準」和「尺度」的問題;如何認定某些內容「需要管理」?這就是門藝術。
上面舉出的那些例子,幾乎每一類都有不少灰色地帶,平台很難斬釘截鐵地說這個有違規、那個沒有。舉例來說,色情內容就很難認定;例如非性行為的裸照,到底要算色情還是藝術?露兩點還是露三點算不算色情?會不會引起性慾(這什麼爛標準)?
光是上面這些,吵了幾十年都吵不完。
有些平台還規定不能分享「非本人」的性行為影像,但是平台哪裡會知道這些內容是不是本人上傳的?
然後,每個人的尺度和標準都不一樣。往往平台管理者覺得還 OK 的內容,在某些衛道人士的眼裡就是有問題;這些人有時還是組織化的,會像瘋子一樣,不斷透過各種管道向平台施加壓力,要求平台處理掉那些內容。
平台如果聽了這些人的「善意提醒」,真的腦袋燒壞到去處理那些內容,那就會遇到下一個麻煩:侵害言論自由。

言論自由不容侵犯

在民主化程度較高、或是網路用戶自主意識比較高的地方,言論自由差不多可以說是個不能侵犯的聖域;大家都不喜歡有任何人去審核自己的貼文,用自己無法接受的理由修改、隱藏或刪除內容。
一但發現平台刪文,各種鄉民的陰謀論就來了;有的說平台一定是拿了什麼廠商的好處,有的說平台背後的資金來源有問題,有的還會威脅要搬到競爭平台去。處理不好,還有可能釀成平台品牌的公關危機。
但有趣的是,言論自由往往也可以是平台用來「規避」內容管理責任的好藉口;遇到有灰色地帶的情形時,有時可以搬出「平台不可侵害言論自由」這套說詞,立刻就佔有道德高度了。

機器永遠比人笨

還有就是「量」的問題。當平台上的用戶一多、內容數量大到一個程度,就很難靠人工作業來處理內容管理問題;需要靠各種技術來偵測,讓機器來揪出不當的使用行為或內容。
而這就和平台的技術能力息息相關。
技術好的,甚至能在濫用行為發生之前就能偵測到,先把這些濫用行為擋掉;例如 LinkedIn 在上面那篇報告中說的「絕大多數的假帳號根本連註冊都無法完成」,就是技術好的例子。
好技術幫助平台管理者很大的忙,但技術爛的不但幫不上忙,反而愈幫愈忙。
我之前聽說過這麼一個案例:某平台的留言板被台灣用戶抗議「傾中賣台」,甚至差點引發公關危機,因為只要輸入「Taiwan」、「Taipei」等詞就被自動消音。
查了半天,結果根本就是一場誤會:外國工程師在設定不雅內容過濾系統時發生錯誤,把適用東南亞某國語言的過濾器套用在台灣版頁面上;所以只要遇到含有「tai」的任何內容(不知道是哪一國的髒話),就把它當成不雅內容而自動過濾掉了。
說來很好笑,但這就是平台管理的日常(攤手)。

想搞你的人真的很多,而且花招百出、更新迅速

道高一尺,魔高一丈;想惡搞平台的人,總會發現管理機制的各種規則或漏洞,很快就能找到全新的濫用手法;平台和這些人相比起來,不但敵暗我明,而且雙拳難敵萬手,根本處於下風。
這也就是 Google、Facebook 等平台一天到晚必須改演算法的原因;過去三不五時改一次,現在用 AI 每分鐘都能改好幾次,而且還能對不同的人套用不同的演算法。
很多不瞭解平台運作的人,一遇到平台改演算法就抱怨連連,說這些平台「死要錢」;但他們不知道平台的苦衷:第一,這些平台都不是慈善事業,賺錢本就天經地義;第二,要是演算法放在那邊都不改的話,再大的平台也會被快速破台,連生意都甭做了。
(想像一下,Google 演算法要是被 SEO 業者參透,會發生什麼慘劇?搜尋結果如果都是掛羊頭賣狗肉的假連結,還有人要用 Google 嗎?)
這些技術好的平台都防不勝防了,技術爛的就只剩一招,就是像中國的平台那樣,組織個幾十萬人來當內容審查大隊。要是連這點都做不到,當然就只能阿彌陀佛,能放著不管就不管。

水軍帳號的聯合操作

各位如果細讀上面幾家平台封鎖中國帳號的聲明,就可以發現一個共通點:沒有一家平台是針對這些帳號「發表的內容」進行處置;幹掉這些帳號的原因,都是這裡要講的濫用形態:也就是「聯合操作」。
水軍為什麼一次要申請一大堆假帳號?當然就是因為這麼多假帳號共同操作起來,是很有威力的。這些水軍帳號的聯合操作,以我所知大概有幾個樣態:
  • 拱粉絲數、增加相互追蹤:就像 Google 演算法中,被更多重要頁面連結到的頁面,SEO 分數會更高一樣;不少社群平台的演算法,都會去看帳號的追蹤人數、交友人數,以及彼此間的連結關係。所以先養一堆帳號、貼一堆任意內容,然後讓這些互相追蹤、加粉,把帳號養大養活,甚至吸引夠多的真人加粉追蹤,可說是水軍聯合操作的基本動作之一。
  • 帶風向:當一堆假帳號養好了後,接下來就可以拿來用了。商業形態的水軍操作,或是發送 spam 內容,或是在社群平台中「創造」對自己的品牌、產品有利(和/或對競爭者不利)的內容。有政治任務的水軍操作就更細緻了,大家請自己去看 Netflix 上的記錄片《個資風暴:劍橋分析事件》(強力推薦,為了這部片去註冊 Netflix 都值得)。
講一個有趣的現象:為什麼各平台針對這次的中國「反反送中」假帳號處理事件,重點都放在帳號的聯合操作,而不是放在內容之上呢?答案其實很容易理解:
  • 帳號的聯合操作,本來就是各平台都會寫在使用條款中的禁止事項;平台用這個理由來封鎖你的帳號,可說是天經地義(像 Twitter 還附上聯合操作的證據,讓你百口莫辯);
  • 內容管理的灰色地帶太多,而且又有「言論自由」這個不容侵犯的絕對領域;平台如果用內容為理由來封鎖帳號,破綻會比較多。
另外,還有個值得一提的話題,就是 Twitter 這次除了 ban 中國網軍帳號之外,同時也很有膽識的宣布,日後不再接受「國家控制的媒體」在 Twitter 上買廣告。
但是,這樣就能減輕水軍在社群平台上的濫用行為嗎?我個人還是不那麼樂觀。平台的技術和資源,相較於成千上萬的濫用者,真的相形見絀。

結論:無盡的任務

小時候常見到這樣的畫面:搬家公司、水肥清理業者,用黏到不行的貼紙或噴漆,在公寓樓梯間把廣告貼好貼滿、噴好噴滿;相信不少人對這樣的畫面記憶猶新。
而且這些業者似乎根本罰不怕。清理完沒多久的樓梯間,小貼紙或噴漆廣告又會如過期吐司麵包上的霉點一樣,馬上又長得滿滿的。
社群平台上的各種濫用行為,就是人類社會的現實反應;而且說句不客氣的話,平台上會有這麼多 spam、這麼多網軍,有這麼多奇怪的操作手法,讓平台窮於應付,還不就是因為大多數的用戶腦波都很弱、容易被帶風向?
反正平台要出來賺,就得跟著玩貓捉老鼠的遊戲;而且這個遊戲恐怕永遠沒有結局,除非平台沒人用。
為什麼會看到廣告
avatar-img
1.4K會員
2.0K內容數
為您送上頂尖作者的最新管理與科技產業思維。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
這個世界上,究竟還需不需要另外一張沒什麼福利的信用卡?要知道這個問題的答案,不妨先瞭解一下Apple Card的運作模式,而不要急著問它可以累積多少里程、或是現金回饋幾%。
在〈從兩種模型中,理解商業模式的意義與改進方法〉一文中,筆者透過「商業模式畫布」及「魏朱商業模式」來說明商業模式的意義。但前者沒有反映現金流量概念、以及內外部利益結構關係;在這兩點上,魏朱商業模式有很好的補充。本文則就這個題目,繼續深入探討。
治理國家和經營企業的挑戰都一樣,國家、政府、公司都只是一個名詞;要啟動任何改革,都需要找到能夠「認同」和「代表」這個名詞的人,而這些人就是無條件支持變革的「親友團」。
從2017年起,政府就表示將把現行身分證更換為結合更多功能的「數位身分識別證」;理由包括多卡合一可以讓皮夾更薄、許多國家都已改用數位身份證等等。但人權團體仍不斷對數位身分識別可能面臨的風險提出疑慮:你願意用個資暴露的風險來交換方便嗎?
我們會在許多場合聽到「商業模式』這個詞,但商業模式到底是什麼?除了為人所熟知的「畫布定義」九個面向之外,有沒有其他的面向應該討論?公司或產品本身,只有這麼簡單的幾個面向嗎?我們又該如何理解商業模式?
對於新創而言,最重要的是盡快找到PMF,也就是能讓市場接受的經營模式;因為找到PMF等於是找到賺錢的方法、找到持續的營收,也就是可以讓新創繼續存活的活水。要找到PMF,則必須先「精打細算」。
這個世界上,究竟還需不需要另外一張沒什麼福利的信用卡?要知道這個問題的答案,不妨先瞭解一下Apple Card的運作模式,而不要急著問它可以累積多少里程、或是現金回饋幾%。
在〈從兩種模型中,理解商業模式的意義與改進方法〉一文中,筆者透過「商業模式畫布」及「魏朱商業模式」來說明商業模式的意義。但前者沒有反映現金流量概念、以及內外部利益結構關係;在這兩點上,魏朱商業模式有很好的補充。本文則就這個題目,繼續深入探討。
治理國家和經營企業的挑戰都一樣,國家、政府、公司都只是一個名詞;要啟動任何改革,都需要找到能夠「認同」和「代表」這個名詞的人,而這些人就是無條件支持變革的「親友團」。
從2017年起,政府就表示將把現行身分證更換為結合更多功能的「數位身分識別證」;理由包括多卡合一可以讓皮夾更薄、許多國家都已改用數位身份證等等。但人權團體仍不斷對數位身分識別可能面臨的風險提出疑慮:你願意用個資暴露的風險來交換方便嗎?
我們會在許多場合聽到「商業模式』這個詞,但商業模式到底是什麼?除了為人所熟知的「畫布定義」九個面向之外,有沒有其他的面向應該討論?公司或產品本身,只有這麼簡單的幾個面向嗎?我們又該如何理解商業模式?
對於新創而言,最重要的是盡快找到PMF,也就是能讓市場接受的經營模式;因為找到PMF等於是找到賺錢的方法、找到持續的營收,也就是可以讓新創繼續存活的活水。要找到PMF,則必須先「精打細算」。
你可能也想看
Google News 追蹤
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
臺灣社群媒體平臺在日常生活中顯得尤為重要, Discord, Patreon, Uscreen, Buy Me a Coffee, ko-fi, Gumroad, Gotomax 和 Getmax 等社群平臺都在臺灣具有一定受眾。本文通過比較不同社群平臺的優缺點。
Threads對創作者來說、是一把雙面刃。 要麼很多陌生人支持你、要麼很多陌生人摧毀你。
Thumbnail
網紅兼前議員呱吉在Podcast百靈果上提到, 專家們原本以為社群平台可以讓人類擴大交友圈,聽見更多不同的聲音,後來發現並沒有。 因為大多數人都只關心自己,只接受自己想聽的言論,看到那些在自己支持的貼文下方批評的言論,許多人只會說:「不喜歡可以不要看!」。 我們擴大的並不是交友圈,而是我們的
Thumbnail
社群平台的流量操控 昨天看了百靈果的《小紅書演算法工程師-Nick》,這集的來賓顧名思義就是負責小紅書演算法的工程師,來聊聊傳說中的演算法。 有在經營自媒體的朋友,一定對「演算法」、「流量」、「按讚數」不陌生吧?尤其近期無論是ig等社群平台,流量皆慘澹到哀鴻遍野。 我認為節目中很有趣的是,工
Thumbnail
我同時擁有網站、Instagram、podcast與Facebook四個創作平台,每種平台基本上各自有爭取流量的方式,觀看者、觸及者的來源也都不一樣,每種平台的觀看喜好及經營操作也會不太一樣,但在2023年春節過後,竟全部都出現跳耀性的成長,原因是為什麼!?
Thumbnail
無可避免的,人就是群體動物。走到哪裡都是要社交的,逃也逃不了。唯有靜下心來從這些紛擾的人際關係中,堅守自己的信仰,勇敢的拋棄自己不要的,留著可以與自己相伴的,才不用在未來的人生中,一次又一次遺失的自己、一次又一次尋找可以依附的(卻又一次又一次的被拋棄)。
Thumbnail
無論您的事業是剛起步,還是已是成熟的品牌,透過社群平台與消費者互動,絕對是數位行銷不可錯過的重要環節。從客服支援到建立引導流量到官方網站,這些社群平台提供了快速且直覺的步驟,幫助您的品牌吸引更多消費者目光。 為什麼經營社群對服務業品牌來說非常重要? Facebook — 老牌社群但仍具影響力
Thumbnail
這個問題還蠻基本的,但真的很重要,特地再拉出來回應更多一點。 現在FB的使用者現況,主要年齡層在35歲以上,而且有高度閱讀能力,以及高度的黏著特性。這跟其他平台有很大的不同,閱讀力高,代表轉換率也相對比較高,而35歲以上的年齡層也正好是含金量最高的族群,所以目前的廣告投放還是以FB為最大宗。
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
臺灣社群媒體平臺在日常生活中顯得尤為重要, Discord, Patreon, Uscreen, Buy Me a Coffee, ko-fi, Gumroad, Gotomax 和 Getmax 等社群平臺都在臺灣具有一定受眾。本文通過比較不同社群平臺的優缺點。
Threads對創作者來說、是一把雙面刃。 要麼很多陌生人支持你、要麼很多陌生人摧毀你。
Thumbnail
網紅兼前議員呱吉在Podcast百靈果上提到, 專家們原本以為社群平台可以讓人類擴大交友圈,聽見更多不同的聲音,後來發現並沒有。 因為大多數人都只關心自己,只接受自己想聽的言論,看到那些在自己支持的貼文下方批評的言論,許多人只會說:「不喜歡可以不要看!」。 我們擴大的並不是交友圈,而是我們的
Thumbnail
社群平台的流量操控 昨天看了百靈果的《小紅書演算法工程師-Nick》,這集的來賓顧名思義就是負責小紅書演算法的工程師,來聊聊傳說中的演算法。 有在經營自媒體的朋友,一定對「演算法」、「流量」、「按讚數」不陌生吧?尤其近期無論是ig等社群平台,流量皆慘澹到哀鴻遍野。 我認為節目中很有趣的是,工
Thumbnail
我同時擁有網站、Instagram、podcast與Facebook四個創作平台,每種平台基本上各自有爭取流量的方式,觀看者、觸及者的來源也都不一樣,每種平台的觀看喜好及經營操作也會不太一樣,但在2023年春節過後,竟全部都出現跳耀性的成長,原因是為什麼!?
Thumbnail
無可避免的,人就是群體動物。走到哪裡都是要社交的,逃也逃不了。唯有靜下心來從這些紛擾的人際關係中,堅守自己的信仰,勇敢的拋棄自己不要的,留著可以與自己相伴的,才不用在未來的人生中,一次又一次遺失的自己、一次又一次尋找可以依附的(卻又一次又一次的被拋棄)。
Thumbnail
無論您的事業是剛起步,還是已是成熟的品牌,透過社群平台與消費者互動,絕對是數位行銷不可錯過的重要環節。從客服支援到建立引導流量到官方網站,這些社群平台提供了快速且直覺的步驟,幫助您的品牌吸引更多消費者目光。 為什麼經營社群對服務業品牌來說非常重要? Facebook — 老牌社群但仍具影響力
Thumbnail
這個問題還蠻基本的,但真的很重要,特地再拉出來回應更多一點。 現在FB的使用者現況,主要年齡層在35歲以上,而且有高度閱讀能力,以及高度的黏著特性。這跟其他平台有很大的不同,閱讀力高,代表轉換率也相對比較高,而35歲以上的年齡層也正好是含金量最高的族群,所以目前的廣告投放還是以FB為最大宗。