商業觀察|八分鐘帶你看懂電商產業背後的爬蟲大戰

2021/12/06閱讀時間約 8 分鐘
現在是 2021年12月11日深夜23:55,小優開啟多個分頁並打開數個購物網站,摩拳擦掌地瀏覽網頁資訊,準備在各大電商的雙十二購物節,以最優惠的價格購入商品。
記得上次的雙十一,小優沒有提前花時間收集產品資訊,導致許多想買的商品馬上就被搶購一空...但這次雙十二適逢周日,小優有充足的時間可以瀏覽商品資訊!在她瀏覽許久後,終於在 XOXO 看到一個垂涎已久的航X王公仔,而且價格也相當吸引人,只要定價的七折就可以買到!
正當小優覺得自己撿到便宜時,卻驚喜地發現另一個電商網站 XXhome 突然也推出折扣,同樣將價格下殺到七折,且額外配合小優的信用卡優惠反而能得到更低的價格,因此小優滑鼠一轉,跳到 XXhome 開心地登入會員並進行下單…
但小優不知道的是,XXhome 突然下殺的優惠與價格設定並非偶然,這一切都與「爬蟲」有關。

爬蟲到底是什麼?

爬蟲是網路爬蟲(web crawler)的簡稱,主要應用是設計一個程式機器人,使其按照一定的規則自動抓取網頁上的資訊,協助使用者快速查詢,並進行更多的延伸分析和討論。
一般來說,爬蟲機器人會從網站中某個頁面進行搜尋和讀取,並尋找該頁面的其他網站連結,一層接一層進行搜尋直到將該網站全部都讀取完成。但如果該網站有極大量的網頁連結呢?爬蟲機器人通常會依據該頁面的重要性進行優先排序,像是訪客數、相關連結數量,以及其它可判斷該頁面可能包含重要資訊的因素。
理所當然地,有人會透過爬蟲機器人讀取網頁內容,自然也有「反爬蟲」的網站存在,畢竟如果有大量的爬蟲程式跑到同一網站下載資訊,會對網站的伺服器造成極大負擔並導致延遲狀況產生,而影響到真實用戶。
此外,一些本來就希望真人操作的頁面(如登入頁面),同樣也會希望佈下反爬蟲程序來反制,所以設計爬蟲程式時,如何去應對這些反爬蟲網頁也會是需要考量的因素之一。
圖片來源:What is a Web Crawler?

爬蟲可以做什麼?

爬蟲機器人可以因應使用者的不同需求,進行網頁資料抓取。
還記得剛才小優的故事嗎?她就可以透過爬蟲機器人,提前將電商網站的商品、價格、折扣,甚至是目前庫存狀況都即時下載,當看到有吸引力的價格便可直接下單,而不用時時刻刻盯著網站價格頁面,自然也就不會錯過當初的雙十一折扣了。
許多企業的核心業務也與爬蟲息息相關,以大家常使用的 Google 搜尋引擎為例,便是會去爬行數以百萬計的網站內容,進行解析和建立檢索系統,這樣消費者輸入想要搜尋的關鍵字後,就可以依照這些關鍵字尋找最相關的網站,進一步提供用戶最適當的資訊和解答。
圖片來源:Whoops
在這個資訊為王的時代,爬蟲機器人的應用相當多元,不論是個人用戶端的獨立需求,或是團體企業端的產業用途,都有機會透過爬蟲機器人取得更多資訊,重新梳理並發揮更大價值,尤其電商產業與之息息相關,必須著重思考爬蟲機器人帶來的影響,原因包括:
  • 從積極意涵來看,目前電商網站偏好採用「動態定價」,也就是說產品價格會考慮市場供需、庫存水平等而不斷浮動,如一件衣服一周內可能會有數種價格、一款電器幾天內的價格波動可能多達數百元,藉由這種機制能為平台帶來更多佣金和利潤。而此一機制的背後就是藉由爬蟲機器人,了解整體電商市場的產品銷貨狀況,才能進而動態調整。
  • 從消極意涵來看,我們常聽說有詐騙集團會透過自動化工具嘗試破解會員帳密,或透過大量爬蟲機器人影響伺服器運作,進而造成癱瘓,過去中國大陸更有人用非法爬蟲取得淘寶數億人的個資,獲利高達數百萬,因此電商網站該如何進行防範?便是需要更進一步關注爬蟲機器人的發展。
每到促銷季節,電商更默默打起「蟲蟲大戰」,
透過爬蟲機器人以提供具競爭力的價格策略。

價格策略背後的行銷4P

我們可以透過行銷 4P 概念,更好地理解電商為什麼必須重視價格策略
行銷 4P 包含產品、價格、通路、促銷,簡單來說是在提醒產品管理者規劃商業行動時,需要考量的四個面向,才能有系統性地進行分析。
例如我們今天要販售一款皮包,需要先思考產品的定位和目標客群,是賣給學生族、小資族或是熟齡族群;其次便要規劃能夠吸引消費者的取得通路促銷活動,像是要在百貨公司或是線上渠道販售;當然,合適的價格也是消費者選擇下單的關鍵所在。
然而對大型電商網站來說,價格其實最為關鍵。
從電商角度出發,提供的產品和通路大多極為相似,多數的零售業者都會在 XXhome、XOXO 購物網、Yahoo 商城開店,且根據零售研究機構 STORES 調查,通路面會逐漸往虛擬和實體通路互用之多通路零售發展,因此和其他競爭對手在「產品」和「通路」的差異性相對小;而「促銷活動」也難有偌大差異,各家業者都紛紛於周年慶、活動節日祭出優惠,期待獲得消費者青睞,因此「價格」面向就最為重要,且須隨時了解競爭者的價格變化
不像實體零售業由於人力考量,因此價格更新頻率較低。電商網站最大優勢之一就是能夠根據銷售評估、競爭者狀況等,一天內數次動態調整價格,尤其對於電商龍頭業者如 Walmart 和 Amazon 更是如此。
從微觀角度來看,在電商網站販售商品的店家,價格也是最重要的競爭要素。而爬蟲最有效的運用之一,就是協助店家了解競爭者的銷售狀況,包含販售哪些款式商品、每日定價與銷售額,讓店家根據這些資訊,推出更具競爭力的商品組合和優惠。
當店家想進入新市場時,也可先透過爬蟲機器人了解新市場的銷售狀況,分析消費者比較喜歡哪些產品,進而決定進貨款式及數量,降低不必要的庫存成本。
掌握爬蟲機器人,就是掌握價格訂定的話語權。

電商的爬蟲大戰

2017 年時,電商業發生一件相當有趣的是,那就是 Walmart 過去追蹤 Amazon 網站產品的爬蟲機器人突然失靈,導致Walmart無法得知競爭對手的價格動向!如上所述,當消費者對購物平台沒有太多忠誠度,且對於價格高度敏感的情況下,無法得知對手價格動態無疑是相當致命的。
Walmart 事後才發現,這一切都是 Amazon 的反爬蟲設計!根據前 Amazon 經理們表示:「Amazon既有能力去檢測外部爬蟲機器人,又有資金去應對這種問題。而多數電商業者不具備這些條件,因此與 Amazon 競爭將變得越來越困難。」最終 Walmart 只能透過額外購買二手資訊,以取得 Amazon 定價動態,而這也顯現電商網站高度仰賴爬蟲機器人的情況。
在競爭激烈的電商市場中,若無法即時取得競爭者的定價資訊,就彷彿是在敵暗我明的情況下作戰,讓自家產品在定價上落於下風並且流失消費者,縱使 Walmart 努力從他方取得資訊,也由於是較落後資訊,因此成效有限。而除了爬蟲外,該如何從其他地方取得獨佔地位,也歡迎參考 Eddy 之前撰寫的<閱讀分享│從零到一,創造你的獨佔價值>!
電商思維的核心是資訊戰,
資訊戰背後就是爬蟲機器人的競爭。

總結與觀點

在這篇文章快速介紹爬蟲的入門概念、應用案例、對電商產業的必要性和背後角力。在資訊爆炸的世代,可應用爬蟲機器人的場合到處都是,有效節省我們追蹤、梳理資訊的時間,讓我們將更多心力放在如何把資訊昇華成有價值的洞見及觀點
從電商產業出發,也需提供好的價格策略才能獲得競爭優勢。因此從這點切入,「爬蟲」正是每個電商業者都需掌握的關鍵成功因素(Key Successful Factors)!
透過按愛心,讓我知道你/妳的觀後感吧!
如果你/妳很喜歡我的「商業觀察」類型的文章,請記得幫我按個愛心,之後會為你常寫的!
如果有任何建議或想法,也歡迎在下方留言給我,討論總是進步的原動力。
也要記得「追蹤」此帳號,讓我提供更多優質文章給您,而不會被茫茫文章淹沒 :)

閱讀更多

為什麼會看到廣告
留言0
查看全部
發表第一個留言支持創作者!