商業觀察|八分鐘帶你看懂電商產業背後的爬蟲大戰

更新於 2024/12/05閱讀時間約 8 分鐘
現在是 2021年12月11日深夜23:55,小優開啟多個分頁並打開數個購物網站,摩拳擦掌地瀏覽網頁資訊,準備在各大電商的雙十二購物節,以最優惠的價格購入商品。
記得上次的雙十一,小優沒有提前花時間收集產品資訊,導致許多想買的商品馬上就被搶購一空...但這次雙十二適逢周日,小優有充足的時間可以瀏覽商品資訊!在她瀏覽許久後,終於在 XOXO 看到一個垂涎已久的航X王公仔,而且價格也相當吸引人,只要定價的七折就可以買到!
正當小優覺得自己撿到便宜時,卻驚喜地發現另一個電商網站 XXhome 突然也推出折扣,同樣將價格下殺到七折,且額外配合小優的信用卡優惠反而能得到更低的價格,因此小優滑鼠一轉,跳到 XXhome 開心地登入會員並進行下單…
但小優不知道的是,XXhome 突然下殺的優惠與價格設定並非偶然,這一切都與「爬蟲」有關。

爬蟲到底是什麼?

爬蟲是網路爬蟲(web crawler)的簡稱,主要應用是設計一個程式機器人,使其按照一定的規則自動抓取網頁上的資訊,協助使用者快速查詢,並進行更多的延伸分析和討論。
一般來說,爬蟲機器人會從網站中某個頁面進行搜尋和讀取,並尋找該頁面的其他網站連結,一層接一層進行搜尋直到將該網站全部都讀取完成。但如果該網站有極大量的網頁連結呢?爬蟲機器人通常會依據該頁面的重要性進行優先排序,像是訪客數、相關連結數量,以及其它可判斷該頁面可能包含重要資訊的因素。
理所當然地,有人會透過爬蟲機器人讀取網頁內容,自然也有「反爬蟲」的網站存在,畢竟如果有大量的爬蟲程式跑到同一網站下載資訊,會對網站的伺服器造成極大負擔並導致延遲狀況產生,而影響到真實用戶。
此外,一些本來就希望真人操作的頁面(如登入頁面),同樣也會希望佈下反爬蟲程序來反制,所以設計爬蟲程式時,如何去應對這些反爬蟲網頁也會是需要考量的因素之一。
圖片來源:What is a Web Crawler?

爬蟲可以做什麼?

爬蟲機器人可以因應使用者的不同需求,進行網頁資料抓取。
還記得剛才小優的故事嗎?她就可以透過爬蟲機器人,提前將電商網站的商品、價格、折扣,甚至是目前庫存狀況都即時下載,當看到有吸引力的價格便可直接下單,而不用時時刻刻盯著網站價格頁面,自然也就不會錯過當初的雙十一折扣了。
許多企業的核心業務也與爬蟲息息相關,以大家常使用的 Google 搜尋引擎為例,便是會去爬行數以百萬計的網站內容,進行解析和建立檢索系統,這樣消費者輸入想要搜尋的關鍵字後,就可以依照這些關鍵字尋找最相關的網站,進一步提供用戶最適當的資訊和解答。
圖片來源:Whoops
在這個資訊為王的時代,爬蟲機器人的應用相當多元,不論是個人用戶端的獨立需求,或是團體企業端的產業用途,都有機會透過爬蟲機器人取得更多資訊,重新梳理並發揮更大價值,尤其電商產業與之息息相關,必須著重思考爬蟲機器人帶來的影響,原因包括:
  • 從積極意涵來看,目前電商網站偏好採用「動態定價」,也就是說產品價格會考慮市場供需、庫存水平等而不斷浮動,如一件衣服一周內可能會有數種價格、一款電器幾天內的價格波動可能多達數百元,藉由這種機制能為平台帶來更多佣金和利潤。而此一機制的背後就是藉由爬蟲機器人,了解整體電商市場的產品銷貨狀況,才能進而動態調整。
  • 從消極意涵來看,我們常聽說有詐騙集團會透過自動化工具嘗試破解會員帳密,或透過大量爬蟲機器人影響伺服器運作,進而造成癱瘓,過去中國大陸更有人用非法爬蟲取得淘寶數億人的個資,獲利高達數百萬,因此電商網站該如何進行防範?便是需要更進一步關注爬蟲機器人的發展。
每到促銷季節,電商更默默打起「蟲蟲大戰」,
透過爬蟲機器人以提供具競爭力的價格策略。

價格策略背後的行銷4P

我們可以透過行銷 4P 概念,更好地理解電商為什麼必須重視價格策略
行銷 4P 包含產品、價格、通路、促銷,簡單來說是在提醒產品管理者規劃商業行動時,需要考量的四個面向,才能有系統性地進行分析。
例如我們今天要販售一款皮包,需要先思考產品的定位和目標客群,是賣給學生族、小資族或是熟齡族群;其次便要規劃能夠吸引消費者的取得通路促銷活動,像是要在百貨公司或是線上渠道販售;當然,合適的價格也是消費者選擇下單的關鍵所在。
然而對大型電商網站來說,價格其實最為關鍵。
從電商角度出發,提供的產品和通路大多極為相似,多數的零售業者都會在 XXhome、XOXO 購物網、Yahoo 商城開店,且根據零售研究機構 STORES 調查,通路面會逐漸往虛擬和實體通路互用之多通路零售發展,因此和其他競爭對手在「產品」和「通路」的差異性相對小;而「促銷活動」也難有偌大差異,各家業者都紛紛於周年慶、活動節日祭出優惠,期待獲得消費者青睞,因此「價格」面向就最為重要,且須隨時了解競爭者的價格變化
不像實體零售業由於人力考量,因此價格更新頻率較低。電商網站最大優勢之一就是能夠根據銷售評估、競爭者狀況等,一天內數次動態調整價格,尤其對於電商龍頭業者如 Walmart 和 Amazon 更是如此。
從微觀角度來看,在電商網站販售商品的店家,價格也是最重要的競爭要素。而爬蟲最有效的運用之一,就是協助店家了解競爭者的銷售狀況,包含販售哪些款式商品、每日定價與銷售額,讓店家根據這些資訊,推出更具競爭力的商品組合和優惠。
當店家想進入新市場時,也可先透過爬蟲機器人了解新市場的銷售狀況,分析消費者比較喜歡哪些產品,進而決定進貨款式及數量,降低不必要的庫存成本。
掌握爬蟲機器人,就是掌握價格訂定的話語權。

電商的爬蟲大戰

2017 年時,電商業發生一件相當有趣的是,那就是 Walmart 過去追蹤 Amazon 網站產品的爬蟲機器人突然失靈,導致Walmart無法得知競爭對手的價格動向!如上所述,當消費者對購物平台沒有太多忠誠度,且對於價格高度敏感的情況下,無法得知對手價格動態無疑是相當致命的。
Walmart 事後才發現,這一切都是 Amazon 的反爬蟲設計!根據前 Amazon 經理們表示:「Amazon既有能力去檢測外部爬蟲機器人,又有資金去應對這種問題。而多數電商業者不具備這些條件,因此與 Amazon 競爭將變得越來越困難。」最終 Walmart 只能透過額外購買二手資訊,以取得 Amazon 定價動態,而這也顯現電商網站高度仰賴爬蟲機器人的情況。
在競爭激烈的電商市場中,若無法即時取得競爭者的定價資訊,就彷彿是在敵暗我明的情況下作戰,讓自家產品在定價上落於下風並且流失消費者,縱使 Walmart 努力從他方取得資訊,也由於是較落後資訊,因此成效有限。而除了爬蟲外,該如何從其他地方取得獨佔地位,也歡迎參考 Eddy 之前撰寫的<閱讀分享│從零到一,創造你的獨佔價值>!
電商思維的核心是資訊戰,
資訊戰背後就是爬蟲機器人的競爭。

總結與觀點

在這篇文章快速介紹爬蟲的入門概念、應用案例、對電商產業的必要性和背後角力。在資訊爆炸的世代,可應用爬蟲機器人的場合到處都是,有效節省我們追蹤、梳理資訊的時間,讓我們將更多心力放在如何把資訊昇華成有價值的洞見及觀點
從電商產業出發,也需提供好的價格策略才能獲得競爭優勢。因此從這點切入,「爬蟲」正是每個電商業者都需掌握的關鍵成功因素(Key Successful Factors)!
透過按愛心,讓我知道你/妳的觀後感吧!
如果你/妳很喜歡我的「商業觀察」類型的文章,請記得幫我按個愛心,之後會為你常寫的!
如果有任何建議或想法,也歡迎在下方留言給我,討論總是進步的原動力。
也要記得「追蹤」此帳號,讓我提供更多優質文章給您,而不會被茫茫文章淹沒 :)

閱讀更多

為什麼會看到廣告
Eddy 的科技加速器,從2024年6月開始復刊。 會針對有興趣的公司,進行商業上的分析和探討,尤其著重在科技產業。 Eddy 畢業至清華大學科管所,目前是一名雲端顧問,期待透過自身的專業和經驗,分享產業新知和趨勢,與大家共同交流和成長。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
Zuckeberg 與其團隊一直以來就相當擅長公關操作以及如何潛移默化地說服大眾,以達到自身訴求,因此當我們從 Framing Strategy 的角度,或許也可以為這一系列行為進行詮釋,也了解這些舉動未必是高調宣示,更含有細緻的商業意涵。
在金融市場中,似乎每隔幾年總會聽到一些公司爆出財報造假的醜聞。無論是經典商業個案的安隆案、90億美元的矽谷新創Theranos或是去年的小藍杯瑞幸咖啡,這些公司在上市時,無一不是受到投資人的青睞和推崇;然而最終到底是哪些環節出了差錯?導致其泡沫的崩毀呢? 本文將分享三個經典的商業騙局,千萬不可以錯過
Zuckeberg 與其團隊一直以來就相當擅長公關操作以及如何潛移默化地說服大眾,以達到自身訴求,因此當我們從 Framing Strategy 的角度,或許也可以為這一系列行為進行詮釋,也了解這些舉動未必是高調宣示,更含有細緻的商業意涵。
在金融市場中,似乎每隔幾年總會聽到一些公司爆出財報造假的醜聞。無論是經典商業個案的安隆案、90億美元的矽谷新創Theranos或是去年的小藍杯瑞幸咖啡,這些公司在上市時,無一不是受到投資人的青睞和推崇;然而最終到底是哪些環節出了差錯?導致其泡沫的崩毀呢? 本文將分享三個經典的商業騙局,千萬不可以錯過
你可能也想看
Google News 追蹤
Thumbnail
徵的就是你 🫵 超ㄅㄧㄤˋ 獎品搭配超瞎趴的四大主題,等你踹共啦!還有機會獲得經典的「偉士牌樂高」喔!馬上來參加本次的活動吧!
Thumbnail
阿揪西放送的老朋友們應該知道,今年我剛結束了一段大齡留學生活。這段時間偶爾有網友私訊詢問學校申請、開銷和準備流程等問題,我也樂於分享各種細節。其中常提到的建議之一就是:開通一個便捷的網銀帳戶。
Thumbnail
我們都知道中國市場目前正處於銷售淡季,不過因為之前中國業界對於第三季、第四季的銷售預測過於樂觀,因此目前主要廠商手上都有滿滿的零件與成車庫存。 對於市場的預期過度樂觀而來不及即時作出調整,以致於庫存增高。 你看,這個是不是很有過去幾年的既視感(Dejavu)呢?
Thumbnail
本文章探討了公司如何在每年第四季制定年度計劃及其面臨的挑戰。雖然預測未來的銷售和生產情況是必要的,但市場變化、數據可信度和人類行為的影響,使得這一過程充滿不確定性。作者分享了過去的經驗和觀察,並分析了臺灣自行車產業在全球市場中的地位及面臨的風險,最終強調了韌性與彈性對於企業的重要性。
Thumbnail
本文探討了中國電商市場的發展動態及目前自行車市場的狀況。隨著網際網路滲透率提高和消費者行為的變化,中國電商的銷售額迅速上升。然而,經濟不景氣和消費者的疲乏感也影響了購物行為。特別是自行車市場,面臨著供過於求的挑戰,主要消費者族群分為通勤者、休閒騎行者和專業騎行者,後者仍然保持強勁的購買力。
最近透過原本追蹤的那三個微商高階代理的Instagram網絡,加了幾個低階微商,讓南北這兩大像粽子一樣微商網絡串更完整,從收入豐碩的高階代理到剛入行還是學生的低階三級代理都有了。 共用截圖 我幾乎每天都會記錄這些微商的動態,最主要的原因之一是想要驗證這兩串微商是否有共用出貨或者銀行入帳的截圖,經
Thumbnail
疫情期間,實體零售店受到將近三年的影響,能夠撐過疫情的業者已感受到消費復甦的活力,消費者恢復親自上街購物,實體零售店正在捲土重來。另一方面,電商網站也必須思考如何結合現有實體店面的經營,保持後疫情時代銷售力道。根據疫情後實際觀察心得,與您分享以下幾點
Thumbnail
商業類文章提到公司運作時經常會討論長期目標 (the long term goal) 跟短期目標 (the short term goal) 通常長期目標接近理念 (vision) 短期目標則是實在的執行 (execution) 我拆一下這段短新聞分三個部分..
Thumbnail
占察善惡業報經介紹 《地藏菩薩本願經》、《大乘大集地藏十輪經》、《占察善惡業報經》,合稱「地藏三經」。佛在《佛說法滅盡經》等多部經典中預言:現今末法時期,眾生福薄,多諸衰惱,種種厄難,怖懼逼迫,就連佛弟子也有失去善心與正念者,為貪、瞋、痴、我慢等所摧。雖然表面上看起來像是在學佛的樣子,其實只求
Thumbnail
徵的就是你 🫵 超ㄅㄧㄤˋ 獎品搭配超瞎趴的四大主題,等你踹共啦!還有機會獲得經典的「偉士牌樂高」喔!馬上來參加本次的活動吧!
Thumbnail
阿揪西放送的老朋友們應該知道,今年我剛結束了一段大齡留學生活。這段時間偶爾有網友私訊詢問學校申請、開銷和準備流程等問題,我也樂於分享各種細節。其中常提到的建議之一就是:開通一個便捷的網銀帳戶。
Thumbnail
我們都知道中國市場目前正處於銷售淡季,不過因為之前中國業界對於第三季、第四季的銷售預測過於樂觀,因此目前主要廠商手上都有滿滿的零件與成車庫存。 對於市場的預期過度樂觀而來不及即時作出調整,以致於庫存增高。 你看,這個是不是很有過去幾年的既視感(Dejavu)呢?
Thumbnail
本文章探討了公司如何在每年第四季制定年度計劃及其面臨的挑戰。雖然預測未來的銷售和生產情況是必要的,但市場變化、數據可信度和人類行為的影響,使得這一過程充滿不確定性。作者分享了過去的經驗和觀察,並分析了臺灣自行車產業在全球市場中的地位及面臨的風險,最終強調了韌性與彈性對於企業的重要性。
Thumbnail
本文探討了中國電商市場的發展動態及目前自行車市場的狀況。隨著網際網路滲透率提高和消費者行為的變化,中國電商的銷售額迅速上升。然而,經濟不景氣和消費者的疲乏感也影響了購物行為。特別是自行車市場,面臨著供過於求的挑戰,主要消費者族群分為通勤者、休閒騎行者和專業騎行者,後者仍然保持強勁的購買力。
最近透過原本追蹤的那三個微商高階代理的Instagram網絡,加了幾個低階微商,讓南北這兩大像粽子一樣微商網絡串更完整,從收入豐碩的高階代理到剛入行還是學生的低階三級代理都有了。 共用截圖 我幾乎每天都會記錄這些微商的動態,最主要的原因之一是想要驗證這兩串微商是否有共用出貨或者銀行入帳的截圖,經
Thumbnail
疫情期間,實體零售店受到將近三年的影響,能夠撐過疫情的業者已感受到消費復甦的活力,消費者恢復親自上街購物,實體零售店正在捲土重來。另一方面,電商網站也必須思考如何結合現有實體店面的經營,保持後疫情時代銷售力道。根據疫情後實際觀察心得,與您分享以下幾點
Thumbnail
商業類文章提到公司運作時經常會討論長期目標 (the long term goal) 跟短期目標 (the short term goal) 通常長期目標接近理念 (vision) 短期目標則是實在的執行 (execution) 我拆一下這段短新聞分三個部分..
Thumbnail
占察善惡業報經介紹 《地藏菩薩本願經》、《大乘大集地藏十輪經》、《占察善惡業報經》,合稱「地藏三經」。佛在《佛說法滅盡經》等多部經典中預言:現今末法時期,眾生福薄,多諸衰惱,種種厄難,怖懼逼迫,就連佛弟子也有失去善心與正念者,為貪、瞋、痴、我慢等所摧。雖然表面上看起來像是在學佛的樣子,其實只求