商業觀察｜八分鐘帶你看懂電商產業背後的爬蟲大戰
閱讀時間約 8 分鐘
現在是 2021年12月11日深夜23:55，小優開啟多個分頁並打開數個購物網站，摩拳擦掌地瀏覽網頁資訊，準備在各大電商的雙十二購物節，以最優惠的價格購入商品。
記得上次的雙十一，小優沒有提前花時間收集產品資訊，導致許多想買的商品馬上就被搶購一空...但這次雙十二適逢周日，小優有充足的時間可以瀏覽商品資訊！在她瀏覽許久後，終於在 XOXO 看到一個垂涎已久的航X王公仔，而且價格也相當吸引人，只要定價的七折就可以買到！
正當小優覺得自己撿到便宜時，卻驚喜地發現另一個電商網站 XXhome 突然也推出折扣，同樣將價格下殺到七折，且額外配合小優的信用卡優惠反而能得到更低的價格，因此小優滑鼠一轉，跳到 XXhome 開心地登入會員並進行下單…
但小優不知道的是，XXhome 突然下殺的優惠與價格設定並非偶然，這一切都與「爬蟲」有關。
爬蟲到底是什麼？
爬蟲是網路爬蟲（web crawler）的簡稱，主要應用是設計一個程式機器人，使其按照一定的規則自動抓取網頁上的資訊，協助使用者快速查詢，並進行更多的延伸分析和討論。
一般來說，爬蟲機器人會從網站中某個頁面進行搜尋和讀取，並尋找該頁面的其他網站連結，一層接一層進行搜尋直到將該網站全部都讀取完成。但如果該網站有極大量的網頁連結呢？爬蟲機器人通常會依據該頁面的重要性進行優先排序，像是訪客數、相關連結數量，以及其它可判斷該頁面可能包含重要資訊的因素。
理所當然地，有人會透過爬蟲機器人讀取網頁內容，自然也有「反爬蟲」的網站存在，畢竟如果有大量的爬蟲程式跑到同一網站下載資訊，會對網站的伺服器造成極大負擔並導致延遲狀況產生，而影響到真實用戶。
此外，一些本來就希望真人操作的頁面（如登入頁面），同樣也會希望佈下反爬蟲程序來反制，所以設計爬蟲程式時，如何去應對這些反爬蟲網頁也會是需要考量的因素之一。
爬蟲可以做什麼？
爬蟲機器人可以因應使用者的不同需求，進行網頁資料抓取。
還記得剛才小優的故事嗎？她就可以透過爬蟲機器人，提前將電商網站的商品、價格、折扣，甚至是目前庫存狀況都即時下載，當看到有吸引力的價格便可直接下單，而不用時時刻刻盯著網站價格頁面，自然也就不會錯過當初的雙十一折扣了。
許多企業的核心業務也與爬蟲息息相關，以大家常使用的 Google 搜尋引擎為例，便是會去爬行數以百萬計的網站內容，進行解析和建立檢索系統，這樣消費者輸入想要搜尋的關鍵字後，就可以依照這些關鍵字尋找最相關的網站，進一步提供用戶最適當的資訊和解答。
在這個資訊為王的時代，爬蟲機器人的應用相當多元，不論是個人用戶端的獨立需求，或是團體企業端的產業用途，都有機會透過爬蟲機器人取得更多資訊，重新梳理並發揮更大價值，尤其電商產業與之息息相關，必須著重思考爬蟲機器人帶來的影響，原因包括：
- 從積極意涵來看，目前電商網站偏好採用「動態定價」，也就是說產品價格會考慮市場供需、庫存水平等而不斷浮動，如一件衣服一周內可能會有數種價格、一款電器幾天內的價格波動可能多達數百元，藉由這種機制能為平台帶來更多佣金和利潤。而此一機制的背後就是藉由爬蟲機器人，了解整體電商市場的產品銷貨狀況，才能進而動態調整。
- 從消極意涵來看，我們常聽說有詐騙集團會透過自動化工具嘗試破解會員帳密，或透過大量爬蟲機器人影響伺服器運作，進而造成癱瘓，過去中國大陸更有人用非法爬蟲取得淘寶數億人的個資，獲利高達數百萬，因此電商網站該如何進行防範？便是需要更進一步關注爬蟲機器人的發展。
每到促銷季節，電商更默默打起「蟲蟲大戰」，
透過爬蟲機器人以提供具競爭力的價格策略。
透過爬蟲機器人以提供具競爭力的價格策略。
價格策略背後的行銷4P
我們可以透過行銷 4P 概念，更好地理解電商為什麼必須重視價格策略。
行銷 4P 包含產品、價格、通路、促銷，簡單來說是在提醒產品管理者規劃商業行動時，需要考量的四個面向，才能有系統性地進行分析。
例如我們今天要販售一款皮包，需要先思考產品的定位和目標客群，是賣給學生族、小資族或是熟齡族群；其次便要規劃能夠吸引消費者的取得通路和促銷活動，像是要在百貨公司或是線上渠道販售；當然，合適的價格也是消費者選擇下單的關鍵所在。
然而對大型電商網站來說，價格其實最為關鍵。
從電商角度出發，提供的產品和通路大多極為相似，多數的零售業者都會在 XXhome、XOXO 購物網、Yahoo 商城開店，且根據零售研究機構 STORES 調查，通路面會逐漸往虛擬和實體通路互用之多通路零售發展，因此和其他競爭對手在「產品」和「通路」的差異性相對小；而「促銷活動」也難有偌大差異，各家業者都紛紛於周年慶、活動節日祭出優惠，期待獲得消費者青睞，因此「價格」面向就最為重要，且須隨時了解競爭者的價格變化。
不像實體零售業由於人力考量，因此價格更新頻率較低。電商網站最大優勢之一就是能夠根據銷售評估、競爭者狀況等，一天內數次動態調整價格，尤其對於電商龍頭業者如 Walmart 和 Amazon 更是如此。
從微觀角度來看，在電商網站販售商品的店家，價格也是最重要的競爭要素。而爬蟲最有效的運用之一，就是協助店家了解競爭者的銷售狀況，包含販售哪些款式商品、每日定價與銷售額，讓店家根據這些資訊，推出更具競爭力的商品組合和優惠。
當店家想進入新市場時，也可先透過爬蟲機器人了解新市場的銷售狀況，分析消費者比較喜歡哪些產品，進而決定進貨款式及數量，降低不必要的庫存成本。
掌握爬蟲機器人，就是掌握價格訂定的話語權。
電商的爬蟲大戰
2017 年時，電商業發生一件相當有趣的是，那就是 Walmart 過去追蹤 Amazon 網站產品的爬蟲機器人突然失靈，導致Walmart無法得知競爭對手的價格動向！如上所述，當消費者對購物平台沒有太多忠誠度，且對於價格高度敏感的情況下，無法得知對手價格動態無疑是相當致命的。
Walmart 事後才發現，這一切都是 Amazon 的反爬蟲設計！根據前 Amazon 經理們表示：「Amazon既有能力去檢測外部爬蟲機器人，又有資金去應對這種問題。而多數電商業者不具備這些條件，因此與 Amazon 競爭將變得越來越困難。」最終 Walmart 只能透過額外購買二手資訊，以取得 Amazon 定價動態，而這也顯現電商網站高度仰賴爬蟲機器人的情況。
在競爭激烈的電商市場中，若無法即時取得競爭者的定價資訊，就彷彿是在敵暗我明的情況下作戰，讓自家產品在定價上落於下風並且流失消費者，縱使 Walmart 努力從他方取得資訊，也由於是較落後資訊，因此成效有限。而除了爬蟲外，該如何從其他地方取得獨佔地位，也歡迎參考 Eddy 之前撰寫的<閱讀分享│從零到一，創造你的獨佔價值>！
電商思維的核心是資訊戰，
資訊戰背後就是爬蟲機器人的競爭。
資訊戰背後就是爬蟲機器人的競爭。
總結與觀點
在這篇文章快速介紹爬蟲的入門概念、應用案例、對電商產業的必要性和背後角力。在資訊爆炸的世代，可應用爬蟲機器人的場合到處都是，有效節省我們追蹤、梳理資訊的時間，讓我們將更多心力放在如何把資訊昇華成有價值的洞見及觀點。
從電商產業出發，也需提供好的價格策略才能獲得競爭優勢。因此從這點切入，「爬蟲」正是每個電商業者都需掌握的關鍵成功因素（Key Successful Factors）！
透過按愛心，讓我知道你／妳的觀後感吧！
如果你／妳很喜歡我的「商業觀察」類型的文章，請記得幫我按個愛心，之後會為你常寫的！
如果有任何建議或想法，也歡迎在下方留言給我，討論總是進步的原動力。
也要記得「追蹤」此帳號，讓我提供更多優質文章給您，而不會被茫茫文章淹沒 :)
閱讀更多
為什麼會看到廣告
92會員
41內容數
Eddy 的科技加速器，從2024年6月開始復刊。
會針對有興趣的公司，進行商業上的分析和探討，尤其著重在科技產業。
Eddy 畢業至清華大學科管所，目前是一名雲端顧問，期待透過自身的專業和經驗，分享產業新知和趨勢，與大家共同交流和成長。
留言0
查看全部
你可能也想看
Google News 追蹤
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
Faker昨天真的太扯了，中國主播王多多點評的話更是精妙，分享給各位
王多多的點評
「Faker是我們的處境，他是LPL永遠繞不開的一個人和話題，所以我們特別渴望在決賽跟他相遇，去直面我們的處境。
我們曾經稱他為最高的山，最長的河，以為山海就是盡頭，可是Faker用他28歲的年齡...
疫情期間，實體零售店受到將近三年的影響，能夠撐過疫情的業者已感受到消費復甦的活力，消費者恢復親自上街購物，實體零售店正在捲土重來。另一方面，電商網站也必須思考如何結合現有實體店面的經營，保持後疫情時代銷售力道。根據疫情後實際觀察心得，與您分享以下幾點
商業類文章提到公司運作時經常會討論長期目標 (the long term goal) 跟短期目標 (the short term goal)
通常長期目標接近理念 (vision)
短期目標則是實在的執行 (execution)
我拆一下這段短新聞分三個部分..
占察善惡業報經介紹
《地藏菩薩本願經》、《大乘大集地藏十輪經》、《占察善惡業報經》，合稱「地藏三經」。佛在《佛說法滅盡經》等多部經典中預言：現今末法時期，眾生福薄，多諸衰惱，種種厄難，怖懼逼迫，就連佛弟子也有失去善心與正念者，為貪、瞋、痴、我慢等所摧。雖然表面上看起來像是在學佛的樣子，其實只求
埋首苦幹、用時間換取成果，「勤奮」不過是職場上低層次的表演，透過「閱讀」訓練邏輯思考、廣為學習各種知識及他人成功經驗，是最快提升職場實力的方法。
如果你總是抽不出時間讀書，或有選書障礙、經常抓不到要點，誠摯推薦你追蹤、訂閱《老查商業好書簡報》。
最近的線上座談會中，有些朋友提出了一些問題，我相信有更多的人，同樣也會希望知道這些問題的答案。
不論你有沒有參與到座談會，也或許這些問題並不是你想問，或是你覺得有幫助的答案，但希望今天這篇文章能夠在 2020 年的一開頭，能夠帶給你一些啟發。
說故事很簡單，但要說個好故事很困難。看故事很容易，但要看出故事背後的故事，就沒那麼容易。
如果你想用聽的，歡迎來到我的 Podcast Blog →【DK Opinion】
越好用的工具，往往越難被理解；越簡單的東西，用對了，往往威力強大。
什麼是使用者故事？User Story？
在商業分析的
下結論很容易，下對結論就沒那麼容易。
當你看到天堂大門就在你面前的時候，千萬不要太緊張，也不要太興奮，因為，你還只是到達這個充滿光輝的大門面前，還沒有踏進門內任何一步。
商業分析最重要的不是看數據說話，而是沿著人性的毛順順地摸下去。
好多年前的某個夜晚，大約半夜 12 點多的時候，我獨自一個人坐在公司 8 樓夾層的大會議室窗戶旁邊，看著窗外的街道，靜靜地抽著煙。
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
Faker昨天真的太扯了，中國主播王多多點評的話更是精妙，分享給各位
王多多的點評
「Faker是我們的處境，他是LPL永遠繞不開的一個人和話題，所以我們特別渴望在決賽跟他相遇，去直面我們的處境。
我們曾經稱他為最高的山，最長的河，以為山海就是盡頭，可是Faker用他28歲的年齡...
疫情期間，實體零售店受到將近三年的影響，能夠撐過疫情的業者已感受到消費復甦的活力，消費者恢復親自上街購物，實體零售店正在捲土重來。另一方面，電商網站也必須思考如何結合現有實體店面的經營，保持後疫情時代銷售力道。根據疫情後實際觀察心得，與您分享以下幾點
商業類文章提到公司運作時經常會討論長期目標 (the long term goal) 跟短期目標 (the short term goal)
通常長期目標接近理念 (vision)
短期目標則是實在的執行 (execution)
我拆一下這段短新聞分三個部分..
占察善惡業報經介紹
《地藏菩薩本願經》、《大乘大集地藏十輪經》、《占察善惡業報經》，合稱「地藏三經」。佛在《佛說法滅盡經》等多部經典中預言：現今末法時期，眾生福薄，多諸衰惱，種種厄難，怖懼逼迫，就連佛弟子也有失去善心與正念者，為貪、瞋、痴、我慢等所摧。雖然表面上看起來像是在學佛的樣子，其實只求
埋首苦幹、用時間換取成果，「勤奮」不過是職場上低層次的表演，透過「閱讀」訓練邏輯思考、廣為學習各種知識及他人成功經驗，是最快提升職場實力的方法。
如果你總是抽不出時間讀書，或有選書障礙、經常抓不到要點，誠摯推薦你追蹤、訂閱《老查商業好書簡報》。
最近的線上座談會中，有些朋友提出了一些問題，我相信有更多的人，同樣也會希望知道這些問題的答案。
不論你有沒有參與到座談會，也或許這些問題並不是你想問，或是你覺得有幫助的答案，但希望今天這篇文章能夠在 2020 年的一開頭，能夠帶給你一些啟發。
說故事很簡單，但要說個好故事很困難。看故事很容易，但要看出故事背後的故事，就沒那麼容易。
如果你想用聽的，歡迎來到我的 Podcast Blog →【DK Opinion】
越好用的工具，往往越難被理解；越簡單的東西，用對了，往往威力強大。
什麼是使用者故事？User Story？
在商業分析的
下結論很容易，下對結論就沒那麼容易。
當你看到天堂大門就在你面前的時候，千萬不要太緊張，也不要太興奮，因為，你還只是到達這個充滿光輝的大門面前，還沒有踏進門內任何一步。
商業分析最重要的不是看數據說話，而是沿著人性的毛順順地摸下去。
好多年前的某個夜晚，大約半夜 12 點多的時候，我獨自一個人坐在公司 8 樓夾層的大會議室窗戶旁邊，看著窗外的街道，靜靜地抽著煙。