現在是 2021年12月11日深夜23:55，小優開啟多個分頁並打開數個購物網站，摩拳擦掌地瀏覽網頁資訊，準備在各大電商的雙十二購物節，以最優惠的價格購入商品。
記得上次的雙十一，小優沒有提前花時間收集產品資訊，導致許多想買的商品馬上就被搶購一空...但這次雙十二適逢周日，小優有充足的時間可以瀏覽商品資訊！在她瀏覽許久後，終於在 XOXO 看到一個垂涎已久的航X王公仔，而且價格也相當吸引人，只要定價的七折就可以買到！
正當小優覺得自己撿到便宜時，卻驚喜地發現另一個電商網站 XXhome 突然也推出折扣，同樣將價格下殺到七折，且額外配合小優的信用卡優惠反而能得到更低的價格，因此小優滑鼠一轉，跳到 XXhome 開心地登入會員並進行下單…但小優不知道的是，XXhome 突然下殺的優惠與價格設定並非偶然，這一切都與「爬蟲」有關。
爬蟲到底是什麼？
爬蟲是網路爬蟲（web crawler）的簡稱，主要應用是設計一個程式機器人，使其按照一定的規則自動抓取網頁上的資訊，協助使用者快速查詢，並進行更多的延伸分析和討論。
一般來說，爬蟲機器人會從網站中某個頁面進行搜尋和讀取，並尋找該頁面的其他網站連結，一層接一層進行搜尋直到將該網站全部都讀取完成。但如果該網站有極大量的網頁連結呢？爬蟲機器人通常會依據該頁面的重要性進行優先排序，像是訪客數、相關連結數量，以及其它可判斷該頁面可能包含重要資訊的因素。
理所當然地，有人會透過爬蟲機器人讀取網頁內容，自然也有「反爬蟲」的網站存在，畢竟如果有大量的爬蟲程式跑到同一網站下載資訊，會對網站的伺服器造成極大負擔並導致延遲狀況產生，而影響到真實用戶。
此外，一些本來就希望真人操作的頁面（如登入頁面），同樣也會希望佈下反爬蟲程序來反制，所以設計爬蟲程式時，如何去應對這些反爬蟲網頁也會是需要考量的因素之一。
爬蟲可以做什麼？
爬蟲機器人可以因應使用者的不同需求，進行網頁資料抓取。
還記得剛才小優的故事嗎？她就可以透過爬蟲機器人，提前將電商網站的商品、價格、折扣，甚至是目前庫存狀況都即時下載，當看到有吸引力的價格便可直接下單，而不用時時刻刻盯著網站價格頁面，自然也就不會錯過當初的雙十一折扣了。
許多企業的核心業務也與爬蟲息息相關，以大家常使用的 Google 搜尋引擎為例，便是會去爬行數以百萬計的網站內容，進行解析和建立檢索系統，這樣消費者輸入想要搜尋的關鍵字後，就可以依照這些關鍵字尋找最相關的網站，進一步提供用戶最適當的資訊和解答。
在這個資訊為王的時代，爬蟲機器人的應用相當多元，不論是個人用戶端的獨立需求，或是團體企業端的產業用途，都有機會透過爬蟲機器人取得更多資訊，重新梳理並發揮更大價值，尤其電商產業與之息息相關，必須著重思考爬蟲機器人帶來的影響，原因包括：
- 從積極意涵來看，目前電商網站偏好採用「動態定價」，也就是說產品價格會考慮市場供需、庫存水平等而不斷浮動，如一件衣服一周內可能會有數種價格、一款電器幾天內的價格波動可能多達數百元，藉由這種機制能為平台帶來更多佣金和利潤。而此一機制的背後就是藉由爬蟲機器人，了解整體電商市場的產品銷貨狀況，才能進而動態調整。
- 從消極意涵來看，我們常聽說有詐騙集團會透過自動化工具嘗試破解會員帳密，或透過大量爬蟲機器人影響伺服器運作，進而造成癱瘓，過去中國大陸更有人用非法爬蟲取得淘寶數億人的個資，獲利高達數百萬，因此電商網站該如何進行防範？便是需要更進一步關注爬蟲機器人的發展。
每到促銷季節，電商更默默打起「蟲蟲大戰」，
透過爬蟲機器人以提供具競爭力的價格策略。
價格策略背後的行銷4P
我們可以透過行銷 4P 概念，更好地理解電商為什麼必須重視價格策略。
行銷 4P 包含產品、價格、通路、促銷，簡單來說是在提醒產品管理者規劃商業行動時，需要考量的四個面向，才能有系統性地進行分析。
例如我們今天要販售一款皮包，需要先思考產品的定位和目標客群，是賣給學生族、小資族或是熟齡族群；其次便要規劃能夠吸引消費者的取得通路和促銷活動，像是要在百貨公司或是線上渠道販售；當然，合適的價格也是消費者選擇下單的關鍵所在。
然而對大型電商網站來說，價格其實最為關鍵。
從電商角度出發，提供的產品和通路大多極為相似，多數的零售業者都會在 XXhome、XOXO 購物網、Yahoo 商城開店，且根據零售研究機構 STORES 調查，通路面會逐漸往虛擬和實體通路互用之多通路零售發展，因此和其他競爭對手在「產品」和「通路」的差異性相對小；而「促銷活動」也難有偌大差異，各家業者都紛紛於周年慶、活動節日祭出優惠，期待獲得消費者青睞，因此「價格」面向就最為重要，且須隨時了解競爭者的價格變化。
不像實體零售業由於人力考量，因此價格更新頻率較低。電商網站最大優勢之一就是能夠根據銷售評估、競爭者狀況等，一天內數次動態調整價格，尤其對於電商龍頭業者如 Walmart 和 Amazon 更是如此。
從微觀角度來看，在電商網站販售商品的店家，價格也是最重要的競爭要素。而爬蟲最有效的運用之一，就是協助店家了解競爭者的銷售狀況，包含販售哪些款式商品、每日定價與銷售額，讓店家根據這些資訊，推出更具競爭力的商品組合和優惠。
當店家想進入新市場時，也可先透過爬蟲機器人了解新市場的銷售狀況，分析消費者比較喜歡哪些產品，進而決定進貨款式及數量，降低不必要的庫存成本。
掌握爬蟲機器人，就是掌握價格訂定的話語權。
電商的爬蟲大戰
2017 年時，電商業發生一件相當有趣的是，那就是 Walmart 過去追蹤 Amazon 網站產品的爬蟲機器人突然失靈，導致Walmart無法得知競爭對手的價格動向！如上所述，當消費者對購物平台沒有太多忠誠度，且對於價格高度敏感的情況下，無法得知對手價格動態無疑是相當致命的。
Walmart 事後才發現，這一切都是 Amazon 的反爬蟲設計！根據前 Amazon 經理們表示：「Amazon既有能力去檢測外部爬蟲機器人，又有資金去應對這種問題。而多數電商業者不具備這些條件，因此與 Amazon 競爭將變得越來越困難。」最終 Walmart 只能透過額外購買二手資訊，以取得 Amazon 定價動態，而這也顯現電商網站高度仰賴爬蟲機器人的情況。
在競爭激烈的電商市場中，若無法即時取得競爭者的定價資訊，就彷彿是在敵暗我明的情況下作戰，讓自家產品在定價上落於下風並且流失消費者，縱使 Walmart 努力從他方取得資訊，也由於是較落後資訊，因此成效有限。而除了爬蟲外，該如何從其他地方取得獨佔地位，也歡迎參考 Eddy 之前撰寫的<閱讀分享│從零到一，創造你的獨佔價值>！
電商思維的核心是資訊戰，
資訊戰背後就是爬蟲機器人的競爭。
總結與觀點
在這篇文章快速介紹爬蟲的入門概念、應用案例、對電商產業的必要性和背後角力。在資訊爆炸的世代，可應用爬蟲機器人的場合到處都是，有效節省我們追蹤、梳理資訊的時間，讓我們將更多心力放在如何把資訊昇華成有價值的洞見及觀點。
從電商產業出發，也需提供好的價格策略才能獲得競爭優勢。因此從這點切入，「爬蟲」正是每個電商業者都需掌握的關鍵成功因素（Key Successful Factors）！
透過按愛心，讓我知道你／妳的觀後感吧！
如果你／妳很喜歡我的「商業觀察」類型的文章，請記得幫我按個愛心，之後會為你常寫的！
如果有任何建議或想法，也歡迎在下方留言給我，討論總是進步的原動力。
也要記得「追蹤」此帳號，讓我提供更多優質文章給您，而不會被茫茫文章淹沒 :)
