編輯嚴選
關於自動規模化的迷思

閱讀時間約 2 分鐘
雲端的時代中,我們可以利用 Auto Scaling(自動規模化)的方式來自動的增加或者減少伺服器的數量。也因此很多人會認為這是一個針對「大流量」的機制,也會把它當作一個解決「突發狀況」的解決方案,然而實際上真的是這樣嗎?

預算管理

實際上 Auto Scaling 是一種「預算管理」的工具,我們並不能用來解決突然暴增的大流量狀況。
如果有看過設定的面板,會發現大多會採取「臨界值」的方式來處理,像是 CPU(中央處理器)的使用率達到 60% 的時候,在五分鐘內沒有恢復,那麼就增加一台伺服器並且在 30 分鐘後再次檢查。
像這樣的設定,我們透過自動增加一台伺服器去分攤掉運算來緩解「增加的使用量」的情況,利用這樣的特性我們就可以在「尖峰時段」自動的增加機器一兩個小時,等到使用者減少了再減少到維持網站運作的最低數量。
然而,像這樣的運作模式看似可以解決「突發大流量」的狀況,現實層面上更多的是「來不及反應」更多。

瞬間流量問題

Auto Scaling 之所以能做到預算管理,是因為可以根據最近一段時間的「用量」去反映出適合的伺服器數量,然而在「瞬間暴增」的狀況下,只會看到異常的數字,是無法正確反映出瞬間流量的狀況。
這也是為什麼各大企業依然會有 SRE(Site Reliability Engineering,網站穩定性工程)這樣的職位存在,遇到這樣的狀況是要依靠適當的監控機制,由人工的方式來「判斷」調整。
這是因為 Auto Scaling 依然會有「最大值」的限制存在,這也反映著預算的範圍,同時在對應瞬間流量的問題時,我們還需要區分「可預期」和「不可預期」的情況,如果是前者那們勢必會先做好準備,讓使用者完全感受不到卡頓。如果是後者,那麼就是一間公司平常在危機處理、系統架構設計是否完善的考驗,如果都能夠對應,那麼即使是非預期的瞬間流量也不會有太大的問題。

沒有萬能的工具

程式本身還是自動化的手段之一,並不存在一種萬用的做法。即使我們的預算無上限可以無限的 Auto Scaling 好了,也還是會遇到「瓶頸」的問題。
舉例來說,資料庫通常是很難擴充的,一但要可以擴充必定會放棄某些優點(例如,區塊鏈儲存是很慢的)在這種狀況下,即使我們可以無限的擴充網站的節點,最後也會讓資料庫無法支撐而停止運作。
也因此,必須要做出取捨。是要放棄資料的「正確性」來強化資料庫的能力,還是進行限流讓使用者無法對系統造成這麼大的壓力。如果有體驗過演唱會搶票或者購物節,常常會突然多出名額或者必須等待,都是前述的手段之一。
至於該如何取捨,就要看業務性質跟是否有更好的系統架構設計可以來改善。

封面圖片使用 UnsplashMarkus Spiske 的作品,有想聽的主題可以透過匿名問卷告訴我,想了解專業的技術主題可以到弦而時習之找找靈感。
為什麼會看到廣告
53會員
40內容數
軟體工程師逐漸變成一個熱門的職業,當我們進入這個職業之後應該要具備怎樣的技能才會在工作上更加順利呢?這系列的專欄會分享日常工作中的經驗以及一些案例分析,讓我們一起努力成為一位更優秀的軟體工程師吧!
留言0
查看全部
發表第一個留言支持創作者!
蒼時弦也的沙龍 的其他內容
寫程式最困難的地方
閱讀時間約 2 分鐘
程式中「例外」的意義
閱讀時間約 3 分鐘
刷題無法變強的原因
閱讀時間約 2 分鐘
透過刷題變強的方法
閱讀時間約 4 分鐘
測試的目的
閱讀時間約 2 分鐘
如何向工程師說明規格
閱讀時間約 3 分鐘
你可能也想看
[讀者提問] 關於自他動詞的學習這一個題目是我這學期帶的其中一位學生的問題。 他的問題是:「自他動詞的規則是什麼?要怎麼背?或是怎麼樣去理解?」 いくえ先生在這個板上已經寫過一些自他動詞的比較文 整理在這邊: [日語筆記]連日本人都不知道的自他動詞 久利生公平:変わった人と変わった人 [日本人在想什麼?] 落ちる/
Thumbnail
avatar
京築居
2024-01-06
關於自閉症者容易照自己的規定,如何改善?事實上,這部分不單單是培養自閉症者的動機,也要訓練自閉症者聽指令的能力。 因此,我認為,光是帶自閉症者認識團體,是沒有用的。 希望自閉症者融入社會,務必先帶自閉症者認識社會 基本上,自閉症者是完全沒有想過要融入社會。 反而,是被地球人家長強制融入社會。 因此,我在想,要是硬逼自閉症者融入社
avatar
宋雲燕
2023-09-25
關於自閉症者的運動訓練自從得到〝運動水壼〞並開始負重訓練搭配隨意健走有一段時間之後,沒想到,今天,有大量流汗。 而自閉症者的訓練,有運動訓練。 想必,有的照顧者,也不知道這回事。 事實上,在新北市自閉症適應體育協會,就有籃球班、桌球班及街舞班,不單單是改善自閉症者的社交能力,也有提升動作協調、精細度、提升彈性思維、
avatar
宋雲燕
2023-08-25
關於自閉症者的學習動機說實話,這需要從小建立。 因為,在應用行為分析的訓練,是協助自閉症者建立學習動機。 而我的肯勤學,反而是因為環境因素。 (我的出生年是76年,當時是自閉症資訊不夠發達的年代期間) 而在應用行為分析,在台灣也開始漸漸受用。 因此,很多自閉症訓練機構,開始用應用行為分析,做媒介。 而建立自閉
avatar
宋雲燕
2023-08-21
關於自閉症者的「要求守規定」想必,有的地球人一定會有想過:這自閉症者有必要太過在乎規定嗎? 事實上,是因為思維模式導致。 為什麼有這思維? 事實上,主要是因為自閉症者在記住的規定,就見到違規的地球人,而強烈指責。 簡單說,是「墨守成規」。 而自閉症者的思維嚴重過直,導致記住規定,而完全不允許「違規者」的存在。 如何
avatar
宋雲燕
2023-07-11
關於“司兼導模式”的幾點思考傳統旅遊和新旅遊過去可能是漸變的,今年就是沒有生意,這個變化很明顯。 司導模式有未來麼?
Thumbnail
avatar
新旅遊/K社長
2022-02-21
【小誌開箱】No.2(上)「年輕就是義無反顧地跟世界衝撞,直到長成了屬於自己的模樣」「年輕像是踩不住的煞車,理性努力想拉住感性,卻總失敗。」 「年輕是種可以勇敢夢想的年紀,雖然可以因為年輕而勇敢,卻不能因為無知而放縱。」 「年輕就是很勇敢啊!什麼都敢去做!」 第二期《因為我們年輕》WAY小誌的主題是「年輕是什麼?」,我們邀請了12-24歲的14位年輕人,以及6位大人分享他們對於年
Thumbnail
avatar
《因為我們年輕》WAY小誌
2021-12-11
被制服穿著的人們-關於服儀規定討論的哲思(圖片來源:隨意窩) 亞洲的教育最為人所知的就是講求集體性跟統一性的學制,最能彰顯此種特性的莫過於有關服儀的繁瑣規定。幾乎所有的學校都要求學生穿著制服來上學,若是違反服儀規定還得遭到懲處。教育部公布法令要求各級學校大幅調寬服儀規定只是一個開始,「沒穿制服」就得受罰的規則仍然陰魂不散。筆者從根本上反對
Thumbnail
avatar
LBB 嚕嗶啵
2021-03-09
好運在於自己的轉化改變是從自己開始,有句話:有練習、有準備不一定會成功,但我知道不練習、不準備是一定不會成功,機會往往是給有準備的人,扭轉乾坤、時來運轉的運氣呢?則是給抓到機會的人。無論如何,我們要時時刻刻抓時間練習、學習,連吃喝玩樂也是如此!這樣才會有不一樣的《辛丑金牛》 牛角之歌彼一時 轉看轉好抖起來 乾象挪移棄
Thumbnail
avatar
張必行
2021-02-12