方格精選

關於自動規模化的迷思

閱讀時間約 2 分鐘
雲端的時代中,我們可以利用 Auto Scaling(自動規模化)的方式來自動的增加或者減少伺服器的數量。也因此很多人會認為這是一個針對「大流量」的機制,也會把它當作一個解決「突發狀況」的解決方案,然而實際上真的是這樣嗎?

預算管理

實際上 Auto Scaling 是一種「預算管理」的工具,我們並不能用來解決突然暴增的大流量狀況。
如果有看過設定的面板,會發現大多會採取「臨界值」的方式來處理,像是 CPU(中央處理器)的使用率達到 60% 的時候,在五分鐘內沒有恢復,那麼就增加一台伺服器並且在 30 分鐘後再次檢查。
像這樣的設定,我們透過自動增加一台伺服器去分攤掉運算來緩解「增加的使用量」的情況,利用這樣的特性我們就可以在「尖峰時段」自動的增加機器一兩個小時,等到使用者減少了再減少到維持網站運作的最低數量。
然而,像這樣的運作模式看似可以解決「突發大流量」的狀況,現實層面上更多的是「來不及反應」更多。

瞬間流量問題

Auto Scaling 之所以能做到預算管理,是因為可以根據最近一段時間的「用量」去反映出適合的伺服器數量,然而在「瞬間暴增」的狀況下,只會看到異常的數字,是無法正確反映出瞬間流量的狀況。
這也是為什麼各大企業依然會有 SRE(Site Reliability Engineering,網站穩定性工程)這樣的職位存在,遇到這樣的狀況是要依靠適當的監控機制,由人工的方式來「判斷」調整。
這是因為 Auto Scaling 依然會有「最大值」的限制存在,這也反映著預算的範圍,同時在對應瞬間流量的問題時,我們還需要區分「可預期」和「不可預期」的情況,如果是前者那們勢必會先做好準備,讓使用者完全感受不到卡頓。如果是後者,那麼就是一間公司平常在危機處理、系統架構設計是否完善的考驗,如果都能夠對應,那麼即使是非預期的瞬間流量也不會有太大的問題。

沒有萬能的工具

程式本身還是自動化的手段之一,並不存在一種萬用的做法。即使我們的預算無上限可以無限的 Auto Scaling 好了,也還是會遇到「瓶頸」的問題。
舉例來說,資料庫通常是很難擴充的,一但要可以擴充必定會放棄某些優點(例如,區塊鏈儲存是很慢的)在這種狀況下,即使我們可以無限的擴充網站的節點,最後也會讓資料庫無法支撐而停止運作。
也因此,必須要做出取捨。是要放棄資料的「正確性」來強化資料庫的能力,還是進行限流讓使用者無法對系統造成這麼大的壓力。如果有體驗過演唱會搶票或者購物節,常常會突然多出名額或者必須等待,都是前述的手段之一。
至於該如何取捨,就要看業務性質跟是否有更好的系統架構設計可以來改善。

封面圖片使用 UnsplashMarkus Spiske 的作品,有想聽的主題可以透過匿名問卷告訴我,想了解專業的技術主題可以到弦而時習之找找靈感。
為什麼會看到廣告
55會員
40內容數
軟體工程師逐漸變成一個熱門的職業,當我們進入這個職業之後應該要具備怎樣的技能才會在工作上更加順利呢?這系列的專欄會分享日常工作中的經驗以及一些案例分析,讓我們一起努力成為一位更優秀的軟體工程師吧!
留言0
查看全部
發表第一個留言支持創作者!
蒼時弦也的沙龍 的其他內容
有時候我們在執行專案的時候會遇到一個狀況,工程師實作的東西跟預期的不一致,因此能夠正確傳達需求是一個重要的技巧。原本我認為應該就是規格說明清楚就沒問題了,實際上事情卻沒有這麼單純。
大多數的工程師常常會有一個疑問,就是「測試」應該要怎麼測試才是正確的?在過去,軟體測試大多還是以人工為主,在這幾年逐漸的出現自動化測試之後,實際上我們是不清楚應該要怎麼寫測試。
刷題的時候,我們應該思考的不是「如何回答」而是用科學的方式,根據情境、題目要求進行分析,最後再找出適合的演算法去解決這些問題,同時也可以反思自己是否缺少對某些知識的理解。
很多公司面試確實會去考這些題目,並不是為了知道你是否會解題,更多的是想知道你怎麼思考。在工作中,當我們遇到各種不同類型的問題時,是否能夠根據自身的知識、經驗去探索出最佳的解決方案,大多是面試工程師所看重的一環。
既然是例外,就表示出現了我們預期以外的事情,就這點而言這個用詞跟翻譯都非常的精確。假設我們認為這段程式執行的時後不應該出現這個情況,那麼它就必須是一個例外。
簡單來說,寫程式最困難的地方往往不是技術上的問題,而是如何對當下的狀況正確判斷並且建立良好協作的狀態,才會是最為困難的地方。
有時候我們在執行專案的時候會遇到一個狀況,工程師實作的東西跟預期的不一致,因此能夠正確傳達需求是一個重要的技巧。原本我認為應該就是規格說明清楚就沒問題了,實際上事情卻沒有這麼單純。
大多數的工程師常常會有一個疑問,就是「測試」應該要怎麼測試才是正確的?在過去,軟體測試大多還是以人工為主,在這幾年逐漸的出現自動化測試之後,實際上我們是不清楚應該要怎麼寫測試。
刷題的時候,我們應該思考的不是「如何回答」而是用科學的方式,根據情境、題目要求進行分析,最後再找出適合的演算法去解決這些問題,同時也可以反思自己是否缺少對某些知識的理解。
很多公司面試確實會去考這些題目,並不是為了知道你是否會解題,更多的是想知道你怎麼思考。在工作中,當我們遇到各種不同類型的問題時,是否能夠根據自身的知識、經驗去探索出最佳的解決方案,大多是面試工程師所看重的一環。
既然是例外,就表示出現了我們預期以外的事情,就這點而言這個用詞跟翻譯都非常的精確。假設我們認為這段程式執行的時後不應該出現這個情況,那麼它就必須是一個例外。
簡單來說,寫程式最困難的地方往往不是技術上的問題,而是如何對當下的狀況正確判斷並且建立良好協作的狀態,才會是最為困難的地方。
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
美國總統大選只剩下三天, 我們觀察一整週民調與金融市場的變化(包含賭局), 到本週五下午3:00前為止, 誰是美國總統幾乎大概可以猜到60-70%的機率, 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
Thumbnail
Faker昨天真的太扯了,中國主播王多多點評的話更是精妙,分享給各位 王多多的點評 「Faker是我們的處境,他是LPL永遠繞不開的一個人和話題,所以我們特別渴望在決賽跟他相遇,去直面我們的處境。 我們曾經稱他為最高的山,最長的河,以為山海就是盡頭,可是Faker用他28歲的年齡...
Thumbnail
這一個題目是我這學期帶的其中一位學生的問題。 他的問題是:「自他動詞的規則是什麼?要怎麼背?或是怎麼樣去理解?」 いくえ先生在這個板上已經寫過一些自他動詞的比較文 整理在這邊: [日語筆記]連日本人都不知道的自他動詞 久利生公平:変わった人と変わった人 [日本人在想什麼?] 落ちる/
事實上,這部分不單單是培養自閉症者的動機,也要訓練自閉症者聽指令的能力。 因此,我認為,光是帶自閉症者認識團體,是沒有用的。 希望自閉症者融入社會,務必先帶自閉症者認識社會 基本上,自閉症者是完全沒有想過要融入社會。 反而,是被地球人家長強制融入社會。 因此,我在想,要是硬逼自閉症者融入社
自從得到〝運動水壼〞並開始負重訓練搭配隨意健走有一段時間之後,沒想到,今天,有大量流汗。 而自閉症者的訓練,有運動訓練。 想必,有的照顧者,也不知道這回事。 事實上,在新北市自閉症適應體育協會,就有籃球班、桌球班及街舞班,不單單是改善自閉症者的社交能力,也有提升動作協調、精細度、提升彈性思維、
說實話,這需要從小建立。 因為,在應用行為分析的訓練,是協助自閉症者建立學習動機。 而我的肯勤學,反而是因為環境因素。 (我的出生年是76年,當時是自閉症資訊不夠發達的年代期間) 而在應用行為分析,在台灣也開始漸漸受用。 因此,很多自閉症訓練機構,開始用應用行為分析,做媒介。 而建立自閉
想必,有的地球人一定會有想過:這自閉症者有必要太過在乎規定嗎? 事實上,是因為思維模式導致。 為什麼有這思維? 事實上,主要是因為自閉症者在記住的規定,就見到違規的地球人,而強烈指責。 簡單說,是「墨守成規」。 而自閉症者的思維嚴重過直,導致記住規定,而完全不允許「違規者」的存在。 如何
Thumbnail
傳統旅遊和新旅遊過去可能是漸變的,今年就是沒有生意,這個變化很明顯。 司導模式有未來麼?
Thumbnail
「年輕像是踩不住的煞車,理性努力想拉住感性,卻總失敗。」 「年輕是種可以勇敢夢想的年紀,雖然可以因為年輕而勇敢,卻不能因為無知而放縱。」 「年輕就是很勇敢啊!什麼都敢去做!」 第二期《因為我們年輕》WAY小誌的主題是「年輕是什麼?」,我們邀請了12-24歲的14位年輕人,以及6位大人分享他們對於年
Thumbnail
(圖片來源:隨意窩) 亞洲的教育最為人所知的就是講求集體性跟統一性的學制,最能彰顯此種特性的莫過於有關服儀的繁瑣規定。幾乎所有的學校都要求學生穿著制服來上學,若是違反服儀規定還得遭到懲處。教育部公布法令要求各級學校大幅調寬服儀規定只是一個開始,「沒穿制服」就得受罰的規則仍然陰魂不散。筆者從根本上反對
Thumbnail
改變是從自己開始,有句話:有練習、有準備不一定會成功,但我知道不練習、不準備是一定不會成功,機會往往是給有準備的人,扭轉乾坤、時來運轉的運氣呢?則是給抓到機會的人。無論如何,我們要時時刻刻抓時間練習、學習,連吃喝玩樂也是如此!這樣才會有不一樣的《辛丑金牛》 牛角之歌彼一時 轉看轉好抖起來 乾象挪移棄
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
美國總統大選只剩下三天, 我們觀察一整週民調與金融市場的變化(包含賭局), 到本週五下午3:00前為止, 誰是美國總統幾乎大概可以猜到60-70%的機率, 本篇文章就是以大選結局為主軸來討論近期甚至到未來四年美股可能的改變
Thumbnail
Faker昨天真的太扯了,中國主播王多多點評的話更是精妙,分享給各位 王多多的點評 「Faker是我們的處境,他是LPL永遠繞不開的一個人和話題,所以我們特別渴望在決賽跟他相遇,去直面我們的處境。 我們曾經稱他為最高的山,最長的河,以為山海就是盡頭,可是Faker用他28歲的年齡...
Thumbnail
這一個題目是我這學期帶的其中一位學生的問題。 他的問題是:「自他動詞的規則是什麼?要怎麼背?或是怎麼樣去理解?」 いくえ先生在這個板上已經寫過一些自他動詞的比較文 整理在這邊: [日語筆記]連日本人都不知道的自他動詞 久利生公平:変わった人と変わった人 [日本人在想什麼?] 落ちる/
事實上,這部分不單單是培養自閉症者的動機,也要訓練自閉症者聽指令的能力。 因此,我認為,光是帶自閉症者認識團體,是沒有用的。 希望自閉症者融入社會,務必先帶自閉症者認識社會 基本上,自閉症者是完全沒有想過要融入社會。 反而,是被地球人家長強制融入社會。 因此,我在想,要是硬逼自閉症者融入社
自從得到〝運動水壼〞並開始負重訓練搭配隨意健走有一段時間之後,沒想到,今天,有大量流汗。 而自閉症者的訓練,有運動訓練。 想必,有的照顧者,也不知道這回事。 事實上,在新北市自閉症適應體育協會,就有籃球班、桌球班及街舞班,不單單是改善自閉症者的社交能力,也有提升動作協調、精細度、提升彈性思維、
說實話,這需要從小建立。 因為,在應用行為分析的訓練,是協助自閉症者建立學習動機。 而我的肯勤學,反而是因為環境因素。 (我的出生年是76年,當時是自閉症資訊不夠發達的年代期間) 而在應用行為分析,在台灣也開始漸漸受用。 因此,很多自閉症訓練機構,開始用應用行為分析,做媒介。 而建立自閉
想必,有的地球人一定會有想過:這自閉症者有必要太過在乎規定嗎? 事實上,是因為思維模式導致。 為什麼有這思維? 事實上,主要是因為自閉症者在記住的規定,就見到違規的地球人,而強烈指責。 簡單說,是「墨守成規」。 而自閉症者的思維嚴重過直,導致記住規定,而完全不允許「違規者」的存在。 如何
Thumbnail
傳統旅遊和新旅遊過去可能是漸變的,今年就是沒有生意,這個變化很明顯。 司導模式有未來麼?
Thumbnail
「年輕像是踩不住的煞車,理性努力想拉住感性,卻總失敗。」 「年輕是種可以勇敢夢想的年紀,雖然可以因為年輕而勇敢,卻不能因為無知而放縱。」 「年輕就是很勇敢啊!什麼都敢去做!」 第二期《因為我們年輕》WAY小誌的主題是「年輕是什麼?」,我們邀請了12-24歲的14位年輕人,以及6位大人分享他們對於年
Thumbnail
(圖片來源:隨意窩) 亞洲的教育最為人所知的就是講求集體性跟統一性的學制,最能彰顯此種特性的莫過於有關服儀的繁瑣規定。幾乎所有的學校都要求學生穿著制服來上學,若是違反服儀規定還得遭到懲處。教育部公布法令要求各級學校大幅調寬服儀規定只是一個開始,「沒穿制服」就得受罰的規則仍然陰魂不散。筆者從根本上反對
Thumbnail
改變是從自己開始,有句話:有練習、有準備不一定會成功,但我知道不練習、不準備是一定不會成功,機會往往是給有準備的人,扭轉乾坤、時來運轉的運氣呢?則是給抓到機會的人。無論如何,我們要時時刻刻抓時間練習、學習,連吃喝玩樂也是如此!這樣才會有不一樣的《辛丑金牛》 牛角之歌彼一時 轉看轉好抖起來 乾象挪移棄