閒談軟體設計:UUID

閱讀時間約 11 分鐘
這是 UUID 三部曲的首部曲,接下來陸續更新第二部與第三部,首部曲先聊聊 UUID 的前世今生,二部曲會聊聊如何縮短 UUID 的長度,第三部曲則是聊聊特殊應用,希望能幫助到大家。

ID 的重要性

今天聊點不一樣的東西,有點不起眼卻很重要的小玩意:UUID (或是微軟的 GUID)。

不管在什麼系統中,資料最終都要寫入到儲存裝置中,不論是用 RDBMS、 NoSQL,或是直接寫入檔案,都需要一個 ID 識別,以便事後需要時能取回單一筆資料,為了避免衝突 (多筆資料使用同一 ID),怎麼產生唯一的 ID?

學資料庫時可能會學到 (1) 用在現實社會中唯一的 ID (例如:身份證字號或是 email),這類的方法比較適合用來辨別使用者,對於更大層級的資料量 (訂單、訊息) 就不適合了;(2) 使用 RDBMS 提供的 auto increment primary key,比較簡單方便,而且產生的結果可以用來排序

沒錯,能排序在資料庫應用中很重要,想像一下,若做一個 IM 系統,每次開啟都取回上次更新過後的訊息,直覺的想法會是取回 x 時間點之後的所有訊息,多數的 IM 後台 (有興趣可以參考 Openfire 的 XMPP 實作) 都會儲存訊息的時間戳記 (timestamp) 作為排序之用,但也因為要排序,需要對時間戳記的欄位進行索引 (indexing),然而過多的索引不但不會提高搜尋的速度,有時甚至對效能是有害的。若 ID 本身是有順序性的,那上述的問題就會變成取回 ID 是 n 以後的所有訊息。

個人曾搜尋過 UUID 是否是有順序性的,答案等等再說,在搜尋的過程中找到一篇有趣的文章《細聊分散式 ID 生成方式》,裡面探討到如何有效率地產生有順序性的全域唯一 ID,以及一些目前既有方式的優缺點,像是 auto increment primary key 只能依賴唯一一個 RDBMS instance,無法擴展,成為效能的瓶頸;若以時間戳記為 ID,系統時間的顆粒度 (一般來說 Java 的 System.currentTimeMillis()顆粒度只到 10~20 ms) 會影響到短時間大量產生的 ID 是否唯一,此外,在分散式節點的情況下重複的可能性更高。

UUID

回到 UUID,當初搜尋時是想知道 UUID 是否有順序性,而該篇文章中提到 UUID 的缺點有二個:(1) 無法保證趨勢遞增,以及 (2) 長度過長 (128 bit,超過一般程式語言int或是long的長度,CPU 運算上較難最佳化,若以字串處理,效能不如intlong等資料型態),但 UUID 實際上是有一個版本是在特定時間區間內是有順序性的。

若看 Wikipedia 上對 UUID 的描述可以知道 UUID 目前有 5 個版本,詳細的產生方式可以在 RFC 4122 文件的第四節找到,其中版本 3 和版本 5 比較特殊,是以名字產生 UUID,差別是以 MD5 演算法或 SHA-1 進行 hash,在特定條件下,每次產生的 UUID 都應該是一樣的 (用以識別是否為相同節點),比較不適合用在我們討論的情境中。

版本 4 是全部以亂數組成,若在 Java 使用UUID.randomUUID()產生 UUID,可能會得到像這樣的字串04060e46-a46c-4165–9afb-0352bc2aabd8,其中41654代表的正是版本 4,若看原始碼,會看到 Java 用較安全的SecureRandom產生 16 bytes 的亂數後,設定 version 和 variant 就完成了,效率相當好,但也就不用期待有順序性了。

除了上述三個外,版本 1 和版本 2 都是以時間為基礎產生的,版本 2 是 DCE 專屬,不去管它。版本 1 將時間戳記 (和一般 UNIX 時間戳記有點不一樣,是 1582 年 10 月 15 至今每 100 奈秒為一次的計數,簡單說是取得奈秒後除以 100) 及該節點的 MAC address (若沒有 MAC address 可以用 48-bits 的亂數取代) 以指定的方式排列。若時間戳記以 unsigned 表示,大概可以用到西元 5236 年,每個節點平均每秒可以產生 163 百萬個 UUID。

版本 1 的 UUID 可到這裡看,每更新畫面一次,會發現最後面的 12 個字母(92361f002671) 都是固定的 (照標準是該伺服器的 MAC address,但實作上可能會 hash 過),而最前面的 8 個字母會一直跳動且是有順序性的,下一個 4 字母組合則大概每 7 分鐘 (2³² * 100 奈秒) 會變動一次,下一個 4 字母中,第一個字母1代表這個 UUID 是 version 1,後續三個字母則大概每 10 個月(2⁴⁸ * 100 奈秒) 跳動一次。

那不就好棒棒!有順序性又有唯一性,但如果真的要進行排序,您會發現有問題,如果看 Java 在 UUID 的compareTo實作,先比較最高的 64 bits (正好是long長度,比對可以優化),相同才比最低的 64 bits,也就是說第n+8分鐘產生的 UUID 可能在排序時排在第n分鐘之前,因為前 8 個字母代表的是時間戳記中最低的 32 bits,也就是說大概每 7 分鐘,就可能從0重新開始計數,但卻放在最高的 32 bits 中,讓該一直遞增的數會週期性變小後再遞增。

客製化 UUID

那怎麼辦?在 RFC 4122 文件中,其實有保留改變數字排列 (layout) 解讀的方式,也就是 variant bits,視情況 1 ~ 3 bits,一般 UUID 的實作是10x(x表示01皆可),110則是微軟保留,0xx則是 NCS 保留,111則是尚未使用,透過設定不同的 variant 是可以讓解讀的人知道您產生的 UUID 並不是照目前的標準排列,但若沒有將您的排列方式送交 RFC 或其他標準化單位,也不會有人知道該怎麼解讀您的 UUID。

另外,也可以自訂新的 version 達到相同的目的,例如將版本 1 的 UUID:12adde00-f100–11e6-bc64–92361f002671調整排列順序,並將其中的版本改為 6,同時將 variant 改為 7 就會得到1e6f1001–2add-6e00-fc64–92361f002671,若將這 UUID 交給 Java,是可以解讀出對的版本與 variant,而且這個 UUID 在排序時,會是依時間遞增的。

有順序的 UUID 除了排序時方便,在當作 MySQL 的主鍵 (primary key),也有很好的 performance 表現,在《Store UUID in an optimized way》可以看到量測的數據,在 insert 的時間上,與 auto increment 是差不多的,而產生的資料大小也與 auto increment 相近,索引的資料大小則是最小的,重點是都比版本 1 的 UUID 要好,當然這量測數據會因為使用的引擎有所差異,但這裡只是想表示 ID 的產生方法確實會影響效能

然而有順序的 UUID 不見得適用在所有的情境上,例如在 AWS S3 反而建議 object key 的前四個字元越是亂數分佈越好,根據《AWS S3 Performance Tuning》的說法,AWS S3 是用前四個字元作為檔案分配到哪台機器的重要指標,若以我們修改的 UUID 來說,前四個字元在相當長的一段時間內都會是一樣的12ad,這導致所有的檔案都被丟到同一台機器,讓 AWS S3 分散式架構的好處無法發揮出來。

從上述二個例子可以發現 UUID 是可以視需求,選擇用版本 1 或版本 4,甚至是像上面的例子修改 UUID 版本 1 的產生方式,要產生類版本 1 的 UUID 還有二個問題要處理,也就是 clock sequence 與 node 如何產生,先看 clock sequence,假設不與標準衝突 (避開被保留的026),暫時將 variant 設為 7 也就是111,那 clock sequence 就會是 13 bits 長度 (如下圖,粗黑框線是連字號 hyphen 的位置),可以參考版本 4 直接用亂數,算是比較簡單。

UUID Layout when variant = 7

UUID Layout when variant = 7

UUID 的其他變形

而 node 的 48 bits,在 server 上相對容易,而且在多節點環境還更有利於避免產生的 UUID 會重複,也就是直接取得 MAC address,但要注意,基於安全考量,不希望暴露實際的 MAC address 的話,是可以加上 salt 後用 MD5 或 SHA-1 進行 hash 取出其中的 48 bits,如此相同的節點就會有相同的 48 bits node。

但在 client 上就不見得能取得 MAC address, 像是開發 iOS App,基於安全考量,SDK 並沒有提供取得 MAC address 的 API,雖然說也是可以參考版本 4 用亂數取代,但這會導致即使相同的裝置,產生出來的 48 bits node 都不一樣,這是否是個問題要視應用而定,若想識別是哪個裝置產生的,那就不適合用這方式。在這情況下,可以用 server 配發的帳號 ID (又是一個 UUID 也沒關係) 再次 hash 過取出 48 bits 也是一種方法。

UUID 排序效能測試

前面有提到 UUID 若以字串的方式做比較,效能會比較差,但實際上到底會差多少?用想的不如就做實驗吧,下面的 Java 程式用迴圈,對 1,000,000 個 UUID 物件陣列或是 UUID 字串陣列進行排序,重複 100 次,每次都會重新產生新的 1,000,000 個 UUID 物件或 UUID 字串。

每次執行結果以逗號分隔,再將結果貼到 Excel 繪製圖表,水平軸是執行的次數,垂直軸是該次所花的時間,單位是 ms,以平均來看,排序 1,000,000 個 UUID 物件需要 352 ms,而排序 1,000,000 個 UUID 字串則是 679 ms,我想這差距應該十分明顯了。

UUID 物件與 UUID 字串的排序時間比較

UUID 物件與 UUID 字串的排序時間比較

所以若選擇 UUID 作為 ID,記得要從該資料庫系統支援的資料格式中,選擇合適的格式儲存 UUID。

總結

UUID 是蠻常見的 ID 生成方法,像是 MongoDB 也支援 UUID 作為 ID,在不同應用下,也可以客製化 UUID 的演算法,不過要注意的是,UUID 還是有可能重複,只是機率非常非常的低,比中樂透還低 (詳細的機率請參考 Wikipedia),任何的客製化都可能會影響到重複的機率,在設計時要多加考慮。然後,不論使用標準的 UUID 或是客製的 UUID,都避免不掉它 128 bits 長度所帶來的缺點,使用前,需衡量是否必要,或是使用其他像是 snowflake 等方案。


延伸閱讀

The 2¹²⁰ Ways to Ensure Unique Identifiers 介紹 Firebase 如何產生唯一且遞增的 ID,Firebase 的 ID 不是 UUID,長度為 120 bits,由 48 bits 的時間戳記,加上 72 bits 的亂數,並用調整過的 Base 64 編碼讓編出來的字元數更短,並保證遞增性 (ordered lexicographically)。

avatar-img
53會員
104內容數
這是從 Medium 開始的一個專題,主要是想用輕鬆閒談的方式,分享這幾年軟體開發的心得,原本比較侷限於軟體架構,但這幾年的文章不僅限於架構,也聊不少流程相關的心得,所以趁換平台,順勢換成閒談軟體設計。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
Spirit的沙龍 的其他內容
在大型主機的年代 (這裡要澄清一下,本人沒有歷經那個年代,不然都把自己講老了),就已經有 clent server 的概念:由 client (計算能力較差的終端機) 向 server (計算能力較好的大型主機) 請求服務,幫助理解與管理分散式系統程式的複雜度。
每次看到 REST 就讓我想起以前念研究所和老師一起想論文題目時,曾提過國外常會玩這種文字遊戲,像是將 Representational State Transfer 變成一個很簡單的單字 REST,但我的東西不管怎麼想,卻想不出什麼有趣的東西 Orz
稍微複雜一點的 query 其實代表著某些商業邏輯,若把這一段程式放到 repository 的實作層,會變成這些商業邏輯被隱藏起來了,如果有個好的描述語言,我倒覺得很好讀,也可以清楚知道背後的商業邏輯是什麼,是很好的一件事。
簡單說,Repository 提供像是 array 或是 dictionary 的容器,對程式來說,就好像記憶體中有所有的物件,不用去想物件其實是從資料庫來的。作法是在 data mapping layer 之上再提供一個 collection 的介面來存取物件,將資料庫的細節從商業邏輯層抽離。
不是在軟體建置之初就決定所有一切的行為,而是執行時根據配置 (configuration) 或執行時的環境 (例如:特定目錄有什麼 plug-in) 決定有哪些行為,話是這麼說,但要實作一個可以載入 plug-in 的軟體 (以下稱作 host application) 倒是有不少事情要考慮。
基本上就是這樣,例外處理是可以在軟體架構設計時就考慮進去,或者說,在軟體架構設計時就該考慮進去,制定方針讓團隊有一個原則可以遵循,透過設計讓例外的處理較容易與一致,最終讓軟體的品質可以更好。
在大型主機的年代 (這裡要澄清一下,本人沒有歷經那個年代,不然都把自己講老了),就已經有 clent server 的概念:由 client (計算能力較差的終端機) 向 server (計算能力較好的大型主機) 請求服務,幫助理解與管理分散式系統程式的複雜度。
每次看到 REST 就讓我想起以前念研究所和老師一起想論文題目時,曾提過國外常會玩這種文字遊戲,像是將 Representational State Transfer 變成一個很簡單的單字 REST,但我的東西不管怎麼想,卻想不出什麼有趣的東西 Orz
稍微複雜一點的 query 其實代表著某些商業邏輯,若把這一段程式放到 repository 的實作層,會變成這些商業邏輯被隱藏起來了,如果有個好的描述語言,我倒覺得很好讀,也可以清楚知道背後的商業邏輯是什麼,是很好的一件事。
簡單說,Repository 提供像是 array 或是 dictionary 的容器,對程式來說,就好像記憶體中有所有的物件,不用去想物件其實是從資料庫來的。作法是在 data mapping layer 之上再提供一個 collection 的介面來存取物件,將資料庫的細節從商業邏輯層抽離。
不是在軟體建置之初就決定所有一切的行為,而是執行時根據配置 (configuration) 或執行時的環境 (例如:特定目錄有什麼 plug-in) 決定有哪些行為,話是這麼說,但要實作一個可以載入 plug-in 的軟體 (以下稱作 host application) 倒是有不少事情要考慮。
基本上就是這樣,例外處理是可以在軟體架構設計時就考慮進去,或者說,在軟體架構設計時就該考慮進去,制定方針讓團隊有一個原則可以遵循,透過設計讓例外的處理較容易與一致,最終讓軟體的品質可以更好。
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
最近身旁有幾位正在懷孕、或剛生產完的朋友,讓我想起自己在懷孕期間印象最深刻的三件「怪事」,其中又以第三件事最誇張。
Thumbnail
不知道大家在買房之前是不是都會參考親朋好友的意見,或是上網看一些買房注意事項,有時候考慮了這塊就忘了那塊,考慮的那塊又忘了這塊.......
Thumbnail
塔西佗陷阱(Tacitus Trap),一個得名於古羅馬歷史學家塔西佗的政治學理論,意指倘若公權力失去其公信力,無論如何發言或是處事,社會均將給予其負面評價。 當然信著恆信、不信者恆不信,這就是真實的人生。
Thumbnail
關於片名   台灣片名《花漾女子》,原文片名《Promising Young Woman》,台灣譯名將時間定格在悲劇發生前,而原文片名則進一步帶我們看見另一個可能性結果
Thumbnail
前幾年因為身體的關係,當了幾年的律師逃兵,當時開了之前的事務所以後,一時間也沒有特別想要做甚麼事情,所以就邊讀一點書、早晚運動一下,剛好聽到當年同梯朋友進去金融業工作,因此也抱著嘗(ㄊㄠˊ)試(ㄅㄧˋ)的心態,找了份銀行法令遵循的工作
Thumbnail
那天我問隊友,怎樣才算是一部小說呢?按字數計算嗎? 他說:「故事內起承轉合都有,就算」 所以我大膽地按著他的標準,將自己寫過的故事,粗略整理出一個明細。
纏中說禪,本名李彪,專欄筆名木子,其人是中國股市比較早期的操盤手,所以他比較熟悉a股的市場情況。他以“纏中說禪”為筆名,從2002年開始寫博客,直到2008年癌症病重停更,期間寫下了不少文章。而博客文章中最為著名的就是他的“教你炒股票”系列文章,他在這個系列裡講到的炒股理論和方法被粉絲稱為“纏論
Thumbnail
婚姻是人生大事,對溥儀尤其如此,因為如果皇帝大婚,就代表溥儀可以脫離眾多便宜老媽的束縛而得以親政。 但詭異的是,這個可以讓他脫離便宜老媽掌控的婚姻,卻還是要由便宜老媽進行主導並且居中角力......
Thumbnail
上次我提到:溥儀就是個死小孩。其實這不能全怪溥儀,而要怪詭異的宮廷教育及生活制度......
Thumbnail
近期電影「末代皇帝」重新修復上映。 為了推坑這部經典之作,本人決定以溥儀本身的自傳《我的前半生》為主要基底,和大家談一些電影中礙於篇幅或是藝術改編,而不容易察覺或是沒有呈現的真實歷史。
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
最近身旁有幾位正在懷孕、或剛生產完的朋友,讓我想起自己在懷孕期間印象最深刻的三件「怪事」,其中又以第三件事最誇張。
Thumbnail
不知道大家在買房之前是不是都會參考親朋好友的意見,或是上網看一些買房注意事項,有時候考慮了這塊就忘了那塊,考慮的那塊又忘了這塊.......
Thumbnail
塔西佗陷阱(Tacitus Trap),一個得名於古羅馬歷史學家塔西佗的政治學理論,意指倘若公權力失去其公信力,無論如何發言或是處事,社會均將給予其負面評價。 當然信著恆信、不信者恆不信,這就是真實的人生。
Thumbnail
關於片名   台灣片名《花漾女子》,原文片名《Promising Young Woman》,台灣譯名將時間定格在悲劇發生前,而原文片名則進一步帶我們看見另一個可能性結果
Thumbnail
前幾年因為身體的關係,當了幾年的律師逃兵,當時開了之前的事務所以後,一時間也沒有特別想要做甚麼事情,所以就邊讀一點書、早晚運動一下,剛好聽到當年同梯朋友進去金融業工作,因此也抱著嘗(ㄊㄠˊ)試(ㄅㄧˋ)的心態,找了份銀行法令遵循的工作
Thumbnail
那天我問隊友,怎樣才算是一部小說呢?按字數計算嗎? 他說:「故事內起承轉合都有,就算」 所以我大膽地按著他的標準,將自己寫過的故事,粗略整理出一個明細。
纏中說禪,本名李彪,專欄筆名木子,其人是中國股市比較早期的操盤手,所以他比較熟悉a股的市場情況。他以“纏中說禪”為筆名,從2002年開始寫博客,直到2008年癌症病重停更,期間寫下了不少文章。而博客文章中最為著名的就是他的“教你炒股票”系列文章,他在這個系列裡講到的炒股理論和方法被粉絲稱為“纏論
Thumbnail
婚姻是人生大事,對溥儀尤其如此,因為如果皇帝大婚,就代表溥儀可以脫離眾多便宜老媽的束縛而得以親政。 但詭異的是,這個可以讓他脫離便宜老媽掌控的婚姻,卻還是要由便宜老媽進行主導並且居中角力......
Thumbnail
上次我提到:溥儀就是個死小孩。其實這不能全怪溥儀,而要怪詭異的宮廷教育及生活制度......
Thumbnail
近期電影「末代皇帝」重新修復上映。 為了推坑這部經典之作,本人決定以溥儀本身的自傳《我的前半生》為主要基底,和大家談一些電影中礙於篇幅或是藝術改編,而不容易察覺或是沒有呈現的真實歷史。