聊聊分散式運算

NVDIA黃仁勳演講有提到分散式運算，我還真的做了分散式運算的研究拿了個碩士，那分散式運算是做什麼的呢？用現在的時代用語”算力”來解釋的話，就是要處理的資料非常大量，但是單一伺服器的算力不足，所以必須聯合好幾台伺服器的算力來一起處理，

而要能夠做分散式運算的前提就是你要有一套可以操作分散式運算的系統，這套系統對使用者來說他只看到一個界面，而他需要處理的資料只要丟到系統之後，系統就會自己把資料分段丟給不同的伺服器，用各自伺服器的算力來處理資料，這套系統愈強大，則分散運算的能力愈強。而最笨的做法就是不管伺服器的算力，就把資料按伺服器的台數去平均切割運算，這個會造成算力強的先算完，要等算力弱的算完才能統整資料。然後最理想的做法就是依不同的算力分配適量的資料，讓其可以儘可能同時間處理完資料，這樣就會最有效率。還記得當時用的是SUN OS來實做的，效率是否很好就不得而知了。而依當時來看是有點不被重視的一門學問了，因為後來就為了加強算力，有了多核CPU的設計，而且發展之快，讓單一伺服器的算力在當時都可以非常快速的處理很多資料，也就逐漸取代了這種要多伺服器分散平行運算的複雜系統。

時至今日，要處理的影音資料、雲端資料太多了，單一伺服器的理念就又被推翻了，取而代之的是資料中心的多伺服器同時大量運算的概念，甚至是由各地不同的資料中心來做分散運算的操作了，今天寫的太技術了，希望你不會覺得無聊！