資料治理超入門課程心得分享

更新於 2024/09/04閱讀時間約 3 分鐘

前陣子我參加了 andyrockdata 舉辦的資料治理超入門課程,會想參加這堂課程主要是因為對資料治理的興趣,以及想了解實務上如何實施資料治理。

那入門課程的一大好處在於它能在短時間內讓人快速獲得入門知識,通過這次課程,我不僅獲得了對這個領域的 whole picture 概念性理解,還知道了哪些 componet 可以成為學習的方向,以及適合的相關學習資源。我想分享一些在課程中學到的知識點和筆記心得,希望能對你也有所幫助!

課程介紹

raw-image

課程介紹:講到資料治理,你會想到什麼?資料品質是數據分析和應用的核心基礎!高品質的資料可以幫助您高效地分析數據,從而獲得寶貴的商業洞察力八月份的講座我們將從基礎的概念出發,到相關產品核心組成部分及功能本次講座適合對於提升資料品質興趣的資料分析師、資料工程師、資料科學家、以及其他想深入了解資料治理在幹嘛的人參加~

Photo by Tobias Fischer on Unsplash

Photo by Tobias Fischer on Unsplash


課程內容包含三大面向

  1. 資料治理的起源
  2. 資料治理的框架
  3. 治理產品的痛點及核心解決方案

資料治理的起源

  1. 從實作和需求面:當資料不足夠乾淨/正確,分析出來的結果就不正確
  2. 從規範與遵法面: 企業擁有著客戶大數據的同時,如何管理資料並且符合法律規範,保護用戶的資料安全

從這兩大需求來看,資料治理是非常被需要的,有些企業早就深耕,而有些企業正踏入,而資料治理顯而易見的早已成為趨勢且是必須的

資料治理的框架

這部分我覺得是資料治理的最重要核心,我們可以從這個概念去思考要如何把以下內容都實踐,透過什麼方法、什麼機制、什麼樣的工具來執行。

資料治理框架的意義在於: 增強組織資料的實踐,以使其可被發現、理解、保護和信任

以這為宗旨,延伸出資料治理四大支柱

  1. 數據可被發現性:
    - 建立清晰的數據分類和定義,方便使用者理解與查找數據,例如:數據字典、數據目錄- 確保數據的正確性、完整性、一致性,以保持數據品質,提升數據使用上的可信度
  2. 資料管理
    - 管理數據從創建到銷毀的全過程,確保數據在其生命週期都有效的被管理- 增進數據操作效率和靈活性,以支持業務需求與發展,建立強大數據維運能力(DataOps)
  3. 數據保護
    - 保護敏感數據,防止數據洩漏,例如對數據進行加密,以及權限管制,針對特定使用者授予訪問權限- 在審查數據的使用情況下,需確保數據遵守相關法律規範,以及使用範圍,例如: 個資法、GDPR
  4. 數據責任
    - 明確的權責分工,定義誰負責管理數據和維運- 確保數據的使用符合倫理和道德標準

舉個數據質量的例子來理解:

在一家金融機構中,確保數據的準確性和完整性是非常重要的。透過實施數據質量框架,機構可以定期檢查和清理數據,確保所有的交易記錄都是準確無誤的。這包括對數據進行格式標準化、查找和修正不一致的數據、刪除重複的數據等措施。這種嚴謹的數據質量管理不僅強化數據質量,同時可定期審查和更新安全策略,提升內部控制的能力,維護業務的整體安全和客戶的信任。

治理產品的痛點及核心解決方案

以終為始,資料治理真正想要解決的問題,還是在於資料可以被妥善得使用,妥善的範圍就包含很多,例如: 合法性得使用、正確得使用、容易的使用,這都是資料治理想要達成的目標。

為了達成這個目標,有兩個面向可以去努力:資料工具+流程機制建置

市面上有很多資料治理的工具與完整 solution ,但純粹導入工具可能沒辦法達到好的資料治理的效果,甚至是單一一個部門的投入,可能也無法靠一己之力把資料治理做到最好,(要有心理準備這是一場長期的努力 XD) 。

最後講者分享對於這領域有興趣的話,推薦的兩本書:

大数据之路:阿里巴巴大数据实践 大數據之路:阿裡巴巴大數據實踐

大数据之路:阿里巴巴大数据实践 大數據之路:阿裡巴巴大數據實踐


華為數據之道

華為數據之道


avatar-img
33會員
43內容數
歡迎來到《桃花源記》專欄。這裡不僅是一個文字的集合,更是一個探索、夢想和自我發現的空間。在這個專欄中,我們將一同走進那些隱藏在日常生活中的"桃花源"——那些讓我們心動、讓我們反思、讓我們找到內心平靜的時刻和地方
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
Karen的沙龍 的其他內容
Kafka是一個先進的分佈式流處理平臺,具有高吞吐量、可擴展性、容錯性和低延遲特性,提供瞭解耦、非同步和削峰特點。本文介紹了Kafka的通訊模式、適合的應用場景和未來發展趨勢,旨在幫助使用者更好地理解和應用Kafka。
參加Leetcode的30 Days of Pandas挑戰,除了是學習的機會,更是練習熟悉pandas功能的機會。文章分享了挑戰簡介、題目描述、關鍵技術以及參加挑戰的心得。適合新手學習pandas,也可提升熟練度。
這篇文章將分享最近遇到 NVIDIA GPU driver 的問題,並提供瞭解決步驟,以及證實問題解決的測試方法。當您遇到類似問題時,可以參考這篇文章進行解決。文章中包含了定位庫文件目錄、備份和替換文件以及測試修改的步驟。
今年的國泰金控技術年會,關於 AI 有幾個主題覺得很有趣、也受到一些啟發: 1. 可解釋 AI : AI 的可解釋性一直是一個很被關注的題目,尤其是發生在模型要準備落地應用,需要驗證黑盒子是不是依照正確的邏輯、人類的邏輯去判斷問題,我自己很喜歡這個部分,算法是用一套最基本的SHAP,SHAP基於博
最近有採購幾台 server ,正在進行一些設定的作業,把這些過程都保留下來,之後要再設定就可以回來查看了~~~ 目標 在 Centos Linux 主機上移除 Podman ,並安裝 Docker 解決 首先先確認 Centos 的版本,是 Debian or Fedora cat /
matplotlib 無法顯示中文,看了很多篇教學文都無效 mac 解法可以參考這篇...
Kafka是一個先進的分佈式流處理平臺,具有高吞吐量、可擴展性、容錯性和低延遲特性,提供瞭解耦、非同步和削峰特點。本文介紹了Kafka的通訊模式、適合的應用場景和未來發展趨勢,旨在幫助使用者更好地理解和應用Kafka。
參加Leetcode的30 Days of Pandas挑戰,除了是學習的機會,更是練習熟悉pandas功能的機會。文章分享了挑戰簡介、題目描述、關鍵技術以及參加挑戰的心得。適合新手學習pandas,也可提升熟練度。
這篇文章將分享最近遇到 NVIDIA GPU driver 的問題,並提供瞭解決步驟,以及證實問題解決的測試方法。當您遇到類似問題時,可以參考這篇文章進行解決。文章中包含了定位庫文件目錄、備份和替換文件以及測試修改的步驟。
今年的國泰金控技術年會,關於 AI 有幾個主題覺得很有趣、也受到一些啟發: 1. 可解釋 AI : AI 的可解釋性一直是一個很被關注的題目,尤其是發生在模型要準備落地應用,需要驗證黑盒子是不是依照正確的邏輯、人類的邏輯去判斷問題,我自己很喜歡這個部分,算法是用一套最基本的SHAP,SHAP基於博
最近有採購幾台 server ,正在進行一些設定的作業,把這些過程都保留下來,之後要再設定就可以回來查看了~~~ 目標 在 Centos Linux 主機上移除 Podman ,並安裝 Docker 解決 首先先確認 Centos 的版本,是 Debian or Fedora cat /
matplotlib 無法顯示中文,看了很多篇教學文都無效 mac 解法可以參考這篇...
你可能也想看
Google News 追蹤
Thumbnail
本文探討了複利效應的重要性,並藉由巴菲特的投資理念,說明如何選擇穩定產生正報酬的資產及長期持有的核心理念。透過定期定額的投資方式,不僅能減少情緒影響,還能持續參與全球股市的發展。此外,文中介紹了使用國泰 Cube App 的便利性及低手續費,幫助投資者簡化投資流程,達成長期穩定增長的財務目標。
這篇文章介紹了機關檔案分類表的編製方法,以及在文書處理過程中需要注意的事項。同時也提到了檔案管理人員的工作內容和相關法令。文章總結了檔案管理的重要性和相關程序。
Thumbnail
《100個領導基本╳100個工作實踐》 ★透過《100個基本》掌握原則,依循自己的成長軌跡蛻變。
會議記錄是一個很重要的技能,不僅能幫助你整理會議內容,更能讓你在工作中變得更有效率。很多人會覺得做會議記錄是一件很麻煩的事,但只要掌握了一些方法和工具,過程可以變得簡單又高效。 1. 提前準備 2. 使用模板 3. 抓住重點 4. 實時記錄 5. 使用錄音工具 6. 整理和總結 7. 分發會議記錄
Thumbnail
土製工廠管理學是一門藝術,透過實戰經驗和獨特手法幫助學習工廠管理的人快速上手。課程涵蓋豐富內容,適合對工廠管理感到困難的人、剛踏入工廠管理領域的新鮮人,以及想要學習不同管理手法的管理者。
Thumbnail
專業知識與持續學習:擁有深入的企業管理、服務行銷、網路行銷、自媒體製作等領域的專業知識。 持續關注最新的行業趨勢與發展,不斷學習並更新自己的知識庫。 準備與設計課程:根據企業或學員的需求設計課程,確保課程內容符合學員的期望並具有實用性。 準備詳細的課程大綱、教學材料與案例分析,以提升學員的學習
Thumbnail
跟上第六屆曼陀號計畫主題講座啦!!(激動)這個講座真的超!級!讚! 身為PM總會有許多總會有許多臨時任務,或是各種文件資料需要歸檔,有時候不小心這些碎片就遺失在茫茫筆記海之中,但經過電腦玩物站長Esor老師的分析與步驟拆解,並套用在各種工作生活情境,瞬間解開自己長久以來的盲點跟困擾
Thumbnail
籌備一場百人級別的研討會需要注意哪20個細節?本篇將詳細介紹從會議主題、時間、地點、議程、講者、餐飲資訊、宣傳預備到會後結案等籌備過程中需要留意的重要細節。
Thumbnail
在最近參加的企業管理的智慧課程中,我獲得了許多寶貴的心得與見解。以下是我在這次課程中最深刻的幾條體會: 視角與管理風格 課程的第一個活動讓我認識到,管理風格往往由我們的視角所決定。由於主管常常處理問題和異常,習慣了問題導向,容易忽略對員工的鼓勵。該怎麼做呢?
在這堂課中,深深打破了我對原本所謂「協調」、「共識」等的既定印象,以及有很多不同的眼界思維去思考,能影響我整個專案的利害關鍵人有誰,以及我應該去做什麼樣的應對。
Thumbnail
本文探討了複利效應的重要性,並藉由巴菲特的投資理念,說明如何選擇穩定產生正報酬的資產及長期持有的核心理念。透過定期定額的投資方式,不僅能減少情緒影響,還能持續參與全球股市的發展。此外,文中介紹了使用國泰 Cube App 的便利性及低手續費,幫助投資者簡化投資流程,達成長期穩定增長的財務目標。
這篇文章介紹了機關檔案分類表的編製方法,以及在文書處理過程中需要注意的事項。同時也提到了檔案管理人員的工作內容和相關法令。文章總結了檔案管理的重要性和相關程序。
Thumbnail
《100個領導基本╳100個工作實踐》 ★透過《100個基本》掌握原則,依循自己的成長軌跡蛻變。
會議記錄是一個很重要的技能,不僅能幫助你整理會議內容,更能讓你在工作中變得更有效率。很多人會覺得做會議記錄是一件很麻煩的事,但只要掌握了一些方法和工具,過程可以變得簡單又高效。 1. 提前準備 2. 使用模板 3. 抓住重點 4. 實時記錄 5. 使用錄音工具 6. 整理和總結 7. 分發會議記錄
Thumbnail
土製工廠管理學是一門藝術,透過實戰經驗和獨特手法幫助學習工廠管理的人快速上手。課程涵蓋豐富內容,適合對工廠管理感到困難的人、剛踏入工廠管理領域的新鮮人,以及想要學習不同管理手法的管理者。
Thumbnail
專業知識與持續學習:擁有深入的企業管理、服務行銷、網路行銷、自媒體製作等領域的專業知識。 持續關注最新的行業趨勢與發展,不斷學習並更新自己的知識庫。 準備與設計課程:根據企業或學員的需求設計課程,確保課程內容符合學員的期望並具有實用性。 準備詳細的課程大綱、教學材料與案例分析,以提升學員的學習
Thumbnail
跟上第六屆曼陀號計畫主題講座啦!!(激動)這個講座真的超!級!讚! 身為PM總會有許多總會有許多臨時任務,或是各種文件資料需要歸檔,有時候不小心這些碎片就遺失在茫茫筆記海之中,但經過電腦玩物站長Esor老師的分析與步驟拆解,並套用在各種工作生活情境,瞬間解開自己長久以來的盲點跟困擾
Thumbnail
籌備一場百人級別的研討會需要注意哪20個細節?本篇將詳細介紹從會議主題、時間、地點、議程、講者、餐飲資訊、宣傳預備到會後結案等籌備過程中需要留意的重要細節。
Thumbnail
在最近參加的企業管理的智慧課程中,我獲得了許多寶貴的心得與見解。以下是我在這次課程中最深刻的幾條體會: 視角與管理風格 課程的第一個活動讓我認識到,管理風格往往由我們的視角所決定。由於主管常常處理問題和異常,習慣了問題導向,容易忽略對員工的鼓勵。該怎麼做呢?
在這堂課中,深深打破了我對原本所謂「協調」、「共識」等的既定印象,以及有很多不同的眼界思維去思考,能影響我整個專案的利害關鍵人有誰,以及我應該去做什麼樣的應對。