我對聯邦強盜算法個人化的一個思考:個人化聯邦學習,是有效利用全局模型與局部模型,完成任務。

更新於 發佈於 閱讀時間約 2 分鐘
圖片來源:https://www.nextgov.com/ideas/2022/07/federated-learning-uses-data-right-our-devices/374926/

圖片來源:https://www.nextgov.com/ideas/2022/07/federated-learning-uses-data-right-our-devices/374926/


這篇文章想與你分享,我閱讀個人化聯邦強盜文章以後,所產生的思考與理解。

本文章收錄的一個思考與理解如下:

  1. 個人化聯邦學習,是有效利用全局模型與局部模型,完成任務。

思考 #1:個人化聯邦學習,是有效利用全局模型與局部模型,完成任務。

個人化聯邦學習,是一種學習方式,學習全局模型(Global model)與個人局部模型(Own local model)的混合。基本上,同時承認這兩個模型元素的存在,並且思考如何混合這兩個模型的資訊,來幫助任務更好達成。文章中則是很簡單地做重權重來學習強盜問題中的獎勵模型。

在我們的設定下,所有的用戶端(Client)都在解同一個強盜問題(Bandit problem),但由於每個用戶端的脈絡向量序列不同,其資料分布也不同。所以學習全局模型與局部模型的確是有意義,而我們對各自的結論都有給一些形式化後的結果。我們的任務,應該是「導讀」讀者去理解我們的結果。

我們的做法,是混合全局模型(Global model)與個人局部模型(Own local model)在決策的過程中。特別地,我們用全局模型(Teamwork Lasso)來執行聯邦篩選(Federated Screening),接著用局部模型(Egocentric Lasso)來執行自私決策(Egocentric Decision)。這樣的思維造就了我們特殊的Fedego Lasso策略,來提供聯邦線上高維度決策問題的解決方案。


留言
avatar-img
留言分享你的想法!
avatar-img
紫式講義的沙龍
4會員
23內容數
思考合成數據的各種原理,應用與效果。
紫式講義的沙龍的其他內容
2022/08/05
思考#1:防彈筆記的四個元素:目標成果,要解決的問題,下一步行動,下一步連結 站長在呈現此書,使用的元數據(Metadata)為 目標成果 要解決什麼問題 下一步行動 下一步連結 這個格式蠻好的,可以連結書的內容。 思考#2:鳥瞰書籍內容 Part 分析 防彈筆記的改變 防彈筆記的原則 內容分析
Thumbnail
2022/08/05
思考#1:防彈筆記的四個元素:目標成果,要解決的問題,下一步行動,下一步連結 站長在呈現此書,使用的元數據(Metadata)為 目標成果 要解決什麼問題 下一步行動 下一步連結 這個格式蠻好的,可以連結書的內容。 思考#2:鳥瞰書籍內容 Part 分析 防彈筆記的改變 防彈筆記的原則 內容分析
Thumbnail
2022/08/05
這篇文章記錄與強盜算法有關的職位。 職位#1:Amazon 資深運籌學科學家 職位#2: Tripadbisor 機器學習科學家 II Machine Learning Scientist II 職位#3:BOA 資料科學家 Data Scientist Desired skills:
Thumbnail
2022/08/05
這篇文章記錄與強盜算法有關的職位。 職位#1:Amazon 資深運籌學科學家 職位#2: Tripadbisor 機器學習科學家 II Machine Learning Scientist II 職位#3:BOA 資料科學家 Data Scientist Desired skills:
Thumbnail
2022/08/04
本文章與你分享我接觸這篇認知方法論課程後,產生的思考理解。 對「認知」這個字,搭配上生老病死,我覺得有下面的意涵: 生:零認知 老:覺得認知迭代 病:覺得認知缺乏 死:不再需要認知
Thumbnail
2022/08/04
本文章與你分享我接觸這篇認知方法論課程後,產生的思考理解。 對「認知」這個字,搭配上生老病死,我覺得有下面的意涵: 生:零認知 老:覺得認知迭代 病:覺得認知缺乏 死:不再需要認知
Thumbnail
看更多
你可能也想看
Thumbnail
大家好,我是一名眼科醫師,也是一位孩子的媽 身為眼科醫師的我,我知道視力發展對孩子來說有多關鍵。 每到開學季時,診間便充斥著許多憂心忡忡的家屬。近年來看診中,兒童提早近視、眼睛疲勞的案例明顯增加,除了3C使用過度,最常被忽略的,就是照明品質。 然而作為一位媽媽,孩子能在安全、舒適的環境
Thumbnail
大家好,我是一名眼科醫師,也是一位孩子的媽 身為眼科醫師的我,我知道視力發展對孩子來說有多關鍵。 每到開學季時,診間便充斥著許多憂心忡忡的家屬。近年來看診中,兒童提早近視、眼睛疲勞的案例明顯增加,除了3C使用過度,最常被忽略的,就是照明品質。 然而作為一位媽媽,孩子能在安全、舒適的環境
Thumbnail
我的「媽」呀! 母親節即將到來,vocus 邀請你寫下屬於你的「媽」故事——不管是紀錄爆笑的日常,或是一直想對她表達的感謝,又或者,是你這輩子最想聽她說出的一句話。 也歡迎你曬出合照,分享照片背後的點點滴滴 ♥️ 透過創作,將這份情感表達出來吧!🥹
Thumbnail
我的「媽」呀! 母親節即將到來,vocus 邀請你寫下屬於你的「媽」故事——不管是紀錄爆笑的日常,或是一直想對她表達的感謝,又或者,是你這輩子最想聽她說出的一句話。 也歡迎你曬出合照,分享照片背後的點點滴滴 ♥️ 透過創作,將這份情感表達出來吧!🥹
Thumbnail
工作知識的全局觀與拆解,也能運用在知識學習上! 打造超人學習 科學打造智商10000的自學超能力 作者:xdite ,鄭伊廷 商周出版 科幻片中,拿著競爭對手的成品,然後透過逆向拆解,在重新建構一次,推出更具破壞市場的商品。(如果時間夠快的話),作者透過程式語言的學習過程,打造全棧營的實務過程,再一
Thumbnail
工作知識的全局觀與拆解,也能運用在知識學習上! 打造超人學習 科學打造智商10000的自學超能力 作者:xdite ,鄭伊廷 商周出版 科幻片中,拿著競爭對手的成品,然後透過逆向拆解,在重新建構一次,推出更具破壞市場的商品。(如果時間夠快的話),作者透過程式語言的學習過程,打造全棧營的實務過程,再一
Thumbnail
最近在一場演講中,談到職場工作者如何透過學習來成長?我以這張個人知識系統的運作機制來說明,包含觀點、工具與經驗三種元素。
Thumbnail
最近在一場演講中,談到職場工作者如何透過學習來成長?我以這張個人知識系統的運作機制來說明,包含觀點、工具與經驗三種元素。
Thumbnail
思考#1:防彈筆記的四個元素:目標成果,要解決的問題,下一步行動,下一步連結 站長在呈現此書,使用的元數據(Metadata)為 目標成果 要解決什麼問題 下一步行動 下一步連結 這個格式蠻好的,可以連結書的內容。 思考#2:鳥瞰書籍內容 Part 分析 防彈筆記的改變 防彈筆記的原則 內容分析
Thumbnail
思考#1:防彈筆記的四個元素:目標成果,要解決的問題,下一步行動,下一步連結 站長在呈現此書,使用的元數據(Metadata)為 目標成果 要解決什麼問題 下一步行動 下一步連結 這個格式蠻好的,可以連結書的內容。 思考#2:鳥瞰書籍內容 Part 分析 防彈筆記的改變 防彈筆記的原則 內容分析
Thumbnail
這篇文章想與你分享,我閱讀個人化聯邦強盜文章以後,所產生的思考與理解。 本文章收錄的一個思考與理解如下: 個人化聯邦學習,是有效利用全局模型與局部模型,完成任務。 思考 #1:個人化聯邦學習,是有效利用全局模型與局部模型,完成任務。
Thumbnail
這篇文章想與你分享,我閱讀個人化聯邦強盜文章以後,所產生的思考與理解。 本文章收錄的一個思考與理解如下: 個人化聯邦學習,是有效利用全局模型與局部模型,完成任務。 思考 #1:個人化聯邦學習,是有效利用全局模型與局部模型,完成任務。
Thumbnail
要達到「群體共學」,必須先建立團隊共學的模式與習慣,慢慢地開始深入,能夠有系統地提升團隊知識與能力。而且在學習進而討論的過程中,可以結合成員多元觀點,再經過討論、激盪轉化產生新思維。 這樣做也同時可強化團隊溝通成效,因為無形中創造出一個日常工作之外的溝通場域,可以自然的對話,加深成員彼此之間的理解。
Thumbnail
要達到「群體共學」,必須先建立團隊共學的模式與習慣,慢慢地開始深入,能夠有系統地提升團隊知識與能力。而且在學習進而討論的過程中,可以結合成員多元觀點,再經過討論、激盪轉化產生新思維。 這樣做也同時可強化團隊溝通成效,因為無形中創造出一個日常工作之外的溝通場域,可以自然的對話,加深成員彼此之間的理解。
Thumbnail
閱讀筆記(98)《人本體制》(1)未來組織模式:什麼制約數位轉型的因素 《人本體制》的內容,算是目前看過對整個未來組織發展的系統著作。 組織的誕生,是為了最高效率的產出,透過專業分工來達到單位個體的產能最大化。 「效率至上」的時代,通過專業化分工與嚴謹的組織架構,加上層級化的管理模式,能
Thumbnail
閱讀筆記(98)《人本體制》(1)未來組織模式:什麼制約數位轉型的因素 《人本體制》的內容,算是目前看過對整個未來組織發展的系統著作。 組織的誕生,是為了最高效率的產出,透過專業分工來達到單位個體的產能最大化。 「效率至上」的時代,通過專業化分工與嚴謹的組織架構,加上層級化的管理模式,能
Thumbnail
閱讀筆記(94)跳脫封閉式學習:從「重複自己」的狀態中導入變量因素 一個人在對一件事情提出「否定」的天花板前,這段空間就是個人潛力的成長幅度。換言之,當無所謂不行、不可以時,不論身在什麼狀態,總有一天能讓你達到目標。 如果手中擁有一把鐵鎚,看世界任何東西都是釘子。學習的過程,就是讓個人在解決問題
Thumbnail
閱讀筆記(94)跳脫封閉式學習:從「重複自己」的狀態中導入變量因素 一個人在對一件事情提出「否定」的天花板前,這段空間就是個人潛力的成長幅度。換言之,當無所謂不行、不可以時,不論身在什麼狀態,總有一天能讓你達到目標。 如果手中擁有一把鐵鎚,看世界任何東西都是釘子。學習的過程,就是讓個人在解決問題
Thumbnail
多任務學習指的是使用多個相關的任務目標(Multiple objectives)來學習共享的表示方法。在這篇文章中,我們會介紹 google 的 youtube recommender 系統就是利用 Multi-gate Mixture of Experts 來達成多目標多任務學習的方式。
Thumbnail
多任務學習指的是使用多個相關的任務目標(Multiple objectives)來學習共享的表示方法。在這篇文章中,我們會介紹 google 的 youtube recommender 系統就是利用 Multi-gate Mixture of Experts 來達成多目標多任務學習的方式。
Thumbnail
我們介紹了什麼是高手的暗箱,利用底層的規律、時代的趨勢和外部的力量,來幫助自己跨越式成長。戰略上瞄準高價值區域,持續放大自我效能;再接下來,站在知識源頭,學習高價值知識以問題為導向,學習自己最需要的知識;知識IPO,學會把知識轉化成價值;連線學習跟別人一起成長;高手能夠自下而上地構建起自己的知識體系
Thumbnail
我們介紹了什麼是高手的暗箱,利用底層的規律、時代的趨勢和外部的力量,來幫助自己跨越式成長。戰略上瞄準高價值區域,持續放大自我效能;再接下來,站在知識源頭,學習高價值知識以問題為導向,學習自己最需要的知識;知識IPO,學會把知識轉化成價值;連線學習跟別人一起成長;高手能夠自下而上地構建起自己的知識體系
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News