TML001|凸包和凸組合在機器學習中的應用:簡單解析

閱讀時間約 1 分鐘

你知道「凸組合」和「凸包」在機器學習中有多重要嗎?許多演算法都依賴它們來提升效能。接下來簡單介紹它們的幾個應用:

▌線性模型

在**線性回歸**中,特徵的加權組合若限制為「非負且和為1」,就是凸組合。這可以讓模型結果更穩定。

▌集成學習

**集成學習**透過多個模型的預測加權組合來提升準確度,這也是凸組合的典型應用。

▌支持向量機(SVM)

**SVM**依靠「支持向量」來決定分類邊界,而這些向量的組合也是凸組合,提升了分類精度。

▌K-Means 聚類

每個簇的中心點是數據點的平均值,這是凸組合的應用,確保中心點在數據的凸包內。

▌生成模型

例如**高斯混合模型(GMM)**,透過多個高斯分佈的加權組合,捕捉數據的複雜結構。

凸組合和凸包是許多機器學習算法的數學基礎,助你做出更穩定的預測。


425會員
1.5K內容數
Outline as Content
留言0
查看全部
發表第一個留言支持創作者!
王啟樺的沙龍 的其他內容
2024年6月11日下午,我和李沅桐博士在UCLA的校園裡一起拍了畢業照。沅桐是我博士期間第一位合作的學術夥伴。我們一起研究了Machine Unlearning和Preference Matching的相關課題,這段經歷讓我深刻體會到合作對於學術發展的重要性。 ▌學術合作的重要性
1. 將研討會當作「讓別人認識我的機會」: - 博士一年級到三年級時,許多學生過度專注於在研討會上展示自己的工作,期望讓研究社群注意到自己。雖然這能鍛鍊公眾演講能力,但忽略了更重要的機會是去學習他人的研究。 2. 將研討會視為「單純吸收資訊的場合」:
大學生在做專題時,常常會混淆「課程專題報告」和「專題研究」的差別。事實上,兩者的性質與目的是完全不同的。若想從「科學作家」進階為「科學家」,理解這點十分重要。 ▋課程專題報告:科學作家的練習 課程專題報告更像是一種「科學作家」的練習。學生透過整合、整理各種文獻,將資訊拼湊成一篇完整的
在攻讀博士的過程中,許多人會有一個常見的誤解,認為自己可以「選擇」畢業後要走學界還是業界。然而,事實是,當你還在PhD的1825個日子裡,每天如何使用你的時間,實際上就已經開始決定你「適合」去學界或業界了。 很多博士生不明白的是,「選擇」和「適合」之間存在著重要的差異。 ▌每個選擇都
在碩博士的學習階段,我們常面臨大量知識與資訊的壓力,如何有效管理與內化這些知識,成為一個關鍵挑戰。我發現透過「得到」這樣的平台學習,可以幫助我高效吸收內容,而我也發展出一套系統化的策略,讓這些學習成果轉化為個人洞見,進而產出具有價值的內容。 ▌拆解課程內容,建立資訊塊 每堂「得到」課
碩博士生的研究過程中,信仰和知識常常交織在一起,影響我們如何看待世界、解釋現象、甚至制定研究方向。然而,知名心理學家 Dan Ariely 在他的新書《Misbelief: What Makes Rational People Believe Irrational Things》中探討的「謬見」
2024年6月11日下午,我和李沅桐博士在UCLA的校園裡一起拍了畢業照。沅桐是我博士期間第一位合作的學術夥伴。我們一起研究了Machine Unlearning和Preference Matching的相關課題,這段經歷讓我深刻體會到合作對於學術發展的重要性。 ▌學術合作的重要性
1. 將研討會當作「讓別人認識我的機會」: - 博士一年級到三年級時,許多學生過度專注於在研討會上展示自己的工作,期望讓研究社群注意到自己。雖然這能鍛鍊公眾演講能力,但忽略了更重要的機會是去學習他人的研究。 2. 將研討會視為「單純吸收資訊的場合」:
大學生在做專題時,常常會混淆「課程專題報告」和「專題研究」的差別。事實上,兩者的性質與目的是完全不同的。若想從「科學作家」進階為「科學家」,理解這點十分重要。 ▋課程專題報告:科學作家的練習 課程專題報告更像是一種「科學作家」的練習。學生透過整合、整理各種文獻,將資訊拼湊成一篇完整的
在攻讀博士的過程中,許多人會有一個常見的誤解,認為自己可以「選擇」畢業後要走學界還是業界。然而,事實是,當你還在PhD的1825個日子裡,每天如何使用你的時間,實際上就已經開始決定你「適合」去學界或業界了。 很多博士生不明白的是,「選擇」和「適合」之間存在著重要的差異。 ▌每個選擇都
在碩博士的學習階段,我們常面臨大量知識與資訊的壓力,如何有效管理與內化這些知識,成為一個關鍵挑戰。我發現透過「得到」這樣的平台學習,可以幫助我高效吸收內容,而我也發展出一套系統化的策略,讓這些學習成果轉化為個人洞見,進而產出具有價值的內容。 ▌拆解課程內容,建立資訊塊 每堂「得到」課
碩博士生的研究過程中,信仰和知識常常交織在一起,影響我們如何看待世界、解釋現象、甚至制定研究方向。然而,知名心理學家 Dan Ariely 在他的新書《Misbelief: What Makes Rational People Believe Irrational Things》中探討的「謬見」
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
如果是來自比較數學與理論的學科, 尤其研究對象是人群的學科, 幾乎不可能自己重做一次實驗, 看看這些數學理論「是不是實際上好用」。 我那時候就體會到, 數學只是一種空中樓閣, 我們還需要有具體的實驗數據, 來把數學與世界接地。 而什麼領域既能有數學理論,
Thumbnail
1.0 從函數到函算語法 1.4 函算語法 1.4.1 語法範疇理論導論 1.4.2 函算語法與函數概念 一 上節是對語構範疇理論的簡介。 1922年,列希涅夫斯基提出了語構範疇概念,以此取代人工化的型論,並引入到他的三個形式系統中66,以圖避免羅素悖論及其它集論悖論的出現。 艾杜
Thumbnail
1.0 從函數到函算語法 1.4 函算語法 1.4.1 語法範疇理論導論 九 為能清晰說明,我們給範疇次序標號 (即置頂的 1-5),使整個推導過程看似一個矩陣﹕ 1.4.1_5.3 艾杜凱維茨的推導矩陣 第 2 行的 gr:1 (C1, C2) 是說 gr 用於第 1 行的 C
今天聊聊 Marc Abeille[1] 所著作的《Linear Thompson Sampling Revisited》[2]。 這篇文章是分析Linear Thompson Sampling的理論經典文章。 文章裡面示範了如何將 Thompson取樣, 看作是一種對參數的擾動,
Thumbnail
圓形為空心線圈中最常出現的形狀,但很多設計者在規劃時,常常漏了一點,導致實際生產的尺寸有落差,那就是爬層空間。 如下圖所示,過往在空心線圈排列規劃時免不了兩種形式,左側的方形排列以及右側的緊實排列兩種,生產上是右側較為接近現實。但無論是左右兩種規劃,設計者往往都忽略了從線圈從第一層往上爬至第二層時
Thumbnail
有別於傳統空心線圈的成形,大多僅在二維平面上有所差異,如圓形、方形、三角形、梯形等等,然而此一案例則是將線圈造型延伸三維空間當中,採用了U型及I型的空間配置,同時後續還有個組裝的配合條件,十分具有挑戰性,故紀錄其改善內容。 一、嘗試初期 已知此空心線圈後續還有組裝排列的工序,故單顆線圈完成後就需
前言 在閱讀網路文章時,有看到說1X1的卷積層能夠升維、降維,不了解所以然,故來查找。:P 正文 卷積核尺寸為1X1的卷積層能夠達到降低和增加輸出的維度,是因為它能夠改變輸入數據的通道數量(depth),而不改變其空間維度(height和width),原理如下。 1X1卷積在每個空間位置
Thumbnail
這一節談的是向量的定義,以及如何運用向量來建立模擬物體運動時,關於位置和速度間的關係式。
前幾篇文章討論了類型系統的合理性,而這會影響我們對於變數與函式是什麼的理解。其中泛型是當中很重要的一個元素,很多討論都是基於泛型的使用。泛型會大大地增加類型系統的複雜度,因此有些語言選擇不提供泛型(go),但缺少泛型又會使簡單的容器都無法用類型精確描述。泛型的強大必須結合有紀律的類型系統才能顯現,但
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
如果是來自比較數學與理論的學科, 尤其研究對象是人群的學科, 幾乎不可能自己重做一次實驗, 看看這些數學理論「是不是實際上好用」。 我那時候就體會到, 數學只是一種空中樓閣, 我們還需要有具體的實驗數據, 來把數學與世界接地。 而什麼領域既能有數學理論,
Thumbnail
1.0 從函數到函算語法 1.4 函算語法 1.4.1 語法範疇理論導論 1.4.2 函算語法與函數概念 一 上節是對語構範疇理論的簡介。 1922年,列希涅夫斯基提出了語構範疇概念,以此取代人工化的型論,並引入到他的三個形式系統中66,以圖避免羅素悖論及其它集論悖論的出現。 艾杜
Thumbnail
1.0 從函數到函算語法 1.4 函算語法 1.4.1 語法範疇理論導論 九 為能清晰說明,我們給範疇次序標號 (即置頂的 1-5),使整個推導過程看似一個矩陣﹕ 1.4.1_5.3 艾杜凱維茨的推導矩陣 第 2 行的 gr:1 (C1, C2) 是說 gr 用於第 1 行的 C
今天聊聊 Marc Abeille[1] 所著作的《Linear Thompson Sampling Revisited》[2]。 這篇文章是分析Linear Thompson Sampling的理論經典文章。 文章裡面示範了如何將 Thompson取樣, 看作是一種對參數的擾動,
Thumbnail
圓形為空心線圈中最常出現的形狀,但很多設計者在規劃時,常常漏了一點,導致實際生產的尺寸有落差,那就是爬層空間。 如下圖所示,過往在空心線圈排列規劃時免不了兩種形式,左側的方形排列以及右側的緊實排列兩種,生產上是右側較為接近現實。但無論是左右兩種規劃,設計者往往都忽略了從線圈從第一層往上爬至第二層時
Thumbnail
有別於傳統空心線圈的成形,大多僅在二維平面上有所差異,如圓形、方形、三角形、梯形等等,然而此一案例則是將線圈造型延伸三維空間當中,採用了U型及I型的空間配置,同時後續還有個組裝的配合條件,十分具有挑戰性,故紀錄其改善內容。 一、嘗試初期 已知此空心線圈後續還有組裝排列的工序,故單顆線圈完成後就需
前言 在閱讀網路文章時,有看到說1X1的卷積層能夠升維、降維,不了解所以然,故來查找。:P 正文 卷積核尺寸為1X1的卷積層能夠達到降低和增加輸出的維度,是因為它能夠改變輸入數據的通道數量(depth),而不改變其空間維度(height和width),原理如下。 1X1卷積在每個空間位置
Thumbnail
這一節談的是向量的定義,以及如何運用向量來建立模擬物體運動時,關於位置和速度間的關係式。
前幾篇文章討論了類型系統的合理性,而這會影響我們對於變數與函式是什麼的理解。其中泛型是當中很重要的一個元素,很多討論都是基於泛型的使用。泛型會大大地增加類型系統的複雜度,因此有些語言選擇不提供泛型(go),但缺少泛型又會使簡單的容器都無法用類型精確描述。泛型的強大必須結合有紀律的類型系統才能顯現,但