激活函數 Tanh 雙曲正切函數

更新 發佈閱讀 1 分鐘

Sigmoid 函數輸出範圍被壓縮在 0 到 1 之間,當輸入值過大或過小時,導數接近 0,導致權重幾乎停止更新。

此外,由於輸出總是正值且不以 0 為中心,使得權重更新的方向容易產生偏差,因而限制模型探索參數空間,影響收斂速度和學習效率。

tanh 通常應用在隱藏層的非線性變換、數據對稱分布的場景、循環神經網絡(RNN)的隱藏層中...等

raw-image


1.定義域:(−∞,+∞)

2.範圍:(−1,+1)

3.tanh⁡(0)=0

4.此函數是單調遞增的。

5.此函數處處連續。

6.此函數在其域內處處可微。


留言
avatar-img
留言分享你的想法!
avatar-img
Princend的沙龍
0會員
34內容數
Princend的沙龍的其他內容
2025/01/26
這本書旨在幫助創作者分享他們的過程並與受眾建立聯繫,而非僅僅是推銷自己。 ## 第一章:你不需要是個天才 * **創造力不只是天賦,而是一種運作方式** 。 * 不要相信「孤獨的天才」神話,偉大的作品往往來自於一個互相支持、彼此學習的「群體」(**scenius**)
Thumbnail
2025/01/26
這本書旨在幫助創作者分享他們的過程並與受眾建立聯繫,而非僅僅是推銷自己。 ## 第一章:你不需要是個天才 * **創造力不只是天賦,而是一種運作方式** 。 * 不要相信「孤獨的天才」神話,偉大的作品往往來自於一個互相支持、彼此學習的「群體」(**scenius**)
Thumbnail
2024/12/31
今年嘗試往不同領域去學習 甚至裸辭參加AI職訓班 雖然成長的幅度沒有想像的那麼好 但是至少是有成長的 期待未來的我 能夠持續學習 達到心中所想的目標
Thumbnail
2024/12/31
今年嘗試往不同領域去學習 甚至裸辭參加AI職訓班 雖然成長的幅度沒有想像的那麼好 但是至少是有成長的 期待未來的我 能夠持續學習 達到心中所想的目標
Thumbnail
2024/12/25
馬可夫鍊(Markov Chain) 是一種數學模型,用來描述一個系統在不同狀態之間的轉移過程,特點是未來的狀態只取決於當前狀態,而與過去的狀態無關。這種性質稱為馬可夫性質,即「無記憶性」。馬可夫鍊常用於統計學、機器學習、經濟學、生物學等領域。
Thumbnail
2024/12/25
馬可夫鍊(Markov Chain) 是一種數學模型,用來描述一個系統在不同狀態之間的轉移過程,特點是未來的狀態只取決於當前狀態,而與過去的狀態無關。這種性質稱為馬可夫性質,即「無記憶性」。馬可夫鍊常用於統計學、機器學習、經濟學、生物學等領域。
Thumbnail
看更多
你可能也想看
Thumbnail
Softmax 函數主要用於多分類問題,將輸出層的原始分數(logits)轉換為機率分佈。每個輸出的機率範圍在 0 到 1 之間,且所有輸出機率的總和為 1。 它的步驟包括: 1️⃣將每個輸出取指數化,放大差異。 2️⃣計算所有輸出的指數和(正規化因子)。 3️⃣ 將每個輸出的指數值除以
Thumbnail
Softmax 函數主要用於多分類問題,將輸出層的原始分數(logits)轉換為機率分佈。每個輸出的機率範圍在 0 到 1 之間,且所有輸出機率的總和為 1。 它的步驟包括: 1️⃣將每個輸出取指數化,放大差異。 2️⃣計算所有輸出的指數和(正規化因子)。 3️⃣ 將每個輸出的指數值除以
Thumbnail
4.0 尚芬哥爾操作與升型處理 4.1 尚芬哥爾操作 二 4.1_1 是一個函數。在缺乏規約的情況下, 是有歧義的,因為在實際操作上,我們不知道應該如何使用函子 F。 使用括號是一個常用的手段,例如 這明顯是一個二元函數,換句話說,這個函數的返回值同時需要兩個輸入值。假設 F 是求和函數
Thumbnail
4.0 尚芬哥爾操作與升型處理 4.1 尚芬哥爾操作 二 4.1_1 是一個函數。在缺乏規約的情況下, 是有歧義的,因為在實際操作上,我們不知道應該如何使用函子 F。 使用括號是一個常用的手段,例如 這明顯是一個二元函數,換句話說,這個函數的返回值同時需要兩個輸入值。假設 F 是求和函數
Thumbnail
橫軸代表輸入值 (z) 縱軸代表輸出值 (J(z)) 當輸入值小於或等於閾值 κ 時,函數輸出為 0 當輸入值大於閾值 κ 時,函數輸出等於輸入值本身。 閾值 κ意味著只有超過閾值的輸入特徵才會被模型考慮,而其他特徵則會被忽略(稀疏性) google的gemma2模型有應用到此act
Thumbnail
橫軸代表輸入值 (z) 縱軸代表輸出值 (J(z)) 當輸入值小於或等於閾值 κ 時,函數輸出為 0 當輸入值大於閾值 κ 時,函數輸出等於輸入值本身。 閾值 κ意味著只有超過閾值的輸入特徵才會被模型考慮,而其他特徵則會被忽略(稀疏性) google的gemma2模型有應用到此act
Thumbnail
Sigmoid 函數輸出範圍被壓縮在 0 到 1 之間,當輸入值過大或過小時,導數接近 0,導致權重幾乎停止更新。 此外,由於輸出總是正值且不以 0 為中心,使得權重更新的方向容易產生偏差,因而限制模型探索參數空間,影響收斂速度和學習效率。 tanh 通常應用在隱藏層的非線性變換、數據對稱分
Thumbnail
Sigmoid 函數輸出範圍被壓縮在 0 到 1 之間,當輸入值過大或過小時,導數接近 0,導致權重幾乎停止更新。 此外,由於輸出總是正值且不以 0 為中心,使得權重更新的方向容易產生偏差,因而限制模型探索參數空間,影響收斂速度和學習效率。 tanh 通常應用在隱藏層的非線性變換、數據對稱分
Thumbnail
續傳遞函數離散化的核心環節,就是將控制器的s轉移函數(s-TF)轉換為z轉移 函數(z-TF)。 一般情況下,由連續到離散的設計最好多實驗幾種方法(通過模擬,得出滿意的 結果)。 用於PID連續系統映射轉換成PID離散系統的方塊圖如下: ■離散化演算法摘要 ■離散化演算法比較 ■MATLAB 指令說
Thumbnail
續傳遞函數離散化的核心環節,就是將控制器的s轉移函數(s-TF)轉換為z轉移 函數(z-TF)。 一般情況下,由連續到離散的設計最好多實驗幾種方法(通過模擬,得出滿意的 結果)。 用於PID連續系統映射轉換成PID離散系統的方塊圖如下: ■離散化演算法摘要 ■離散化演算法比較 ■MATLAB 指令說
Thumbnail
●IQ 調變元件的產生 在實際的硬體設計考量上,很難根據輸入的訊息訊號來精確改變硬體電路中的高頻 載子正弦波的相位。而且操縱載子正弦波的強度和相位的硬體訊號調變器會很昂 貴,難以設計和製造。 訊號基本數學模型如下: 根據以上的恆等式,發現正弦波和餘弦波的頻率是完全相同的,只是二者之間有 一個90度的
Thumbnail
●IQ 調變元件的產生 在實際的硬體設計考量上,很難根據輸入的訊息訊號來精確改變硬體電路中的高頻 載子正弦波的相位。而且操縱載子正弦波的強度和相位的硬體訊號調變器會很昂 貴,難以設計和製造。 訊號基本數學模型如下: 根據以上的恆等式,發現正弦波和餘弦波的頻率是完全相同的,只是二者之間有 一個90度的
Thumbnail
系統響應是指系統針對其輸入而產生相對應的輸出結果 針對系統不同的特性,可以進行以下分析: 1.穩定度分析 2.暫態與穩態分析 3.時域與頻域分析 當系統的響應無法達到目標時,此時才會再加上控制器進行設計,以讓系統能達 到控制目標 ===================================
Thumbnail
系統響應是指系統針對其輸入而產生相對應的輸出結果 針對系統不同的特性,可以進行以下分析: 1.穩定度分析 2.暫態與穩態分析 3.時域與頻域分析 當系統的響應無法達到目標時,此時才會再加上控制器進行設計,以讓系統能達 到控制目標 ===================================
Thumbnail
============================================= 根軌跡的定義 ============================================= ■根軌跡的定義 ●控制系統轉移函數 ●特性方程式及特性根 亦即 1+開迴路轉移函數=0 ●根軌跡
Thumbnail
============================================= 根軌跡的定義 ============================================= ■根軌跡的定義 ●控制系統轉移函數 ●特性方程式及特性根 亦即 1+開迴路轉移函數=0 ●根軌跡
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News