我囚在鞍點上
平坦的大漠
盡頭在何方
好不容易產生擾動
看到了
是綠洲
砰!
掉進了區域最小值
那阻礙前行的沙坑
趕緊增加資料量
跳出 跳出
離開 離開
終於
水源我來了
怎麼是海市蜃樓
又回到鞍點上
不斷重複
相信總有一天
會接近真實模型的
PS:
名詞解釋:
鞍點:在一個曲線裡面,有一段平坦區。這個區域會讓人以為沒有坡度,以為就是底部。解決的方式是noise(擾動、噪音)。
區域最小值:顧名思義,是區域中的最小值,而不是整體的。解決的方式是增加資料量。
這是一首深度學習結合融合考試考砸的心境,交織出來的詩。
鞍點代表的是進步微小,或者一直犯同樣的錯誤。解決方式是多練習,或做筆記預防。
區域最小值代表的是一直不停歇的進度,在前一個還沒完全熟悉時,你又被迫要先搞懂下一個。解決方式當然還是得先往下一個單元前進,
不過可能又會有新的弊端。
真實模型指的是近乎完美的一面,也希望最後能如此吧。