

梯度下降是一種優化演算法，用來最小化損失函數。 透過計算梯度（偏導數），找出參數更新方向。 公式為  θ_(t+1)=θ_t−η⋅∇ J(θ)



圖中的learning rate 為 0.05 可以發現到山谷的時候收斂速度較為緩慢



<h2 class="lexical__h2"><br><br></h2><p class="lexical__paragraph" dir="ltr"><span style="white-space: pre-wrap;">梯度下降是一種優化演算法，用來最小化損失函數。 透過計算梯度（偏導數），找出參數更新方向。 公式為  θ_(t+1)=θ_t−η⋅∇ J(θ)</span></p><h2 class="lexical__h2"><br><br></h2><p class="lexical__paragraph" dir="ltr"><span style="white-space: pre-wrap;">圖中的learning rate 為 0.05 可以發現到山谷的時候收斂速度較為緩慢</span></p><div class="lexical__image center"><div class="lexical__imageWrapper"><img src="https://images.vocus.cc/716cdde9-c202-40f9-a291-73f60545609d.gif" data-src="https://images.vocus.cc/716cdde9-c202-40f9-a291-73f60545609d.gif" class="lazy" data-original-src="https://images.vocus.cc/716cdde9-c202-40f9-a291-73f60545609d.gif" data-lowquality="true" data-width="600" data-height="337" data-retry="0" onerror="Number(this.dataset.retry) > 4 ? this.src='/static/default-error-img.svg': (() => {this.src=this.dataset.originalSrc; this.dataset.retry = Number(this.dataset.retry)+1;})()" alt="raw-image"></div><div></div></div><p class="lexical__paragraph"><br></p>

以行動支持創作者！付費即可解鎖