deeplearning
含有「deeplearning」共 4 篇內容
全部內容
發佈日期由新至舊
本文深入探討 Elon Musk 創辦的 Neuralink 公司，解析其核心腦機介面（BCI）技術，包含「Link」植入晶片與 R1 手術機器人。文章回顧了 Neuralink 的發展歷程，從動物實驗到首次人體試驗的重要里程碑，並探討其商業模式、資金現況及潛在的醫療、中長期與科幻應用場景。
這篇文章介紹了 Andrew Ng 在《Machine Learning Strategy》課程中提出的兩個核心觀念：為專案設計「單一數值評估指標」以及運用「正交化」思維。透過單一評估指標，我們可以快速判斷模型優劣，加速迭代；透過正交化，則能系統性地診斷模型問題，並對應到相應的調整策略
本篇文章前半段先對網路裁減做簡單介紹，後半段針對彩卷假說作文獻式的探討。網路裁減是一種重新發現等價小網路的方法，主要目的在為 over-parameterized 的方式訓練而成的類神經網路提供一個精簡版的網路，有助於在資源受限的平台上運行。彩卷假說則是探討權重初始值和網路裁減之間的關係。
我們將會對動態設定學習率（learning rate）作為最陡梯度下降法的變異演算法做介紹。內容包括了解釋什麼事循環式的學習率調整排程法和何謂使用指數衰退權重來計算移動平均值，同時也介紹如何對大量參數的變數進行最佳化和目前活躍的演算法變異。如 adagrad, adadelta 和 RMSprop
