職位轉變之路

最近開始新的研究。從 2017 年開始做機器學習理論研究以來，大概每兩三年就轉換一個子領域，表面看來是大換，但其實在很多技巧、精神，或是我個人的興趣上是有些延續性的。這個博後的職位更是一個神奇的結合，所以覺得來簡單聊聊應該會蠻有趣的。

大學畢業後，我在中研院資訊所當了將近三年的研究助理。物理系畢業的我算是跟資訊所半點不相關，但基於興趣而自學了一段時間後，我便厚著臉皮挑了資訊所當時最主要做這方面的研究員寫信，幸運地開啟了研究路。

當時的主要研究方向是 Lifelong Learning，算是 Online Learning 在 Multi-task 的延伸，這在當時是個不太受注意的領域。現在當然是更多人做了，但當時投稿時常常連動機都被質疑，其間的研究最終也發了兩篇會議論文。但在 Lifelong Learning 之外，我也對 Statistical Learning Theory 頗有興趣，尤其是當時幾乎全速發展的 Deep Learning theory，可惜當時沒有找到好的突破點，不過總之還是因此累積了大量相關的閱讀。研究助理期間因為其中一篇會議論文而有幸去沖繩參加會議，算是種下了之後會到哥本哈根攻讀博士的契機。

會議上，在我隔壁報告的博士生，他的指導老師就是我博士學位的指導老師。一方面我原本就因為興趣念過幾篇他老闆的論文，另一方面是他當年在會議上發表的論文算是解了懸了 10 年以上的問題，在參加會議前我就讀過，雖然沒太看懂使用的技巧。總之因為那次會議跟那個博士生聊了不少。半年後那個老師開了博士缺，我想都沒想就寄信毛遂自薦，甚至沒有認真思考到台灣人不太熟悉的丹麥念書可能會是個什麼情形。經過了半年的申請程序 (他當時沒有經費所以我們要另外找經費 )，總算是一切塵埃落定。

我的博士生活大部分時間都在 Covid 時期度過。丹麥疫情不算非常嚴重，畢竟人口密度不算高，但我還是幾乎整整在家工作了一年。我的指導老師除了做 Online Learning (當年本來預計要跟他做的方向) ，也做 PAC-Bayes Analysis。在我博士生涯的前一年，這個方法被發現是當時在理論上最能有效解釋 Deep Learning 的理論之一。基於興趣，加上之前研究助理期間一直不得其門而入，他鼓勵我跟他做這方面的研究。而這也一直延續到現在。

博士生涯非常後期，我開始慢慢以 PAC-Bayes 為底，把觸角伸往其他，包含 Bayesian Learning。許多 PAC-Bayes 研究者並不特別熟悉 Bayesian Learning，反過來也是一樣的情況。而許多 PAC-Bayes 研究者也跟廣義的 Online Learning 不是很熟。這從這幾年審到的會議論文也能多多少少感覺到。因此當同事跟我說丹麥另一所大學在找一個能做 PAC-Bayes 和 Online Learning 的延伸領域的博士後研究員時，我簡直是不敢相信，看到職缺說明的時候有一種：這接近是量身打造了吧！

長篇大論後想說的是，儘管一切看起來都是這麼的剛好，我現在還是有種重新被丟到一座我不熟悉的森林的感覺，只能努力再替自己闢出路來。新生活、新挑戰，應該會很有趣。