嘗試一個微調金融領域的 LLM:FinGPT (一個追求開源、輕量、低成本的微調在金融領域的 LLM(大型語言模型)),來做新聞標題情感(Sentiment)極性辨識。
PS. 有附註 Hugging Face 模型下載與 cache 路徑自定義說明
因為研究題目,最近在接觸各種金融領域微調(fine-tuning)的 LLM,其中一個比較新的是今天的主角 - FinGPT。模型在 Hugging Face 上也找的到。這篇文會稍微簡介一下 FinGPT,然後記錄安裝與使用 3.1 版本的流程,包括官方範例,還有我自己的嘗試。
PS. 這篇不是特別初級向,當然你可以跟著做來玩玩看,但這篇沒有解釋例如斷詞、Transformers、LoRA、合併模型、Sentiment 辨識等等 NLP、LLMs 的相關概念。
想繼續觀看文章嗎?歡迎到這裡收看:【技術嘗試 Try Technique】嘗試一個微調金融領域的 LLM - FinGPT - 來辨識新聞情緒
以下也附上本文大綱,各位也可以直接跳到有興趣的地方查看!