【技術嘗試 Try Technique】嘗試一個微調金融領域的 LLM - FinGPT - 來辨識新聞情緒

嘗試一個微調金融領域的 LLM：FinGPT （一個追求開源、輕量、低成本的微調在金融領域的 LLM（大型語言模型）），來做新聞標題情感（Sentiment）極性辨識。
PS. 有附註 Hugging Face 模型下載與 cache 路徑自定義說明

Image from FinGPT

因為研究題目，最近在接觸各種金融領域微調（fine-tuning）的 LLM，其中一個比較新的是今天的主角 - FinGPT。模型在 Hugging Face 上也找的到。這篇文會稍微簡介一下 FinGPT，然後記錄安裝與使用 3.1 版本的流程，包括官方範例，還有我自己的嘗試。

PS. 這篇不是特別初級向，當然你可以跟著做來玩玩看，但這篇沒有解釋例如斷詞、Transformers、LoRA、合併模型、Sentiment 辨識等等 NLP、LLMs 的相關概念。

想繼續觀看文章嗎？歡迎到這裡收看：【技術嘗試 Try Technique】嘗試一個微調金融領域的 LLM - FinGPT - 來辨識新聞情緒
以下也附上本文大綱，各位也可以直接跳到有興趣的地方查看！

• FinGPT 簡介
• Data Sources
• Models 與版本
• Links
• 本地運行 v3.1 ChatGLM2-6B 版
• Step 1: 確保你的 CUDA
• Step 2: 安裝 Pytorch
• Step 3: 安裝 Transformers 及相關套件
• Step 4: FinGPT 3.1 範例踩坑＆附註 Hugging Face 模型下載與 cache 路徑自定義說明
• 非官方範例執行時間紀錄
• 後記