【技術嘗試 Try Technique】嘗試一個微調金融領域的 LLM - FinGPT - 來辨識新聞情緒

更新 發佈閱讀 1 分鐘
嘗試一個微調金融領域的 LLM:FinGPT (一個追求開源、輕量、低成本的微調在金融領域的 LLM(大型語言模型)),來做新聞標題情感(Sentiment)極性辨識。
PS. 有附註 Hugging Face 模型下載與 cache 路徑自定義說明
Image from FinGPT

Image from FinGPT


因為研究題目,最近在接觸各種金融領域微調(fine-tuning)的 LLM,其中一個比較新的是今天的主角 - FinGPT。模型在 Hugging Face 上也找的到。這篇文會稍微簡介一下 FinGPT,然後記錄安裝與使用 3.1 版本的流程,包括官方範例,還有我自己的嘗試。

PS. 這篇不是特別初級向,當然你可以跟著做來玩玩看,但這篇沒有解釋例如斷詞、Transformers、LoRA、合併模型、Sentiment 辨識等等 NLP、LLMs 的相關概念。


想繼續觀看文章嗎?歡迎到這裡收看:【技術嘗試 Try Technique】嘗試一個微調金融領域的 LLM - FinGPT - 來辨識新聞情緒
以下也附上本文大綱,各位也可以直接跳到有興趣的地方查看!

留言
avatar-img
留言分享你的想法!
avatar-img
GQ 的小豬的沙龍
1會員
8內容數
深入探索量化交易的世界。本系列教學涵蓋從基礎理論到實際策略的全面指南,使用 Python 和其他工具,助你成為成功的量化交易員。
GQ 的小豬的沙龍的其他內容
2023/09/08
因為一些問題重裝了整個 Windows 上的開發環境,就順便紀錄一下 Windows Terminal(目前在 Windows 最滿意的 Terminal)+ PowerShell 7 + oh-my-push(用來美化 Terminal 的)以及各種附帶安裝與問題(例如顯示虛擬環境名稱的問題)
Thumbnail
2023/09/08
因為一些問題重裝了整個 Windows 上的開發環境,就順便紀錄一下 Windows Terminal(目前在 Windows 最滿意的 Terminal)+ PowerShell 7 + oh-my-push(用來美化 Terminal 的)以及各種附帶安裝與問題(例如顯示虛擬環境名稱的問題)
Thumbnail
2023/09/01
有沒有遇過想打開文獻 PDF 想進行複製卻複製出很奇怪的格式的時候? 比較喜歡 Markdown、LaTex 不喜歡 PDF? 那你或許會喜歡 Meta 新開源的工具:Nougat PS. 這篇不會介紹背後技術,僅嘗試安裝與嘗試的過程 個人對看 Paper 用 PDF 其實又愛又恨。愛在方便不同
Thumbnail
2023/09/01
有沒有遇過想打開文獻 PDF 想進行複製卻複製出很奇怪的格式的時候? 比較喜歡 Markdown、LaTex 不喜歡 PDF? 那你或許會喜歡 Meta 新開源的工具:Nougat PS. 這篇不會介紹背後技術,僅嘗試安裝與嘗試的過程 個人對看 Paper 用 PDF 其實又愛又恨。愛在方便不同
Thumbnail
2023/08/15
最近一個朋友問我:「有時候是真的不想接這麼多工作,可是又覺得不接就沒機會了,你會這樣覺得嗎?」我說:「以前會,後來吃到大虧就學乖了。」「選擇比努力更重要」這絕對不是一句廢話,但可能句是年少輕狂時不懂的話。 因為有學生身分的緣故,從大學開始很長的時間以來我都是兼職接案子做。一開始以為這樣的工作
Thumbnail
2023/08/15
最近一個朋友問我:「有時候是真的不想接這麼多工作,可是又覺得不接就沒機會了,你會這樣覺得嗎?」我說:「以前會,後來吃到大虧就學乖了。」「選擇比努力更重要」這絕對不是一句廢話,但可能句是年少輕狂時不懂的話。 因為有學生身分的緣故,從大學開始很長的時間以來我都是兼職接案子做。一開始以為這樣的工作
Thumbnail
看更多
你可能也想看
Thumbnail
透過蝦皮分潤計畫,輕鬆賺取零用金!本文分享5-6月實測心得,包含數據流程、實際收入、平臺優點及注意事項,並推薦高分潤商品,教你如何運用空閒時間創造被動收入。
Thumbnail
透過蝦皮分潤計畫,輕鬆賺取零用金!本文分享5-6月實測心得,包含數據流程、實際收入、平臺優點及注意事項,並推薦高分潤商品,教你如何運用空閒時間創造被動收入。
Thumbnail
單身的人有些會養寵物,而我養植物。畢竟寵物離世會傷心,植物沒養好再接再厲就好了~(笑)
Thumbnail
單身的人有些會養寵物,而我養植物。畢竟寵物離世會傷心,植物沒養好再接再厲就好了~(笑)
Thumbnail
不知你有沒有過這種經驗?衛生紙只剩最後一包、洗衣精倒不出來,或電池突然沒電。這次一次補貨,從電池、衛生紙到洗衣精,還順便分享使用心得。更棒的是,搭配蝦皮分潤計畫,愛用品不僅自己用得安心,分享給朋友還能賺回饋。立即使用推薦碼 X5Q344E,輕鬆上手,隨時隨地賺取分潤!
Thumbnail
不知你有沒有過這種經驗?衛生紙只剩最後一包、洗衣精倒不出來,或電池突然沒電。這次一次補貨,從電池、衛生紙到洗衣精,還順便分享使用心得。更棒的是,搭配蝦皮分潤計畫,愛用品不僅自己用得安心,分享給朋友還能賺回饋。立即使用推薦碼 X5Q344E,輕鬆上手,隨時隨地賺取分潤!
Thumbnail
身為一個典型的社畜,上班時間被會議、進度、KPI 塞得滿滿,下班後只想要找一個能夠安靜喘口氣的小角落。對我來說,畫畫就是那個屬於自己的小樹洞。無論是胡亂塗鴉,還是慢慢描繪喜歡的插畫人物,那個專注在筆觸和色彩的過程,就像在幫心靈按摩一樣,讓緊繃的神經慢慢鬆開。
Thumbnail
身為一個典型的社畜,上班時間被會議、進度、KPI 塞得滿滿,下班後只想要找一個能夠安靜喘口氣的小角落。對我來說,畫畫就是那個屬於自己的小樹洞。無論是胡亂塗鴉,還是慢慢描繪喜歡的插畫人物,那個專注在筆觸和色彩的過程,就像在幫心靈按摩一樣,讓緊繃的神經慢慢鬆開。
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 我們也可以用 Hugging Face 上之 T5 模型進行翻譯,實踐方法為: !pip install transformers -qq !pip install
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 我們也可以用 Hugging Face 上之 T5 模型進行翻譯,實踐方法為: !pip install transformers -qq !pip install
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 本章節的內容需要從 Hugging Face 中載入 T5 模型,有鑑於此,我們首先登入頁面: https://huggingface.co/models,如下所示:
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 本章節的內容需要從 Hugging Face 中載入 T5 模型,有鑑於此,我們首先登入頁面: https://huggingface.co/models,如下所示:
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 從 AI說書 - 從0開始 - 82 到 AI說書 - 從0開始 - 85 的說明,有一個很重要的結論:最適合您的模型不一定是排行榜上最好的模型,您需要學習 NLP 評
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 從 AI說書 - 從0開始 - 82 到 AI說書 - 從0開始 - 85 的說明,有一個很重要的結論:最適合您的模型不一定是排行榜上最好的模型,您需要學習 NLP 評
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 Transformer 可以透過繼承預訓練模型 (Pretrained Model) 來微調 (Fine-Tune) 以執行下游任務。 Pretrained Mo
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 Transformer 可以透過繼承預訓練模型 (Pretrained Model) 來微調 (Fine-Tune) 以執行下游任務。 Pretrained Mo
Thumbnail
大型語言模型(LLM)是基於深度學習的自然語言處理模型,而多模態模型(LMM)能處理多種資料型態。這些模型將對未來帶來重大改變。LLM 專注於理解和生成自然語言,LMM 能夠處理跨模態的內容,並整合多種資料的能力,有望成為未來趨勢。
Thumbnail
大型語言模型(LLM)是基於深度學習的自然語言處理模型,而多模態模型(LMM)能處理多種資料型態。這些模型將對未來帶來重大改變。LLM 專注於理解和生成自然語言,LMM 能夠處理跨模態的內容,並整合多種資料的能力,有望成為未來趨勢。
Thumbnail
前言 在先前的文章中,我們探討了 IBM Watsonx 在客戶滿意度分析中的應用。今天,我們將利用 Google 的兩款大型語言模型(LLM)— flan-ul2 和 flan-t5-xxl,展示它們如何串聯起來生成關於特定主題的隨機問題和回答。 在這篇文章中,將使用 SimpleSequen
Thumbnail
前言 在先前的文章中,我們探討了 IBM Watsonx 在客戶滿意度分析中的應用。今天,我們將利用 Google 的兩款大型語言模型(LLM)— flan-ul2 和 flan-t5-xxl,展示它們如何串聯起來生成關於特定主題的隨機問題和回答。 在這篇文章中,將使用 SimpleSequen
Thumbnail
前言 在上一篇文章中,分享了第一次使用 IBM Watsonx 的經歷,以及我對 Prompt lab 功能的初步探索。繼續這個話題,本文將探討 Watsonx 平台對 Python SDK 的支持,以及實作幾個 LLM 的應用,這一特性為開發者提供了極大的便利,使得在此平台上進行開發和應用大型語
Thumbnail
前言 在上一篇文章中,分享了第一次使用 IBM Watsonx 的經歷,以及我對 Prompt lab 功能的初步探索。繼續這個話題,本文將探討 Watsonx 平台對 Python SDK 的支持,以及實作幾個 LLM 的應用,這一特性為開發者提供了極大的便利,使得在此平台上進行開發和應用大型語
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News