SLM是什麼?探索小型語言模型的未來趨勢

閱讀時間約 2 分鐘
raw-image

LLM(大型語言模型)在當今AI時代如日中天,其中的代表性技術GPT正改變著我們的生活。透過提問,任何人都可以利用GPT生成豐富多樣的文字或圖片,無論是日常對話、創意寫作,還是專業應用,GPT都能應對自如。然而,隨著技術的進步,SLM(小型語言模型)也開始嶄露頭角,被譽為未來的趨勢之一。


什麼是SLM「小型語言模型」?

我原本對於SLM有些誤解:難道是適用在中小型公司嗎?可以公開使用嗎?具有行業針對性?為什麼會需要「小型」,大型語言模型這麼多的訓練不是更準確嗎?

起源是因爲LLM的訓練成本非常昂貴,拿ChatGPT來參考,光初始投入成本約為 8 億美元,每日電費在 5 萬美元左右,更遑論其他費用的支出,即使是Fine-tuning(微調),也不是一般公司可以負擔得起 ,所以就衍生出了SLM這樣的產物。

為讓大家更了解兩者差異,提供以下LLM跟SLM的比較表:

相較於LLM,雖然在規模上小了許多,但其應用潛力卻不容小覷。SLM具有更高的效率、更低的資源消耗以及更快的響應速度,這些優勢使其在特定領域的應用中顯得尤為突出。例如,在需要高精度且低延遲的場景中,SLM的優勢尤為明顯。隨著邊緣計算和物聯網技術的發展,SLM能夠在更小的設備上運行,例如:手機、眼鏡等載體上,提供即時的智能化服務。

SLM是高效、低資源消耗的快速響應小型語言模型。

SLM適合應用於多個行業。以下是​可能會優先開始採用SLM的行業:

  1. 金融服務
    • 風險管理:實時分析市場數據和交易行為,幫助金融機構快速識別和應對風險。
    • 處理常見問題:回答常見客戶問題,如帳戶餘額查詢、轉賬操作等,減少人工客服的負擔。
  2. 醫療健康
    • 客製化醫療建議:根據患者健康數據和病史,快速生成治療方案或健康建議。
  3. 零售與電子商務
    • 智能客服:即時回應客戶查詢,提高客服效率並提升客戶滿意度。
    • 個性化推薦:根據用戶瀏覽和購買行為,快速生成精準的產品推薦,提高轉化率。


未來,LLM和SLM將形成互補態勢,各自發揮特長。LLM在大型數據處理和複雜問題解決方面將繼續扮演重要角色,而SLM則在快速響應和高效運算中展現其價值。這種技術的多元化發展,將帶來更智能化和便捷的生活體驗,推動各行各業的創新發展!

2會員
10內容數
大家好 👋 我是朵小芸☁️ 現職AI PM 隨手分享我的草味人生 也做一些AI的小小心得分享 希望自己累積到有天能綻放花香🌻 Stay hungry stay foolish.
留言0
查看全部
發表第一個留言支持創作者!
朵小芸的草味沙龍 的其他內容
本文介紹了大型語言模型(LLM)中Prompt的原理及實踐,並提供了撰寫Prompt的基本框架邏輯PREP,以及加強Prompt撰寫的幾個方向:加強說明背景、角色描述和呈現風格,加強背景說明,角色描述,呈現風格以及目標受眾(TA)。同時推薦了幾個Prompt相關的參考網站。最後解答了一些快問快答。
初入IT產業的人士在學習Python語言後,IT證照如ITS Python認證是否值得考取?本文以ITS證照特點、實施建議和IT認證考試資訊為主,詳述證照的好處和準備時間。
本文介紹了大型語言模型(LLM)中Prompt的原理及實踐,並提供了撰寫Prompt的基本框架邏輯PREP,以及加強Prompt撰寫的幾個方向:加強說明背景、角色描述和呈現風格,加強背景說明,角色描述,呈現風格以及目標受眾(TA)。同時推薦了幾個Prompt相關的參考網站。最後解答了一些快問快答。
初入IT產業的人士在學習Python語言後,IT證照如ITS Python認證是否值得考取?本文以ITS證照特點、實施建議和IT認證考試資訊為主,詳述證照的好處和準備時間。
你可能也想看
Thumbnail
「設計不僅僅是外觀和感覺。設計是其運作的方式。」 — Steve Jobs 身為一個獨立文案,許多人會以為我們的生活只需要面對電腦,從無到有,用精巧的文字填滿空白的螢幕,呈現心目中獨具風格的作品。 ——有的時候可以如此,但其實這是我們夢寐以求的偶發日常。 更多的時候,白天的工作時間總被各種繁雜
Thumbnail
台股、美股近期明顯回檔,市場敘事發生改變,壞消息一樁接一樁出現,下一步該怎麼走呢?本文將探討近期的宏觀經濟事件,並分享個人的操作思考。
Thumbnail
過去七年多來,我陪著數百位珍貴的生命,一塊在生命的低谷裡奮鬥、崩潰,又見證一個個生命踏上專屬於自己的道路,發出獨特又迷人的光彩,活出那一份獨特的勇氣,去成為真正的自己。 生命力量被大大削弱,是因為沒有掌握生命的運作密碼,我總結了三個核心要點,與你分享!
有個對千禧世代的研究,問他們人生最重要的目標是什麼?超過八成說主要的目標是變得富有,另有五成的說另一個主要的目標是有響亮的名聲;我們被灌輸概念-為了有美好的生活,這些東西是我們需要追求的。 大家做出的選擇以及這些選擇為他們帶來什麼結果幾乎無從得知;我們對人生所知道的絕大部份來自於訴請別人記起過
最近突然意識到兒子真的長大了,開始有小少年的模樣。比起來參與活動的一年級小男孩們,兒子的臉上已明顯不見稚嫩。
Thumbnail
生命就是意識場,「阿甘式」的人生哲學所言不虛 ,認為自己幸運的人,會是活得寬容和慈悲,那麼生命的一切,都會是命運最好的安排。認為自己不幸的人,便永遠都在怪罪,認為世界愧對於自己。惡的濫觴,都是由受傷之人開始的,受傷的人會開始傷人,所以為非作歹、作姦犯科,活得盡是惡意和悔恨。
Thumbnail
當情緒難以消化的時候,堵在心口的鬱結實在難以安放呀!此時的你,也曾經找人聊聊天、抒發自己的感受嗎?你心中有浮現適合的人選嗎?為什麼會想到這個人,而不是另一個人呢?伴侶分享了一個與傾訴相關的想法:「我願意說是因為我相信你,而且我也覺得被承接住了」。
Thumbnail
人的成長總有幾個時刻,當我們大腦以為自己滿心歡喜時,殊不知心裡卻正在歷經重重關卡,拉扯、糾結、矛盾...不斷在放棄與繼續間游離。就這樣長期的情緒記憶,身體會幫你記得,從而在自我和解的那刻全部釋放,此時自己的狀態也會隨之起起伏伏。但當身體恢復後,新的信念系統便慢慢建立,讓我們成為一個自己都會愛上的人!
Thumbnail
你有過暗戀的經驗嗎?我暗戀了一個人,長達二十年。 國中一年級開學那一天,我對坐在隔壁的男同學一見鐘情,從此就陷入了自己的幻想世界:認為要更瘦才能被喜歡,因而病態式節食;對方約我玩跑跑卡丁車,就小鹿亂撞;時不時偷看人家,同學起鬨,我卻一概否認有喜歡他。 當時的我滿臉痘痘,胸部扁平(因為節食),不懂
Thumbnail
山道猴子,除了是不要亂飆車的警惕教材之外,還可以從另一個面向來看這故事,也許不飆車,可以避免物理上意外死亡,但不了解自己,就如同是心靈上的死亡。 猴子的一生,從沒認識過自己,他的每一個決定,都是基於他人的眼光做選擇,導致最後搞砸了自己的人生,如果我們能從這個故事中獲得警惕,就等於是賺到了一個人生!
Thumbnail
最近一部短片《山道猴子的一生》在網路上爆紅,事實上,這部短片的故事,正是許多弱勢青少年的人生寫照,這些弱勢青少年受限於自身的環境,無暇顧及未來,並做出對自己更好的決策,我們的社會除了給予他們物質上的援助之外,更應該創造一個能讓他們放心做選擇的環境,並引導他們建立有發展性的人脈與工作技能。
Thumbnail
「設計不僅僅是外觀和感覺。設計是其運作的方式。」 — Steve Jobs 身為一個獨立文案,許多人會以為我們的生活只需要面對電腦,從無到有,用精巧的文字填滿空白的螢幕,呈現心目中獨具風格的作品。 ——有的時候可以如此,但其實這是我們夢寐以求的偶發日常。 更多的時候,白天的工作時間總被各種繁雜
Thumbnail
台股、美股近期明顯回檔,市場敘事發生改變,壞消息一樁接一樁出現,下一步該怎麼走呢?本文將探討近期的宏觀經濟事件,並分享個人的操作思考。
Thumbnail
過去七年多來,我陪著數百位珍貴的生命,一塊在生命的低谷裡奮鬥、崩潰,又見證一個個生命踏上專屬於自己的道路,發出獨特又迷人的光彩,活出那一份獨特的勇氣,去成為真正的自己。 生命力量被大大削弱,是因為沒有掌握生命的運作密碼,我總結了三個核心要點,與你分享!
有個對千禧世代的研究,問他們人生最重要的目標是什麼?超過八成說主要的目標是變得富有,另有五成的說另一個主要的目標是有響亮的名聲;我們被灌輸概念-為了有美好的生活,這些東西是我們需要追求的。 大家做出的選擇以及這些選擇為他們帶來什麼結果幾乎無從得知;我們對人生所知道的絕大部份來自於訴請別人記起過
最近突然意識到兒子真的長大了,開始有小少年的模樣。比起來參與活動的一年級小男孩們,兒子的臉上已明顯不見稚嫩。
Thumbnail
生命就是意識場,「阿甘式」的人生哲學所言不虛 ,認為自己幸運的人,會是活得寬容和慈悲,那麼生命的一切,都會是命運最好的安排。認為自己不幸的人,便永遠都在怪罪,認為世界愧對於自己。惡的濫觴,都是由受傷之人開始的,受傷的人會開始傷人,所以為非作歹、作姦犯科,活得盡是惡意和悔恨。
Thumbnail
當情緒難以消化的時候,堵在心口的鬱結實在難以安放呀!此時的你,也曾經找人聊聊天、抒發自己的感受嗎?你心中有浮現適合的人選嗎?為什麼會想到這個人,而不是另一個人呢?伴侶分享了一個與傾訴相關的想法:「我願意說是因為我相信你,而且我也覺得被承接住了」。
Thumbnail
人的成長總有幾個時刻,當我們大腦以為自己滿心歡喜時,殊不知心裡卻正在歷經重重關卡,拉扯、糾結、矛盾...不斷在放棄與繼續間游離。就這樣長期的情緒記憶,身體會幫你記得,從而在自我和解的那刻全部釋放,此時自己的狀態也會隨之起起伏伏。但當身體恢復後,新的信念系統便慢慢建立,讓我們成為一個自己都會愛上的人!
Thumbnail
你有過暗戀的經驗嗎?我暗戀了一個人,長達二十年。 國中一年級開學那一天,我對坐在隔壁的男同學一見鐘情,從此就陷入了自己的幻想世界:認為要更瘦才能被喜歡,因而病態式節食;對方約我玩跑跑卡丁車,就小鹿亂撞;時不時偷看人家,同學起鬨,我卻一概否認有喜歡他。 當時的我滿臉痘痘,胸部扁平(因為節食),不懂
Thumbnail
山道猴子,除了是不要亂飆車的警惕教材之外,還可以從另一個面向來看這故事,也許不飆車,可以避免物理上意外死亡,但不了解自己,就如同是心靈上的死亡。 猴子的一生,從沒認識過自己,他的每一個決定,都是基於他人的眼光做選擇,導致最後搞砸了自己的人生,如果我們能從這個故事中獲得警惕,就等於是賺到了一個人生!
Thumbnail
最近一部短片《山道猴子的一生》在網路上爆紅,事實上,這部短片的故事,正是許多弱勢青少年的人生寫照,這些弱勢青少年受限於自身的環境,無暇顧及未來,並做出對自己更好的決策,我們的社會除了給予他們物質上的援助之外,更應該創造一個能讓他們放心做選擇的環境,並引導他們建立有發展性的人脈與工作技能。