昨天在玩一個新東西，LLM模型自建。
像我們現在使用的ChatGpt，可以把它當成是一種企業級服務。
OPENAI需要買很多昂貴的伺服器主機，加上硬體設備維護和人才能打造出現在這個規模。
你可以用它來寫程式，聊天回答感情上的疑惑。
甚至拿來算命。
最近我甚至都把PS5晾在一邊，回到家整天都在跟這種大型語言模型聊天。
聊各種技術或學習上的方式。
聊自己不會的事情等。
但是CHATGPT其實有所限制，你在這個上面聊天的內容僅限於你自己的發想。
假若是公司機密，或是其他你不想讓別人知道的事情，就不適合放上去。
當然它也有所謂的企業級版本，也許會對機密性做出一種隔閡。
讓你能安心放上去協作，但是價格肯定比一個月六千那種Pro級更貴了。
聊得越久你也就愈發現，其實你會越聊感覺扣打越快用完。
因為你過分依賴它了。
甚至於你還要跟大家一起排隊平分扣打，要丟檔案讓他進去分析重點數據一天好像有限制3個的樣子。
(免費版的其實這樣已經不錯了，算是這家公司有在做社會回饋了。)
這時候自建LLM模型就變成一個選項。
你可以自己建立一個小小CHATGPT，只為你專人或公司服務。
所需要的硬體，就是你常拿來打電動的那台電腦，只要電腦是至少RTX30X0等級以上的就可以了。
越強大的顯示卡，能跑的模型等級越高，回答的就越好，也越像CHATGPT。
重點是完全不卡頓，只要你選用的模型適合目前電腦能力的就好。
聽起來很不可思議，我也覺得可能要點難度來安裝。
但是其實一點也不困難，甚至於你問CHATGPT就好了。
它幫你手把手教學，教你怎麼在自己電腦上打造屬於你自己的小小聊天機器人。
我昨天就這樣自建成功了。
當語言出現類似一樣的介面，並能回答一些基本問題的時候，我真是像發現新大陸一樣。
最近會試著出這樣的教學文，分享給大家一起用用看。
