這波AI潮流在OpenAI的帶領下，來的又快又急。任何一個路人不隨口來喊聲生成式AI，彷彿都要死在潮流的沙灘上。不過猛一看這些生成式AI的工具，例如ChatGPT或是Copilot，都需要採用雲端執行的方式，而且使用紀錄痕跡都留存在網路上，對於膽小謹慎的小白，心理就是有那麼一些不踏實。
還好網路上還是有一些開發公司看見了本地端執行的需求，今天就是要介紹其中一種廣受好評的免費本地端生成式AI工具: LM Studio。打開網頁會就會看到工具下載網頁:
依據每個人不同電腦環境挑一個下載吧! 小弟個人是下載了LM-Studio-0.3.3-Setup.exe，然後就是常見一般軟體的安裝畫面，就一直照提示安裝完畢即可，到這邊都沒有甚麼特別的問題。
接下來問題來了，LM Studio本身是一個載入AI模型 (*.GGUF檔案) 以及與AI模型互動的介面，本身並不包含AI模型資料，所以要另外從HuggingFace的網站下載喜歡的AI模型，並在LM Studio載入後方可使用。小弟一開始透過LM Studio本身的下載功能進行下載的時候，會不停地跳出self signed certificate in certificate chain的錯誤訊息，搜尋網路上的解答未果，決定乾脆自己去HuggingFace上找順眼的AI模型下載，省得受這個SSL錯誤訊息的鳥氣。小弟選擇的是好像很有名的Llama-3.2-3B-Instruct-Q8_0.gguf，心想大公司Meta出品，應該有一些品質保證吧。這些AI模型每個都巨大的嚇人，小弟花了快一個小時終於下載完畢，結果下一個問題來了，LM Studio似乎有特別的載入方式，一開始小弟將檔案放在c:\Users\<your ID>\.cache\lm-studio\models\底下，LM Studio跟瞎了一樣完全找不到這個檔案在哪裡，氣得小弟七竅生煙，只好耐下性子繼續在網路上尋找答案，花了許久才找到其格式為:
結構模型/創建者的配置檔/模型名稱/模型檔本身
所以依據這個格式，小弟手動把路徑建立起來，應該像是這樣: c:\Users\<your ID>\.cache\lm-studio\models\Llama\Llama-3.2-3B-Instruct-Q8_0\Llama.gguf (注: 新版LM Studio可以不用修改檔名了)，終於LM Studio開眼了，可以順利載入模型。下面就是小弟使用這個工具的畫面，提供大家當作參考。
如果載入模型的時候，發生奇怪的載入模型錯誤，可以嘗試載入其他檔案大小比較小一點的類似模型，應該就可以正常載入了。接下來的使用方式其實跟ChatGPT或是Copilot類似，就不多介紹了。本地端生成式AI工具用起來的好處就是不用擔心自己的愚蠢外洩到網路上，雖然這些大公司都說它們保證使用者隱私，其實誰知道呢? 本文就先這樣，預祝大家使用愉快!
