2024-04-27|閱讀時間 ‧ 約 23 分鐘

使用Meta釋出的模型,實作Chat GPT - Part 1

首先我們要拿到語言模型使用許可,這部分包含Meta釋出的語言模型,以及HuggingFace這個托管單位兩單位的許可。

在Meta的部分,進入以下網頁:https://llama.meta.com/llama-downloads

接著填入以下資訊:

勾選「Meta Llama Guard 2」,並按下「Continue」

然後會跳出一堆文字,直接往下滑到最後,勾選「I accept Meta Llama 3 terms and Conditions」,再點選「Accept and continue」

又跳出一堆文字,直接往下滑到最後,勾選「I accept Meta Llama 2 terms and Conditions」,再點選「Accept and continue」

隨後跳出以下畫面,至此就完成Meta端的註冊了


在HuggingFace的部分,進入以下網頁:https://huggingface.co/join

然後點選右上方的「Sign Up」進行註冊

輸入「郵件信箱」與「期望密碼後」,點選「Next」

然後就可以去剛剛輸入的「郵件信箱」進行認證,完成後就可以進入以下登入畫面

接著在紅色框框的「Models」處點選

來到這畫面後在藍色的搜尋框框處打入文字「Llama-2-7b」,然後選擇「meta-llama/Llama-2-7b-chat-hf」

進入頁面後,一路將網頁滑到最底部,會出現以下文字方塊,我們依序填入,並點選「Submit」

接下來就是稍等一會,等待稍早填入的郵件信箱收到通知信,上述步驟是介紹「Llama-2-7b」家族,同理也可以適用於最新的「Llama-3-8b」,這是最新Meta釋出的模型。


截至目前為止,我們已經拿到Meta與HuggingFace的大型語言模型的使用許可,畫面回到使用Meta釋出的模型,實作Chat GPT - Part 0中的Colab

然後輸入以下程式碼,相關指令如下:

!pip install accelerate==0.21.0
!pip install transformers==4.31.0
!pip install tokenizers==0.13.3
!pip install bitsandbytes==0.40.0
!pip install einops==0.6.1
!pip install xformers==0.0.22.post7
!pip install langchain==0.1.4
!pip install faiss-gpu==1.7.1.post3
!pip install sentence_transformers
!pip install pypdf
!pip install gradio

輸入好之後會出現以下畫面,我們就可以按紅色框框的執行

這會稍等五分鐘左右,中途出現紅色字體沒關係,出現以下兩個紅色框框表示執行完成

今天進度就先這樣囉

分享至
成為作者繼續創作的動力吧!
這裡將介紹自然語言處理相關技術與實作紀錄
從 Google News 追蹤更多 vocus 的最新精選內容從 Google News 追蹤更多 vocus 的最新精選內容

發表回應

成為會員 後即可發表留言
© 2024 vocus All rights reserved.