使用Meta釋出的模型,實作Chat GPT - Part 1

2024/04/27閱讀時間約 3 分鐘

首先我們要拿到語言模型使用許可,這部分包含Meta釋出的語言模型,以及HuggingFace這個托管單位兩單位的許可。

在Meta的部分,進入以下網頁:https://llama.meta.com/llama-downloads

raw-image

接著填入以下資訊:

raw-image

勾選「Meta Llama Guard 2」,並按下「Continue」

raw-image

然後會跳出一堆文字,直接往下滑到最後,勾選「I accept Meta Llama 3 terms and Conditions」,再點選「Accept and continue」

raw-image

又跳出一堆文字,直接往下滑到最後,勾選「I accept Meta Llama 2 terms and Conditions」,再點選「Accept and continue」

raw-image

隨後跳出以下畫面,至此就完成Meta端的註冊了

raw-image


在HuggingFace的部分,進入以下網頁:https://huggingface.co/join

raw-image

然後點選右上方的「Sign Up」進行註冊

raw-image

輸入「郵件信箱」與「期望密碼後」,點選「Next」

raw-image

然後就可以去剛剛輸入的「郵件信箱」進行認證,完成後就可以進入以下登入畫面

raw-image

接著在紅色框框的「Models」處點選

raw-image

來到這畫面後在藍色的搜尋框框處打入文字「Llama-2-7b」,然後選擇「meta-llama/Llama-2-7b-chat-hf」

raw-image

進入頁面後,一路將網頁滑到最底部,會出現以下文字方塊,我們依序填入,並點選「Submit」

raw-image

接下來就是稍等一會,等待稍早填入的郵件信箱收到通知信,上述步驟是介紹「Llama-2-7b」家族,同理也可以適用於最新的「Llama-3-8b」,這是最新Meta釋出的模型。


截至目前為止,我們已經拿到Meta與HuggingFace的大型語言模型的使用許可,畫面回到使用Meta釋出的模型,實作Chat GPT - Part 0中的Colab

raw-image

然後輸入以下程式碼,相關指令如下:

!pip install accelerate==0.21.0
!pip install transformers==4.31.0
!pip install tokenizers==0.13.3
!pip install bitsandbytes==0.40.0
!pip install einops==0.6.1
!pip install xformers==0.0.22.post7
!pip install langchain==0.1.4
!pip install faiss-gpu==1.7.1.post3
!pip install sentence_transformers
!pip install pypdf
!pip install gradio

輸入好之後會出現以下畫面,我們就可以按紅色框框的執行

raw-image

這會稍等五分鐘左右,中途出現紅色字體沒關係,出現以下兩個紅色框框表示執行完成

raw-image

今天進度就先這樣囉

2會員
25內容數
這裡將提供: AI、Machine Learning、Deep Learning、Reinforcement Learning、Probabilistic Graphical Model的讀書筆記與演算法介紹,一起在未來AI的世界擁抱AI技術,不BI。同時分享各種網路賺錢方法,包含實測結果
留言0
查看全部
發表第一個留言支持創作者!
從 Google News 追蹤更多 vocus 的最新精選內容