首先我們要拿到語言模型使用許可,這部分包含Meta釋出的語言模型,以及HuggingFace這個托管單位兩單位的許可。
在Meta的部分,進入以下網頁:https://llama.meta.com/llama-downloads
接著填入以下資訊:
勾選「Meta Llama Guard 2」,並按下「Continue」
然後會跳出一堆文字,直接往下滑到最後,勾選「I accept Meta Llama 3 terms and Conditions」,再點選「Accept and continue」
又跳出一堆文字,直接往下滑到最後,勾選「I accept Meta Llama 2 terms and Conditions」,再點選「Accept and continue」
隨後跳出以下畫面,至此就完成Meta端的註冊了
在HuggingFace的部分,進入以下網頁:https://huggingface.co/join
然後點選右上方的「Sign Up」進行註冊
輸入「郵件信箱」與「期望密碼後」,點選「Next」
然後就可以去剛剛輸入的「郵件信箱」進行認證,完成後就可以進入以下登入畫面
接著在紅色框框的「Models」處點選
來到這畫面後在藍色的搜尋框框處打入文字「Llama-2-7b」,然後選擇「meta-llama/Llama-2-7b-chat-hf」
進入頁面後,一路將網頁滑到最底部,會出現以下文字方塊,我們依序填入,並點選「Submit」
接下來就是稍等一會,等待稍早填入的郵件信箱收到通知信,上述步驟是介紹「Llama-2-7b」家族,同理也可以適用於最新的「Llama-3-8b」,這是最新Meta釋出的模型。
截至目前為止,我們已經拿到Meta與HuggingFace的大型語言模型的使用許可,畫面回到使用Meta釋出的模型,實作Chat GPT - Part 0中的Colab
然後輸入以下程式碼,相關指令如下:
!pip install accelerate==0.21.0
!pip install transformers==4.31.0
!pip install tokenizers==0.13.3
!pip install bitsandbytes==0.40.0
!pip install einops==0.6.1
!pip install xformers==0.0.22.post7
!pip install langchain==0.1.4
!pip install faiss-gpu==1.7.1.post3
!pip install sentence_transformers
!pip install pypdf
!pip install gradio
輸入好之後會出現以下畫面,我們就可以按紅色框框的執行
這會稍等五分鐘左右,中途出現紅色字體沒關係,出現以下兩個紅色框框表示執行完成
今天進度就先這樣囉