使用Meta釋出的模型,實作Chat GPT - Part 1 | HuggingFace權限開啟教學

更新於 發佈於 閱讀時間約 3 分鐘

首先我們要拿到語言模型使用許可,這部分包含Meta釋出的語言模型,以及HuggingFace這個托管單位兩單位的許可。

在Meta的部分,進入以下網頁:https://llama.meta.com/llama-downloads

raw-image

接著填入以下資訊:

raw-image

勾選「Meta Llama Guard 2」,並按下「Continue」

raw-image

然後會跳出一堆文字,直接往下滑到最後,勾選「I accept Meta Llama 3 terms and Conditions」,再點選「Accept and continue」

raw-image

又跳出一堆文字,直接往下滑到最後,勾選「I accept Meta Llama 2 terms and Conditions」,再點選「Accept and continue」

raw-image

隨後跳出以下畫面,至此就完成Meta端的註冊了

raw-image


在HuggingFace的部分,進入以下網頁:https://huggingface.co/join

raw-image

然後點選右上方的「Sign Up」進行註冊

raw-image

輸入「郵件信箱」與「期望密碼後」,點選「Next」

raw-image

然後就可以去剛剛輸入的「郵件信箱」進行認證,完成後就可以進入以下登入畫面

raw-image

接著在紅色框框的「Models」處點選

raw-image

來到這畫面後在藍色的搜尋框框處打入文字「Llama-2-7b」,然後選擇「meta-llama/Llama-2-7b-chat-hf」

raw-image

進入頁面後,一路將網頁滑到最底部,會出現以下文字方塊,我們依序填入,並點選「Submit」

raw-image

接下來就是稍等一會,等待稍早填入的郵件信箱收到通知信,上述步驟是介紹「Llama-2-7b」家族,同理也可以適用於最新的「Llama-3-8b」,這是最新Meta釋出的模型。


截至目前為止,我們已經拿到Meta與HuggingFace的大型語言模型的使用許可,畫面回到使用Meta釋出的模型,實作Chat GPT - Part 0中的Colab

raw-image

然後輸入以下程式碼,相關指令如下:

!pip install accelerate==0.21.0
!pip install transformers==4.31.0
!pip install tokenizers==0.13.3
!pip install bitsandbytes==0.40.0
!pip install einops==0.6.1
!pip install xformers==0.0.22.post7
!pip install langchain==0.1.4
!pip install faiss-gpu==1.7.1.post3
!pip install sentence_transformers
!pip install pypdf
!pip install gradio

輸入好之後會出現以下畫面,我們就可以按紅色框框的執行

raw-image

這會稍等五分鐘左右,中途出現紅色字體沒關係,出現以下兩個紅色框框表示執行完成

raw-image

今天進度就先這樣囉

avatar-img
188會員
501內容數
這裡將提供: AI、Machine Learning、Deep Learning、Reinforcement Learning、Probabilistic Graphical Model的讀書筆記與演算法介紹,一起在未來AI的世界擁抱AI技術,不BI。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
你可能也想看
Google News 追蹤
提問的內容越是清晰,強者、聰明人越能在短時間內做判斷、給出精準的建議,他們會對你產生「好印象」,認定你是「積極」的人,有機會、好人脈會不自覺地想引薦給你
Thumbnail
在當今快速變化的數位時代,企業面臨著前所未有的數據處理需求。為了應對這些挑戰,企業紛紛建立自己的大型語言模型(LLM),利用大量數據進行訓練,讓模型能夠理解並生成自然語言,從而實現人機協作,優化業務流程並提升客戶體驗。
https://www.youtube.com/watch?v=wjZofJX0v4M 這是我看過最好的AI科普影片了;現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量 影片中GPT3共儲存50257個英文單字, 每
Thumbnail
進入Lua的第一步! 安裝和執行
Thumbnail
ChatGPT(全名:聊天生成預訓練轉換器)是一個由 OpenAI 開發的人工智慧聊天機器人程式。它於 2022 年 11 月推出,使用了基於 GPT-3.5、GPT-4 和 GPT-4o 架構的大型語言模型,並以強化學習進行訓練。
Thumbnail
實踐AWS中使用Lambda來負責登入簽核及與OpenAI API溝通,並利用S3容器託管一個靜態網頁做為前端
Thumbnail
從第一次使用到現在,使用GPT近一年的經驗分享。介紹在使用GPT時的困難、挑戰及學習到的技巧,以及如何讓GPT更好地理解所需內容。
Thumbnail
這陣子使用AI模型,還有參考國內外一些喜歡玩語言模型的同好發文,一個很有趣的結論就是,有時候把大型語言模型(尤其ChatGPT)當作一個人來溝通,會得到比較好的結果,這的確是非常反直覺的,也就是說很多時候ChatGPT耍懶不肯工作的時候,你用加油打氣,或是情緒勒索的方法,確實是可以得到比較好的結果。
Thumbnail
本文介紹了text-generation-webui的安裝方法和模型的選擇,包括模型的下載和擺放位置,並提供了相關的連結和建議。
Thumbnail
從最初的接觸到深度的投懷送抱,這篇文章對於解決如何安裝text-generation-webui提供了清晰的指引。 它引導讀者通過它的官方方式和Docker方式做到這一點。此外,作者還分享了必要的優化建議。
提問的內容越是清晰,強者、聰明人越能在短時間內做判斷、給出精準的建議,他們會對你產生「好印象」,認定你是「積極」的人,有機會、好人脈會不自覺地想引薦給你
Thumbnail
在當今快速變化的數位時代,企業面臨著前所未有的數據處理需求。為了應對這些挑戰,企業紛紛建立自己的大型語言模型(LLM),利用大量數據進行訓練,讓模型能夠理解並生成自然語言,從而實現人機協作,優化業務流程並提升客戶體驗。
https://www.youtube.com/watch?v=wjZofJX0v4M 這是我看過最好的AI科普影片了;現在流行的GPT使用的大語言模型 (large language model, LLM), 是把每一個單字都當作一個高維度向量 影片中GPT3共儲存50257個英文單字, 每
Thumbnail
進入Lua的第一步! 安裝和執行
Thumbnail
ChatGPT(全名:聊天生成預訓練轉換器)是一個由 OpenAI 開發的人工智慧聊天機器人程式。它於 2022 年 11 月推出,使用了基於 GPT-3.5、GPT-4 和 GPT-4o 架構的大型語言模型,並以強化學習進行訓練。
Thumbnail
實踐AWS中使用Lambda來負責登入簽核及與OpenAI API溝通,並利用S3容器託管一個靜態網頁做為前端
Thumbnail
從第一次使用到現在,使用GPT近一年的經驗分享。介紹在使用GPT時的困難、挑戰及學習到的技巧,以及如何讓GPT更好地理解所需內容。
Thumbnail
這陣子使用AI模型,還有參考國內外一些喜歡玩語言模型的同好發文,一個很有趣的結論就是,有時候把大型語言模型(尤其ChatGPT)當作一個人來溝通,會得到比較好的結果,這的確是非常反直覺的,也就是說很多時候ChatGPT耍懶不肯工作的時候,你用加油打氣,或是情緒勒索的方法,確實是可以得到比較好的結果。
Thumbnail
本文介紹了text-generation-webui的安裝方法和模型的選擇,包括模型的下載和擺放位置,並提供了相關的連結和建議。
Thumbnail
從最初的接觸到深度的投懷送抱,這篇文章對於解決如何安裝text-generation-webui提供了清晰的指引。 它引導讀者通過它的官方方式和Docker方式做到這一點。此外,作者還分享了必要的優化建議。