【教學-Gradio】部署你的第一個 AI 聊天機器人-Gradio Chatbot

更新 發佈閱讀 4 分鐘
vocus|新世代的創作平台

一、 核心運作邏輯解析

根據預設產生的 app.py 檔案,你的機器人主要由三個部分組成:

  1. 身分驗證(OAuth 登入)README.md 中設定了 hf_oauth: true,這會在側邊欄產生一個登入按鈕。當使用者登入後,系統會自動抓取使用者的 Token 並傳遞給後端,這樣 API 的算力消耗就會由使用者負擔,而非開發者本人。
  2. 模型調用(Inference Client) 程式碼中使用 InferenceClient 連結到 Hugging Face 的伺服器。目前預設調用的模型是 openai/gpt-oss-20b,這是一個示範用的開源模型。
  3. 串流輸出(Streaming Response) 透過 yield 語法,機器人的回答會像打字機一樣一個字一個字跳出來,提供更流暢的使用體驗。

二、 如何開始使用你的 Space?

  1. 等待部署完成:在 Space 頁面頂部,當標籤從黃色的「Building」變成綠色的 Running 時,代表你的應用程式已準備就緒。
  2. 執行登入動作:點擊左側側邊欄的 "Login with Hugging Face"。請放心,這是為了獲取調用 API 的權限。
  3. 開始對話:登入後即可在輸入框內提問。你可以透過底部的 Slider(滑動條)調整 Temperature(溫度值)來改變機器人說話的隨機性。

三、 進階自定義:打造獨一無二的助手

如果你想修改這個機器人,讓它變得更聰明或更符合你的需求,可以從以下三個方向著手:

1. 更換更強大的模型

你不一定要使用預設模型。你可以到 Hugging Face 的 Model 庫尋找支援 Inference API 的模型(如 Llama 3 或 Qwen)。只需在 app.py 中將 model="openai/gpt-oss-20b" 修改為你心儀的模型名稱即可。

2. 設定「系統提示詞」(System Message)

additional_inputs 區塊中,你可以修改 gr.Textbox 的預設值。例如,如果你想讓它成為程式專家,可以將預設內容改為:「你是一位精通 Python 與 React 的資深工程師,請用簡潔的代碼回答問題。」

3. 擴展功能套件

如果你需要引入額外的 Python 套件(例如運算用的 numpy),請在 Files 頁面新增一個 requirements.txt 檔案,並將套件名稱寫入其中,系統會自動幫你安裝。


四、 管理與除錯小訣竅

  • Logs(日誌):如果機器人發生錯誤,點擊右上角的「Logs」查看後端報錯,這是解決問題的第一步。
  • Settings(設定):你可以隨時切換 Space 的權限(Public 或 Private)。如果你未來想開發更複雜的功能,也可以在這裡設定祕密變數(Variables and Secrets)。

結語

透過 Hugging Face 與 Gradio 的結合,開發一個 AI 應用不再是遙不可及的事情。這個模板為你搭好了最基礎的骨架,接下來就看你如何發揮創意,為它注入不同的靈魂了!

留言
avatar-img
Josh的沙龍
328會員
155內容數
分享知識
你可能也想看
Thumbnail
當時間變少之後,看戲反而變得更加重要——這是在成為母親之後,我第一次誠實地面對這一件事:我沒有那麼多的晚上,可以任性地留給自己了。看戲不再只是「今天有沒有空」,而是牽動整個週末的結構,誰應該照顧孩子,我該在什麼時間回到家,隔天還有沒有精神帶小孩⋯⋯於是,我不得不學會一件以前並不擅長的事:挑選。
Thumbnail
當時間變少之後,看戲反而變得更加重要——這是在成為母親之後,我第一次誠實地面對這一件事:我沒有那麼多的晚上,可以任性地留給自己了。看戲不再只是「今天有沒有空」,而是牽動整個週末的結構,誰應該照顧孩子,我該在什麼時間回到家,隔天還有沒有精神帶小孩⋯⋯於是,我不得不學會一件以前並不擅長的事:挑選。
Thumbnail
當代名導基里爾.賽勒布倫尼科夫身兼電影、劇場與歌劇導演,其作品流動著強烈的反叛與詩意。在俄烏戰爭爆發後,他持續以創作回應專制體制的壓迫。《傳奇:帕拉贊諾夫的十段殘篇》致敬蘇聯電影大師帕拉贊諾夫。本文作者透過媒介本質的分析,解構賽勒布倫尼科夫如何利用影劇雙棲的特質,在荒謬世道中尋找藝術的「生存之道」。
Thumbnail
當代名導基里爾.賽勒布倫尼科夫身兼電影、劇場與歌劇導演,其作品流動著強烈的反叛與詩意。在俄烏戰爭爆發後,他持續以創作回應專制體制的壓迫。《傳奇:帕拉贊諾夫的十段殘篇》致敬蘇聯電影大師帕拉贊諾夫。本文作者透過媒介本質的分析,解構賽勒布倫尼科夫如何利用影劇雙棲的特質,在荒謬世道中尋找藝術的「生存之道」。
Thumbnail
見諸參與鄧伯宸口述,鄧湘庭於〈那個大霧的時代〉記述父親回憶,鄧伯宸因故遭受牽連,而案件核心的三人,在鄧伯宸記憶裡:「成立了成大共產黨,他們製作了五星徽章,印刷共產黨宣言——刻鋼板的——他們收集中共空飄的傳單,以及中國共產黨中央委員會有關文化大革命決議文的英文打字稿,另外還有手槍子彈十發。」
Thumbnail
見諸參與鄧伯宸口述,鄧湘庭於〈那個大霧的時代〉記述父親回憶,鄧伯宸因故遭受牽連,而案件核心的三人,在鄧伯宸記憶裡:「成立了成大共產黨,他們製作了五星徽章,印刷共產黨宣言——刻鋼板的——他們收集中共空飄的傳單,以及中國共產黨中央委員會有關文化大革命決議文的英文打字稿,另外還有手槍子彈十發。」
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 建議先進入 HuggingFace Meta Llama 頁面:https://huggingface.co/meta-llama 程式為: !pip inst
Thumbnail
我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 建議先進入 HuggingFace Meta Llama 頁面:https://huggingface.co/meta-llama 程式為: !pip inst
Thumbnail
相信替影片配字幕是許多人心中的痛,本文帶你在三分鐘內能夠用你的電腦,寫出一個使用AI將聲音轉成字幕srt檔案的互動操作網頁,可以連接麥克風測試,也可以上傳聲音檔案或是MP3來測試。目前的多國語言版本,能自動辨別語言,不用特別指定,經實測,中英文混雜也能夠正確輸出。
Thumbnail
相信替影片配字幕是許多人心中的痛,本文帶你在三分鐘內能夠用你的電腦,寫出一個使用AI將聲音轉成字幕srt檔案的互動操作網頁,可以連接麥克風測試,也可以上傳聲音檔案或是MP3來測試。目前的多國語言版本,能自動辨別語言,不用特別指定,經實測,中英文混雜也能夠正確輸出。
Thumbnail
本文帶你三分鐘內跑通"文字生圖片"的網頁APP,使用最頂尖生成技術,LCM-Lora-SDXL模型,能夠在短時間內生成符合文字描述的高解析圖片。屬於免費開源模型(License Link),請不要產生有害內容,進行合理的使用。
Thumbnail
本文帶你三分鐘內跑通"文字生圖片"的網頁APP,使用最頂尖生成技術,LCM-Lora-SDXL模型,能夠在短時間內生成符合文字描述的高解析圖片。屬於免費開源模型(License Link),請不要產生有害內容,進行合理的使用。
Thumbnail
AI 社群中的知名平臺,專注於自然語言處理 (NLP) 模型,特別是 Transformer。它提供開源資源、豐富的模型庫和友善的開發者體驗,讓研究者和開發者能輕易地取得和使用 AI 模型。活躍的社群促進了知識分享與合作,使 Hugging Face 成為 AI 開發者的重要工具。
Thumbnail
AI 社群中的知名平臺,專注於自然語言處理 (NLP) 模型,特別是 Transformer。它提供開源資源、豐富的模型庫和友善的開發者體驗,讓研究者和開發者能輕易地取得和使用 AI 模型。活躍的社群促進了知識分享與合作,使 Hugging Face 成為 AI 開發者的重要工具。
Thumbnail
5 月,方格創作島正式開島。這是一趟 28 天的創作旅程。活動期間,每週都會有新的任務地圖與陪跑計畫,從最簡單的帳號使用、沙龍建立,到帶著你從一句話、一張照片開始,一步一步找到屬於自己的創作節奏。不需要長篇大論,不需要完美的文筆,只需要帶上你今天的日常,就可以出發。征服創作島,抱回靈感與大獎!
Thumbnail
5 月,方格創作島正式開島。這是一趟 28 天的創作旅程。活動期間,每週都會有新的任務地圖與陪跑計畫,從最簡單的帳號使用、沙龍建立,到帶著你從一句話、一張照片開始,一步一步找到屬於自己的創作節奏。不需要長篇大論,不需要完美的文筆,只需要帶上你今天的日常,就可以出發。征服創作島,抱回靈感與大獎!
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News