AI 語言模型的對話秘訣
你有沒有和 ChatGPT、Siri 或其他 AI 聊天機器人對話過?你輸入一句話,AI 回你一段內容,來來回回就像在聊天一樣。你知道嗎?其實在 AI 背後,這些對話訊息都會被「特別處理」成 AI 能理解的格式,才能讓 AI 正確地回應你!
對話訊息怎麼傳給 AI?
雖然我們在畫面上看到的是一條一條的訊息,但 AI 真正收到的是把所有訊息「串在一起」的大長串文字。每次你發送訊息,AI 都會重新讀一次整個對話歷史,這樣才能理解上下文。
系統訊息(System Message)是什麼?
除了你和 AI 的對話外,還有一種叫「系統訊息(System Message)」的東西。這是用來告訴 AI 應該怎麼表現,比如要有禮貌、要像數學老師一樣回答問題等等。這些系統訊息會在對話開始時就設定好,讓 AI 一直記得該怎麼回應。
特殊符號(Special Tokens)是什麼?
不同的 AI 模型會用不同的「特殊符號」來分隔訊息,像是告訴 AI:「這裡是用戶說的話」、「這裡是助理的回應」、「這裡對話結束了」等等。這些符號有點像是對話的標籤,幫助 AI 分清楚誰在說話,以及每段訊息的開始和結束。
例如,某些模型會用 <|im_start|> 和 <|im_end|> 來包住每一段訊息,或用 <|eot_id|> 來標示一段對話的結尾。這些符號讓 AI 能正確分辨每一段內容的角色和順序。
聊天模板(Chat Templates)
為了讓 AI 能順利理解整個對話,工程師會設計一套「聊天模板」,把所有訊息按照規則和特殊符號組合起來。這樣不管是什麼 AI 模型,都能收到正確格式的訊息,給出最合適的回應。
為什麼要這麼做?
這些做法可以讓 AI 記住對話的背景,維持對話的連貫性,也能讓同一套訊息在不同 AI 模型之間通用。只要格式正確,AI 就能像真人一樣,和你進行多輪、有主題的對話。
總結
下次你和 AI 聊天時,可以想像背後有一套「翻譯機」,把你們的對話變成 AI 能理解的特殊格式。正因為有這些聊天模板和特殊符號,AI 才能聰明又順暢地和你互動!
未來如果你想設計自己的聊天機器人,這些「對話結構」的小技巧也會很有幫助喔!