【LLM大型語言模型】 淺談生成式AI的一些困境
更新於 發佈於 閱讀時間約 1 分鐘
雖然ChatGPT這種基於大型語言模型(LLM)的助手， 在大部分的場景都能滿足我們的需求， 但也並非完美， 在使用時仍需注意一些隱患。
以下是LLM的一些缺陷及需要注意的點。
弱弱的數學造成明顯錯誤
過份樂觀帶來錯誤資訊
相信常常使用ChatGPT的朋友應該都有發現到， 不論我們怎麼提問， ChatGPT都能給我們答案， 而這些答案事實上未必精確， 甚至無從查證。
胡思亂想導致偏差
為什麼LLM總能給我們答案呢？ 主要是這種生成式的大型語言模型會基於訓練資料進行統計， 得出機率較大的路徑， 但所謂的機率較大並非正確事實， 也有機率給出錯誤的方向， 才會有胡思亂想的發生， 因為我們期望回答A， 但它未必與我們的理解一致， 因此可能給出答案B並添加於A之上， 導致胡思亂想的狀況發生。
偏見引發歧視
即使有安全防護措施，他們有時也會生成性別歧視／種族歧視／同性戀歧視的內容， 開發面對消費者的應用時務必非常小心， 否則造成負面觀感將導致不可收拾的後果。
結語
一開始我們總被LLM的亮點給吸引了， 卻忽略掉背後的缺陷， 而這些缺陷可能在不知不覺中傷害的他人， 因此我們不能完全相信LLM的回答， 而是必須要有自己的獨立思考能力。
底下是幾個相關的主題:
為什麼會看到廣告
119會員
267內容數
哈囉，我是阿Han，是一位 👩💻 軟體研發工程師，喜歡閱讀、學習、撰寫文章及教學，擅長以圖代文，化繁為簡，除了幫助自己釐清思路之外，也希望藉由圖解的方式幫助大家共同學習，甚至手把手帶您設計出高品質的軟體產品。
留言0
查看全部你可能也想看
Google News 追蹤
現代社會跟以前不同了，人人都有一支手機，只要打開就可以獲得各種資訊。過去想要辦卡或是開戶就要跑一趟銀行，然而如今科技快速發展之下，金融App無聲無息地進到你生活中。但同樣的，每一家銀行都有自己的App時，我們又該如何選擇呢？(本文係由國泰世華銀行邀約)
今天我會用不同角度帶大家看這款國泰世華CUB
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
在現今科技日新月異的時代，像ChatGPT這樣的大語言模型（LLM）已經成為許多人日常生活和工作的輔助工具。然而，隨著這些技術的普及，對於它們的誤解也層出不窮，這使得一些使用者對這些工具的期待與實際效果脫節，最近在網路上看到兩個實際案例，藉此分享一下一般常見的誤解。
大語言模型能夠生成文本，因此被認為是生成式人工智慧的一種形式。
人工智慧的學科任務，是製作機器，使其能執行需要人類智慧才能執行的任務，例如理解語言，便是模式，做出決策。
除了大語言模型，人工智慧也包含了深度學習以及機器學習。
機器學習的學科任務，是透過演算法來實踐AI。
特別
大語言模型，例如OpenAI提供的ChatGPT，是過去幾年發展的深度神經網路模型，開啟自然語言處理的新紀元。
這陣子使用AI模型，還有參考國內外一些喜歡玩語言模型的同好發文，一個很有趣的結論就是，有時候把大型語言模型(尤其ChatGPT)當作一個人來溝通，會得到比較好的結果，這的確是非常反直覺的，也就是說很多時候ChatGPT耍懶不肯工作的時候，你用加油打氣，或是情緒勒索的方法，確實是可以得到比較好的結果。
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統，例如現在常用的ChatGPT，會有程式語言賦予的理性與客觀，比較能避免人類常見的各種偏見。
大型語言模型（Large Language Model，LLM）是一項人工智慧技術，其目的在於理解和生成人類語言，可將其想像成一種高階的「文字預測機器」，然而，它們並非真正理解語言。除了在上篇介紹的技巧可以協助我們在使用 LLM 時給予指示之外，今天我們會介紹使用 LLM 的框架。
大型語言模型 (LLM) 在最近幾年取得了重大進展，並引起了人們對生成式AI將如何影響工作方式的廣泛重視。雖然 LLM 具有強大的文本生成、翻譯和理解能力，但它們對工作的影響仍然是一個複雜且充滿爭議的話題。
本文摘要自MIT 史隆管理評論，分析LLM 對工作帶來的影響。
ChatGPT 是 OpenAI 開發的大型語言模型，以其強大的生成能力和對話能力而聞名。 ChatGPT 的訓練過程主要分為兩個階段：預訓練和微調。 微調使用了 RLHF（Reinforcement Learning from Human Feedback）技術，可以有效地提高模型生成內容的質量。
大型語言模型(LLM)是基於深度學習的自然語言處理模型，而多模態模型(LMM)能處理多種資料型態。這些模型將對未來帶來重大改變。LLM 專注於理解和生成自然語言，LMM 能夠處理跨模態的內容，並整合多種資料的能力，有望成為未來趨勢。
大型語言模型（Large Language Model，LLM）是一項人工智慧技術，其目的在於理解和生成人類語言，可將其想像成一種高階的「文字預測機器」。
Prompt Pattern 是給予LLM的指示，並確保生成的輸出擁有特定的品質（和數量）。
現代社會跟以前不同了，人人都有一支手機，只要打開就可以獲得各種資訊。過去想要辦卡或是開戶就要跑一趟銀行，然而如今科技快速發展之下，金融App無聲無息地進到你生活中。但同樣的，每一家銀行都有自己的App時，我們又該如何選擇呢？(本文係由國泰世華銀行邀約)
今天我會用不同角度帶大家看這款國泰世華CUB
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
在現今科技日新月異的時代，像ChatGPT這樣的大語言模型（LLM）已經成為許多人日常生活和工作的輔助工具。然而，隨著這些技術的普及，對於它們的誤解也層出不窮，這使得一些使用者對這些工具的期待與實際效果脫節，最近在網路上看到兩個實際案例，藉此分享一下一般常見的誤解。
大語言模型能夠生成文本，因此被認為是生成式人工智慧的一種形式。
人工智慧的學科任務，是製作機器，使其能執行需要人類智慧才能執行的任務，例如理解語言，便是模式，做出決策。
除了大語言模型，人工智慧也包含了深度學習以及機器學習。
機器學習的學科任務，是透過演算法來實踐AI。
特別
大語言模型，例如OpenAI提供的ChatGPT，是過去幾年發展的深度神經網路模型，開啟自然語言處理的新紀元。
這陣子使用AI模型，還有參考國內外一些喜歡玩語言模型的同好發文，一個很有趣的結論就是，有時候把大型語言模型(尤其ChatGPT)當作一個人來溝通，會得到比較好的結果，這的確是非常反直覺的，也就是說很多時候ChatGPT耍懶不肯工作的時候，你用加油打氣，或是情緒勒索的方法，確實是可以得到比較好的結果。
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統，例如現在常用的ChatGPT，會有程式語言賦予的理性與客觀，比較能避免人類常見的各種偏見。
大型語言模型（Large Language Model，LLM）是一項人工智慧技術，其目的在於理解和生成人類語言，可將其想像成一種高階的「文字預測機器」，然而，它們並非真正理解語言。除了在上篇介紹的技巧可以協助我們在使用 LLM 時給予指示之外，今天我們會介紹使用 LLM 的框架。
大型語言模型 (LLM) 在最近幾年取得了重大進展，並引起了人們對生成式AI將如何影響工作方式的廣泛重視。雖然 LLM 具有強大的文本生成、翻譯和理解能力，但它們對工作的影響仍然是一個複雜且充滿爭議的話題。
本文摘要自MIT 史隆管理評論，分析LLM 對工作帶來的影響。
ChatGPT 是 OpenAI 開發的大型語言模型，以其強大的生成能力和對話能力而聞名。 ChatGPT 的訓練過程主要分為兩個階段：預訓練和微調。 微調使用了 RLHF（Reinforcement Learning from Human Feedback）技術，可以有效地提高模型生成內容的質量。
大型語言模型(LLM)是基於深度學習的自然語言處理模型，而多模態模型(LMM)能處理多種資料型態。這些模型將對未來帶來重大改變。LLM 專注於理解和生成自然語言，LMM 能夠處理跨模態的內容，並整合多種資料的能力，有望成為未來趨勢。
大型語言模型（Large Language Model，LLM）是一項人工智慧技術，其目的在於理解和生成人類語言，可將其想像成一種高階的「文字預測機器」。
Prompt Pattern 是給予LLM的指示，並確保生成的輸出擁有特定的品質（和數量）。