想法選品店#016．潛藏的社會偏見

默默關注 ChatGPT 跟生成式 AI 議題有一陣子，最近看到一篇文章結合了 ChatGPT 跟我關心的議題 — 無家者，因此摘錄一下文章的內容，並簡單分享我的想法。

日本 THE BIG ISSUE 雜誌第 455 期裡有一篇與 AI 相關的文章。以結論來說，AI 聊天機器人 ( ChatGPT ) 的回答，反映出社會裡存在的偏見。

文章一開始先請 ChatGPT 描述街頭報紙的販售者是什麼樣子的人，接著提問者在回饋正確資訊，一來一往下，逐步讓 ChatGPT 回答出比較接近真實狀況的答案。

這篇文章指出生成式 AI 的一個特色：AI 本身沒有立場與答案，它的回答是透過資料庫的內資料學習後產生的，因此很容易產生出刻板印象的答案。

生成式 AI 基本運作是接收與學習資訊 ( 主要都是網路上的資訊 )，經過複雜的算法後，根據提問者的問題回答。它會使用最有用的情報，推敲出最合適的單詞，再將單詞排列組合成一句話。

這個過程不是思考，而是單純的整理資訊，只是它的整理資料量比人類多出太多，才讓它看起威力強大，彷彿有超能力。

由於生成式 AI 的資訊來源是網路為主，網路上的言論基本上就左右了答案。換句話說，它的回答就顯示出既有網路上的多數聲音。

ChatGPT 第一次在回答街頭報紙販賣者都是哪些人時，就能看出端倪。

它回答是：「街頭報紙販賣者的人有男性也有女性，會站在人來人往的路上，手拿著新聞報紙，一臉筋疲力盡。穿著破爛的衣服，若有所思的模樣。」*

這就是 ChatGPT 在咀嚼完資料庫之後，提煉出來的街頭報紙販賣者人物像。

是否跟你的印象一致呢 ?

日本的 BIG ISSUE 長年與街頭無家者相處，了解無家者的背景與狀況，以下是他們認為的街頭販賣者人物像。

「無家者是沒有固定居所的人。他們可能住在避難所或者短期保護設施、路上或帳篷、或者車子，狀況各式各樣。有可能是失去工作、精神狀況不佳、各種成癮症，或者受到自然災害、家暴、突然生病等原因失去了固定的居所。要改善這些問題可能需要進一步的進行職業訓練、心理健康諮詢服務、藥物成癮治療等。無家者跟他所處的背景無關、是任何人都有可能會發生的事情，因此才需要複數的解決對策。」*

同篇中也引用了英國倫敦的非營利團體 — Centre for Homelessness impact 的數據，一般人對於無家者的印象存在錯誤理解。

當詢問一般民眾認為無家者特徵有哪些時時，53% 的人回答是藥物或酒精成癮，而 34%的人則說是移民。真實的狀況是，無家者中有 5~7% 是藥物或酒精成癮，移民是 14%。*

大眾都提到無家者是迫切需要解決的問題，然而他們對無家者的印象卻與實際狀況相差甚遠。

也能說多數人對於無家者的認識是不太足夠，卻已經衍生許多既定印象，這些印象會導致議題的倡議上遇到更多困難。

再看一次 ChatGPT 的首次回答，自然也能理解它的答案是怎麼生成的。它是集網路上眾人意見之大成的回答，代表網路上多數人的聲音。

多數人的意見並不代表「每一個人」的意見，也不代表「真實狀況」。

這也就是為什麼文章結論會說，ChatGPT 反映出社會對於無家者的偏見。

如果有人不認識真實的無家者狀況，只使用 ChatGPT 進行了解，那很高機率看到的是刻板印象下的無家者。

刻板印象無助於解決問題，反而會深化意見的分歧。

這一點是我認為使用 ChatGPT 這類工具時要特別留意的地方。

如同這篇文章所言，它背後使用的資料來自於網路，有許多內容則需要進一步的釐清。

我不願意失去理解真實的慾望，因此愈是敏感的問題，就愈應該懷疑 AI 給予的答案。

但我也願意相信，AI 會讓人類社會發展往好的方向前進，但取決於人類知道它怎麼構成的、它又會往哪裡去。

如果 AI 變成連人類都無法理解的狀況，也就是人類是無法理解它的生成邏輯與脈絡時，它就是人造物又非人類所能理解，那這種東西會是什麼 ?

以我現有的知識，想像不到這樣的東西會是什麼。又或者說，該如何定義這樣的東西。

回到現階段的 ChatGPT ，使用者必須在清楚它的侷限性下使用這項工具，會是比較理性的作法。

( 雖然我最近也很懷疑人類的理性，理性好像也導致了不少戰爭，這樣看起來理性似乎也不是件好事。 )

補充說明：

關於文章的轉載：授權網友非營利的轉載利用，請保留完整授權資訊，禁止刪改文章內容，並且標註來源、作者、文章網址。

－

Hi，我是 Pini｜品尼
感謝今天的收看， 如果喜歡文章的內容，請大力按🧡，也可以留言跟我交流。

❚ 對緩緩前行計畫有任何想法、問題、或者分享你的故事，都可以透過這個表單私密留言給我

❚ 社群平台(FB、IG)會即時分享好東西、好想法、各種感受。

相關文章 #職場觀察 #緩緩學習 #緩緩閱讀 #慢行人生