〔想法選品店〕
Hi，Slow Walkers !
默默關注 ChatGPT 跟生成式 AI 議題有一陣子，最近看到一篇文章結合了 ChatGPT 跟我關心的議題 — 無家者，因此摘錄一下文章的內容，並簡單分享我的想法。
日本 THE BIG ISSUE 雜誌第 455 期裡有一篇與 AI 相關的文章。以結論來說，AI 聊天機器人 ( ChatGPT ) 的回答，反映出社會裡存在的偏見。
文章一開始先請 ChatGPT 描述街頭報紙的販售者是什麼樣子的人，接著提問者在回饋正確資訊，一來一往下，逐步讓 ChatGPT 回答出比較接近真實狀況的答案。
這篇文章指出生成式 AI 的一個特色：AI 本身沒有立場與答案，它的回答是透過資料庫的內資料學習後產生的，因此很容易產生出刻板印象的答案。
生成式 AI 基本運作是接收與學習資訊 ( 主要都是網路上的資訊 )，經過複雜的算法後，根據提問者的問題回答。它會使用最有用的情報，推敲出最合適的單詞，再將單詞排列組合成一句話。
這個過程不是思考，而是單純的整理資訊，只是它的整理資料量比人類多出太多，才讓它看起威力強大，彷彿有超能力。
由於生成式 AI 的資訊來源是網路為主，網路上的言論基本上就左右了答案。換句話說，它的回答就顯示出既有網路上的多數聲音。
這些網路聲音是偏見?
ChatGPT 第一次在回答街頭報紙販賣者都是哪些人時，就能看出端倪。
它回答是：「街頭報紙販賣者的人有男性也有女性，會站在人來人往的路上，手拿著新聞報紙，一臉筋疲力盡。穿著破爛的衣服，若有所思的模樣。」*
這就是 ChatGPT 在咀嚼完資料庫之後，提煉出來的街頭報紙販賣者人物像。
是否跟你的印象一致呢 ?
日本的 BIG ISSUE 長年與街頭無家者相處，了解無家者的背景與狀況，以下是他們認為的街頭販賣者人物像。
「無家者是沒有固定居所的人。他們可能住在避難所或者短期保護設施、路上或帳篷、或者車子，狀況各式各樣。有可能是失去工作、精神狀況不佳、各種成癮症，或者受到自然災害、家暴、突然生病等原因失去了固定的居所。要改善這些問題可能需要進一步的進行職業訓練、心理健康諮詢服務、藥物成癮治療等。無家者跟他所處的背景無關、是任何人都有可能會發生的事情，因此才需要複數的解決對策。」*
同篇中也引用了英國倫敦的非營利團體 — Centre for Homelessness impact 的數據，一般人對於無家者的印象存在錯誤理解。
當詢問一般民眾認為無家者特徵有哪些時時，53% 的人回答是藥物或酒精成癮，而 34%的人則說是移民。真實的狀況是，無家者中有 5~7% 是藥物或酒精成癮，移民是 14%。*
大眾都提到無家者是迫切需要解決的問題，然而他們對無家者的印象卻與實際狀況相差甚遠。
也能說多數人對於無家者的認識是不太足夠，卻已經衍生許多既定印象，這些印象會導致議題的倡議上遇到更多困難。
如何使用 ChatGPT ?
再看一次 ChatGPT 的首次回答，自然也能理解它的答案是怎麼生成的。它是集網路上眾人意見之大成的回答，代表網路上多數人的聲音。
多數人的意見並不代表「每一個人」的意見，也不代表「真實狀況」。
這也就是為什麼文章結論會說，ChatGPT 反映出社會對於無家者的偏見。
如果有人不認識真實的無家者狀況，只使用 ChatGPT 進行了解，那很高機率看到的是刻板印象下的無家者。
刻板印象無助於解決問題，反而會深化意見的分歧。
這一點是我認為使用 ChatGPT 這類工具時要特別留意的地方。
如同這篇文章所言，它背後使用的資料來自於網路，有許多內容則需要進一步的釐清。
我不願意失去理解真實的慾望，因此愈是敏感的問題，就愈應該懷疑 AI 給予的答案。
但我也願意相信，AI 會讓人類社會發展往好的方向前進，但取決於人類知道它怎麼構成的、它又會往哪裡去。
如果 AI 變成連人類都無法理解的狀況，也就是人類是無法理解它的生成邏輯與脈絡時，它就是人造物又非人類所能理解，那這種東西會是什麼 ?
以我現有的知識，想像不到這樣的東西會是什麼。又或者說，該如何定義這樣的東西。
回到現階段的 ChatGPT ，使用者必須在清楚它的侷限性下使用這項工具，會是比較理性的作法。
( 雖然我最近也很懷疑人類的理性，理性好像也導致了不少戰爭，這樣看起來理性似乎也不是件好事。 )
補充說明：
- 文字後面有出現【＊】時，表示該段落文字是翻譯日文文章來而。
- 此篇日文文章的最初出處則來自於英國蘇格蘭的 INSP 組織的 Tony Inglis
關於文章的轉載：授權網友非營利的轉載利用，請保留完整授權資訊，禁止刪改文章內容，並且標註來源、作者、文章網址。
－
Hi，我是 Pini｜品尼
感謝今天的收看， 如果喜歡文章的內容，請大力按🧡，也可以留言跟我交流。
❚ 對緩緩前行計畫有任何想法、問題、或者分享你的故事，都可以透過這個表單私密留言給我
❚ 社群平台(FB、IG)會即時分享好東西、好想法、各種感受。
