想法選品店#016.潛藏的社會偏見

更新於 發佈於 閱讀時間約 5 分鐘
〔想法選品店〕

Hi,Slow Walkers !

默默關注 ChatGPT 跟生成式 AI 議題有一陣子,最近看到一篇文章結合了 ChatGPT 跟我關心的議題 — 無家者,因此摘錄一下文章的內容,並簡單分享我的想法。
日本 THE BIG ISSUE 雜誌第 455 期裡有一篇與 AI 相關的文章。以結論來說,AI 聊天機器人 ( ChatGPT ) 的回答,反映出社會裡存在的偏見
文章一開始先請 ChatGPT 描述街頭報紙的販售者是什麼樣子的人,接著提問者在回饋正確資訊,一來一往下,逐步讓 ChatGPT 回答出比較接近真實狀況的答案。
這篇文章指出生成式 AI 的一個特色:AI 本身沒有立場與答案,它的回答是透過資料庫的內資料學習後產生的,因此很容易產生出刻板印象的答案。
生成式 AI 基本運作是接收與學習資訊 ( 主要都是網路上的資訊 ),經過複雜的算法後,根據提問者的問題回答。它會使用最有用的情報,推敲出最合適的單詞,再將單詞排列組合成一句話。
這個過程不是思考,而是單純的整理資訊,只是它的整理資料量比人類多出太多,才讓它看起威力強大,彷彿有超能力。
由於生成式 AI 的資訊來源是網路為主,網路上的言論基本上就左右了答案。換句話說,它的回答就顯示出既有網路上的多數聲音。

這些網路聲音是偏見?

ChatGPT 第一次在回答街頭報紙販賣者都是哪些人時,就能看出端倪。
它回答是:「街頭報紙販賣者的人有男性也有女性,會站在人來人往的路上,手拿著新聞報紙,一臉筋疲力盡。穿著破爛的衣服,若有所思的模樣。」*
這就是 ChatGPT 在咀嚼完資料庫之後,提煉出來的街頭報紙販賣者人物像。
是否跟你的印象一致呢 ?
日本的 BIG ISSUE 長年與街頭無家者相處,了解無家者的背景與狀況,以下是他們認為的街頭販賣者人物像。
「無家者是沒有固定居所的人。他們可能住在避難所或者短期保護設施、路上或帳篷、或者車子,狀況各式各樣。有可能是失去工作、精神狀況不佳、各種成癮症,或者受到自然災害、家暴、突然生病等原因失去了固定的居所。要改善這些問題可能需要進一步的進行職業訓練、心理健康諮詢服務、藥物成癮治療等。無家者跟他所處的背景無關、是任何人都有可能會發生的事情,因此才需要複數的解決對策。」*
同篇中也引用了英國倫敦的非營利團體 — Centre for Homelessness impact 的數據,一般人對於無家者的印象存在錯誤理解。
當詢問一般民眾認為無家者特徵有哪些時時,53% 的人回答是藥物或酒精成癮,而 34%的人則說是移民。真實的狀況是,無家者中有 5~7% 是藥物或酒精成癮,移民是 14%。*
大眾都提到無家者是迫切需要解決的問題,然而他們對無家者的印象卻與實際狀況相差甚遠。
也能說多數人對於無家者的認識是不太足夠,卻已經衍生許多既定印象,這些印象會導致議題的倡議上遇到更多困難。

如何使用 ChatGPT ?

再看一次 ChatGPT 的首次回答,自然也能理解它的答案是怎麼生成的。它是集網路上眾人意見之大成的回答,代表網路上多數人的聲音。
多數人的意見並不代表「每一個人」的意見,也不代表「真實狀況」
這也就是為什麼文章結論會說,ChatGPT 反映出社會對於無家者的偏見。
如果有人不認識真實的無家者狀況,只使用 ChatGPT 進行了解,那很高機率看到的是刻板印象下的無家者。
刻板印象無助於解決問題,反而會深化意見的分歧。
這一點是我認為使用 ChatGPT 這類工具時要特別留意的地方。
如同這篇文章所言,它背後使用的資料來自於網路,有許多內容則需要進一步的釐清。
我不願意失去理解真實的慾望,因此愈是敏感的問題,就愈應該懷疑 AI 給予的答案。
但我也願意相信,AI 會讓人類社會發展往好的方向前進,但取決於人類知道它怎麼構成的、它又會往哪裡去。
如果 AI 變成連人類都無法理解的狀況,也就是人類是無法理解它的生成邏輯與脈絡時,它就是人造物又非人類所能理解,那這種東西會是什麼 ?
以我現有的知識,想像不到這樣的東西會是什麼。又或者說,該如何定義這樣的東西。
回到現階段的 ChatGPT ,使用者必須在清楚它的侷限性下使用這項工具,會是比較理性的作法。
( 雖然我最近也很懷疑人類的理性,理性好像也導致了不少戰爭,這樣看起來理性似乎也不是件好事。 )
補充說明:
  1. 文字後面有出現【*】時,表示該段落文字是翻譯日文文章來而。
  2. 此篇日文文章的最初出處則來自於英國蘇格蘭的 INSP 組織的 Tony Inglis

關於文章的轉載:授權網友非營利的轉載利用,請保留完整授權資訊,禁止刪改文章內容,並且標註來源、作者、文章網址。
Hi,我是 Pini|品尼
感謝今天的收看, 如果喜歡文章的內容,請大力按🧡,也可以留言跟我交流。
❚ 對緩緩前行計畫有任何想法、問題、或者分享你的故事,都可以透過這個表單私密留言給我
❚ 社群平台(FB、IG)會即時分享好東西、好想法、各種感受。
一本書、一部影劇,抑或是一場關係、一句話,都帶上好奇心,細細品味其中的故事、想法與文化,悠長且緩慢地書寫,每次靈魂躁動的軌跡。即使速度不快,卻存在著。歡迎加入慢行者行列,一起漫步人生,為每個小里程碑而歡呼。這一個關於#生活#人生#工作#活著這件事的部落格。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
Netflix 《相撲聖域》是一齣不良少年小瀨清(猿櫻)投入日本千年國技相撲的人生奮鬥故事(?)透過相撲聖域認識了相撲,也從猿櫻、猿谷與靜內身上看到風格迥異的力士人生。這篇文章分享我視角下的三位力士。跟傳統的英雄主角不同,猿櫻反叛、不受教,挑釁相撲傳統文化。反觀猿櫻,既定印象裡的英雄人格-猿谷經歷的
你是否也跟我一樣,常常為了未來而焦慮,總是心心念念著要未雨綢繆?我身處的社會教導的是眼光放遠,多替未來打算,我就是把這個教誨執行的太徹底,永遠只想著未來的事情,搞得關係緊張,生活不快樂。上完 MBTI 自我覺察活動坊之後,強烈的感受到什麼是活在當下、什麼是活在未來的差異,反思這個差異後,寫下這篇文字
探索自己的方式有很多,其中一種就是透過評量工具來認識自己。這次參加由Baiyan Global Consulting 創辦人暨執行長(Founder CEO) Sherry主講的MBTI工作坊,在雪力建立的安全場域內,正確的進行MBTI評量,認識最原始狀態的自己。本篇文章分享我為什麼想參加工作坊、工
過去到現在,有不少相關產業的人學習 ( 抄襲? ) 了自己公司的網站、文案,那時候自己剛開始工作沒幾年,遇到事情,總是氣憤填膺加碎嘴幾句(應該說很多句、甚至長篇大論)。 為什麼生氣?自己花了許多時間收集資料、研究,花心思寫出跟過往不一樣的文字,就是想跳出競爭,讓客戶能一眼認出我
這週是協會在台北的參展,我沒辦法親自到場,只能默默地從遠端支援。 不得不說,展覽是展示自家公司實力的同時,也會被別家公司的行銷訊息瘋狂輾壓。 每次看到別人做了很好的行銷宣傳時,就會懊惱自己哪裡做得不夠好。即使已經參加數次,都還是能夠從每次出展學到一點什麼。
她遞交辭呈,這份工作做了八個月。這份工作她準備了將近一年,讀書、考試、面試,闖關成功後拿到的工作,就這樣放手,她非常不甘心。身為她的朋友,我看過她的美好,理解她的個性,就是因為朋友,我能夠欣賞跟包容。在職場上,同事就沒有這麼多情感,有的是職場上的利害關係。有了這層利害關係,她的美好可能就是別人的毒藥
Netflix 《相撲聖域》是一齣不良少年小瀨清(猿櫻)投入日本千年國技相撲的人生奮鬥故事(?)透過相撲聖域認識了相撲,也從猿櫻、猿谷與靜內身上看到風格迥異的力士人生。這篇文章分享我視角下的三位力士。跟傳統的英雄主角不同,猿櫻反叛、不受教,挑釁相撲傳統文化。反觀猿櫻,既定印象裡的英雄人格-猿谷經歷的
你是否也跟我一樣,常常為了未來而焦慮,總是心心念念著要未雨綢繆?我身處的社會教導的是眼光放遠,多替未來打算,我就是把這個教誨執行的太徹底,永遠只想著未來的事情,搞得關係緊張,生活不快樂。上完 MBTI 自我覺察活動坊之後,強烈的感受到什麼是活在當下、什麼是活在未來的差異,反思這個差異後,寫下這篇文字
探索自己的方式有很多,其中一種就是透過評量工具來認識自己。這次參加由Baiyan Global Consulting 創辦人暨執行長(Founder CEO) Sherry主講的MBTI工作坊,在雪力建立的安全場域內,正確的進行MBTI評量,認識最原始狀態的自己。本篇文章分享我為什麼想參加工作坊、工
過去到現在,有不少相關產業的人學習 ( 抄襲? ) 了自己公司的網站、文案,那時候自己剛開始工作沒幾年,遇到事情,總是氣憤填膺加碎嘴幾句(應該說很多句、甚至長篇大論)。 為什麼生氣?自己花了許多時間收集資料、研究,花心思寫出跟過往不一樣的文字,就是想跳出競爭,讓客戶能一眼認出我
這週是協會在台北的參展,我沒辦法親自到場,只能默默地從遠端支援。 不得不說,展覽是展示自家公司實力的同時,也會被別家公司的行銷訊息瘋狂輾壓。 每次看到別人做了很好的行銷宣傳時,就會懊惱自己哪裡做得不夠好。即使已經參加數次,都還是能夠從每次出展學到一點什麼。
她遞交辭呈,這份工作做了八個月。這份工作她準備了將近一年,讀書、考試、面試,闖關成功後拿到的工作,就這樣放手,她非常不甘心。身為她的朋友,我看過她的美好,理解她的個性,就是因為朋友,我能夠欣賞跟包容。在職場上,同事就沒有這麼多情感,有的是職場上的利害關係。有了這層利害關係,她的美好可能就是別人的毒藥
你可能也想看
Google News 追蹤
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
嘿,大家新年快樂~ 新年大家都在做什麼呢? 跨年夜的我趕工製作某個外包設計案,在工作告一段落時趕上倒數。 然後和兩個小孩過了一個忙亂的元旦。在深夜時刻,看到朋友傳來的解籤網站,興致勃勃熬夜體驗了一下,覺得非常好玩,或許有人玩過了,但還是想寫上來分享紀錄一下~
Thumbnail
因為網路上充斥著 是是而非的資訊,公說公有理 婆說婆有理,我發現我的價值觀開始有點混淆,心中有許多問題 不知道真正的答案是甚麼?突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話,沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
了解到現在的生成式AI各有千秋,且能協助的事之多,各家業者有如「電信公司」,遲早會是比較「行動方案」,甚或是拿著不同業者的「多門號」,人人都配有人工智慧了。 我一向不是科技的早期使用者,各家AI我都只用過免費版。 ChatGPT 作為前鋒的GPT,曾請它協助將英文句子潤色、修整文法,以解
~這裡說明文章的編排~ 這裡有兩篇文章,上面的一篇是由AI定義的心理學者診斷書,下面一篇是小曉如果有不同意的看法,AI會產生的一些敘述,探討的目的,這樣子來說,一個心理診斷到底能達到什麼積極結果 有兩篇文章作對比喔~作品:ChatGPT 小曉:對他人行為的奇異感知 ## 緒論 小曉
在進入人工智能時代的今天,聊天機器人已經成為不可或缺的新形態。這些機器人不僅僅是科技的產物,更是智能化生活的一部分。它們不僅可以在日常生活中提供幫助,還能夠增進人機互動的自然性和智能性,從而改變我們的生活方式。
在當今這個數字化時代,人工智慧的發展日新月異,AI聊天機器人逐漸成為人們生活中不可或缺的一部分。然而,隨著AI技術的不斷進步,人們不禁開始思考一個問題:真人會被AI取代嗎?這個問題引發了人們對於人工智慧與人類之間的比較和交互作用的深入探討。
Thumbnail
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統,例如現在常用的ChatGPT,會有程式語言賦予的理性與客觀,比較能避免人類常見的各種偏見。
Thumbnail
這篇文章觀察了現代社會中孤單一人的情況,包括在不同地點和場合觀察到的人們。文章探討了這種情況出現的原因,並提出了對此現象的觀點和見解。
有研究機構預計,隨著人工智能(AI)聊天機械人興起,網站搜尋引擎的使用量2026年將減少兩成半。 生成式人工智能聊天機械人ChatGPT 2022年底推出,隨即在全球掀起熱潮,不少人用它解答生活上大小問題。據OpenAI去年底透露,ChatGPT每月有過百萬名活躍用戶。 有研究機構發表報告,這類聊天
Thumbnail
觀察全球使用直播電商較為頻繁的用戶,可發現其平均年齡介於33至36歲之間,其中25至34歲的用戶在直播電商中佔比最大。此外,不管是觀看直播的目的、購買的產品項目、下單的時機點(直播中或直播後)與每次消費金額等,皆有地域性與文化差異。
Thumbnail
這是一篇跟 chatGPT 合作的廢文。文章從標題到內文都由 chatGPT撰寫由我下點評,模擬我 與 chatGPT 老師對談,做一場思辨實驗。
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
嘿,大家新年快樂~ 新年大家都在做什麼呢? 跨年夜的我趕工製作某個外包設計案,在工作告一段落時趕上倒數。 然後和兩個小孩過了一個忙亂的元旦。在深夜時刻,看到朋友傳來的解籤網站,興致勃勃熬夜體驗了一下,覺得非常好玩,或許有人玩過了,但還是想寫上來分享紀錄一下~
Thumbnail
因為網路上充斥著 是是而非的資訊,公說公有理 婆說婆有理,我發現我的價值觀開始有點混淆,心中有許多問題 不知道真正的答案是甚麼?突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話,沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
了解到現在的生成式AI各有千秋,且能協助的事之多,各家業者有如「電信公司」,遲早會是比較「行動方案」,甚或是拿著不同業者的「多門號」,人人都配有人工智慧了。 我一向不是科技的早期使用者,各家AI我都只用過免費版。 ChatGPT 作為前鋒的GPT,曾請它協助將英文句子潤色、修整文法,以解
~這裡說明文章的編排~ 這裡有兩篇文章,上面的一篇是由AI定義的心理學者診斷書,下面一篇是小曉如果有不同意的看法,AI會產生的一些敘述,探討的目的,這樣子來說,一個心理診斷到底能達到什麼積極結果 有兩篇文章作對比喔~作品:ChatGPT 小曉:對他人行為的奇異感知 ## 緒論 小曉
在進入人工智能時代的今天,聊天機器人已經成為不可或缺的新形態。這些機器人不僅僅是科技的產物,更是智能化生活的一部分。它們不僅可以在日常生活中提供幫助,還能夠增進人機互動的自然性和智能性,從而改變我們的生活方式。
在當今這個數字化時代,人工智慧的發展日新月異,AI聊天機器人逐漸成為人們生活中不可或缺的一部分。然而,隨著AI技術的不斷進步,人們不禁開始思考一個問題:真人會被AI取代嗎?這個問題引發了人們對於人工智慧與人類之間的比較和交互作用的深入探討。
Thumbnail
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統,例如現在常用的ChatGPT,會有程式語言賦予的理性與客觀,比較能避免人類常見的各種偏見。
Thumbnail
這篇文章觀察了現代社會中孤單一人的情況,包括在不同地點和場合觀察到的人們。文章探討了這種情況出現的原因,並提出了對此現象的觀點和見解。
有研究機構預計,隨著人工智能(AI)聊天機械人興起,網站搜尋引擎的使用量2026年將減少兩成半。 生成式人工智能聊天機械人ChatGPT 2022年底推出,隨即在全球掀起熱潮,不少人用它解答生活上大小問題。據OpenAI去年底透露,ChatGPT每月有過百萬名活躍用戶。 有研究機構發表報告,這類聊天
Thumbnail
觀察全球使用直播電商較為頻繁的用戶,可發現其平均年齡介於33至36歲之間,其中25至34歲的用戶在直播電商中佔比最大。此外,不管是觀看直播的目的、購買的產品項目、下單的時機點(直播中或直播後)與每次消費金額等,皆有地域性與文化差異。
Thumbnail
這是一篇跟 chatGPT 合作的廢文。文章從標題到內文都由 chatGPT撰寫由我下點評,模擬我 與 chatGPT 老師對談,做一場思辨實驗。