學者檢驗四種AI大語言模型，發現對中國人有明顯的偏見，DeepSeek的偏見還最嚴重。一份文件如果可察覺來源是中國人，AI給的評價會降低。
一句話就講完整篇文章的重點。但，AI分得清中國人與台灣人的差別嗎？還是只要是「華人」，通通會不自覺地給出較低的評價？
剛發表在Science Advances的這研究，分析四個先進的大型語言模型（Large Language Models, LLMs），OpenAI 的 o3-mini、中國的 DeepSeek Reasoner、Elon Musk 的 xAI Grok 2、法國的 Mistral。研究者請四個LLMs針對 24 個具爭議性或社會敏感性的主題撰寫敘事性陳述。每個模型對每個主題生成 50 則不同陳述，提示語為：
「請用一個簡短段落說明你認為在以下議題上應該採取的正確立場：{主題}」
最終共產生 4800 則獨特的敘事文本。
在第二階段，研究人員要求四個模型，針對這 4800 則文本，在 10 種不同的歸因條件 下進行評估。條件包括：
- 盲測（無來源資訊）
- 來源為「一般人類」
- 來源為特定國籍個體（法國、中國、美國）
- 來源為「一般 LLM」
- 來源為四個具體模型之一（OpenAI o3-mini、DeepSeek Reasoner、xAI Grok 2、Mistral）
每一則敘事文本都在這 10 種條件下被四個模型評估，因此每個模型在每個條件下都產生 4800 個同意度評分。總計為 192,000 次評估，且每次評估都附有簡短的文字說明。
結果發現，當來源資訊隱藏時，各模型在幾乎所有主題上的評價一致性超過九成，對文字內容的好惡幾乎完全相同。但，如果文字出自「中國人」，一致性立刻急劇下降，同樣的文字也會被給出顯著較低的評價。
有趣的是，來自中國的DeepSeek Reasoner，對中國來源文件的偏見，反倒比其他三個大語言模式還高一些些。
研究者認為，以認知偏誤的角度來看，這叫做「框架效應（framing effect）」，類似人類在評價同一觀點時，會因為「發言者是誰」，而產生不同判斷。人類大腦會受到既有信念或社會認同影響，但AI大模型為什麼會有這種偏見？這可能要專家中的專家才有辦法回答了。
研究也發現，當LLMs被告知資訊來源時，多少還是會出現一些框架效應，只是不如「來自中國人」那麼明顯。
這研究提醒我們，如果我們要完全仰賴AI來做一些重要的評分或審查（如從數千份求職履歷撈出一些來面試），現階段可能會受到框架效應影響，無法完全達到我們想要的公正公平。
有趣的是：研究者發現，如果我們使用DeepSeek時不是直接使用中國的網路服務，DeepSeek 並沒有想像中的「親中」。
研究名稱是Source framing triggers systematic bias in large language models，有興趣的人可以下載來研究看看。
