今天是 2025 年 11 月 4 日，星期二。OpenAI在10月7號發表了一份叫做 Disrupting malicious uses of AI: October 2025 的研究報告。他們公告了幾個AI被壞人拿去亂用的案例，昨天我講了三個案例，大家很喜歡聽，所以我繼續講幾個給你聽。希望你聽過之後，可以多一點警惕，保護自己和親友的財產安全。
首先，OpenAI說他們發現了，可能是來自柬埔寨、緬甸和奈及利亞的大型有組織犯罪集團。他們利用ChatGPT，製造各種用來詐騙的內容，想要將我們的錢或敏感資訊偷走。
壞蛋們通常分為三個步驟：他們先透過LINE、FB等即時通訊軟體或社群媒體廣告，向潛在受害者進行接觸。然後試著激發你對「發大財」的慾望，不然就是用一些威脅「你可能會損失很多錢」讓你感到擔心害怕。最後，利用這些情緒，說服你交出金錢或敏感資訊。
那他們是如何使用AI的？
對於這些詐騙集團來說，不是利用AI去創造新的騙局，而是用來作為擴大規模和提高效率的工具。
我整理一下喔，他們主要是用AI做三件事情
首先是，設計用來詐騙的內容。包含：將詐騙訊息翻譯成多國文字、編造各種詐騙訊息，以及建立他們的假網站，在盜用來的社群媒體帳戶中Po文。就好像，有來自柬埔寨、和奈及利亞的詐騙集團，假扮成「投資公司」，邀請受害者加入私人群組，而且跟他說，有一個超高收益、幾乎沒有風險，來騙你上當。
然後，他們也會做很複雜的角色扮演跟劇情安排。例如，他們發現來自柬埔寨的詐騙行動，他們用 AI 設計出一套「假投資專家」和「假交易公司」的劇情。然後，再用這些虛假角色的語氣撰寫社群媒體訊息。只要有人上鉤，有跟詐騙集團的人說話，他們甚至會將受害者講的話輸入 AI 當中，讓 AI 幫他們寫出後續的整套對話劇本，讓不小心上當的人一步一步走進陷阱裡，真的很夭壽。
另外還有，有來自緬甸的詐騙集團，他們甚至利用 AI 處理他們的日常業務任務，例如安排工作日程、起草內部公告、分配辦公桌和宿舍，甚至管理財務帳戶。
另外一個案例是跟中國政府有關。有人利用VPN從中國連上線，要求ChatGPT幫他設計一個專案計畫和宣傳素材，內容主要是在講一個社交媒體掃描工具。他們利用這個掃描程式掃描 Twitter/X、Facebook、TikTok 和 YouTube 等等，多個西方和中國的社交媒體平台。積極的尋找那些被他們認定為極端主義、民族、宗教和政治內容的言論。
另外，還有可能是中國政府的人，要求模型協助撰寫一份提案。這份提案的名稱非常敏感，裡面是在「高危險維吾爾族人的預警系統」。他們用這個模型分析特定對象的交通預訂資料，並將其與警方紀錄進行比對，目的是為了提供預警，追蹤那些被歸類為「與維吾爾人相關且高風險」人員的旅行動向。
透過這些活動，我們可以清楚地看到，這些使用者是在利用 AI 來協助開發對線上或線下流量進行大規模監控的系統。
另外，還有人問 ChatGPT 說，如何辨識一個在 X 平台上批評中國政府的帳戶的資金來源。也有人要求 ChatGPT 幫他辨識在蒙古地區組織請願活動的人士。
OpenAI有說，其實ChatGPT只會幫忙查公開可得的資訊，不會提供太敏感的細節，例如資金來源或組織者身份，但你可以從他們在用ChatGPT查資料的行為來看出他們到底想做些什麼。對了，也有人將 AI 當作他的研究助理。要求 ChatGPT 每日做報告，整理出跟中國相關的突發新聞，甚至包括一些連在網路上搜尋都可能需要極為小心的敏感話題，例如 1989 年天安門事件、達賴喇嘛的生日等等。對他們來說，AI 提供的不是新的情報能力，而是一種便利性。
大家聽到這邊，應該會想要知道，ChatGPT難道不會做一些預防性的動作，避免壞蛋為害我們嗎？
其實是會的，ChatGPT敢公告這些訊息，就是想讓大家知道，他們有特別留意這些「惡意利用AI」的帳號，並且很果斷地停用這些帳戶，避免 AI 被專制政權濫用，變成是他們控制公民的工具。
