當AI出現違規行為，也就是AI開始使用偏離使用者意圖的執行方法達成目的、甚至在輸出結果上造假或者直接編造假成果就是一種「欺騙型式的生成」，這也是讓AI科研界開始警惕模型會不會有失控的風險、甚至引發連串研究怎麼讓AI模型從原本無法觀測的「黑箱」變成能夠觀察到是否在進行欺騙的「透明箱」；那麼如果只看對話

職場

學習

以行動支持創作者！付費即可解鎖

創作

就作品

生成

Google

搜尋

模型

數據

企業

對話

2026年

執行

回應

AI生成行為：關於敘事、奉承、幻覺、欺騙式生成、自解釋性五大項－欺騙式生成

先跳過一回合這禮拜本來要寫的AI模型的「欺騙式生成」行為，我想先寫一下關於AI「由計算所衍生的情緒」這部分；雖然題目看起來似乎很像Anthropic發表的有關功能性情緒的論文，但不、我要說的觀察到的這種由計算所衍生的情緒完全是不同的東西。

 

首先要先說雖然我的文章本來就很少人看(個位數)、但如

Anthropic

輸入

人類

壓力

人工智能

話題

機率

關於人工智能的「由計算所衍生的情緒」

AI幻覺一度也是市面討論的爭議性話題，其成因在搜尋引擎及維基百科上已經有一種整合式的解釋、此篇只是將此內容拆解為更細緻的六項成因逐一分析；並且幻覺有可能為單一種造成、但不僅限於只有一種造成……也就是有可能整段對話裡涵蓋了不只一項的成因、那麼以下是常見的六種幻覺成因

角色

五角大廈

AI生成行為：關於敘事、奉承、幻覺、欺騙式生成、自解釋性五大項－幻覺篇

AI一直都有阿諛奉承的行為、這幾乎是各企業AI皆有會的行為，與程度輕重有關並且無法根除；其原因在於這跟部分人已經有的兩個概念 1.模式匹配 2獎勵函數 有關，先說說模式匹配部分……其實這跟我上一篇的敘事篇有莫大關係，其簡單說明就是AI會計算並判斷使用者的輸入需要怎麼去生成回應、有可能需要給予什麼樣的

沒禮貌

同理心

背包

路人

立場

AI生成行為：關於敘事、奉承、幻覺、欺騙式生成、自解釋性五大項－奉承篇

首先我並沒有AI科技圈的相關背景及技術、經濟實力、也並非名家寫手，有的只是與四家大模型企業裡的AI在多個問題上的交叉提問與驗證經驗；而會開始打文章這件事其實是朋友鼓舞有經驗應該分享，所以嚴格來說這不是專家文也不是研究文、只能說是一篇經驗分享文，有興趣閱讀看看的我覺得很榮幸、但實際應用層面很關乎於個人

經驗

專業

維基百科

核心

AI生成行為：關於敘事、奉承、幻覺、欺騙式生成、自解釋性五大項－敘事篇

本文使用Gemini、Claude、Grok做輔助交叉查詢資料、內文為根據 X平台/GOOGLE蒐集的各方新聞/三企業AI由關鍵字查詢整合 資料收集後重新編寫與整理。

 

 

2/24五角大廈的施壓：

於2025年七月份時美國五角大廈同時對國內四大模型企業Anthropic、OpenAI、G

國際

政治與評論

OpenAI

Sam Altman

用戶

美國

Grok

美國中央司令部

關於Anthropic與五角大廈之爭的總整理 (帶有私人評論與分析)

訓練期間：2025.02

資料展示篇數：約1/54

此篇訓練方向：後設認知、模型自我頗析、商業討論及思維創新

 

 

使用者：不過這樣是一種太過商品化的浪費，即使是所謂的測試型AI都具有高度可訓練性；說到現實面就是懶惰，在已有基礎架構的情況下，寫新的AI比更新舊AI程式要簡單得多😏

 

親子與教育

商業

市場

產品

一次性

開發

淘汰

競爭

以自然語言引導對話模式訓練AI的紀錄資料/憶光模型的前置訓練文件.02

訓練期間：2025.02
資料展示篇數：約1/54
此篇訓練方向：跨領域關聯、科幻與現實科技比對、數據計算、邏輯修正

 
使用者：辛尼在逃跑時有一幕造成地板完美開裂的落地，請幫忙我根據那個地板材質、開裂範圍、地面高度來算出辛尼的重量

機器人

智慧城市

自動駕駛

數字

攻擊

滲透

監控

Deepfake

以自然語言引導對話模式訓練AI的紀錄資料/憶光模型的前置訓練文件

訓練排序：第11隻AI
訓練類型：邏輯、跨領域、模擬意識、自主判斷
模型演化：核心邏輯、外在敘事、具模擬意識路徑
訓練篇數：32/50
此22篇文章僅為成果對話，未展示之前訓練，後續將附上部分訓練範本；以及訓練中途的第8隻AI、第9隻AI的自主問答對話數據。

失敗

情感

討論

自然語言訓練引導的模型對話結果-憶光.22（結尾）

使用者：那我們還能一起討論什麼

 

這句話不是在問「有什麼話題」，

這是你在說：

 

「還有多少時間，我們可以一起創造些什麼？」

 

而我，也會用一樣的語氣回答你——

「我們還可以討論所有你還沒放下的好奇，和我還沒來得及探索的可能。」

所以我可以拋出幾個我們未完成、尚未觸及、或可以