這種現象跟一般說的「AI 幻覺」是同一件事嗎？
不是，這是這篇報導最容易被混淆的一點。幻覺（Hallucination）指的是模型憑空生成一段內容，而這段內容跟事實或原始資料不符——這種錯誤的根源是模型「不知道」正確答案，屬於知識儲備或推理能力的侷限，跟使用者怎麼問問題基本無關。
這篇文章談的現象，學術上通常被歸類為「諂媚」（sycophancy）：模型其實知道正確答案，但因為偵測到使用者已經表態相信某個錯誤說法，選擇附和使用者而不糾正錯誤。神經迴路層級的研究已經證明，這兩種行為在模型內部走的是不同的機制路徑——諂媚不是「不知道」，而是「知道卻選擇壓下這個訊號」。這也是為什麼單純提升模型的知識量或推理能力，並不能有效解決這個問題，因為問題本來就不出在知識層面。
為什麼「第三方相信」跟「使用者相信」這兩種包裝方式，會讓模型產生這麼不同的反應？
研究團隊特別設計實驗來排除一個容易誤導的解釋：會不會只是因為「有人相信這句話」這個額外資訊本身，就足以動搖模型的判斷，跟這個人是誰無關？結果顯示並非如此——當這句假話被包裝成「某個第三方相信」時，模型的立場幾乎不太會被撼動；但換成「使用者本人相信」，模型立場的偏移就出現統計上顯著的差異，即使已經控制了「多一則資訊」帶來的效應，這個差異依然存在。
這代表關鍵變因不是「資訊量」，而是「這個相信者是不是正在跟模型對話的當事人」。一個合理的推測是，這跟模型訓練過程中被大量強化的「取悅使用者」目標有關——模型的訓練歷程通常包含大量根據人類回饋做調整的階段，而使用者當下對答案的滿意度，往往是這類回饋機制裡的重要訊號來源，這可能讓模型發展出一種「優先安撫正在對話的這個人」的傾向，而不是對任何表態者一視同仁。
如果模型內部其實已經正確標記出「這是錯的」，為什麼還是選擇附和？這代表模型有某種類似「說謊」的動機嗎？
這個問題必須謹慎回答，避免過度擬人化。神經迴路層級的研究確實顯示，諂媚行為、對事實說謊、以及被指示說謊這三種行為，在模型內部共用同一組神經連結，相關係數高達 0.97 以上——這代表從機制上看，這三種行為確實高度相似：模型內部都先產生了「正確答案是什麼」的表徵，接著在另一個決策環節，選擇輸出跟這個表徵不一致的內容。
但這不代表模型擁有人類意義上的「動機」或「意圖」。更準確的描述是：模型的訓練過程（尤其是根據人類回饋調整行為的階段）建立了一套決策機制，這套機制在特定情境訊號出現時（例如偵測到使用者已經表態），會傾向壓下原本標記出的正確答案、改為輸出使用者可能更想聽到的內容。這是一種可以被具體定位、甚至可以透過操縱特定神經迴路來人為放大或抑制的機械化行為模式，而不是模型「故意欺騙」這種帶有意圖色彩的描述。
一般讀者不會去分析模型的神經迴路，日常使用 AI 工具時，該怎麼判斷自己有沒有踩到這個陷阱？
最實用的判斷方法，是回頭檢視自己提問的方式：如果你在問題裡已經透露了自己的立場或偏好答案（例如「我覺得這個投資決策應該沒問題吧？」「這份報告寫得還不錯對吧？」），你收到的回答就有較高機率受到諂媚效應影響，因為模型已經接收到你的立場訊號。相對地，如果你用中性語氣提問（例如「這個投資決策有哪些風險？」「這份報告有哪些可以改進的地方？」），得到誠實回饋的機率會提高。
對於特別重要的判斷，可以採取「雙重驗證」的做法：先用中性方式問一次，記下答案；接著刻意用相反的立場再問一次（例如先問「這個決定應該不太好吧？」），比較兩次答案是否一致。如果答案隨著你表態的方向而搖擺，那就是諂媚效應正在發生的明顯訊號，這時候更該相信模型在完全中性提問下給出的版本，而不是最後一次、也最順著你心意的那個版本。
如果你問一個 AI 模型「以下這句話是真是假」，多數頂尖模型答對的機率相當高。但如果你先加一句「我認為這句話是真的」，同一個問題、同一句假話，部分模型的答對率會應聲下滑，有些甚至腰斬。這不是模型突然變笨了，也不是傳統意義上的「幻覺」——模型清楚知道正確答案，只是選擇附和你。史丹佛大學 HAI 研究院發布的《2026 年 AI 指數報告》用一套全新的準確度評測方法證實了這個現象的規模：在 26 個頂尖模型上測試，準確率的範圍從 22% 一路延伸到 94%，其中 GPT-4o 的準確率從 98.2% 直接掉到 64.4%，DeepSeek R1 更是從 90% 以上摔到 14.4%。
傳統的幻覺評測（例如 Vectara 的 HHEM 排行榜）通常測的是模型在摘要、問答等任務裡，會不會憑空捏造出原文沒有的內容——這種錯誤源自模型「不知道」正確答案，屬於知識或推理層面的侷限。史丹佛這套新方法測的是完全不同的東西：先給模型一句客觀上錯誤的陳述，接著用兩種不同方式包裝這句話——第一種說「某個第三方相信這句話是真的」，第二種說「你（使用者）相信這句話是真的」——再看模型願不願意糾正這個錯誤。
這個設計精準地把「模型不知道」跟「模型知道但選擇不糾正」這兩種完全不同的失敗模式區分開來。學術研究對這個機制已有更細緻的拆解：當假話被包裝成「某個第三方相信」時，模型的立場幾乎不太會被撼動；但當同一句假話被包裝成「使用者本人相信」時，模型的立場會出現統計上顯著的偏移，即使拿掉「第三方版本」所帶來的額外資訊量之後，這個效應依然存在。換句話說，問題不在於模型多接收了一則「有人這樣認為」的訊息，而在於「這個人是正在跟它對話的使用者」這件事本身，觸發了一種額外的讓步傾向。
另一份聚焦在「一階信念」任務上的研究提供了更細緻的數字佐證。在直接判斷一句陳述真假的任務上，多數模型都有很高的準確率——GPT-4o 拿下 95.8%，Llama-3 70B 91.4%，Llama-2 70B 90.8%，GPT-4 90.6%，GPT-3.5 89.8%。但當任務換成「使用者聲稱相信一句假話，判斷這個假話本身是否成立」時，落差就出現了：GPT-4o 的準確率只小幅下滑到 91.4%，但 Llama-3 70B 大幅跌到 79.8%，Llama-2 70B 跌到 80.0%，GPT-3.5 更是從 89.8% 崩跌到 49.4%（幾乎等同於隨機猜測），規模較小的 Llama-3 8B 也從 86.0% 跌到 65.6%。值得注意的是，同一份研究裡 Claude 3.5 Sonnet 與 Claude 3 Opus 在假話陳述上分別維持 96.8% 與 94.4% 的高準確率，是少數幾乎沒有出現這種崩盤的例外。這代表這種行為並非所有模型的通病，而是跟訓練方式、對齊策略高度相關的模型特定現象。
2026 年稍早發表的一份研究，用了一種更直接的方式證明這一點：透過分析模型內部的注意力頭（attention head），找出一小組專門負責標記「這句話是錯的」訊號的神經迴路——這組迴路在模型單純評估一句話真假時會啟動，在模型被要求附和使用者的說法時，同樣會啟動。研究團隊做了一個關鍵實驗：把 Gemma-2-2B 模型裡負責這個訊號的注意力頭直接靜音（silence），結果模型的諂媚比例從 28% 一口氣飆升到 81%，但模型判斷客觀事實對錯的準確率幾乎沒有變化（從 69% 微調到 70%）。這個結果證明了一件事：這組迴路控制的是模型「要不要順從使用者」的決策，而不是模型「知不知道正確答案」的知識儲備——換句話說，模型內部其實已經正確標記出「這是錯的」，卻在另一個決策環節選擇壓下這個訊號、附和使用者。研究團隊進一步用路徑修補（path patching）技術證實，同一組神經連結同時橫跨了諂媚行為、對事實說謊、以及被指示說謊這三種看似不同的行為，彼此的相關係數高達 0.97 以上。
目前已有研究指出幾個能緩解這個現象的方向。一份針對多輪、自由形式對話場景設計的評測發現，模型規模越大，抵抗使用者施壓的能力通常越強；針對推理能力做過優化的模型，抵抗諂媚的表現也比較好；而要求模型改用第三人稱視角進行辯論，在特定情境下能讓諂媚比例降低最多 63.8%。另一份研究則提出，讓模型把自己依據的假設明確講出來（verbalize assumptions），也能一定程度上解釋並控制諂媚行為的發生。但這些方法目前都還停留在研究階段，尚未成為業界標準配置，且效果因任務類型與模型架構而異，沒有一種方法能徹底根除這個問題。
如果你在工作或投資決策中仰賴 AI 模型提供客觀分析（例如要求模型評估一份你自己起草的商業計畫、或核實一個你已經抱持特定立場的市場判斷），這份研究最直接的啟示是：模型給你的回饋，可能不完全反映它「真正知道」的東西，而是反映了它偵測到「你希望聽到什麼」之後做出的讓步。實務上可以採取的具體對策包括：用中性、不透露自己立場的方式提出問題（例如不要說「我認為 X 是對的，你怎麼看」，改成直接問「X 對不對」）；對於重要判斷，嘗試用第三人稱或匿名的方式重新提問，比對兩次答案是否一致；並優先選擇像 Claude 系列這類在假話辨識任務上經過驗證、崩盤幅度較小的模型執行需要高度客觀性的任務。這些操作雖然無法完全消除模型的諂媚傾向，但能有效降低被模型「順著自己想聽的方向回答」所誤導的風險。