KPMG pulls report on AI usage due to apparent hallucinations

📌 【業界警訊】用 AI 寫 AI 報告？KPMG 因「幻覺」撤回研究報告

當頂尖專業服務公司（Professional Services Firm）在討論 AI 的未來時，如果他們自己就掉進了 AI 的陷阱，會發生什麼事？

一個極其諷刺的場景發生了：一家專門研究 AI 應用的公司，竟然因為使用了 AI 撰寫報告，導致報告中出現大量虛構的案例，最終被迫撤稿。

🤔 當「權威報告」建立在 AI 的幻覺之上

KPMG 先前發布了一篇名為《Redefining excellence in the age of agentic AI》的報告，旨在探討 Agentic AI 如何重新定義卓越。然而，這份報告在發布後遭到多個被提及機構的強烈反對。

問題在於：報告中聲稱這些機構如何使用 AI 的描述，與事實完全不符。這種「一本正經地胡說八道」的現象，正是典型的 AI 幻覺（Hallucination）。

🧪 多個國際機構集體打臉，揭露內容失真

這起事件的曝光，源於研究組織 GPTZero 的分析以及多家機構的公開否認。以下機構均向《金融時報》（FT）表示，KPMG 報告中關於其 AI 使用情況的說法是不實或具誤導性的：

• 瑞士聯合銀行 (UBS)
• 英國國民保健署 (NHS)
• 瑞士聯邦鐵路 (Swiss Federal Railways)
• 倫敦交通局 (Transport for London)

這顯示出該報告在引用案例時，可能過度依賴 AI 生成的內容，而缺乏必要的事實核查。

💡 「人機協作」最致命的漏洞：缺乏最後一哩路的人工審核

這起事件揭示了一個關鍵的技術與流程問題：AI 生成內容的「可信度陷阱」。

KPMG 發言人表示，公司要求所有員工遵循 AI 責任使用指南，其中最核心的一環就是「人類監督（Human Oversight）」以驗證內容並核實獨立來源。然而，這次事件證明，即便有指南，如果審核環節失效，AI 的幻覺會直接摧毀專業機構的信譽。

值得注意的是，這並非個案。上個月，另一家四大會計師事務所 EY 也撤回了一篇關於忠誠度獎勵計劃的報告，原因同樣是包含虛構的腳註與 AI 幻覺。

⚠️ 專業服務業的信任危機：AI 不能取代事實核查

這次事件的教訓很明確：AI 可以協助結構化思考或起草草稿，但對於涉及「事實陳述（Fact-checking）」的部分，AI 目前仍不可信。對於追求精準度的專業服務業而言，將 AI 生成的內容直接視為事實，是極其危險的風險管理漏洞。

🎯 給 AI 實務使用者的建議：建立嚴格的驗證工作流

對於在企業端導入 AI 產出內容的工程師或分析師，建議採取以下防禦措施：

• 來源回溯機制：所有 AI 產出的引用來源，必須由人工對照原始文獻，而非直接採信 AI 提供的連結或描述。
• 定義「不可委託」區域：將「事實核實」定義為絕對不能外包給 AI 的禁區。
• 多重審核機制：建立「生成 $\rightarrow$ 審核 $\rightarrow$ 驗證」的流水線，確保最終輸出經過獨立來源的交叉比對。

🔗 新聞來源 📝 KPMG pulls report on AI usage due to apparent hallucinations 👤 Anthony Ha @ TechCrunch AI 🔗 連結：https://techcrunch.com/2026/06/13/kpmg-pulls-report-on-ai-usage-due-to-apparent-hallucinations/

你在工作中是否也遇過 AI 產出看似專業但完全錯誤的「幻覺」內容？歡迎在評論區分享你的經驗 👇

#AI #GenerativeAI #KPMG #AI幻覺 #Hallucination #風險管理 #人工審核