15 條虛構引用,埃森哲說錯在人為:「不用 AI 就淘汰」的公司,最難承認 AI 出錯
GPTZero 指埃森哲與 IE 大學合作報告含 15 條涉嫌虛構的引用,公司堅稱錯誤源於人為;本文從兩種假引用的不可分辨、雙方的利益位置與同業前例,整理這場歸因之爭的讀法與後續可核對的訊號。
埃森哲承認報告有錯、正在修正,卻堅決否認與 AI 幻覺有關。這句否認值得細讀:一家把 AI 使用寫進員工去留條件的顧問公司,在錯誤歸因這一題上,可輸的本錢比誰都多。
先看否認,再看引用
去年,埃森哲執行長朱莉·斯威特說過一句重話:作為公司 AI 轉型的一部分,沒能使用這項技術的顧問,將被公司「淘汰」。今年 11 月上旬,GPTZero 發布分析,指埃森哲一份研究報告涉嫌包含 15 條虛構引用,以及完全捏造的案例研究。埃森哲的回應同樣明確:錯誤源於人為失誤,沒有證據支持與 AI 幻覺有關。
一家把 AI 使用寫進員工去留條件的顧問巨頭,在自家報告出錯時選擇與 AI 切割。這個選擇,比那 15 條引用本身更值得停下來看。
出事的報告名為《跨越式發展》,由埃森哲與馬德裏 IE 大學的研究人員合作發布,主題是 AI 如何提升非洲農業產業的生產力。GPTZero 的分析指出,報告中 15 條引用涉嫌虛構,案例研究疑似整段捏造。埃森哲發言人對此提出異議,聲明全文是:「我們的審查顯示,報告中發現的錯誤源於人為失誤。沒有證據支持這些錯誤由 AI 幻覺造成的結論。我們正在修正這份報告,並將在重新發布前完成相關工作。我們始終歡迎藉此機會提升報告品質。」
這段聲明有兩層。錯誤的存在,埃森哲沒有爭辯,報告也進入修正流程。雙方分歧只剩歸因:假引用是人生出來的,還是模型生出來的。而這一題,對埃森哲的意義遠大於對讀者。
兩種假引用長得一樣,而雙方各取所需
虛構引用有兩種常見來源。一種出自人:作者抄錯出處、張冠李戴,引用二手轉述而沒有回查原文。另一種出自模型:生成式 AI 在缺乏可靠來源時,會流暢地編出一條格式完整的引用,撰稿者沒有逐條核對就放行。兩種機制產出的成品,從外觀上幾乎無法區分,都是格式齊整、查無此文。
這給了埃森哲否認的空間,也給了 GPTZero 立論的空間。從外部證據看,任一種解釋都無法被排除。真正的分歧在利益:GPTZero 的本業是 AI 文本偵測,把問題指向 AI,對它的生意有利;埃森哲的本業是幫客戶導入 AI,把問題指向人,對它的生意有利。談 AI 的公司,表態位置往往跟著生意走,我們先前整理過Hugging Face 執行長把 AI 風險指向關起門的大公司的發言脈絡,讀法在這裡可以沿用。
埃森哲押在 AI 上的籌碼,從兩個事實看得出來。執行長那句「淘汰」,把 AI 使用從工具選擇升級成去留條件。而上個月,公司才因為員工使用需求過於旺盛,被迫對內部 AI 工具設下新限制,此前部分員工使用 Claude 等工具的每月帳單超過 1,000 美元。一頭是強制推廣,一頭是用量爆到要設限,這家公司對 AI 的投入程度,在專業服務業裡排在最前段。
在這個背景下,承認旗艦研究出現 AI 幻覺,等於在自家最賣力的產品線上公開展示失誤模式。把錯誤定位在人為,事故就被收縮在個別環節,AI 轉型顧問這門生意的主敘事不受影響。這個否認未必違心,但它無論如何都是商業上最合理的選項,這一點本身就說明了問題所在。
假引用不會停在原報告裡
GPTZero 在說明這次分析時,把虛構引用稱為對研究人員、學者、顧問、學生,以及任何透過網路搜尋資訊的人「迫在眉睫的現實威脅」。理由在傳播路徑:一份掛著埃森哲與大學名號的報告,會被搜尋引擎收錄,被後續文章引用,被放進簡報與教材,也可能被聊天機器人抓去做答案的來源。每經一手,假引用就多一層看起來可信的包裝。
這也不是顧問業第一次出事。德勤、安永、畢馬威與普華永道,先前都曾被指在報告中出現 AI 錯誤。收費更高的律師事務所同樣中招:英國大型律所 Pinsent Masons 承認,提交給英國高等法院的法律文件包含 AI 幻覺內容;律師收費最高達每小時 3,000 美元的 Sullivan & Cromwell,也在今年稍早承認提交給紐約一家法院的文件存在 AI 錯誤。差別在於,法院文件有法庭與對造律師盯著,錯誤相對容易被抓出來;顧問報告進入的是無人逐條查核的流通,往往要靠第三方主動抽查才會曝光,這次就是 GPTZero 抽查的結果。
修正版與後續可核對的訊號
接下來有幾個訊號可以依序核對。第一是修正版報告。埃森哲說會在重新發布前完成修正,屆時那 15 條引用是換成查得到的來源,還是整段刪除,兩種處理傳達的訊息不同。換成真來源,等於承認原稿的查核流程失守;整段拿掉,則連來源問題一併迴避。
第二是 IE 大學端的表態。這份報告掛著大學研究人員的名字,學術信譽的計價方式與商業公司不同,校方或共同作者是否單獨說明研究與撰稿流程、是否對外公布內部調查,是判斷事件性質的關鍵。目前對外發聲的只有埃森哲。
第三是揭露標準的變化。事件過後,顧問業會不會開始在報告裡交代 AI 參與了哪些環節、引用經過什麼程序核對,會比任何否認聲明更能反映產業的真實態度。現況是多數報告對此一字不提,讀者只能事後猜。
另一個更慢的變化已經在發生:當 AI 撰寫成為預設懷疑,內容出錯的第一嫌疑犯就換了人。這個機制在王子璇的走心發言先被懷疑是 AI 寫的那場爭議裡演過一遍,差別在於綜藝發言只需要自證情感,研究報告要自證每一條引用都存在,後者的舉證成本高得多。
對讀者的可用判斷很樸素:掛著大牌機構名字的研究,引用欄從此值得抽查,AI 主題的研究尤其如此。這份報告講的是 AI 如何提升非洲農業生產力,結果先在引用欄失守,無論錯在人還是錯在模型,引用它的人都需要重新估計驗證成本。這筆成本過去由機構品牌吸收,現在回到了每一次使用的現場。