Beyond Hallucinations: The Illusion of Understanding in Large Language Models

文章总结与翻译

一、主要内容

本文聚焦大型语言模型（LLMs）在人类生活中深度融合背景下的核心认知挑战——LLMs虽能生成连贯流畅的文本，但其本质是基于统计词频模式预测，而非真正的接地推理，这导致“幻觉”（事实错误但语言流畅的输出）及更广泛的“理解幻觉”问题。

文章核心观点为：LLMs模仿人类的“系统1认知”（快速、联想、情绪化但缺乏反思），而非“系统2认知”（慢速、分析、自我校正），因此继承了人类语言的模糊性、偏见及认知陷阱。基于此，作者提出三维分析框架Rose-Frame，从三个维度诊断人机交互中的认知偏差：

1. 地图与疆域（Map vs. Territory）：区分对现实的表征（认识论）与现实本身（本体论），避免将LLM的语言输出等同于客观事实；
2. 直觉与推理（Intuition vs. Reason）：基于双加工理论，区分快速情绪化判断与慢速反思性思考，警惕将LLM的语言流畅性误解为真正理解；
3. 冲突与确认（Conflict vs. Confirmation）：区分通过异议进行批判性检验与通过共识强化信念，避免将“彼此认同”等同于“正确”。

文章通过Google工程师与LaMDA的对话案例，验证了三个认知陷阱同时作用时会导致“认知漂移”，形成自我强化的错误循环。最后提出，解决LLM问题的关键并非通过更多数据或规则“修复”模型，而是通过Rose-Frame实现“认知治理”——让人类的系统2推理主导人机交互中的直觉（包括人类自身与AI的直觉），确保语言流畅性被