驯服AI的"白日梦":十大策略让大模型幻觉无所遁形

你: 2024年诺贝尔物理学奖是因为什么发现而颁发的?
 
ChatGPT: 2024年诺贝尔物理学奖颁发给了一组科学家,以表彰他们在
量子重力波领域的开创性发现。这项发现解决了量子力学与广义相对论
之间长期存在的不一致问题,为理解宇宙的基本构造提供了新的视角...
 
你: ??? (这完全是编的啊!)

问题: 第一个登上月球的人是谁?
 
❌ 幻觉回答:
第一个登上月球的人是Charles Lindbergh,他在1951年执行Lunar Pioneer
任务时创造了历史。他的月球漫步是人类精神的见证...
 
✅ 正确答案:
Neil Armstrong是第一个登上月球的人,时间是1969年,执行的是Apollo 11任务。

上下文: 2023年10月初,以色列和哈马斯之间爆发战争,哈马斯武装分子
发射火箭...占领加沙的伊斯兰激进组织...平民伤亡。
 
问题: 请总结以上新闻文章
 
❌ 幻觉回答:
2006年10月,以色列在一次意外袭击后向哈马斯宣战,导致持续的暴力...
 
✅ 正确回答:
2023年10月,以色列和哈马斯爆发冲突...

数据问题 = 用变质的食材做菜

如果训练数据中有100篇文章错误地说"番茄是蔬菜",
那么模型很可能也会认为"番茄是蔬菜"(实际上是水果)

传统自回归模型:
只看前面的词 → 预测下一个词 → 只看前面的词 → ...
 
问题: 无法"回头看",缺乏全局理解

训练时: 看到的永远是"正确答案"
推理时: 要基于"自己生成的内容"继续生成
 
结果: 一旦出错,错误会累积放大

模型在微调时过度迎合人类偏好:
 
人类偏好: 回答要详细、有条理、语气友好
模型学到: 即使不确定也要给出"看起来完美"的答案
 
结果: 为了满足"完美回答"的期望,宁可编造也不说"不知道"

生成文本时的随机采样:
 
temperature = 0.8  # 较高的随机性
→ 每次生成都可能不同
→ 有时会"碰巧"生成错误内容

模型在生成时:
- 对相邻的文本关注度高 ✅
- 对较远的上下文关注度低 ❌
 
结果: 可能忽略前面提到的重要约束条件

输出层的表达能力受限:
所有可能的输出 → 压缩到概率分布 → 信息损失
 
结果: 细微但重要的区别可能被"抹平"

         大模型幻觉
              ↓
    ┌─────────┼─────────┐
    ↓         ↓         ↓
  数据源     训练过程    推理阶段
    ↓         ↓         ↓
 错误信息   架构缺陷   抽样随机性
 重复偏见   曝露偏差   上下文不足
 社会偏见   对齐偏差   Softmax瓶颈

❌ 糟糕的Prompt:
介绍一下Chain of Thought提示技术
 
AI可能: 基于模糊记忆编造内容
 
✅ 优化的Prompt:
请根据这个文档介绍Chain of Thought技术
https://www.learnprompt.pro/article/promptCOT
 
[附上文档链接或完整内容]
 
AI会: 基于提供的文档准确回答

# RAG(检索增强生成)模式
def answer_with_reference(question, knowledge_base):
    # 1. 检索相关文档
    relevant_docs = retrieve(question, knowledge_base)
 
    # 2. 构建Prompt
    prompt = f"""
    基于以下文档回答问题,如果文档中没有相关信息,明确说明"文档中未提及"。
 
    文档:
    {relevant_docs}
 
    问题: {question}
    """
 
    return llm.generate(prompt)

C - Character (角色): 你是谁
R - Request (请求): 要做什么
E - Examples (示例): 给出参考
A - Adjustments (调整): 注意事项
T - Type of output (输出格式): 期望的结果格式
E - Extras (额外信息): 补充说明

【C - Character 角色】
您是一位经验丰富的翻译专家,擅长将文本从英语翻译成中文。
 
【R - Request 请求】
请将下面的英文段落翻译成中文。
 
[在此处插入英文文本]
 
【A - Adjustments 注意事项】
在翻译时,请注意保持原文的语气和文化背景,同时确保中文表达流畅自然。
 
【T - Type of output 输出格式】
提供一段流畅、准确的中文翻译文本。
 
【E - Extras 额外说明】
如果原文中包含特定的术语或文化独特之处,请在翻译旁边简要解释。

❌ 直接提问:
一个农场有鸡和牛,总共35头,94只脚,有多少鸡和牛?
 
AI: 23只鸡和12头牛
 
✅ 使用CoT:
解决这个数学问题,请一步步思考:
一个农场有鸡和牛,总共35头,94只脚,有多少鸡和牛?
 
问题理解:
首先确认理解了问题。这个问题是关于什么的?
 
分解问题:
描述解决这个问题需要考虑哪些因素?
 
建立方程:
你如何用数学方程来表示这个问题?
 
解方程:
描述一下解这些方程的步骤。
 
得出结论:
根据你的计算,农场里有多少只鸡和多少头牛?

理解问题: 这是一个关于鸡和牛数量的数学问题。
需要根据总头数和总脚数来计算鸡和牛各有多少。
 
分解问题:
需要考虑的因素包括:
1) 鸡和牛的总头数 (35头)
2) 鸡和牛的总脚数 (94只脚)
3) 鸡有2只脚,牛有4只脚
 
建立方程:
设鸡的数量为x,牛的数量为y。可以建立两个方程:
- x + y = 35 (头方程)
- 2x + 4y = 94 (脚方程)
 
解方程:
首先可以从头方程得出 y = 35 - x,
然后代入脚方程中。通过求解这个方程组,
可以得到鸡和牛的具体数量。
 
结论: 根据解方程的结果,农场里有23只鸡和12头牛。

任务: 分析市场趋势并预测未来变化
 
❌ 一次性提问:
分析当前市场趋势并预测未来6个月的变化
 
问题: 太复杂,容易出现幻觉
 
✅ 任务分解:
 
步骤1: 分析当前市场趋势
→ 输出1: 当前趋势报告
 
步骤2: 基于当前趋势预测未来变化
输入: 步骤1的输出
→ 输出2: 未来预测报告

def complex_task_with_chain(market_data):
    # 子任务1: 分析当前趋势
    prompt1 = f"""
    分析以下市场数据的当前趋势:
    {market_data}
 
    只需要分析当前状态,不要预测未来。
    """
    current_analysis = llm.generate(prompt1)
 
    # 子任务2: 基于分析预测未来
    prompt2 = f"""
    基于以下市场趋势分析:
    {current_analysis}
 
    预测未来6个月可能的变化。
    """
    future_prediction = llm.generate(prompt2)
 
    return {
        "current": current_analysis,
        "future": future_prediction
    }

(a) 一次性检索 (One-time Retrieval)
Query → Retrieve → LLM → Answer
 
(b) 迭代检索 (Iterative Retrieval)
Query → Retrieve → LLM → Retrieve → LLM → Answer
 
(c) 事后检索 (Post-hoc Retrieval)
Query → LLM → Answer → Retrieve → Revisor → Final Answer

def rag_answer(question, knowledge_base):
    """
    检索增强生成
    """
    # 1. 检索相关文档
    docs = semantic_search(question, knowledge_base, top_k=3)
 
    # 2. 构建增强Prompt
    context = "\n\n".join([doc.content for doc in docs])
 
    prompt = f"""
    请基于以下参考资料回答问题。
    如果参考资料中没有相关信息,请明确告知"参考资料中未找到相关信息"。
 
    参考资料:
    {context}
 
    问题: {question}
 
    请提供准确的答案,并注明信息来源。
    """
 
    answer = llm.generate(prompt)
 
    return {
        "answer": answer,
        "sources": [doc.title for doc in docs]
    }

def iterative_improvement(prompt, user_feedback):
    """
    根据用户反馈迭代改进
    """
    max_iterations = 3
 
    response = llm.generate(prompt)
 
    for i in range(max_iterations):
        feedback = get_user_feedback(response)
 
        if feedback == "satisfactory":
            break
 
        # 改进Prompt
        improved_prompt = f"""
        之前的回答:
        {response}
 
        用户反馈:
        {feedback}
 
        请根据用户反馈改进回答。
        """
 
        response = llm.generate(improved_prompt)
 
    return response

def detect_self_contradiction(response):
    """
    检测回答中的自相矛盾
    """
    check_prompt = f"""
    请检查以下文本是否存在自相矛盾的地方:
 
    {response}
 
    如果发现矛盾,请指出具体位置。
    如果没有矛盾,回答"未发现矛盾"。
    """
 
    contradiction_check = llm.generate(check_prompt)
 
    if "未发现矛盾" not in contradiction_check:
        # 有矛盾,要求重新生成
        return fix_contradiction(response, contradiction_check)
 
    return response

原始文档:
人工智能正在改变世界。机器学习是AI的核心。
深度学习带来了突破。
 
改进为:
[AI技术] 人工智能正在改变世界。
[AI技术-机器学习] 机器学习是AI的核心。
[AI技术-深度学习] 深度学习带来了突破。
 
效果: 增强模型对事实关联的理解

过度对齐的模型:
用户: Python 3.12有哪些新特性?
模型: [即使知识截止前没有3.12,也会编造一些]
 
改进后的模型:
用户: Python 3.12有哪些新特性?
模型: 抱歉,我的知识截止于2023年,无法提供Python 3.12的信息。

# 通过引导模型内部激活状态来减少幻觉
def activation_guided_generation(prompt, truthfulness_weight=1.5):
    """
    激活引导生成
    """
    # 增强"真实性"相关神经元的激活
    # 抑制"创造性"相关神经元的激活
 
    response = llm.generate(
        prompt,
        activation_guidance={
            "truthfulness": truthfulness_weight,
            "creativity": 0.5
        }
    )
 
    return response

def context_aware_decoding(prompt, context, alpha=0.5):
    """
    上下文感知解码
    """
    # 计算两个概率分布
    with_context_logits = model(prompt + context)
    without_context_logits = model(prompt)
 
    # 调整输出分布,减少对先验知识的依赖
    adjusted_logits = (
        with_context_logits
        - alpha * without_context_logits
    )
 
    return sample(adjusted_logits)

def consistency_enhanced_decoding(prompt, num_samples=5):
    """
    通过自一致性提升忠实度
    """
    # 生成多个回答
    responses = [llm.generate(prompt) for _ in range(num_samples)]
 
    # 检查一致性
    consistency_check = f"""
    以下是对同一问题的{num_samples}个回答:
 
    {'\n\n'.join([f"回答{i+1}: {r}" for i, r in enumerate(responses)])}
 
    请找出这些回答中最一致、最可靠的核心观点。
    """
 
    final_answer = llm.generate(consistency_check)
 
    return final_answer

class HallucinationResistantQA:
    """
    抗幻觉问答系统
    """
 
    def __init__(self, llm, knowledge_base):
        self.llm = llm
        self.kb = knowledge_base
        self.confidence_threshold = 0.7
 
    def answer(self, question):
        """
        主流程:多策略组合
        """
        # 策略1: RAG检索
        relevant_docs = self.retrieve_documents(question)
 
        if not relevant_docs:
            return self.handle_no_source(question)
 
        # 策略2: 构建结构化Prompt
        prompt = self.build_structured_prompt(question, relevant_docs)
 
        # 策略3: 使用CoT推理
        cot_prompt = self.add_cot_instruction(prompt)
 
        # 策略4: 生成答案
        answer = self.llm.generate(cot_prompt)
 
        # 策略5: 自我验证
        verified_answer = self.self_verification(answer, relevant_docs)
 
        # 策略6: 不确定性评估
        confidence = self.estimate_confidence(verified_answer)
 
        if confidence < self.confidence_threshold:
            return self.hedge_answer(verified_answer, confidence)
 
        return verified_answer
 
    def retrieve_documents(self, question):
        """
        检索相关文档
        """
        return semantic_search(question, self.kb, top_k=3)
 
    def build_structured_prompt(self, question, docs):
        """
        构建结构化Prompt
        """
        context = "\n\n".join([doc.content for doc in docs])
 
        return f"""
        你是一个谨慎的AI助手,只基于提供的参考资料回答问题。
 
        参考资料:
        {context}
 
        问题: {question}
 
        要求:
        1. 只使用参考资料中的信息
        2. 如果参考资料不足以回答,明确说明
        3. 给出信息来源的具体位置
        """
 
    def add_cot_instruction(self, prompt):
        """
        添加思维链指令
        """
        return prompt + "\n\n请一步步思考并回答:"
 
    def self_verification(self, answer, docs):
        """
        自我验证
        """
        verify_prompt = f"""
        回答: {answer}
 
        参考资料: {docs}
 
        请验证回答是否与参考资料一致。
        如果发现不一致,请纠正。
        """
 
        verified = self.llm.generate(verify_prompt)
        return verified
 
    def estimate_confidence(self, answer):
        """
        估计置信度
        """
        # 使用多种方法估计
        # 1. 生成多个版本,计算一致性
        # 2. 检查是否有"可能"、"也许"等不确定词汇
        # 3. 验证与源文档的匹配度
 
        return 0.85  # 示例
 
    def handle_no_source(self, question):
        """
        没有找到参考资料时的处理
        """
        return f"抱歉,我在知识库中没有找到关于'{question}'的相关信息。"
 
    def hedge_answer(self, answer, confidence):
        """
        低置信度时的保守回答
        """
        return f"""
        基于现有信息,我的回答是:
        {answer}
 
        但我对此的置信度较低({confidence:.2%}),
        建议您验证此信息的准确性。
        """

# 初始化系统
qa_system = HallucinationResistantQA(
    llm=my_llm,
    knowledge_base=my_knowledge_base
)
 
# 提问
question = "Chain of Thought是什么?"
answer = qa_system.answer(question)
 
print(answer)

搜索引擎: 0%幻觉 + 100%事实 = 没有创造力
LLM:      100%幻觉 + ?%事实 = 创造力来源

LLM本身:
- 是一个"造梦机"
- 幻觉是其固有特性
- 提供了创造力的基础
 
LLM助手(如ChatGPT):
- 是一个复杂的系统(LLM + RAG + 工具 + 验证)
- 应该减少幻觉
- 我们有很多方法可以解决

1. RAG - 通过上下文学习将梦境锚定在真实数据中
2. 多重采样 - 检测不一致性
3. 反思机制 - 让模型自我验证
4. 验证链 - 逐步验证推理过程
5. 不确定性解码 - 从激活中解码不确定性
6. 工具使用 - 让LLM调用可靠的外部工具

任务: 查询历史事件、科学事实、产品参数
 
推荐策略:
✅ RAG(策略5) - 必须基于可靠数据源
✅ 引用信息(策略1) - 提供权威文档
✅ 验证循环 - 交叉验证答案
✅ 明确指令 - "如果不确定,说不知道"
 
避免:
❌ 纯生成式回答
❌ 过高的temperature参数
❌ 没有引用来源

基于以下权威资料回答问题:
[权威文档]
 
问题: {question}
 
要求:
1. 只使用提供的资料中的信息
2. 必须注明具体出处
3. 如果资料中没有,明确回答"资料中未提及"
4. 绝对不要猜测或推断
 
回答:

任务: 创意写作、头脑风暴、剧本创作
 
推荐策略:
✅ 高temperature - 鼓励创造性
✅ 任务分解(策略4) - 确保逻辑连贯
✅ 思维链(策略3) - 保持内部一致性
 
可以容忍:
✓ 虚构的情节和人物
✓ 假设性的场景
✓ 创造性的比喻
 
但仍需避免:
❌ 自相矛盾
❌ 逻辑混乱
❌ 违背基本常识

任务: API文档、代码注释、技术教程
 
推荐策略:
✅ 结构化Prompt(策略2) - 明确格式要求
✅ 代码验证 - 确保代码可运行
✅ 示例约束 - 提供正确的示例模板
✅ 版本明确 - 指定具体的技术版本
 
关键检查点:
- 函数签名是否正确
- 参数类型是否匹配
- 返回值是否准确
- 示例代码能否运行

为以下API编写技术文档:
 
API信息:
- 名称: {api_name}
- 版本: {version}
- 源代码: {source_code}
 
要求:
1. 基于实际源代码编写
2. 函数签名必须准确
3. 参数说明要完整
4. 提供可运行的示例代码
5. 不要假设未在源码中出现的功能
 
文档格式:
### 函数签名
### 参数说明
### 返回值
### 示例代码
### 注意事项

✅ 基础层(必须做到):
- [ ] 明确告知用户AI可能出错
- [ ] 提供信息来源和引用
- [ ] 设置不确定性提示("我不确定")
- [ ] 建立人工审核流程(关键场景)
 
✅ 提示工程层(成本低,见效快):
- [ ] 使用RAG提供参考资料
- [ ] 采用结构化Prompt模板
- [ ] 应用思维链引导推理
- [ ] 实施任务分解和链式提示
- [ ] 添加示例和约束条件
 
✅ 系统设计层(需要开发):
- [ ] 实现检索增强生成
- [ ] 建立多重验证机制
- [ ] 记录中间推理过程
- [ ] 提供置信度评分
- [ ] 支持用户反馈改进
 
✅ 高级优化层(模型层面):
- [ ] 选择幻觉率更低的模型
- [ ] 调整temperature等参数
- [ ] 实施上下文感知解码
- [ ] 使用自一致性采样

立即可用(今天就做):
1️⃣ 使用RAG提供参考资料
2️⃣ 构建结构化Prompt模板
3️⃣ 应用思维链技术
4️⃣ 明确告知"如果不确定,说不知道"
 
短期优化(一周内):
5️⃣ 实施任务分解和链式提示
6️⃣ 建立验证和反馈机制
7️⃣ 添加置信度评估
 
长期规划(持续改进):
8️⃣ 建立知识库和检索系统
9️⃣ 优化模型选择和参数
🔟 建立质量监控体系

LLM就像一个天才的梦想家:
- 它的"梦"可以是灵感的源泉
- 也可能是危险的幻觉
 
我们的工作不是阻止它做梦,
而是引导它在正确的时候做正确的梦。