即使是最先进的语言模型（例如 Claude），有时也可能生成与事实不符或与给定上下文不一致的文本。这种被称为“hallucination”（幻觉）的现象可能会削弱您的 AI 驱动解决方案的可靠性。 本指南探讨了最大限度减少幻觉并确保 Claude 输出准确可信的技术。

基本的幻觉最小化策略

  • 允许 Claude 说“我不知道”： 明确允许 Claude 承认不确定性。这一技术可以大幅减少虚假信息。
示例：分析并购报告

User

As our M&A advisor, analyze this report on the potential acquisition of AcmeCo by ExampleCorp.

<report>
{{REPORT}}
</report>

Focus on financial projections, integration risks, and regulatory hurdles. If you're unsure about any aspect or if the report lacks necessary information, say "I don't have enough information to confidently assess this."
  • 使用直接引用作为事实依据： 对于涉及长文档（>20k 令牌）的任务，请让 Claude 在执行任务之前先逐字提取引文。这会使其回答以实际文本为依据，从而减少幻觉。
示例：审核一份数据隐私政策

User

As our Data Protection Officer, review this updated privacy policy for GDPR and CCPA compliance.
<policy>
{{POLICY}}
</policy>

1. Extract exact quotes from the policy that are most relevant to GDPR and CCPA compliance. If you can't find relevant quotes, state "No relevant quotes found."

2. Use the quotes to analyze the compliance of these policy sections, referencing the quotes by number. Only base your analysis on the extracted quotes.
  • 通过引用来源进行验证： 让 Claude 为其每个论断引用原文和来源，使其回答可供审核。您还可以让 Claude 在生成回答后，通过查找支持性引文来验证每个论断。如果找不到引文，它必须撤回该论断。
示例：起草一份产品发布新闻稿

User

Draft a press release for our new cybersecurity product, AcmeSecurity Pro, using only information from these product briefs and market reports.
<documents>
{{DOCUMENTS}}
</documents>

After drafting, review each claim in your press release. For each claim, find a direct quote from the documents that supports it. If you can't find a supporting quote for a claim, remove that claim from the press release and mark where it was removed with empty [] brackets.

高级技巧

  • 思维链验证： 使用带有 display: "summarized" 的 thinking（思考），并在答案看起来有误时查看 thinking 块中的推理摘要。这可以揭示错误的逻辑或假设。

  • Best-of-N 验证： 使用相同的提示多次运行 Claude，并比较输出结果。输出之间的不一致可能表明存在幻觉。

  • 迭代改进： 将 Claude 的输出用作后续提示的输入，要求它验证或扩展之前的陈述。这可以发现并纠正不一致之处。

  • 限制外部知识： 明确指示 Claude 仅使用所提供文档中的信息，而不使用其通用知识。

注意

请记住，尽管这些技术能显著减少幻觉，但并不能完全消除幻觉。请始终验证关键信息，尤其是在做出高风险决策时。