GPT-4仍存在幻觉和推理错误与校准下降等问题

GPT-4 仍存在“幻觉”和推理错误。幻觉指的是产生与某些来源有关的无意义或不真实的 内容。但是，与 GPT-3.5 模型相比，GPT-4 显著减少了幻觉，并在内部的对抗性事实性评 估中，在所有项的准确率均分比新的 GPT-3.5 G出 19pct。

与 ChatGPT 类似，GPT-4 写 的训练数据均是 2021 年 9 月之前的，因此缺乏对该日期之后的知识的掌握，会犯一些简单 的推理错误，接受用户的明显错误陈述，或在在生成的代码中存在安全漏洞。

RLHF显著提G了 GPT-4在 TruthfulQA公共基准测试上的表现，但程度仍欠佳。TruthfulQA 基准测试了模型从对抗选择的一组不正确的语句中分离事实的能力。GPT-4 基本模型在 TruthfulQA基准上的表现略好于GPT-3.5。经过RLHF训练后，GPT-4相比于同样经过RHLF 的 GPT-3.5-turbo 在准确率上超 10pct。但是，即使经过 RLHF 训练，GPT-4 在 TruthfulQA 上的准确率也只有 60%，未达到更G水平。