基于知识图谱 (KG) 的对话通常使用大型预训练模型，并且通常会出现事实幻觉。在知识源和对话历史中没有引用的实体经常被引入响应中，从而阻碍了对话的流动——现有的工作试图通过调整培训程序或使用多步优化方法来解决这个问题。然而，构建实体级幻觉检测系统的努力很少，该系统将提供细粒度的信号来控制错误的内容，同时产生响应。作为解决这个问题的第一步，我们深入研究通过人类反馈分析来识别基于 KG 的聊天机器人的各种幻觉模式。第二，我们提出了一系列扰动策略来创建名为 FADE（FActual Dialogue Hallucination DEtection Dataset）的合成数据集。最后，我们进行了全面的数据分析，并创建了多个用于幻觉检测的基线模型，以与经过人类验证的数据和已经建立的基准进行比较。



"点击查看英文标题和摘要"