引用检查:来源 ID 存在不代表支持结论
生成答案带了引用标记,容易让读者误以为已经有证据。第一步应确认来源 ID 属于本次提供的材料,但这只是必要条件。
问题从哪里出现
生成答案带了引用标记,容易让读者误以为已经有证据。第一步应确认来源 ID 属于本次提供的材料,但这只是必要条件。
理解核心机制
应用可以维护本次检索来源的白名单,检查引用是否越界或为空。进一步的支持关系需要对照原文判断,不能仅凭标记格式自动认定。
动手做一个小实验
Python 3.11 或更新版本,仅使用标准库;将示例保存为 demo.py 后执行 python3 demo.py。数字与样本均为教学演示,不代表真实模型或服务器的测量结果。
sources = {"doc-1": "Retry policy uses a maximum of three attempts.",
"doc-2": "Logs are retained for seven days."}
cited = ["doc-1", "doc-9"]
unknown = [identifier for identifier in cited if identifier not in sources]
assert unknown == ["doc-9"]
print("unknown references:", unknown)
print("membership alone does not establish support")适用边界与常见误区
同一文档的不同版本可能给出不同结论,引用应保留版本和段落定位。真实来源也可能被断章取义,因此需要按具体主张复核。
继续练习
创建三种答案:不存在的 ID、存在但无关的 ID、确实支持主张的段落,分别设计检查与人工复核流程。