WMX · 随记
·AI· 3 分钟阅读

引用检查:来源 ID 存在不代表支持结论

生成答案带了引用标记,容易让读者误以为已经有证据。第一步应确认来源 ID 属于本次提供的材料,但这只是必要条件。

AI 系列概览:模型机制、系统边界与效果评估
AI 系列概览:模型机制、系统边界与效果评估 点击图片查看大图 ↗

问题从哪里出现

生成答案带了引用标记,容易让读者误以为已经有证据。第一步应确认来源 ID 属于本次提供的材料,但这只是必要条件。

理解核心机制

应用可以维护本次检索来源的白名单,检查引用是否越界或为空。进一步的支持关系需要对照原文判断,不能仅凭标记格式自动认定。

动手做一个小实验

Python 3.11 或更新版本,仅使用标准库;将示例保存为 demo.py 后执行 python3 demo.py。数字与样本均为教学演示,不代表真实模型或服务器的测量结果。

Python7 行 · 可横向滚动
sources = {"doc-1": "Retry policy uses a maximum of three attempts.",
           "doc-2": "Logs are retained for seven days."}
cited = ["doc-1", "doc-9"]
unknown = [identifier for identifier in cited if identifier not in sources]
assert unknown == ["doc-9"]
print("unknown references:", unknown)
print("membership alone does not establish support")

适用边界与常见误区

同一文档的不同版本可能给出不同结论,引用应保留版本和段落定位。真实来源也可能被断章取义,因此需要按具体主张复核。

继续练习

创建三种答案:不存在的 ID、存在但无关的 ID、确实支持主张的段落,分别设计检查与人工复核流程。

参考资料

阅读相关官方文档或原始资料 ↗

← 返回文章归档