每次有人问"你们的 AI 能不能自己上网查证",我都要先解释一遍我们为什么不这么做。
这个决定不是省事,是主动放弃了一个看起来很诱人的卖点。
联网核实听起来是升级,其实是换了问题
假设 AI 拿到你的一句引用,去网上搜了一圈,回来告诉你:"这句话是真的,来源可靠。"
那么它现在回答的,是这个世界是不是这样。
而你写文章时真正需要确认的是:我引的那段原文,是不是这个意思。
这是两个完全不同的问题。第二个问题,只有你和你的原文知道答案。网上的信息再多,也不能替你证明"你引的这段话支持你说的这个结论"——因为那取决于原文具体怎么写的,不取决于这个话题的普遍看法。
更大的问题:它会开始猜
语言模型一旦被要求"核实事实",它就必须在一个它并不掌握的信息空间里给出判断。它没有别的办法,只能补。
补出来的东西,格式往往很漂亮:作者、年份、期刊、页码,一应俱全。你去查,查不到。
这不是模型不够强。这是任务定义本身有问题——你把一个"没有依据也要给答案"的要求,交给了一个必然会满足要求的系统。
我们选择了边界更窄的那条
现在的做法是:AI 只对照你自己划过、存下来的那段原文。
它会说:
你这一段写的"显著提升",原文里只有"有所改善",措辞比材料满。
它不会说"这个结论是对的"。
前者是可验证的,你能点回原文自己看一眼;后者不可验证,只能信或不信。一个要么全信要么不信的功能,坏一次就再也没人用了。
代价是什么
代价是这个功能听起来没那么厉害。
"帮你核实事实"比"帮你对回原文"好听得多。但我们算过这笔账:写作这件事里,一次假引用造成的损失,远大于一百次没帮上忙。
所以我们把它做窄了,窄到只做一件能当场验证的事。