云杉技术笔记agentspruce
全部笔记

让 AI 只按资料回答:知识库少一条,它就会自己编

做少儿编程机构的课程顾问演示时,有一轮测试问“校区在哪?怎么过去?”。AI 很热情地回答:在“启航大厦”,还附了一个导航链接。问题是资料里根本没有这座大厦,链接也是编的。

为什么会编

知识库里写了地址,但写在一大段机构介绍里,检索时没被“怎么过去”这种问法召回。模型拿不到相关资料,又被要求“热情、有帮助”,就按常识补全了一个看起来合理的答案。

两处修改

  1. 知识库按“问答”写,并把常见问法都列上。
    【机构介绍】
    问:在哪里上课?校区在哪?地址是什么?怎么过去?
    答:线下课都在……3 楼,地铁 1 号线……B 口步行约 5 分钟,
        大厦地下停车场上课期间可免费停 2 小时。
    顾客怎么问,就把那种问法写进去,检索命中率明显提高。
  2. 提示词里写清楚“不做什么”。比如:不提供链接、导航、路线规划;资料里没有的信息,说明会请老师联系,而不是自己补充。

另一个类似的例子

网店客服演示里,买家问“我的快递到哪了”,AI 回复“请提供订单号,我帮您查”。可它根本查不了订单,这句话等于承诺了做不到的事。改成:物流、订单状态类问题一律直接转人工,不索要订单号。

经验:让 AI 只按资料回答,靠的不是一句“不要编造”,而是:资料按问答写全、能力边界写明、做不到的事直接转人工。