
别再堆提示词:上下文设计的四个层次
系统指令、检索内容、工具结果与对话历史各自承担什么职责。
当模型输出不稳定时,最常见的反应是继续加长提示词。但一个成熟的 AI 应用通常不是靠一段万能指令工作,而是把不同类型的信息放在合适的位置。
一、系统指令:定义稳定边界
系统指令负责角色、目标、禁止事项与输出原则。它应该短而稳定,不承担每天变化的业务知识。规则之间若有冲突,再长的提示词也不会变得更可靠。
二、检索内容:提供当下事实
产品文档、政策和用户数据应按需检索,而不是全部塞进固定提示词。检索结果需要来源、时间和清晰边界,帮助模型区分证据与指令。
三、工具结果:连接外部世界
查询库存、执行计算或读取日历,适合通过结构化工具完成。工具 schema 越明确,模型越不容易猜测参数。返回值也应只包含完成当前决策所需的字段。
四、对话历史:保留必要状态
无限累积历史既昂贵,也会把过期信息重新带入决策。保留用户已经确认的偏好和未完成事项,压缩闲聊与重复内容,是比盲目扩大上下文窗口更有效的办法。
所谓上下文工程,本质上是信息架构:让正确的信息,在正确的时刻,以模型容易使用的形式出现。