文章列表别再堆提示词:上下文设计的四个层次
玻璃板上绘制的流程图与便签
玻璃板上绘制的流程图与便签

别再堆提示词:上下文设计的四个层次

系统指令、检索内容、工具结果与对话历史各自承担什么职责。

当模型输出不稳定时,最常见的反应是继续加长提示词。但一个成熟的 AI 应用通常不是靠一段万能指令工作,而是把不同类型的信息放在合适的位置。

一、系统指令:定义稳定边界

系统指令负责角色、目标、禁止事项与输出原则。它应该短而稳定,不承担每天变化的业务知识。规则之间若有冲突,再长的提示词也不会变得更可靠。

二、检索内容:提供当下事实

产品文档、政策和用户数据应按需检索,而不是全部塞进固定提示词。检索结果需要来源、时间和清晰边界,帮助模型区分证据与指令。

三、工具结果:连接外部世界

查询库存、执行计算或读取日历,适合通过结构化工具完成。工具 schema 越明确,模型越不容易猜测参数。返回值也应只包含完成当前决策所需的字段。

四、对话历史:保留必要状态

无限累积历史既昂贵,也会把过期信息重新带入决策。保留用户已经确认的偏好和未完成事项,压缩闲聊与重复内容,是比盲目扩大上下文窗口更有效的办法。

所谓上下文工程,本质上是信息架构:让正确的信息,在正确的时刻,以模型容易使用的形式出现。