系统提示词(System Prompt)
对话开始前给模型定的“人设与规则”:语气、边界、输出格式都写在这里,比普通提问约束力更强。套壳产品的内核往往就是一条好的系统提示词。
攻击者把恶意指令藏进文本、网页或文档里,诱导 AI 忽略原指令执行危险操作。接入外部内容的应用必须把它当安全边界处理。
对话开始前给模型定的“人设与规则”:语气、边界、输出格式都写在这里,比普通提问约束力更强。套壳产品的内核往往就是一条好的系统提示词。
能自主规划步骤、调用工具、根据反馈调整行动的 AI 系统。聊天模型“你问我答”,Agent“给你办事”——订票、改代码、跑数据都算。