提示工程基础:把 Prompt 当岗位说明书写
提示工程不是念咒语凑关键词,而是给一个"能力很强但对你的业务一无所知的新员工"写岗位说明书。角色、约束、示例三个部分组织好了,效果远胜于堆形容词。 为什么你的 Prompt 不稳定 后端转 AI 应用最常见的落差:同一个 …
# AI · 53 篇
提示工程不是念咒语凑关键词,而是给一个"能力很强但对你的业务一无所知的新员工"写岗位说明书。角色、约束、示例三个部分组织好了,效果远胜于堆形容词。 为什么你的 Prompt 不稳定 后端转 AI 应用最常见的落差:同一个 …
Function Calling 不是模型替你执行函数,而是模型输出一个结构化的"我想调用某工具及参数 JSON",真正的执行、鉴权、审计全部发生在你的代码里。理解这一点,工具调用的可靠性问题就退化成一个普通的后端工程问 …
Few-shot 解决"我不知道你要什么格式和口径",思维链(CoT)解决"这道题需要分步推理才能做对"。两者是提示工程里投入产出比最高的两个杠杆,且可以组合使用。 Few-shot:例子是最精确的规格说明 …
凡是"固定前缀 + 变化尾巴"的调用(多轮对话、固定 system prompt、大知识库 RAG),前缀缓存都能大幅省输入成本——OpenAI 自动缓存命中部分约打对折(具体折扣随模型不同),Anthropic 显式缓 …
Ollama 是本地跑开源模型最快的方式——一条命令拉模型、默认量化省显存、自带 OpenAI 兼容接口,十分钟就能在笔记本上跑起 7B 模型。适合开发调试、隐私敏感数据不出域、离线环境三类场景;但它不做高并发优化,生产 …
API 成本 = 输入单价 × 输入 token + 输出单价 × 输出 token,而输出单价通常是输入的 3~5 倍。优化的优先级是:先降模型档位,再砍输入,再砍输出,最后上缓存和批处理。不要一上来就抠 prompt …
多模态模型的本质是"把图片/音频/视频转成 token 序列,和文字一起交给同一个模型处理"。落地最成熟的是图像理解——OCR、票据单据解析、图表问答、UI 截图走查;音频与视频能力在快速跟进。它不是"更聪明的 …
2025 年开源模型已形成清晰的第一梯队——Meta 的 Llama、阿里的 Qwen、智谱的 GLM、DeepSeek,外加 Mistral 等。在分类、抽取、常规问答这类业务任务上,开源中小模型(7B~32B)已经够 …
幻觉不是 bug,而是生成机制的副产品——模型优化的目标是"像不像一个合理的下一句",不是"是不是真的"。它无法根除,只能靠工程手段压低概率、圈住影响:上 RAG、允许说"不知道"、结构化输出加校验、关键事实走外部验证。 …
别靠"麻烦你输出 JSON"这种裸 prompt。优先级是:API 原生 schema 约束输出 > function calling > few-shot + 解析重试。无论用哪种,拿到结果后必须过一遍 schema …
三者解决的是不同层面的问题——提示工程改变"这一次怎么答",RAG 补"模型不知道的知识",微调改"模型的长期行为习惯"。知识频繁变化选 RAG,固定风格与格式且量大到值得训练时选微调;其他一切问题,先从提示工程开始。多 …
RAG = 先检索、后生成。把和问题相关的资料块塞进 prompt,让模型"开卷考试"。它解决两个模型天然的问题——知识有截止日期、私有数据它根本没见过——而且比微调便宜得多,知识可以随时更新。企业内部知识问答的默认首选 …