Prompt 提示词
提示词工程(Prompt Engineering),在不更新模型权重的情况下如何与大模型交互以引导其行为以获得所需结果的方法。
戴高帽: 上下文: 做强调: 格式化:
- 详细的描述;
- 让模型充当某个角色;
- 使用分隔符标明输入的不同部分;
- 对任务指定步骤
- 提供例子
为降低模型幻觉,可以使用参考文本,RAG
从模型训练层面进行推导:
训练
Few-Shot:少样本学习,当模型学习了一定类别的大量数据后,对于新类别,只需要少量的样本就能快速学习,对应的有one-shot learning。
Zero-Shot:零样本学习,训练阶段不存在与测试阶段完全相同的类别,从训练的知识迁移到新类别上。 基于已训练的能力,不提供示例,仅通过语言去描述任务的要求、目标和约束,让模型直接生成结果。
优化 zero:无提示,语言描述任务,依赖模型预训练知识回答
few:给予少量示例,引导模型对齐输出结果