没有合适的资源?快使用搜索试试~ 我知道了~
提示工程 & 自主生成提示 - 调研报告
需积分: 0 0 下载量 143 浏览量
2024-05-18
08:57:07
上传
评论
收藏 1.55MB PDF 举报
温馨提示
试读
8页
本报告介绍大模型时代自主生成提示的相关工作。大模型对 prompt 十分敏感,提示词换一个字可能结果就大相径庭了。虽然人类设计 prompt 时有一些好用的 trick,但人类设计的 prompt 终归是有限的,并且这样的 prompt 是否足够泛化/鲁棒也是个问题,因此有人就在想,有没有办法让大模型自己生成 prompt,并且能够评价哪个 prompt 更好? 本篇报告介绍了几篇该领域的相关工作。
资源推荐
资源详情
资源评论
提示⼯程 & ⾃主⽣成提示 —— 调研报告
众所周知,⼤模型对 prompt ⼗分敏感,对 gpt4 来说可能还好,但是能⼒不⾜的那些
模型(⽐如 7B), 提示词换⼀个字可能结果就⼤相径庭了。虽然⼈类设计 prompt 时有⼀些
好⽤的 trick,但是⼈类设计的 prompt 终归是有限的,并且这样的 prompt 是否⾜够泛化/鲁
棒也是个问题,因此有⼈就在想,有没有办法让⼤模型⾃⼰⽣成 prompt,并且能够评价哪
个 prompt 更好?
那么很⾃然地,就会有以下两个操作模式,⼀个是在⽂本空间进⾏(仍然是离散的
prompt), ⼀ 个 是 把 prompt 抽象成⼀个向量,在特征空间进⾏(抽象连续的 prompt)。 接
下来我们⽤⼏篇论⽂做⼀些简单的说明,这些论⽂多为在⽂本空间进⾏的⾃主 Prompt ⽣成。
⽬录
APE (ICLR 2023) .............................................................................................................. 2
ProTeGi (EMNLP 2023) ................................................................................................. 3
OPRO (20240415 arXiv) ............................................................................................... 4
PE2 (20240219 arXiv) .................................................................................................... 5
IPC (20240205 arXiv) ..................................................................................................... 6
资源评论
_Meilinger_
- 粉丝: 385
- 资源: 19
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功