2023/6/28 08:59
GPT-4知道它是不是“胡说八道”吗？一篇关于大模型“自知之明”的研究
https://mp.weixin.qq.com/s/64eI_I-HVDigYvmBTNon9w
1/10
GPT-4知道它是不是“胡说八道”吗？一篇关于大模型“自知之明”的研
究
夕 小 瑶 科 技 说 原 创
作 者 | 小 戏 、 Python
凡 是 与 这 些 林 林 总 总 的 大 模 型 有 过 深 度 亲 密 交 流 的 ， 估 计 都 领 略 过 大 模 型 极 强 的 胡 编 乱
造 的 能 力 。很多大模型的用户抱着想一探这些目前世界上最接近人工智能的东西真面貌、切身
感受它的神乎其技时，却往往被它在很多问题上一本正经的胡说八道给打败。不 夸 张 的 说 ，
目 前 大 模 型 发 展 真 正 的 限 制 ， 有 可 能 并 不 在 于 上 下 文 长 度 、 成 本 、 应 用 等 等 方 面 ， 而 是
在 于 这 些 大 模 型 根 深 蒂 固 的 机 器 幻 觉 。
一个非常有意思的问题可能在于：大 模 型 究 竟 是 否 知 道 自 己 “不 知 道 一 些 东 西 ”呢 ？ 即 大 模
型 是 否 了 解 自 己 在 一 些 未 知 领 域 的 局 限 性 ， 而 当 触 碰 到 自 己 的 知 识 边 界 时 ， 可 以 不 采 用
胡 言 乱 语 的 说 法 而 是 大 方 承 认 自 己 不 知 道 呢 ？
小戏 2023-06-05 12:05 发表于四川
原创
夕小瑶科技说
