2023/6/28 16:37
致敬2202年,这些优秀的裁缝们
https://mp.weixin.qq.com/s/LtHA2UPDdXYR2NRbskb_xg
1/10
致敬2202年,这些优秀的裁缝们
文 | 鹰 钩 鼻 涕 虫
2202年过去了,不知道小伙伴们是否和我一样,绝大多数时间处于迷茫之中,除去其他因素不
谈,在 最后 一 个月 到来之 前, NLP 学 界的 表 现似 乎不如 前几 年 那样 “ 精 彩” , 甚 至可 说是“ 寡
淡”,翻开会议,满眼望去,可能也是些不痛不痒的报告。
工业界积蓄的力量,却迎来了大爆发,大模型、大数据的加持,让今年迎来了“ 创作” 的大年。
既有年中的各家发力,文生图模型大爆发,前有 DALL-E 和 Disco 积蓄力量,又有 imagen、
Parti 你方唱罢我登场,而后又有 stable diffusion 彻底点爆了这一领域,席卷了业界,预期也
可彻底改变画师的创作习惯。
在年底,NLP 领域也终于迎来了重磅炸弹——ChatGPT,其在可控生成上秀出来的肌肉,也必
将给文本生成领域带来重大变革,其核心原因在于,看 上 去 , 它 有 能 力 生 成 逻 辑 结 构 完 整 的
长 文 。
我前些天看了符尧大佬对 OpenAI 从 GP T-3 开始,到 ChatGP T 为止,发表的各个模型,及其
能力的演进路线,突然好像悟了 ChatGPT 是怎样炼成的,这之中,惭愧的事情有二:首先是
我之前一直被误导,认为 RLHF 才是 ChatGPT 看上去这么强大的核心因素。可看过符尧大大
的梳理之后,我意识到,我 错 了 。第二是,当我猜想了 ChatGPT 的能力是怎么来的之后,发
觉其几个能力来源,大部分是我看不上的,可能就是比较小的点,但是它们的副产品组合在一
起,就如此重磅。此时,模型发布已有一个月之久,我才明白这些,只能说,是我格局小了。
鹰钩鼻涕虫 2023-01-31 12:05 发表于四川
原创
夕小瑶科技说