ChatGPT 将成为人工智能的里程碑
在谈论人工智能发展的历史进程时,奥特曼指出,技术的发展是一个线
性的过程,很难以“跨越式”的进步去定义,但如果一定要选出一个可以
载入史册的时刻,他将挑选 ChatGPT。
奥特曼表示,ChatGPT 在可用性方面取得的重大突破,以及 RLHF
(Reinforcement Learning from Human Feedback,基于人类反馈的强
化学习)的成功应用,让其有资格成为人工智能的里程碑。RLHF 可以
指导并训练人工智能对各类问题的答案,使其接近人类并减少训练数据
量,奥特曼解释说,最简单的例子就是给出两个答案,并让人类进行选
择,模型就可以基于此了解到哪一个更优。GPT-4 从去年夏天就开始进
行各种安全调试,同样在对齐(即满足使用者期望)方面取得了巨大的
进步。
有趣的是,此前特斯拉 CEO 埃隆·马斯克也曾盛赞 ChatGPT 的可用性,
他认为,ChatGPT 的伟大之处就在于“向人们展示出了人工智能已经变
得多么先进”,人工智能长期以来一直在迅速进步,但是却缺乏一个人
人可以触及的界面,而 ChatGPT 做到了这一点。
近期,马斯克在社交媒体推特上不断对 OpenAI 发起攻势,奥特曼在访
谈中则说道,“我理解他的想法,因为他很担心 AGI(通用人工智能)
的安全性。当然,我认为还有其他的动机,但这绝对是其中之一。”奥