ChatGPT对网络安全的影响_欺骗copilot使用chatgpt资源-CSDN文库

共1个文件

docx：1个

人工智能

网络安全

5星 · 超过95%的资源需积分: 1 139 浏览量 2023-04-03 18:10:40 上传评论收藏 19KB ZIP 举报

资源推荐

资源详情

资源评论

收起资源包目录

ChatGPT 对网络安全的影响.zip （1个子文件）

ChatGPT 对网络安全的影响.docx 22KB

ChatGPT 对网络安全的影响

一

前　言

过去一段时间，整个互联网科技圈被一个来自美国的搅局者--ChatGPT

彻底霸榜，甚至全社会普通大众都在开始谈论 ChatGPT，ChatGPT 已

经成为了全球月活最快破亿的消费应用。虽然 ChatGPT 国内仍然用不

了，但丝毫不影响关于它的消息出现在各个平台，刷了一遍又一遍的屏。

面对新鲜事物，好奇与对未知的抵触总是相伴而来的，特别是国内互联

网表现得又如此急切，在对 ChatGPT 的讨论里，态度总是身处两极：

一方是片面神化，把 ChatGPT 的出现认为是宣告新时代的到来，无所

不能、无处不在，充满了对未来的想象。而另一方则认为热度的背后全

是资本的炒作、新瓶旧酒，无非是又一个新的韭菜切割器，充满了对其

不屑。

作为一个新鲜事物被推到了风口浪尖，ChatGPT 到底是新一代神器还是

图个乐的玩具、亦或割韭菜的工具？打破对新鲜事物好奇与抵触最佳方

式就是更多地了解它、甚至尽可能亲自去用一用。

作为信息安全相关产业的从业者，出于本能的反应都会去思考这样的问

题：ChatGPT 这个互联网上滋生出来的新事物对信息安全相关产业将带

来什么样的影响？

二

关于 ChatGPT

1、ChatGPT 是什么?

ChatGPT--可能很多人被这个缩写的名字搞糊涂了，第一眼无法看出到底

什么意思，GPT 的英文原文是 Generative Pre-training Transformer

（预训练生成模型），业界有人将 ChatGPT 概括为聊天机器人+搜索工

具+文本创造工具的组合，或者简单理解它是一个生成式 AI（内容生成

器）。

GPT 是由 OpenAI 开发的自然语言处理（NLP）模型。这些模型经过

训练，可以生成类似于人类书写的文本，并且是 NLP 的重大进步。它使

用一种称为转换器架构的深度学习技术，通常用于语言翻译和文本生成

等 NLP 任务。

目前 ChatGPT 是基于 GPT-3 模型的变体，它是利用复杂的深度学习

系统来创建内容，并在大量公开可用的在线文本（如维基百科）上进行

训练。模型允许有效理解自然语言，并使用潜在结果的概率分布。GPT-3

对这些进行采样（有一定随机性），因此文本响应永远不会相同。

2、ChatGPT 能做什么？

ChatGPT 能做什么？它的主要功能是协助回答问题、提供信息和生成有

关历史、科学、地理等各种主题的信息，这些信息仅限于它所接受的训

练（因为它无法主动浏览互联网），但其知识在不断扩展。

3、ChatGPT 牛在哪里？

拿搜索引擎来说，诞生了二十多年的搜索引擎发展并不是线性的，而是

随着信息量的指数增大，跳跃式在发展。第一代的搜索引擎 WWW

（World Wide Web Wanderer），只是个存放网站网址以及标题的目

录，甚至没有提供跳转服务；随着技术的发展，搜索引擎可以不局限于

网站标题产生标签，进入文本检索时代。第二代的搜索引擎可以初步找

到自己想要的内容，受限制的仅仅只是数据库的容量。反馈的搜索结果

跟用户搜索内容有直接关系，它更像是一个超大的文本检索器，返回的

是包含关键词的清单；第三代搜索引擎是谷歌引领开发的，它把反馈回

来的数据整合成一个门户网站的界面，一个个外链组合成了一个完整的

信息世界。到了这个时候，搜索引擎其实已经固定下来了，只剩下如何

精准地通过关键词来判断用户的真正查询目的这一个问题了。如何不让

用户再次筛选，直接把精筛过的高相关内容直接送到用户眼前，现在的

搜索引擎还做不到这点。但是，最后这个问题 ChatGPT 能做到！

ChatGPT 能理解你的意思、整合信息、反馈出更直接的结果。

ChatGPT 为什么显得格外聪明？或者说它是怎么理解我们的？不是它

理解了这个世界的规则，而是它把概率学玩转的同时还学会了按人类的

方式去表达。

ChatGPT 背后的 AI 模型的训练过程，就是让 AI 不断进行填词考试，

输入一个字、一句话，让程序去预测出现概率最高的下一个字、下一句

话。ChatGPT 用到了 3000 亿单词的语料数据和 1750 亿的参数。前

者是喂给程序的训练资料，后者基于训练资料 ChatGPT 模型对世界的

理解，一定程度上说，这个参数量级越大，AI 模型就越可靠，越能理解

提问。在 ChatGPT 身上还做了一项训练--人类偏好处理，即从人类的反

馈中让 AI 学会理解人类，因此 ChatGPT 相比前辈更知道哪种答案才

是人类想要的，所以 ChatGPT 牛在：

（1）它是个通用的模型，只要提示词引导，就能快速适应不同领域。

（2）它能理解你的问题，只要给的引导越多，它就能给出你想要的答案。

由此可以想象更智能的客服、更能听懂你话的 AI、会教你买东西的导购、

一键生成代码的远程指导......，一切皆有可能。

当下，ChatGPT 还存在落地成本高、结果不稳定、推理能力有限（有时

需要我们逐步引导）、更新困难（指模型更新困难）等问题，但丝毫不

能怀疑它将开创崭新的无穷未来。

三

ChatGPT 对网络安全的影响

众所周知，AI 对网络安全带来了巨大而深刻的影响，它既被用来改进和

加强网络安全解决方案，帮助人类分析师更快地分类威胁和修复漏洞，

也被黑客用来发动更大规模、更复杂的网络攻击。那么以 AI 为核心的

ChapGPT 又能给网络安全带来什么新的影响呢？我们可以从以下两方

面展开来看：

1、ChatGPT 带来的网络安全新威胁

首先，从开展网络攻击的角度来看，ChatGPT 这类生成式人工智能是偏

向于威胁行为者的。生成式 AI 能提供所要求的内容--这极大有利于制作

网络钓鱼电子邮件。它通过获取的信息，利用额外的上下文关联关系，

并根据其理解得出结论。ChatGPT 可以毫不费力地创建大量复杂的网络

钓鱼电子邮件，甚至它还可以创建非常逼真的虚假配置文件，这样渗透

进入过去被认为机器不适合或不擅长的领域（如 LinkedIn 等等），伪

造出令人信服的资料甚至图片。

其次，目前已经看到有威胁行为者正在使用 ChatGPT 来开发恶意软件。

虽然 ChatGPT 的代码编写能力的质量结果好坏参半，但专门从事代码

开发的生成式 AI 可以极大地加速恶意软件的开发速度。这种开发速度

评论收藏

内容反馈

本本纲目

2023-07-26

这个文件触及到了网络安全议题中的核心问题，给出了一些实际的建议和解决方案，让读者对ChatGPT的安全性有了更清晰的认识。
嗨了伐得了

2023-07-26

笔者以实事求是的态度，描述了ChatGPT在网络安全领域的一些积极影响，同时也意识到了它可能带来的一些潜在风险，是一份值得阅读的文件。
金山文档

2023-07-26

这篇文件很详细地介绍了ChatGPT对网络安全的影响，不仅仅是口头上的说法，还提供了具体的案例和分析。
我就是月下

2023-07-26

作者对ChatGPT的网络安全问题进行了深入探讨，提出了一些潜在的风险和挑战，给予了中立的看法，让人们进一步思考和讨论。
陈莽昆

2023-07-26

这篇文章没有过分渲染ChatGPT在网络安全方面的威胁，但也没有忽略它可能存在的问题，给人一种平衡和客观的感觉，很适合了解这一领域的人阅读。