没有合适的资源?快使用搜索试试~ 我知道了~
LLM保姆级教程(全网独一)
资源推荐
资源详情
资源评论
LLM 保姆级教程
目录
LLM 保姆级教程.........................................................................................................................................1
一、 Python 环境搭建 ..................................................................................................................2
二、 Hugging Face Transformers 模型架构搭建(快速预览) .....................................2
三、 基础入门-基础组件 Pipelines ..........................................................................................7
四、 基础入门-基础组件 Tokenizer......................................................................................17
五、 基础入门-基础组件 Model ............................................................................................22
六、 基础入门-基础组件 Datasets ........................................................................................31
七、 基础入门-基础组件 Evaluate.........................................................................................37
八、 基础入门-基础组件 Trainer ...........................................................................................40
九、 LLM 模型训练向导 ............................................................................................................41
实战演练-基于 Transformer 的 NLP 解决方案 .........................................................................42
实战演练-预训练模型.......................................................................................................................44
实战演练-生成式对话机器人(Bloom) ...................................................................................45
高效微调-Prompt-Tuning 原理与实战 .......................................................................................46
Export to ONNX ..................................................................................................................................48
使用 CLI 将 � Transformers 模型导出到 ONNX..........................................................48
使用 optimization.onnxruntime 将 � Transformers 模型导出到 ONNX ..............51
FastAPI 部署模型 ...............................................................................................................................51
FAQ:.........................................................................................................................................................54
Loss 指标简介: .............................................................................................................................54
其他.........................................................................................................................................................54
一、Python 环境搭建
工具:VS Code Documentation for Visual Studio Code
环境:Anaconda 免费下载 |蟒蛇 (anaconda.com)
插件:Python + Chineses(Simplified) 和 Jupyter(Jupyter Notebook 是一个交互式计
算环境)
切换终端:Ctrl+`(启动配置文件->选择默认配置文件->Command Prompt)
实例:
Python 开发入门
1. 创建 Python 文件
msg = "Hello World!"
print(msg)
2. 选择 Python 解释器(路径:D:\anaconda3\python.exe)
3. 运行和调式 Python 文件(快捷键:F5)
二、Hugging Face Transformers 模型架构搭建(快速预览)
官网:https://huggingface.co/(账号:wangdongpeng1@139.com 密码:Wangdp123$)
获取 Access Tokens:头像->Setting->Access Tokens
Docs:� Transformers (huggingface.co)
实例:
1. 安装 Transformers 虚拟环境
Anaconda Prompt 终端->
创 建 环 境 : conda create -n transformers ( 推 荐 : conda create -n transformers_onnx
python=3.9)
激活环境:conda activate transformers
(关闭环境:conda deactivate)
2. 安装 PyTorch 深度学习框架
比较:
PyTorch 和 TensorFlow 有什么区别,是否两个都需要安装
ChatGPT
ChatGPT
PyTorch 和 TensorFlow 是两个流行的深度学习框架,它们在设计、使用和生态系统方面
有一些区别:
1. 计算图模型:
� TensorFlow 采用的是静态计算图模型,用户需要首先定义计算图,然后执
行该图。这种方式使得 TensorFlow 在生产环境中更容易优化和部署。
� PyTorch 则采用动态计算图模型,计算图是在运行时动态构建的。这使得
PyTorch 更适合于研究和实验,因为用户可以使用 Python 的控制流语句
来定义计算图。
2. 易用性:
� PyTorch 的 API 设计更加简洁和直观,容易上手,尤其适合初学者和研究
者。
� TensorFlow 的 API 设计更加复杂,有时需要更多的代码来完成相同的任
务,但它提供了更多的灵活性和可扩展性。
3. 社区支持:
� TensorFlow 有一个庞大的社区和生态系统,支持许多扩展和工具,适用于
各种应用场景,尤其在工业界得到广泛应用。
� PyTorch 的社区也在迅速增长,尤其在学术界和研究领域得到了广泛应
用,Hugging Face 的开源项目就是其中之一。
关于是否需要安装两个框架的问题,取决于你的项目需求和个人偏好。如果你只打算使用
Hugging Face Transformers 库,那么只需要安装其中一个框架即可,因为 Transformers
库支持 PyTorch 和 TensorFlow 两种框架,并提供了与两者兼容的接口。但如果你打算使
用其他需要特定框架的深度学习任务,那么可能需要安装相应的框架。
官网:https://pytorch.org/get-started/locally/
Nvidia 系统信息(组件):RTX 3060、CUDA12.1
安装命令: conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytor
ch -c nvidia
验证是否安装成功:
3. 安装所有必需的库:
命令: pip install transformers datasets
验证:
创建一个 demo.ipynb->右上角选择内核(Python 环境…)->选择 transformers 内核
输入代码并运行:
from transformers import *
安装 ipykernel 包(缺什么安装什么)
安装成功
+代码(添加代码单元格)
最后,通过运行以下命令检查� Transformers 是否已正确安装。它将下载一
个预训练的模型
from transformers import pipeline
print(pipeline('sentiment-analysis')('we love you'))
然后打印出标签和分数:
[{'label': 'POSITIVE', 'score': 0.9998704195022583}]
剩余55页未读,继续阅读
资源评论
第404块砖头
- 粉丝: 22
- 资源: 1
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功