本地部署开源大模型的完整教程LangChain + Streamlit+ Llama
需积分: 5 102 浏览量
2024-04-07
12:15:53
上传
评论
收藏 1.1MB PDF 举报
来源：
DeepHub IMBA
在过去的几个月里，大型语言模型
(llm)
获得了极大的关注，这些模型创造了令人
兴奋的前景，特别是对于从事聊天机器人、个人助理和内容创作的开发人员。
大型语言模型
(llm)
是指能够生成与人类语言非常相似的文本并以自然方式理解
提示的机器学习模型。这些模型使用广泛的数据集进行训练，这些数据集包括书
籍、文章、网站和其他来源。通过分析数据中的统计模式，
LLM
可以预测给定
输入后最可能出现的单词或短语。
以上是目前的
LLM
的一个全景图。
背景知识
1
、
LangChain
LangChain
是一个令人印象深刻且免费的框架，它彻底改变了广泛应用的开发过
程，包括聊天机器人、生成式问答
(GQA)
和摘要。通过将来自多个模块的组件无
缝链接，
LangChain
能够使用大部分的
llm
来创建应用程序。
2
、
LLaMA
LLaMA
是由
Facebook
的母公司
Meta AI
设计的一个新的大型语言模型。
LLaMA
拥有
70
亿到
650
亿个参数的模型集合，是目前最全面的语言模型之一。
2023
年
2
月
24
日，
Meta
向公众发布了
LLaMA
模型，展示了他们对开放科学的奉献
精神（虽然我们现在用的都是泄露版）。
剩余15页未读，继续阅读
资源评论
