开发和启用llama2 api

这是一个基于Gradio的通用文本生成模型Web UI框架，支持transformers、GPTQ、llama.cpp (ggml)、Llama模型等。它的目标是成为文本生成的AUTOMATIC1111/stable-diffusion-webui。以下是启动API的完整流程： 1. 安装text-generation-webui。你可以使用以下命令克隆text-generation-webui并按要求安装必要的依赖： ``` git clone https://github.com/oobabooga/text-generation-webui cd text-generation-webui pip install -r requirements.txt ``` 2. 下载模型权重。你可以在[这里](https://github.com/ymcui/Chinese-PreTrained-Language-Models/tree/master/LLaMA)找到一些预训练模型权重。 3. 运行web ui。下载好模型参数到models目录下即可执行以下命令： ``` pyth