BERT-torchserve-quickstart:通过Torchserve服务BERT嵌入

生物嵌入火炬快速入门 概述 我们将分两步创建一个Torchserve存档（.mar），然后将其用于设置Torchserve实例。 如果您已经拥有所需的文件，请随时跳过一步。 本指南引用了BiobBERT模型，但是您可以将其与任何BERT实现一起使用。 要求 Python> = 3.7，带有来自requirements.txt的软件包torch-model-archiver是可选的 码头工人 模型准备 步骤0。下载模型 我们需要类似火炬的格式的BERT模型。 可以从下载它们。 此步骤后所需的文件： biobert_large/ ├── bert_config.json ├── pytorch_model.bin └── vocab.txt 步骤1.追踪 Torchserve在静态跟踪的模型上运行。 最令人恼火的部分是，如果在此步骤中出现问题，则割炬将无法检测到-唯一的提示将是所产生的输