GPU服务器应该如何选择，GPU服务器租用选择方法.docx

GPU 服务器选择与租用指南 GPU 服务器的选择是基于业务需求的。需要了解业务需求，以选择合适的 GPU 型号。在高性能计算（HPC）中，需要根据精度选择 GPU 型号，例如，双精度计算需要使用 V100 或者 P100，而不是 P40 或者 P4。此外，还需要考虑显存容量的要求，例如石油或石化勘探类的计算应用对显存的要求比较高。 在人工智能领域，GPU 服务器的应用也非常广泛。在教学场景中，对 GPU 虚拟化的要求比较高，需要将 GPU 服务器虚拟出多个虚拟 GPU，以满足大批量训练的需求。模型训练完毕后，需要进行推理，通常使用 P4 或者 T4。 在选择 GPU 服务器时，需要考虑以下几种情况： 1. 边缘服务器上的选择：根据量来选择 T4 或者 P4 等相对应的服务器，同时也要考虑服务器的使用场景，例如火车站卡口、机场卡口或者公安卡口等。 2. 中心端的选择：在中心端做 Inference 时可能需要 V100 的服务器，需要考虑吞吐量以及使用场景、数量等。 3. 客户自身的需求：需要考虑客户本身使用人群和 IT 运维能力，对于 BAT 这类大公司来说，他们自己的运营能力比较强，这时会选择通用的 PCI-e 服务器；而对于一些 IT 运维能力不那么强的客户，他们更注重数字以及数据标注等，选择 GPU 服务器的标准也会有所不同。 4. 配套软件和服务的价值：需要考虑配套软件和服务的价值，例如 DGX 这种 GPU 一体化的超级计算机，它有非常成熟的从底端的操作系统驱动 Docker 到其他部分都是固定且优化过的，这时效率就比较高。 此外，GPU 服务器的租用也是一种选择，例如，可以联系北京数字大厦数据中心（数北机房）。 知识点： * GPU 服务器选择的依据是业务需求 * 高性能计算（HPC）中需要根据精度选择 GPU 型号 * 石油或石化勘探类的计算应用对显存的要求比较高 * 人工智能领域对 GPU 服务器的需求比较高 * 在教学场景中，对 GPU 虚拟化的要求比较高 * GPU 服务器的选择需要考虑边缘服务器、中心端、客户自身的需求、配套软件和服务的价值等因素 * GPU 服务器的租用是一种选择 GPU 服务器的选择需要根据业务需求和使用场景进行选择，需要考虑多种因素，包括业务需求、显存容量、客户自身的需求、配套软件和服务的价值等，以确保选择合适的 GPU 服务器，提高效率和性能。