Speeding up packet IO in virtual machines

虚拟化技术已成为现代数据中心和云计算平台不可或缺的一部分。然而，虚拟机中的网络性能，尤其是在高速率的封包输入输出（Packet I/O）方面，一直是一个技术挑战。传统的虚拟化设备仿真技术在处理大量TCP流量时效率不高，这主要是因为它们最初的设计并没有考虑到网络性能的优化。本研究由来自意大利比萨大学的Luigi Rizzo, Giuseppe Lettieri和Vincenzo Maffione进行，旨在通过研究如何提高虚拟机中的封包I/O性能，来解决这一问题。 传统上，虚拟机网络性能的研究主要集中于大量的TCP流量，因为这是虚拟化技术的经典应用场景。但随着技术的发展，虚拟化技术的应用场景不再局限于经典应用，例如在封包交换设备、中间件、软件定义网络等新场景中，虚拟机的使用越来越多。这些新的应用场景涉及非常高的封包速率，这些速率对于负责网络接口仿真任务的虚拟机监视器（Hypervisor）以及在虚拟机与物理网络接口卡（NICs）之间切换封包的宿主机而言都是有问题的。 研究结果表明，即使在虚拟机内部，也可以通过有限但针对性的修改设备驱动程序、虚拟机监视器以及宿主机的虚拟交换机，实现每秒数百万封包的传输速率。这意味着传统网络接口卡（如Intel的e1000）的仿真完全有能力达到这样的封包速率，无需完全不同的设备模型。研究还为不同使用案例提供了各种修改方案，具体根据配置和使用案例，能够将虚拟机的网络吞吐量提高20倍甚至更多。 研究中提出的一个重要结果是，通过仅仅大约100行代码的修改，就可以改进Linux和FreeBSD版本的e1000设备驱动程序，实现的原型实现使用了传统的e1000设备和基于套接字的发送/接收器，实现了超过1Mpps（百万封包每秒）的虚拟机到虚拟机的通信速率，并且是使用64字节短帧。这一速率与在裸金属上运行操作系统的速度相同，并且是原始e1000仿真的十倍以上，与virtio相比略胜一筹。此外，当虚拟机使用netmap API时，封包速率可以超过5Mpps。 这项工作对于虚拟化技术在不同工作负载上的应用至关重要，因为它能够使一系列新的应用在虚拟机上成为可能。这不仅仅是在软件定义网络(SDN)等新兴领域，也在传统领域，如在提高网络性能方面具有重大意义。通过这些改进，虚拟机能够以接近物理服务器的性能运行网络密集型任务。 文章还提出了一组针对性的优化方案，这些优化方案可分为三类： 1. 仅对虚拟机内的修改。 2. 仅对宿主机的修改。 3. 同时对虚拟机和宿主机进行修改。 这些建议的修改包括对网络协议栈的优化、使用高性能的封包处理库（如netmap）以及采用特定于硬件的加速技术。所有这些改进方案都旨在提高虚拟机中封包I/O的效率，以支持新的应用场景。 这项研究通过实际的实验和优化，对现有的虚拟化技术在高速封包处理方面进行了显著的提升。这些成果使得在虚拟化环境中运行复杂网络任务变得更加高效和可行，为未来的虚拟化应用开辟了新的道路。