CRUSH.docx

CRUSH 是一种专门为大规模分布式存储系统设计的数据分布算法，全称为“Controlled, Redundant, Scalable, Hash”（可控的、冗余的、可扩展的哈希）。它的主要目标是在成千上万的存储设备之间高效、均衡地分发PB级别的数据，以确保系统的性能、扩展性和容错能力。 在基于对象的分布式存储系统中，数据不再以传统文件的形式存在，而是被分割成小的对象，这些对象存储在集群中的各个设备上。CRUSH算法通过伪随机的、确定性的映射函数，将数据对象映射到存储设备上，这一过程无需依赖中心目录。这样设计的原因是大型系统中的动态性，比如设备的添加、删除以及硬件故障，CRUSH旨在最小化不必要的数据迁移，同时适应各种数据同步和可靠性策略。 CRUSH的核心优点包括： 1. **分布式**：CRUSH算法是完全分布式的，这意味着在大型系统中，任何节点都可以独立计算数据对象的位置，减轻了中心节点的压力。 2. **静态元数据**：CRUSH只需要存储集群和副本策略的简要描述，元数据通常是静态的，仅在设备变更时更新，减少了管理负担。 3. **灵活性**：CRUSH支持多种数据安全性机制，如n路同步（镜像）、RAID奇偶校验、擦除编码等，可以根据需求灵活调整副本策略。 4. **适应性**：当新设备加入或旧设备退出时，CRUSH可以有效地重组数据，保持负载均衡，避免数据过于集中在某些设备上。 5. **高效性**：通过随机分布，CRUSH确保大型文件分散在大量设备上，提供高并发性和聚合带宽，提高系统性能。 与传统方法相比，CRUSH避免了基于哈希的简单分布带来的问题，例如设备数量变化时的数据重组，以及因设备故障可能导致的数据丢失风险。它也不同于依赖于中央元数据目录的系统，写入数据时无需查询中央分配器，提高了效率。 相关工作的研究，如NASD、Panasas、Lustre、GPFS和FAB等，都探索了基于对象或块的存储方法，但它们在数据分布和重构方面可能不如CRUSH那样高效和灵活。例如，Sorrento存储系统使用一致性哈希，但缺少对设备故障域隔离的考虑，这是CRUSH的一个关键特性。 CRUSH算法是为了解决大规模分布式存储系统中的数据分布难题，通过智能且灵活的策略，实现高效、可靠和可扩展的存储解决方案，尤其适用于PB级数据存储和处理的场景。