大数据和云计算存储管理是当前信息技术领域的重要发展趋势,随着数字化宇宙的迅速膨胀,数据量呈现爆炸式增长。2010年,全球数据总量为1.2泽字节,而到2020年,这个数字预计将跃升至35泽字节。这种增长主要由非结构化的文件数据驱动,如视频、图形、基因测序、卫星照片、计算机建模、地震勘探、音乐、音频、PDF文档和医学影像等。
传统的存储管理方式,如基于文件的60.7%复合年增长率(CAGR)和基于块的21.8% CAGR,已经无法满足大数据时代的需求。由于纵向扩展(SCALE UP)技术存在性能、扩展性、可靠性和成本的局限性,企业面临着系统迁移复杂、管理困难和重复投资的问题。因此,转向横向扩展(SCALE OUT)成为解决大数据存储挑战的关键。
横向扩展存储架构通过集群计算和服务器虚拟化,实现存储性能和容量的线性扩展,提供无与伦比的扩展性。例如,EMC Isilon的横向扩展解决方案利用10 GbE网络,提升了10倍的性能。Isilon IQ系统采用Infiniband万兆互联层,构建了一个单一文件系统,名为OneFS™,能够从18TB扩展到15.5PB,扩展速度极快,只需60秒,且在扩展过程中无需停机,也不会影响客户端设置。
Isilon IQ网络架构设计允许服务器通过NFS, CIFS, FTP, HTTP等多种协议与集群进行交互,实现高效的数据读写。其独特的AutoBalance功能能自动在节点间均衡数据,降低存储扩展的成本、复杂度和风险,确保系统的稳定运行和数据的高效访问。
面对大数据的挑战,企业需要考虑的关键点包括:
1. **容量扩展**:存储系统必须具备高度的扩展性,以应对数据量的持续增长。
2. **性能管理**:优化数据处理速度,确保高速的数据读写能力。
3. **可靠性**:确保数据的安全和完整性,防止数据丢失。
4. **成本效益**:在满足性能和容量需求的同时,控制总体拥有成本。
5. **灵活性**:支持不同类型的文件和数据格式,适应多样的业务需求。
6. **自动化**:通过自动化工具简化系统管理和维护工作。
总结来说,大数据云计算存储管理大趋势在于利用横向扩展的存储架构,通过创新技术如Isilon IQ的OneFS™系统,实现无缝扩展、高性能、高可靠性和成本效率。这不仅帮助企业应对数据量的爆发式增长,还为企业提供了对大数据的深度分析能力,促进业务洞察和决策效率的提升。