大数据存储方式概述.doc

大数据存储方式概述 随着信息社会的发展，越来越多的信息被数据化，尤其是伴随着Internet的发展，数 据呈爆炸式增长。从存储服务的发展趋势来看，一方面，是对数据的存储量的需求越来 越大,另一方面,是对数据的有效管理提出了更高的要求。首先是存储容量的急剧膨胀,从 而对于存储服务器提出了更大的需求；其次是数据持续时间的增加。最后，对数据存储 的管理提出了更高的要求。数据的多样化、地理上的分散性、对重要数据的保护等等都 对数据管理提出了更高的要求。随着数字图书馆、电子商务、多媒体传输等用的不断发 展，数据从GB、TB到PB量级海量急速增长。存储产品已不再是附属于服务器的辅助设备 ,而成为互联网中最主要的花费所在。海量存储技术已成为继计算机浪潮和互联网浪潮之 后的第三次浪潮,磁盘阵列与网络存储成为先锋。 1. 海量数据存储简介 海量存储的含义在于,其在数据存储中的容量增长是没有止境的。因此，用户需要不 断地扩张存储空间。但是，存储容量的增长往往同存储性能并不成正比。这也就造成了 数据存储上的误区和障碍。海量存储技术的概念已经不仅仅是单台的存储设备。而多个 存储设备的连接使得数据管理成为一大难题.因此，统一平台的数据管理产品近年来受到 了广大用户的欢迎.这一类型产品能够整合不同平台的存储设备在一个单一的控制界面上 ,结合虚拟化软件对存储资源进行管理。这样的产品无疑简化了用户的管理。 数据容量的增长是无限的，如果只是一味的添加存储设备，那么无疑会大幅增加存储 成本。因此，海量存储对于数据的精简也提出了要求。同时，不同应用对于存储容量的 需求也有所不同，而应用所要求的存储空间往往并不能得到充分利用，这也造成了浪费 。 针对以上的问题，重复数据删除和自动精简配置两项技术在近年来受到了广泛的关注 和追捧。重复数据删除通过文件块级的比对，将重复的数据块删除而只留下单一实例。 这一做法使得冗余的存储空间得到释放,从客观上增加了存储容量。 2. 企业在处理海量数据存储中存在的问题 目前企业存储面临几个问题，一是存储数据的成本在不断地增加，如何削减开支节约 成本以保证高可用性；二是数据存储容量爆炸性增长且难以预估；三是越来越复杂的环 境使得存储的数据无法管理.企业信息架构如何适应现状去提供一个较为理想的解决方案 ，目前业界有几个发展方向。 1.存储虚拟化 对于存储面临的难题，业界采用的解决手段之一就是存储虚拟化。虚拟存储的概念实 际上在早期的计算机虚拟存储器中就已经很好地得以体现，常说的网络存储虚拟化只不 过是在更大规模范围内体现存储虚拟化的思想。该技术通过聚合多个存储设备的空间， 灵活部署存储空间的分配，从而实现现有存储空间高利用率，避免了不必要的设备开支 . 存储虚拟化的好处显而易见，可实现存储系统的整合，提高存储空间的利用率，简化 系统的管理，保护原有投资等。越来越多的厂商正积极投身于存储虚拟化领域，比如数 据复制、自动精简配置等技术也用到了虚拟化技术.虚拟化并不是一个单独的产品，而是 存储系统的一项基本功能。它对于整合异构存储环境、降低系统整体拥有成本是十分有 效的。在存储系统的各个层面和不同应用领域都广泛使用虚拟化这个概念.考虑整个存储 层次大体分为应用、文件和块设备三个层次，相应的虚拟化技术也大致可以按这三个层 次分类. 目前大部分设备提供商和服务提供商都在自己的产品中包含存储虚拟化技术,使得用 户能够方便地使用。 2.容量扩展 目前而言，在发展趋势上，存储管理的重点已经从对存储资源的管理转变到对数据资 源的管理。随着存储系统规模的不断扩大，数据如何在存储系统中进行时空分布成为保 证数据的存取性能、安全性和经济性的重要问题。面对信息海量增长对存储扩容的需求 ，目前主流厂商均提出了各自的解决方案.由于存储现状比较复杂,存储技术的发展业界 还没有形成统一的认识，因此在应对存储容量增长的问题上，尚存在很大的提升空间。 技术是发展的，数据的世界也是在不断变化的过程中走向完美。企业信息架构的"分"与 "合"的情况并不绝对.目前、出现了许多的融合技术,如 NAS与SAN的融合，统一存储网等等.这些都将对企业信息架构产生不同的影响。至于到底 采用哪种技术更合适，取决于企业自身对数据的需求。 3. 海量数据存储技术 为了支持大规模数据的存储、传输与处理，针对海量数据存储目前主要开展如下三个 方向的研究: 1. 虚拟存储技术 存储虚拟化的核心工作是物理存储设备到单一逻辑资源池的映射，通过虚拟化技术, 为用户和应用程序提供了虚拟磁盘或虚拟卷，并且用户可以根据需求对它进行任意分割 、合并、重新组合等操作,并分配给特定的主机或应用程序，为用户隐藏或屏蔽了具体的 物理设备的各种物理特性。存储虚拟化可以提高存储利用率,降低成本,简化存储管理， 而基于网络的虚拟存储技 在信息技术飞速发展的今天，大数据存储已成为一个不可忽视的关键议题。随着互联网技术的普及和数字化进程的推进，数据量呈现出爆炸性的增长。这对于存储技术而言，既是机遇也是挑战。传统的存储方式已无法满足现代信息社会对存储容量与效率的需求，而大数据存储技术则成为了互联网发展中的重要组成部分。 大数据的存储方式涉及到的不仅仅是海量数据的简单堆积，更重要的是如何高效地管理这些数据，并保证数据的安全性和可访问性。存储容量的急剧增长往往与存储性能并不成正比，这就要求存储系统在容量和性能上取得平衡，同时又要应对数据多样化、地理分散性和重要数据保护等挑战。 海量存储技术的概念，不仅限于单台存储设备，而是通过多个存储设备的连接来实现更大容量的存储。这些存储设备通常需要一个统一的管理平台来简化管理的复杂性。为了应对存储成本的增加，重复数据删除和自动精简配置技术成为了业界广泛采用的方法。重复数据删除技术通过对比文件块级的数据，删除重复数据块，只保留一份数据实例，从而释放冗余存储空间并增加有效存储容量。自动精简配置技术则允许存储空间根据实际需求进行动态调整，从而减少存储空间的浪费。 企业在处理海量数据存储时面临的问题包括存储成本的增加、数据容量的不可预测性增长以及越来越复杂的环境带来的数据管理难题。为了适应这种现状，业界正在探索不同的解决方案。存储虚拟化技术作为应对挑战的手段之一，通过整合多个存储设备的空间，实现了存储空间的灵活分配和高利用率，避免了不必要的设备开支，简化了系统的管理，并保护了原有投资。 除了存储虚拟化之外，容量扩展也是企业关注的焦点。在存储管理的重点转向对数据资源的管理的过程中，如何在保证性能、安全性和经济性的同时进行数据的时空分布，成为了一个重要问题。企业信息架构的适应性和选择何种技术以满足自身数据需求，都成为了关键因素。目前市场上已出现了多种融合技术，例如NAS与SAN的融合，以及统一存储网络等，它们为企业提供了灵活多样的选择。 海量数据存储技术的研究方向主要包括虚拟存储技术，其中存储虚拟化的核心工作是将物理存储设备映射到一个单一的逻辑资源池，并通过虚拟化技术为用户提供虚拟磁盘或卷。这种方式不仅可以根据用户需求进行资源的任意分割、合并和重新组合，还隐藏了物理设备的具体特性，为用户提供了极大的便利。 大数据存储解决方案的核心目标是提高存储效率、降低成本以及简化管理。存储虚拟化、重复数据删除、自动精简配置和容量扩展等技术是目前应对大数据挑战的关键技术。随着存储技术的不断进步，未来可能会出现更多创新的存储解决方案，以满足企业对数据存储和管理日益增长的需求。企业在选择适合自己的存储解决方案时，需要考虑数据的特性、业务需求以及长期的可扩展性，以构建一个高效、经济且易于管理的存储架构。