对大企业而言，大数据的兴起部分是因为计算能力可用更低的成本获得，且各类系统如今已能够执行多任务处理。其次，内存的成本也在直线下降，企业可以在内存中处理比以往更多的数据。还有就是把计算机聚合成服务器集群越来越简单。
对大企业而言，大数据的兴起部分是因为计算能力可用更低的成本获得，且各类系统如今已能够执行多任务处理。其次，内存的成本也在直线下降，企业可以在内存中处理比以往更多的数据。还有就是把计算机聚合成服务器集群越来越简单。IDC的数据库管理分析师Carl Olofson认为，这三大因素的结合便催生了大数据。
“我们不但能够把这些事情做好，而且能够以更低廉的成本去做这些事情，”他说。“过去有些大型超级计算机就曾涉足过繁重的多处理系统，一起构建成紧密聚合的集群，但由于都是专门设计的硬件，所以其成本动辄数十万甚至数百万美元。而现在，我们利用普通的商品化硬件也能获得同样的计算能力。这便帮助我们能够更快、更便宜地处理更多的数据。”
当然，并非所有拥有庞大数据仓库的企业都可以说他们正在使用大数据技术。IDC认为，某项技术要想成为大数据技术，首先必须是成本可承受的，其次是必须满足IBM所描述的三个“V”判据中的两个：多样性(variety)、体量(volume)和速度(velocity)。
多样性是指，数据应包含结构化的和非结构化的数据。体量是指聚合在一起供分析的数据量必须是非常庞大的。而速度则是指数据处理的速度必须很快。Olofson说，大数据“并非总是说有数百个TB才算得上。根据实际使用情况，有时候数百个GB的数据也可称为大数据，这主要要看它的第三个维度，也就是速度或者时间维度。假如我能在1秒之内分析处理300GB的数据，而通常情况下却需要花费1个小时的话，那么这种巨大变化所带来的结果就会增加极大的价值。所谓大数据技术，就是至少实现这三个判据中的两个的可承受得起的一种应用。”
与开源之关系
“很多人都认为，Hadoop和大数据是同义词。但这是个错误，”Olofson解释说。例如Teradata、MySQL和一些“聪明的集群技术”的实施案例都没有使用Hadoop，但也被认为是大数据的实施案例。
作为大数据的一种应用环境，Hadoop之所以能够引起人们的注意，是因为它是基于MapReduce环境的，这是超算圈里很常用的一种简化环境，主要是由谷歌所创建的一个项目。Hadoop是和各种Apache项目密切相关的混合实施环境，其中包含了在MapReduce环境下所创建的HBase数据库。
软件开发人员一般会用一切利用到Hadoop以及相似的高级技术的手段来响应——而这些技术很多都是在开源社区里开发的。“他们创建了一个令人眼花缭乱、变化多端的东西，即所谓的NoSQL数据库，该数据库的键值多数都已利用了各种技术在处理能力、多样化，或者数据库规模上做了优化的，”Olofson说。
开源技术一般是没有商业支持的，“所以这些东西还必须让其进化一段时间，逐渐剔除各种缺陷，而这一般需要数年的时间。这就是说，羽毛未丰的大数据技术目前还无法在普通市场上普及。”与此同时，IDC预计至少有三家商业厂商会在年底之前对Hadoop提供某种类型的支持服务。还有其他一些厂商，如Datameer等，也会提供带有Hadoop组件的分析工具，允许企业开发他们自己的应用。例如Cloudera和Tableau等已经在其产品中用到了Hadoop。
升级关系型数据库
行业观察家们一般都赞成在升级关系数据库管理系统(RDBMS)时也要考虑大数据技术。Olofson说，“大数据技术适用于速度更快、规模更大、成本更低廉的场合。”比如Teradata就把它的系统做得成本更低廉、具备可扩展性和集群环境。
然而还有些人则不这么认为。Gartner的数据管理分析师Marcus Collins说，“通常在使用RDBMS时，都要用到BI工具，但这种处理流程并非真的大数据。这种流程由来已久。”
网友评论