关于大数据存储技术的发展和创新

关于大数据存储技术的发展和创新

大数据这个领域过去5年发展很快、热度很高，但是总的来说目前还在起步阶段。本次研讨会我会先谈谈数据，以及大数据对数据处理技术的压力，然后为大家分享一下为什么这几年数据处理技术上的创新很多。

1. 数据价值的发现与使用

在大数据的4个V中，最显著的特征应该是Value(价值)。不管数据多大，是什么结构，来源如何，能给使用者带来价值的数据是最重要的数据。

我跟数据打了20多年的交道，从来没感觉到搞数据的地位有今天这么高。整个社会对数据的认知变了，大数据最大的贡献至少是让社会各个层面开始认识到数据的重要性，包括最高领导和底层的老百姓。

目前大家基本达成共识：数据像石油、煤一样是宝贵的资产，其内在的价值非常巨大。另外一个显著的贡献无疑是互联网企业对于数据的巧妙使用和价值体现。

2. 数据处理技术的回顾

互联网的数据“大”是不争的事实，现在分析一下数据处理技术面临的挑战。目前除了互联网企业外，数据处理领域还是传统关系型数据库(RDBMS)的天下。传统RDBMS的核心设计思想基本上是30年前形成的。过去30年脱颖而出的无疑是Oracle公司。全世界数据库市场基本上被Oracle，IBM/DB2，Microsoft/SQL Server 垄断，其他几家市场份额都比较小。SAP去年收购了Sybase，也想成为数据库厂商。有份量的独立数据库厂商现在就剩下Oracle和Teradata。开源数据库主要是MySQL，PostgreSQL，除了互联网领域外，其他行业用的很少。这些数据库当年主要是面向OLTP交易型需求设计、开发的，是用来开发人机会话应用为主的。这些传统数据库底层的物理存储格式都是行存储，比较适合数据频繁的增删改操作，但对于统计分析类的查询，行存储其实效率很低。在这些成熟的数据库产品中，有2个典型特例：一个是Teradata，一个是Sybase IQ。

Teradata一开始就使用MPP(Massive Parallel Processing)架构，以软硬一体机的产品方式提供给客户，其定位是高端客户的数据仓库和决策分析系统，Teradata在全世界的客户只有