2012年3月,美国奥巴马政府宣布推出“大数据的研究和发展计划”。该计划涉及美国国家科学基金、美国国家卫生研究院、美国能源部、美国国防部、美国国防部高级研究计划局、美国地质勘探局等6个联邦政府部门,承诺将投资两亿多美元,大力推动和改善与大数据相关的收集、组织和分析工具及技术,以推进从大量的、复杂的数据集合中获取知识和洞见的能力。美国奥巴马政府宣布投资大数据领域,是大数据从商业行为上升到国家战略的分水岭,表明大数据正式提升到战略层面,大数据在经济社会各个层面、各个领域都开始受到重视。
其实,不仅是美国,其他一些国家和地区也都把大数据提升到国家战略层面,认为未来国家层面的竞争力将部分体现为一国拥有数据的规模及运用数据的能力。2013年2月,法国政府发布了其《数字化路线图》,列出了 5项将会大力支持的战略性高新技术,“大数据”就是其中一项。法国政府将以新兴企业、软件制造商、工程师、信息系统设计师等为目标,开展一系列的投资计划,旨在通过发展创新性解决方案,并将其用于实践,来促进法国在大数据领域的发展。2012年9月,日本总务省发布2013年行动计划,提出以复苏日本为目的推进“活跃在ICT领域的日本”ICT综合战,明确提出“通过大数据和开放数据开创新市场”。这些表明,日本政府在新一轮IT振兴计划中把大数据发展作为国家层面战略提出,新 ICT战略将重点关注大数据应用技术。
企业层面:对大数据的存储、处理和应用积极布局
不仅是政府开始谋划大数据发展战略,IT巨头如英特尔、IBM、甲骨文、微软、淘宝、百度和腾讯等也开始对大数据的存储、处理和应用进行布局,在针对个人用户信息的大数据的管理和分析上投入了巨额资金。
2010年以来,欧美 IT巨头掀起一轮与大数据相关的并购潮。英特尔并购了安全软件制造商McAfee等很多大数据处理以及架构厂商来弥补自己在软件上的能力;IBM通过并购数据分析公司来增强自己在海量数据处理上的实力。从各IT巨头纷纷推出的大数据产品可以看出,这些IT巨头几乎抢占了搜索服务、数据库、服务器、存储设备、数据挖掘等核心价值环节。
我国已成为 IT巨头布局大数据战略的重要战场。例如:英特尔在上海成立一个团队专门在做 Hadoop大数据处理架构的开发;EMC组建EMC中国研究院,下设大数据、云基础构建、云平台与应用3个实验室来推动这3个方面的研究以及大数据在中国的应用;IBM在北京成立了全球首个大数据智慧赋能中心,并且汇聚了来自IBM全球的大数据技术专家和商业运营精英,旨在为企业构建一个从商业评估、论证、方案部署到人员培训的完整大数据战略体系。
国内企业受限于IT产业链所处的位置,普遍在数据库、数据仓库、商业智能等领域基础薄弱,因此,在大数据上布局不可能像跨国企业那样全面。但国内相对强势的互联网企业、电信运营商、电信设备供应商已经开始启动产业布局,以互联网应用服务为切入点抢占大数据制高点。
大数据面临的挑战:不仅仅是技术
如果从数据结构复杂多样,数据规模爆炸增长,对社会生活产生巨大影响的角度看,全球已经进入大数据时代。但是从对数据的应用角度看,当下还处于大数据时代的早期。特别是对我国来说,大数据真正落地,还需面临几个重大的挑战。
对数据共享和隐私保护的挑战。中国人口居世界首位,将会成为产生数据量最多的国家,但对数据保存不够重视,对存储数据的利用率也不高。此外,我国一些部门和机构拥有大量数据但受行政垄断和商业利益所限,数据开放程度也较低,这给数据利用造成极大障碍。制约我国数据资源开放和共享的一个重要因素是政策法规不完善,一方面欠缺推动政府和公共数据开放的政策;另一方面数据保护和隐私保护方面的制度不完善,抑制了开放的积极性。所以,如何使政府从垄断和保密的历史惯性思维方式中解脱出来,在确保隐私、机密和国家安全的前提下带头开放数据,降低公众获取和利用政府数据资源难度和成本,至少是我国大数据时代开启阶段的瓶颈。
对数据储存和分析技术的挑战。大数据中大部分都是非结构化的数据,如网络日志、RFID、传感器网络、社交网络、互联网搜索索引、详细通话记录、医疗记录、摄影档案、视频档案等。现有的软件和工具主要适用于以结构化数据为主的传统数据,要想及时捕捉、存储、聚合和管理这些大数据,以及对数据进行深度分析和挖掘,需要新的技术和能力。在大数据软件平台和算法方面,国外又一次走在我国前面。特别是近年来以开源模式发展起来的 Hadoop等大数据处理软件平台及其相关产业已经在美国初步形成。而我国数据存储、处理技术基础薄弱,总体上以跟随为主,难以满足大数据大规模应用的需求。
对管理理念和运作方式的挑战。大数据的技术挑战显而易见,但其带来的决策挑战更为艰巨。大数据开发的根本目的是以数据分析为基础,帮助人们作出更明智的决策,优化企业和社会运转。哈佛商业评论说,大数据本质上是“一场管理革命”。多年前出现的互联网将企业经营、政府运作以及人们生活的方式做出了很大改变。大数据的出现,又一次激起了这种巨大的变革能力。在大数据时代,决策将日益基于数据和分析而作出,而并非基于经验和直觉。在我国,无论是政府部门还是企业,对大数据可能产生的价值的认识,以及如何利用数据分析实现科学决策依然有相当长的路要走。
大数据时代:政府需要有所作为
现代历史上的历次技术革命,中国均是学习者。而在这次云计算与大数据的新变革中,中国与世界的距离最小,在很多领域甚至还有着创新与领先的可能。一方面,大数据技术以开源为主,迄今为止,尚未形成绝对技术垄断。即便是英特尔、IBM、甲骨文等IT巨头,也同样是集成了开源技术,和本公司原有产品更好的结合而已。另一方面,中国人口和经济规模,决定中国的数据资产规模将冠于全球,客观上为大数据技术的发展,提供了广阔的发展空间。从国家角度来看,大数据是重要战略资源。因此,挖掘大数据价值,推动大数据发展,需要政府发挥作用。
将大数据上升为国家战略。我国尽管已经意识到大数据的竞争力和战略性,却并未在真正意义上将其提升到国家战略高度,数据财富尚未形成全民意识。因此有必要从国家层面上制定大数据发展规划,将大数据上升为国家战略。通过国家层面的战略规划明确大数据产业的发展重点、空间布局和保障措施,推动和改善与大数据相关的收集、储存和分析工具及技术,并在公共服务领域(如安防、医疗、卫生、教育等),开展大数据应用示范,提高应急处置能力和安全防范能力,提升服务能力和运作效率。
推动数据公开,同时保护“隐私权”。如同工业革命要开放物质的交易、流通一样,开放的、流通的数据是时代的要求。美国政府创建了Data.gov网站公开数据,英国、印度也有“数据公开”运动。中国要赶上这样一场大数据变革,首先要从政府开始公开数据,让社会享受公开数据的好处,同时也可以提升政府的办事效率。其次要通过数据立法,对“隐私权”“所有权”等敏感问题通过法律形式加以保护。
推动政府2.0建设。通过以移动技术为代表的云计算、大数据等新一代IT技术工具和社会性网络服务(SNS)、社交媒体为代表的社会工具应用,打造以用户创新、大众创新、开放创新、协同创新为特征的政务平台,实现从生产范式向服务范式的转变,通过政府、市场、社会的协同与互动塑造公共价值。