• 快捷搜索
  • 全站搜索

“海量数据”的挑战与机遇

2011-12-09 15:02:40作者:编辑:
数据安全和隐私将日益成为CIO担忧的领域,他们还需要提高其获取、存储和分析数据的技能水平。那些拥有掌控海量数据所需的深厚分析技能的人将会供不应求。

数据成为流入全球经济每一个领域的洪流。企业产生了数量迅速增加的交易数据,获取着有关客户、供应商和业务运营的数以TB的信息。实体世界中,数以百万计的联网传感器被嵌入到各种设备中,例如手机、“智能”能量计、汽车,以及在物联网时代能感知、创造和传达数据的工业机械。的确,随着企业和组织开展经营以及与个人互动,他们产生着数量巨大的数字化“排出数据”,也就是作为其他活动的副产品而创造出的数据。社交媒体网站、智能电话以及其他消费电子设备(包括PC机和笔记本)使得全球数十亿人为可获得的海量数据添砖加瓦。不断增多的多媒体内容对于“海量数据”数量的指数增长起了重要作用(参见附文“我们说的‘海量数据’是什么意思”)。例如,每一秒的高清视频产生的比特量是存储一页文本所需的2000多倍。在数字化世界中,消费者每天的生活——通讯、上网浏览、购物、分享、搜索——产生着数量庞大的数据。

        数量惊人的数据本身是一个全球性现象,但是,这意味着什么呢?全球许多公民对这一信息的集合抱以深深的怀疑,认为数据洪流不过是对其隐私的侵犯。但是,存在有力的证据表明,海量数据可以发挥重要的经济作用,不但有利于私人商业活动,还有利于国民经济和公民。我们的研究发现,数据可以为世界经济创造重要价值,提高企业和公共部门的生产率和竞争力,并为消费者创造大量的经济剩余。

        例如,如果美国医疗卫生部门能够富有创造性而有效地利用海量数据来提高效率和质量,我们估计,该部门每年通过数据获得的潜在价值可超过3000亿美元,其中2/3将以全国医疗卫生支出降低大于8%的形式表现出来。例如,在私营部门,我们估计充分利用海量数据的零售商有可能将其经营利润提高60%以上。在欧洲发达经济体中,我们估计,仅通过利用海量数据实现的运作效率提高,政府行政管理方面可以节省1000亿欧元(1400亿美元)以上的开支。这一估计尚未包括可以用来减少欺诈、错误以及税差(潜在税收与实际税收收入之差)的海量数据影响作用。

        数字化数据现在无所不在——每个部门中,每个经济体中,每个组织以及数字技术用户中。这一话题以前只有少数数据怪杰感兴趣,而现在海量数据对各个部门的领导都具有重要意义,各种产品和服务的消费者必将通过海量数据的应用而受益。随着计算领域中的摩尔定律、数字存储中的类似的定律以及云计算等趋势继续降低成本以及减少其他技术壁垒,人们存储、汇聚和组合数据然后利用其结果来进行深入分析的能力超过以往任何时候。花不到600美元,就可以买到容量足以存储世界上所有音乐的硬盘。

        随着运用越来越尖端的技术的软件与不断提高的计算能力相结合,从数据中提取洞见的能力也在显著提高。此外,由于越来越多的人、设备和传感器通过数字网络连接起来,产生、传送、分享和访问数据的能力也得到彻底变革。2010年,超过40亿人(世界人口的60%)在使用手机,其中大约12%拥有智能电话——其渗透率以每年20%以上的速度增长。如今,3000多万联网传感器节点分布在交通、汽车、工业、公用事业和零售部门,其数量正以每年30%以上的速度增长。

        可以通过许多方式来利用海量数据在全球经济的各个部门中创造价值。的确,我们的研究表明,整个世界正处在一波巨大的创新、效率和增长之中,正处在竞争和价值获取的新模式的变革时代——所有这些都被海量数据所推动,消费者、企业和经济部门无一不在挖掘利用海量数据的潜力。但是,这一现象为何现在才发生呢?数据不是一直都是信息和通信技术的冲击中的一部分吗?是的,但是,我们的研究表明,海量数据将会带来的变化的规模以及范围处在一个转折点上,随着一系列技术趋势开始加速并汇聚,必将大大扩展海量数据的影响。我们已经看到这种汇聚在经济格局中带来的变化。

        许多领先的企业已经在使用海量数据创造价值,其他企业如果要与之竞争,需要探索如何做到这一点。政府在公共资金受到约束的时期,也面临着提高效率和为公民提供的资金带来的价值的机遇。鉴于全球许多国家人口老龄化这一现实,这一点可能非常重要。我们的研究表明,公共部门可以通过有效地使用海量数据来显著提高效率。

        然而,企业和其他组织以及政策制定者如果要充分发挥海量数据的潜力,就需要应对很多挑战。能够掌握这些技术以获得最大价值的分析和管理人才不足,这是一个重大而紧迫的挑战,企业和政策制定者可以近期内着手解决。仅美国就短缺140000到190000具备深厚分析技能的人员,以及150万分析海量数据并在其发现的基础上做出决策的管理人员和分析师。人才短缺仅仅是第一个挑战。其他挑战包括需要确保适当的基础设施落实到位,并且激励措施和竞争能够鼓励继续创新。此外,必须正确理解对于用户、组织和经济体带来的经济收益,而且必须实施安全措施,以便消除公众对海量数据的担忧。

        我们的研究绝不代表关于海量数据的最终结论;其实,我们只将其视为开始。我们完全可以预料,随着运用海量数据的技术和技巧不断发展以及经济收益的增长(同时伴随着相关挑战和风险),有关海量数据的故事将继续演变。不过,就目前而言,我们的研究获得了七个重要洞见。

1.数据已经渗透到每一个行业和业务职能领域,已成为一个重要的生产因素。

        几个研究团队曾研究过全世界产生、存储和消费的数据总量。尽管他们的估计数字以及由此产生的结果各不相同,所有研究都表明,未来数年会呈现指数增长。麦肯锡全球研究院(MGI)估计,全球企业2010年在硬盘上存储了超过7EB(1EB等于10亿GB)的新数据,同时,消费者在PC和笔记本等设备上存储了超过6EB新数据。1EB数据相当于美国国会图书馆中存储的数据的4000多倍。事实上,我们如今产生如此多的数据,以至于根本不可能全部存储下来。例如,医疗卫生提供商会处理掉他们所产生的90%的数据(比如手术过程中产生的几乎所有实时视频图像)。

        我们的研究表明,公共部门可以通过有效使用海量数据来显著提高效率。

        海量数据现在已经进入全球经济的各个部门。就像其他的生产必备要素(例如,硬资产和人力资本)一样,许多现代经济活动离开了它也根本不能发生。我们估计,至2009年,美国经济中几乎所有部门中每一个雇员数量在1000人以上的企业所存储的数据平均值至少为200TB(1TB等于1024GB),是美国零售商沃尔玛1999年的数据仓库的两倍。很多经济部门中,每个企业平均存储数据超过1PB(1024TB)。欧洲的组织2010年存储容量总计接近11EB,大约为整个美国存储容量(16EB以上)的70%。由于欧洲各经济体在发展阶段上(因而在公司分布上)彼此类似,因此,我们认为欧洲多数行业中的一般企业都有足够的容量存储和操作海量数据。相比之下,其他地区中的人均数据密度就低得多了。这一差距表明,至少在近期,通过使用海量数据来创造价值的最大潜力在最发达经济体中。

        不过,展望未来,只要具备适当的条件,发展中经济体具备发挥海量数据作用的巨大潜力。比如,可考虑如下事实:亚洲已经成为产生个人位置(personal-location)数据的领先地区,原因就在于该地区人们在使用那么多手机。(中国的手机使用量超过任何其他国家,2010年估计为8亿部。)此外,发展中地区的某些个别企业在海量数据使用方面可能比平均水平先进得多。有些组织将会利用其远程存储和处理数据的能力。

        随着用于处理数据的基础技术、平台和分析能力的不断创新,随着越来越多的个人过上数字生活导致的用户行为的不断改变,海量数据带来的各种可能性将继续迅速演变。

2.海量数据可以通过多种方式创造价值。

        我们已经发现五种可广泛适用的利用海量数据的方式。这些方式提供变革性的价值创造潜力,并对组织应如何设计、组织和管理具有重要影响。例如,在可能进行大规模试验的世界中,企业营销职能和活动将如何演变?业务流程将如何变化,企业将如何评价和利用其资产(尤其是数据资产)?企业获取数据的便利以及分析数据的能力是否可能带来比品牌更大的价值?现有的何种业务模式可能会中断?(例如,在数据极其透明的世界中,建立在信息不对称这一基础上的行业——例如各种类型的经纪商——将会面临什么状况?)与遗留业务模式及基础设施紧密联系的现有组织,如何与那些能够迅速处理并利用很快就容易获得的详细消费者数据(例如,人们在社交媒体中说到的或者嵌入式传感器报告的消费者)的、灵活的新兴进攻者竞争?随着客户由于掌握了数据(例如不同竞争对手之间的价格和质量比较)而增强了实力,当盈余开始从供应商向客户转移时,会出现什么情况?

 1 2 3 4 下一页 尾页

扫码即可手机
阅读转发此文

本文评论

相关文章

IT界IT观察
大数据为金融企业开源节流

随着移动互联网快速发展,各种非结构化数据出现了爆炸性的增长。这些数据对于企业来说,一方面意味着潜在的无限商机,另一方面也

IT界IT应用
农行携手曙光构建大数据系统

中国农业银行携手中科曙光,采用曙光XData大数据一体机系统,支撑农行历史数据查询和分析业务,让“大数据”成为推动中国农行业务

IT界IT观察
数据中心关注大数据的几个价值领域

虽然大数据才刚刚开始影响到数据中心,但这是值得开发的技术,因为它带来了这么多的机会帮助我们保护、修复、优化现代数据中心。

科技金融大数据
大数据精雕金融业 IT与金融相生相长

从来都不缺数据、一向以“高富帅”形象出现的金融行业被认为有足够实力玩转数据。那数据带来的苦和甜、喜与忧是否真如外界所假想

科技金融大数据
大数据时代:打造银行的数据化能力

商业银行只有从打造数据化能力做起,让数据转化为对业务产生洞察的信息,才能推动管理精细化,提升管理效率和效益,驱动经营策略