大数据席卷 应用同时面对失败仍需创新
- 来源：IT168
- 2014/8/20 13:25:221949
中国通信学会副理事长兼秘书长张新生在致辞中表示，当前我国的大数据产业发展呈现出五大趋势。，我国大数据产业发展提速，正在从概念期转入应用发展期，已经初步形成了以数据采集、分析等技术为支撑的，由数据中心和应用等构成的产业生态环境；第二，我国大数据创新能力不断提升，技术已经不再是发展大数据的主要瓶颈；第三，我国进入了新一代信息技术的发展和利用阶段，信息资源的价值正在被进一步挖掘，信息技术正在改变人们的生活和生产方式；第四，我国大数据产业链日渐完善，包括互联网公司、电信运营商等在内的数百家国内外企业纷纷进入大数据市场；第五，大数据的开放、共享，大数据交易机制的建立，以及大数据的保护和安全正在成为业界关注的重点。
尽管大数据宣传与炒作可谓如火如荼，但仍有92%的企业始终保持中立态度，即计划在“合适的时间”着手实施或者表示不打算接触大数据项目。而在那些已经亲身实践大数据项目的企业中，多数遭遇失败、而且往往是掉进了同样的几个陷阱当中。
取得大数据项目成功的关键在于构建一套迭代型方案，鼓励现有员工参与并使用，从而在一系列无关紧要的失败中学习知识并积累经验。
从众心理
大数据是项转折性的伟大技术成果。根据Gartner公司的调查，2013年中64%的受访企业表示已经购买或者正计划在大数据系统领域进行投资，这一比例高于2012年调查中的58%。越来越多的企业开始深入探索自己的数据，尝试利用蕴藏在其中的信息大程度减少客户流失、分析财务风险并改善客户体验。
在这64%认同大数据思路的受访者中，又有30%已经在大数据技术方面投入资金、19%计划在未来一年中进行投资、另外15%则计划在未来两年内进行投资。不过在Gartner的全部720位调查对象中，只有不到8%已经实际部署了大数据技术方案。
这样的结果实在很糟糕，不过造成项目失败的理由明显更加糟糕：大多数企业根本不知道自己在迈入大数据领域后应该做些什么。
难怪现在有那么多企业开出可观的薪酬数字来招徕并雇用数据科学家，目前其平均收入已经达到每年12万3千美元。
八种导致失败的理由
由于众多企业在探索自有数据的过程中完全是在胡打误撞，因此在意识到这一点后、他们决定向能带来更具可预测性方案的专业人士求援(包括认为数据科学家能够奇迹般地随手化解他们面临的现实难题，甚至还有不少更夸张的预期)。GartnerwngrSvetlanaSicular为我们汇总出八种导致大数据项目失败的常见原因，它们分别是：
·管理层阻力。尽管数据当中包含大量重要信息，但FortuneKnowledge公司发现有62%的企业仍然倾向于相信自己的直觉，更有61%的受访者认为的实际洞察力在决策过程中拥有高于数据分析结论的优先参考价值。
·选择错误的使用方法。企业往往会犯下两种错误，要么构建起一套过分激进、自己根本无法驾驭的大数据项目，要么尝试利用传统数据技术处理大数据问题。无论是哪种情况，都很有可能导致项目陷入困境。
·提出错误的问题。数据科学非常复杂，其中包含专业知识门类(需要深入了解银行、零售或者其它行业的实际业务状况);数学与统计学经验以及编程技能等等。很多企业所雇用的数据科学家只了解数学与编程方面的知识，却欠缺重要的技能组成部分：对相关行业的了解。Sicular的观点很对，她表示大家好能从企业内部出发寻找数据科学家，因为“学习Hadoop比学习相关行业的知识更简单”。
·缺乏必要的技能组合。这项理由与“提出错误的问题”紧密相关。很多大数据项目之所以陷入困境甚至终失败，正是因为不具备必要的相关技能。通常负责此类项目的都是IT技术人员——而他们往往无法向数据提出足以指导决策的正确问题。
·在大数据技术之外遇到了其它意外状况。数据分析仅仅是大数据项目当中的组成部分之一，访问并处理数据的能力同样重要。除此之外，常常被忽略的因素还有网络传输能力限制与人员培训等等。
·与企业战略存在冲突。要让大数据项目获得成功，大家必须摆脱将其作为单一“项目”的思路、真正把它当成企业使用数据的核心方式。问题在于，其它部门的价值或者战略目标有可能在优先级方面高于大数据，这种冲突往往会令我们有力无处使。
·大数据孤岛。大数据供应商总爱谈论“数据湖”或者“数据中枢”，但事实上很多企业建立起来的只能算是“数据水坑儿”，各个水坑儿之间存在着明显的边界——例如市场营销数据水坑儿与制造数据水坑儿等等。需要强调的是，只有尽量缓和不同部门之间的隔阂并将各方的数据流汇总起来，大数据才能真正发挥自身价值。
·回避问题。有时候我们可以肯定或者怀疑数据会迫使自身做出一些原本希望尽量避免的运营举措，例如制药行业之所以如此排斥情感分析机制、是因为他们不希望将不良副作用报告给美国食品药品管理局并承担随之而来的法律责任。
在这份理由清单中，大家可能已经发现了一个共同的主题：无论我们如何高度关注数据本身，都会有人为因素介入进来。即使我们努力希望获取对数据的全面控制权，大数据处理流程终还是由人来打理的，其中包括众多初始决策——例如选择哪些数据进行收集与分析、向分析结论提出哪些问题等等。
通过迭代实现创新
由于很多企业似乎根本无力建立起自己的大数据项目，再加上大多数大数据项目往往终遭遇失败，因此将迭代机制引入大数据是非常必要的。这不会迫使企业向咨询企业或者供应商支付大量费用，大家好能构建起由内部员工参与的免费数据实验方案。
鉴于几乎所有主要大数据技术都属于开源成果，因此建立起一套“初始规模较小、能够快速发现问题”的方案其实完全可行。更重要的是，很多平台都能像云服务那样立即起效且成本低廉，从而进一步降低了进行项目实验与发现错误的资金投入。
大数据的关注重点在于提出正确的问题，这也是让企业内部员工参与项目如此重要的理由。但即使拥有的相关行业知识，如果根本无法开始提出问题的流程、企业仍然无法收集到正确的数据。这类问题也应该被纳入预期并作好相应准备。
解决问题的关键在于使用灵活而开放的数据基础设施，保证其允许企业员工不断调整实际方案、直到他们的努力获得理想的回馈。通过这种方式，企业能够消除恐惧并终以迭代为武器顺利迈向大数据有效使用的胜利彼岸。