谈大数据应用场景

标签: IT咨询 | 发表时间:2014-06-09 22:54 | 作者:人月神话
出处:http://blog.sina.com.cn/cmmi
对于大数据的应用场景,谈的文章已经相当多,包括各行各业对大数据处理和分析的应用,在此仅仅思考在各种不同的行业如何来发现潜在存在的大数据应用场景。

首先可以从大数据的4V特性入手来进行思考和分析,在数据类型上更加强调了多种异构类型数据形成的混合存储,对于传统单纯的结构化数据或单纯的文档类非结构化数据都有解决方案,而真正难的是混合存储并提供统一的大数据服务开放能力接口。拿企业内部信息化应用场景来说,如果从单一入口原则入手,某个关键字能够搜索到邮件,业务系统,文本文档,互联网等多种渠道来源的异构混合数据,即可形成一个典型的大数据场景。

对于海量的问题一定要区分结构化数据和非结构化数据分别对待,对于完全的结构化数据往往上10T已经是一个海量的数据库,如果仅仅从单节点考虑这种数据库已经很难真正满足大数据分析所需要的速度要求,转而才是需要的类似MPP+ShareNothing机制或Hadoop分布式存储加分析机制来解决OLAP层面的问题。因此对于传统的BI应用面对海量数据无法满足准实时性数据分析需求的时候,需要考虑的是大数据分析和应用。

在速度和时效上是我们考虑的另外一个重要问题,传统的ODS库或OLAP分析往往很难满足实时性的要求。而基于增量的实时数据采集,流处理机制等很好的解决了这个问题。在这里并不是强调的数据量和数据的异构情况,而是更加强调了对数据的增量实时采集和分析机制。那么对于传统ODS构建无法满足实时或即席查询的场景往往也存在大数据技术的应用。

其次从大数据带来的一些思维转变上来分析大数据的场景,首先是对于企业的大数据分析和应用,首先就是要将视线从传统的企业内部拓展到企业外部,特别是在用户行为分析,市场营销等方面基于企业内部传统业务系统收集的数据是远远不够的,只有基于大量外部数据的相关性分析往往才能得出更加有价值的推论。这也是往往互联网行业对大数据应用最先发展和成熟一样,来自企业外围的用户行为,社交,交易,行动路线等数据,来自各种传感设备采集的视频,流量,温度数据才真正构成了一个大数据环境。

大数据关注的是全量数据而非抽样数据,那么这带来的思维转变就是原来采用抽样数据分析和统计的场景是否可以转化为大数据场景,而需要采集全量数据一定不可能靠人工来完成,转化的替代思维就是需要通过传感网和各种传感设备自动采集完成。因此抽样-》全量-》传感设备实时采集全量数据-》全量数据存储和分析即构成一个完整的大数据思维的转变。

分析评估或预测模型,类似交通行业的交通流预测或诱导模型,金融行业的信用评估和风控模型,医疗行业的疾病预测模型,保险行业的精算模型等,当我们对这些模型进行重新思考的时候会发现,原有建模和模型分析思路往往并没有错,但是在原来本身就会遇到数据收集困难性,如涉及到大量外部协同单位数据的开放和收集,涉及到用户行为和习惯数据的收集等,而这些也正是大数据的重要应用场景。大数据下我们强调相关性,但是不能否定因果关系。其实很多时候实际情况还是我们首先在思考一个价值目标,然后再考虑围绕这个价值目标所涉及到的所有相关因素和因子,再考虑这些因子间的相互关系权重,因素的采集和分析方法等。

不论是哪个行业的大数据分析和应用场景,可以看到一个典型的特点还是无法离开以人为中心所产生的各种用户行为数据,用户业务活动和交易记录,用户社交数据,这些核心数据的相关性再加上可感知设备的智能数据采集就构成一个完整的大数据生态环境。

单纯的数据采集,数据存储,数据处理往往都只是大数据中应用到的技术能力,而大数据场景的本质还是业务价值驱动下的大数据分析和挖掘,为了达到这个目标往往则涉及到数据采集,集成,存储,处理,分析,挖掘等大数据的全生命周期管理过程。

  青春就应该这样绽放   游戏测试:三国时期谁是你最好的兄弟!!   你不得不信的星座秘密

相关 [大数据 应用] 推荐:

何为大数据及大数据在教育中的应用

- - 且行资源
大数据(big data),大在哪里,它和传统数据又有何区别,在教育领域有何应用. 大数据:也称巨量资料,指的是所涉及的资料量规模巨大,其产生背景是随着当前网络技术及智能设备的普及,使数据产生极其便利. 物联网、云计算、移动互联网、车联网、手机、平板电脑、PC以及遍布地球各个角落的各种各样的传感器,无一不是数据来源或者承载的方式.

谈大数据应用场景

- - 人月神话的BLOG
对于大数据的应用场景,谈的文章已经相当多,包括各行各业对大数据处理和分析的应用,在此仅仅思考在各种不同的行业如何来发现潜在存在的大数据应用场景. 首先可以从大数据的4V特性入手来进行思考和分析,在数据类型上更加强调了多种异构类型数据形成的混合存储,对于传统单纯的结构化数据或单纯的文档类非结构化数据都有解决方案,而真正难的是混合存储并提供统一的大数据服务开放能力接口.

大数据在服务器运营中的应用

- - 博客园_知识库
  腾讯公司从2012年开始,通过对服务器运营流程、工具系统的建设,服务器从一线到三线的运营基本转入线上自动化. 在服务器静态配置、动态的运行状态和生命周期各个节点的运营这几个方面,产生了大量的运营数据,这些信息像滚雪球一样,以几何量级快速增长. 数据越来越多,该如何着手处理呢. 这就像刚入门的厨子一样,在农贸市场里面对堆积如小山般的食材,无从下手.

大数据在电信行业的应用

- - 互联网的那点事
电信与媒体市场调研公司Informa Telecoms & Media在2013年的调查结果显示,全球120家运营商中约有48%的运营商正在实施大数据业务. 该调研公司表示,大数据业务成本平均占到运营商总IT预算的10%,并且在未来五年内将升至23%左右,成为运营商的一项战略性优势. 可见,由流量经营进入大数据运营已成为大势所趋.

2016 移动应用质量大数据报告

- - IT瘾-geek
2016年,在“互联网+”战略的推动下,移动互联网与越来越多传统行业的结合更加紧密,用户使用移动互联网的工作场景、生活场景、消费场景都在悄然发生着改变, 移动互联网产品在智能硬件、医疗、汽车、旅游、教育等市场也都在不断探索新的可能性. 开发者除了需要关注用户需求外,更需要重视产品质量与口碑,这将极大的影响用户对产品的评价及产品后续的传播力度.

大数据平台在互联网行业的应用

- - CSDN博客综合推荐文章
本文是58同城信息系统部高级经理余中洋对大数据在互联网行业应用的总结. 以实际经验讲解了大数据从雏形到发展,以及发展过程中传统数据仓库到大数据平台的转化和大数据的可视化应用. 所有公司在一开始时,数据的建设都是比较落后的,但随着互联网的环境推动,以及公司计划2013年在纽约交易所上市,这时候面临一个很大的问题.

一文读懂BI商业智能与大数据应用的区别

- - 人人都是产品经理
      之所以要区分大数据应用与BI(商业智能),是因为大数据应用与BI、数据挖掘等,并没有一个相对完整的认知. BI(BusinessIntelligence)即商务智能,它是一套完整的解决方案,用来将企业中现有的数据进行有效的整合,快速准确的提供报表并提出决策依据,帮助企业做出明智的业务经营决策.

剖析大数据在金融行业的典型应用方向

- - IT瘾-bigdata
随着互联网新金融模式的兴起,传统的银行金融业面临着诸多挑战. 而大数据技术的发展和广泛应用,无疑是提供了一座极具价值的“金矿”,借助大数据技术,将分散在金融企业服务网络与IT系统中的海量信息与基于业务驱动的外部数据源融合,并结合金融行业的特点,以金融业务为核心,提升客户体验和客户价值、优化运营流程、预测营销效果、提升经营管理水平.

大数据、数据挖掘在交通领域有哪些应用?

- - 知乎每日精选
对交通行业缺乏深入了解,如有兴趣建议看看:. 大数据理论如何指导交通数据分析. 有数据才有分析,交通领域的数据产量巨大. 这个很好理解,详细讨论需要另开一个问题 大数据对物流管理有什么影响. 交通局通过数据实时分析一方面可以控制公交车和地铁的发车班次和时间,减少空车率,疏导客流缓解城市道路压力;另一方面也可以进行线路优化.

解决POI大数据导出Excel内存溢出、应用假死

- - IT瘾-bigdata
最近公司一个06年统计项目在导出Excel时造成应用服务器内存溢出、假死现象;查看代码发现问题一次查询一整年的数据导致堆内存被撑爆(假死),随后改用批量查询往Excel中写数据,同样的问题又出现了. 随后在网上查阅了部分资料只是在POI大数据导出API的基础上写的demo示例无任何参考价值….