面对数据“井喷” 青云大数据工作台价值几何?

作者:贾桂鹏 来源:原创 2022-06-02

  当下,我们正处于一个科技创新阔步发展的时代,这更是一个大数据爆发式增长的全新时代。5G技术、智能工厂、新零售、区块链、智慧医疗关键词的背后,折射的是大数据与产业数字化创新发展的碰撞。

  相关的调研数据也证明了这一点。来自权威分析机构IDC发布的《数据时代2025》报告预测,到2025年,全球每年产生的数据将增长到175ZB,数据量出现“井喷”。这背后,都得益于新一代信息技术的迅速发展与普及,而为了释放出数据价值,我们需要性能强大、运行稳定的大数据产品。

  这一次,比特网有机会与青云QingCloud大数据产品经理刘雄风聊了聊大数据产业和客户需求的变迁,以及青云最新发布的大数据工作台产品。

面对数据“井喷” 青云大数据工作台价值几何?

  大数据时代,企业需求正在发生哪些变化?

  我们发现,现在企业对于大数据的需求已经升级——从最初关注“底层资源”问题,逐步进阶到“数据层”问题。主要体现在:

  一、数据同步。目前企业已经有数据库、数据仓库、消息队列与中间件服务,还需要数据同步服务,来打通彼此之间孤立的关系。比如要通过Elasticsearch进行数据检索,首先要将MySQL中的数据导入到Elasticsearch,以实现数据源和Elasticsearch的实时同步。

  二、实时计算。在IoT场景中,把数据统一采集到平台上后,需要实时分析、处理大量的设备数据、监控数据,最终转化为设备报告和流程优化相关的信息和知识。“这种反馈实时性越高,企业降本增效的效果就越好。”刘雄风如此强调。

  三、数据开发和作业运维调度。虽然在大数据引擎方面,青云可以为客户提供QingMR开源大数据组件,解决了客户的运维和部署问题,但还无法满足数据开发和作业运维调度层面的需求。

  除此外,企业还存在权限控制、数据仓库、数据服务等典型场景的需求。

  众所周知,大数据的价值并不是数据本身,而是数据背后所隐藏的对业务有影响的信息和知识。大数据技术就是对数据不断地处理、加工和提炼,就像来自Wikipedia的经典数据金字塔,每往上一层,对应的数据量就会小一点,但对业务的影响价值就会更大一些。而要从数据层最终提炼到最上层的智慧层,数据需要经过很长链路的流式处理,没有一套完整的系统保证这条链路高效运转的话,就很难保证从数据中提炼出有价值的信息和知识。

  刘雄风表示:“青云大数据工作台便是出于打通大数据全链路的初衷,通过整合青云完整的数据产品和服务,为客户提供一个一站式智能大数据开发与治理平台。”

  目前,青云大数据工作台上线1.0版本,主要具备“数据集成、数据加工、统一数据存储和服务”功能模块,为企业数据价值挖掘提供支持。

  青云大数据工作台如何助力企业挖掘数据价值?

  从整个架构来看,我们可以看到,青云大数据工作台从最底层到最上层有五层架构,可以应对大数据全链路场景的需求。

  第一层,云原生。基于云原生架构开发,支持容器化部署。

  第二层,全托管式计算引擎。提供全托管式计算引擎服务,以Flink流批一体的计算引擎为基础,同时兼容多种计算引擎为一体的计算资源服务。

  第三层,全生命周期数据开发。提供全生命周期的数据开发服务,通过向导式的数据集成,支持可视化数据加工、调度管理、资源管理、网络管理等多种场景。

  第四层,高效的数据同步服务。提供高效的数据同步服务,能够兼容结构化、非结构化、半结构化的数据,可对数据进行实时、增量和全量的同步。

  第五层,应对丰富的业务场景。包括BI商业智能分析、用户画像、增长分析和数据大屏等应用,为业务决策提供有效的数据支撑。

  另外,青云大数据工作台还提供细粒度的资源管控,最小资源使用粒度仅0.5 CU,实现精细化资源管控,并支持按量和包年包月计费,可以适配不同的客户需求,价格低廉,同时也是安全稳定的。

  而且,青云大数据工作台有六个显著的产品特性:

  一、开箱即用。几分钟即可完成环境的创建和部署,即开即用、便捷高效,一键开启数据价值洞察之旅。

  二、弹性扩容。具备云原生弹性扩容的能力,可以帮助客户合理地节省资源,提高资源的使用率。

  三、存算分离。与青云的对象存储服务无缝衔接,海量数据可以高效、低成本地存储。也支持数据计算按需扩容,极具性价比。

  四、开放兼容。拥抱开源,百分百兼容Apache Flink,支持平滑上云,通过内嵌的Connector可以无缝对接主流的数据产品和开源大数据生态组件。同时,客户可以将原有的大数据任务迁移到大数据工作台上,进行统一的调度和监控,节省成本。

  五、安全可靠。基于云原生架构开发设计,可以支持多种基础设施独立部署。内部功能模块以微服务的方式划分为多个组件,彼此之间相互隔离,避免相互影响。同时,所有的服务都具备高可用和高扩展能力,可以在部分节点故障的情况下确保服务的可用性和数据的可靠性。

  六、生态整合。除了青云大数据工作台本身提供的服务外,还可以在云上与其他产品紧密整合,连通云平台上孤立的多种数据存储的服务,让客户在云平台上的数据流转更加便捷。

  据刘雄风介绍,青云大数据工作台主要聚焦新兴领域,以物联网和工业大数据为代表,在物料能耗优化、产线效率分析、故障定位、出库物流追踪、库存优化及产品质量追溯等方面,进行大数据的深入实时分析、计算等。

  同时,青云大数据工作台与KubeSphere容器平台、IoT平台形成合力,充分发挥各自优势,组建了“青云大数据工作台+KubeSphere+IoT”三位一体技术方案,并在环保领域、工业领域落地应用,帮助客户实现实时数据分析、BI数据统计、全量历史大数据分析和业务系统的数据分析、存储、查询、呈现等。

面对数据“井喷” 青云大数据工作台价值几何?

“青云大数据工作台+KubeSphere+IoT”三位一体技术方案

  写在最后

  刘雄风表示,青云所追求的是帮助企业激活数据资产,释放数据价值未来,未来还将会继续洞察企业需求,创新完善技术、产品及方案能力,加速企业数智化的进程。

发布
X
第三方账号登录
  • 微博认证登录
  • QQ账号登录
  • 微信账号登录

企业俱乐部