, x( C5 _" G# w0 \- [
企业的发展往往伴随着业务的多元化,必然会产生更多的业务数据,也为企业实现业务数据化和数据业务化带来更多的机遇和挑战。 l* ~7 q. S0 ~, Z% {3 P6 b
目前,很多企业依然采用传统理念去建设大数据平台,导致不仅单业务系统是一个个烟囱,而且大数据平台也是一个个垂直的数据中心。因此,如何打通这些数据并将其按照一个统一的标准进行建设,以达到技术降本、应用提效、业务赋能的目标,是众多企业面临的问题,而统一的数据开发治理平台就是为解决这些问题而生的。 * A) r) C3 M7 ?7 ?# n1 @ C
海洋石油富岛公司迫切需要借助大数据前沿技术将公司海量生产数据变废为宝。借助星环科技公司的极速大数据平台TDH和星环科技大数据开发工具TDS,海洋石油富岛建设了大数据技术平台及体系化的数据资产管理平台,实现技术业务化、数据业务化,实现化工生产过程的降本增效,推进公司数字化转型。
6 V4 s. A/ q( ?/ B+ d 01 % s& U& b, p' P
星环科技TDS & k N% c1 O) A. E _
高效实现数据资产化和数据业务化
, r+ Q* ?- L3 E6 k" `8 t) T 星环科技大数据开发工具TDS提供数据集成、存储、治理、建模、分析、挖掘和流通等数据全生命周期服务,结合星环科技的极速大数据平台TDH的多模态的大数据处理能力,能够提升企业构建数据中台、数据仓库、数据湖等系统的效率,更高效的实现数据的资产化和数据业务化。 % b. M$ x$ r4 J, `7 Y* R
TDS可视化数据开发平台提供多样化数据相关工具,支撑全流程的可视化数据开发、监控、运维与告警,实现数据统一化、可视化,构建企业级数据湖、数据仓库、数据集市。
& [! r6 r, l* p: v# I3 ` 其中组件数据任务的调度平台Transwarp Workflow帮助用户通过图形化的界面设计完整的业务流程、设置执行时间、定义任务之间的依赖关系,并自动调度所设流程。
# @- D% p* S$ i6 C& j+ { 大数据整合工具Transwarp Transporter将分散于各个地方、各种平台上的各种格式的数据同步或集成到大数据平台上,通过简洁、统一的可视化界面快速配置数据流转流程,实现异构平台和数据源之间的数据流转。 , l8 p/ G$ q3 L- Q. U
TDS数据治理工具支撑数据治理专题工作,提升数据管理水平,达到管控、保护、提高数据资产价值。其中,大数据资产目录软件Transwarp Catalog完成异构多数据源的元数据管理、数据血缘管理与分析、智能化的数据特征、属性、相似度分析与治理规则推荐、基于数据地图的数据生命周期与流转分析等功能。 - D0 B5 N# ^0 ~# m9 q( b- X5 v( Q6 K
可视化报表分析软件工具Transwarp Pilot更是一款轻量级自助式分析BI工具,提供了电子表格、数据可视化报表、自助探索分析、OLAP 多维度分析、交互式仪表盘、管理驾驶舱等数据分析能力,与大数据平台结合,提供高并发低延时的报表查询能力。
/ p% o: d; `% f1 w 同时,Transwarp Pilot可以同Transwarp Inceptor和星环科技的分布式闪存数据库产品ArgoDB进行对接,整合了二者的分布式计算能力,提供快速交互的多维度分析,允许用户将数据缓存到分布式的计算库中,提供一站式的计算、加速体验。 # d" z6 A; {9 e
通过使用这种整合方案,用户可以获得比以往更强大的性能,获得额外的应用价值,包括快速部署,开箱即用;快速实施,节省建仓成本;快速处理,解决用户自身数据系统的速度问题;良好扩展,满足企业成长需要等。
( x5 t9 d9 A! j, T1 F 02 $ T: u( o* k1 ~8 D6 d
加快数据治理 1 G C1 a( j; t& g3 l
TDS为海洋石油富岛提供准确数据支撑
! ]2 e0 @( W& k5 \" G7 X; u& O 海洋石油富岛股份有限公司是中国海洋石油公司下属的中海石油化学有限公司的控股企业,是海南省目前最大的化工工业企业。位于海南,以海上天然气为资源,生产大颗粒尿素、甲醇及下游产品,已形成年产132万吨大颗粒尿素、140万吨甲醇和8万吨复混肥的生产能力,并拥有一个设计年吞吐量为1855万吨的深水港口。 , I9 x$ i- D' |1 b4 D" Q
星环科技为海洋石油富岛公司搭建数据治理平台,并建设化工工艺检测系统,将数据治理的各项工作、流程制度固化到系统中,利用信息系统,强化数据治理的能力,打破数据孤岛,实现数据融合、数据加工及分析展现的全链路数据管理,为上至公司管理层、下至一线工艺人员提供准确有效的数据支撑。
$ P. r2 `/ _3 q" W9 V# Y 星环科技建设的数据治理平台基于星环TDH一站式大数据平台,建设数据仓库、数据标准、数据质量、数据目录、数据可视化等数据管理能力。其中,星环科技大数据开发工具TDS发挥重要作用,项目以TDH提供的关系型分析引擎Inceptor,快速高效地构建离线数据仓库,以大数据整合工具Transporter轻松完成复杂数据ETL过程开发及数据质量规则落地,以大数据资产目录软件 Catalog高效准确完成元数据管理并构建数据目录及数据血缘图,Workflow对数据仓库平台的ETL处理任务进行调度及监控,以可视化报表分析软件Pilot完成决策数据的分析展现。
/ F9 R1 {' u0 U! S4 J! y; s( l 其中,Transporter为数据抽取、数据清洗转换、数据加载提供图形化开发界面,结合workflow调度工具为准实时、离线数据同步提供解决方案。 2 M$ i/ O6 S8 `- `* l
Transporter将7个源业务系统504张表数据加载至TDH,Inceptor作为分布式计算引擎,提供对任务进行计算加工,同时Workflow提供ETL作业任务的统一调度工作,目前已支撑2144个工作流的调度运行及监控。实现数据的集成、统一管理,信息的统一服务,从而在业务上为海洋石油富岛公司经营管理及生产运行管理提供信息支撑,在技术上为各部门业务系统提供统一的数据技术平台和统一的数据源。
3 ^) P2 `' j# X6 U3 S3 Q, R- s3 c Catalog从技术和业务双视角构建海洋石油富岛公司数据资产目录,通过采集适配器进行自动化的、批量化的元数据采集,将分析型应用所涉及到的端对端的元数据装载到元数据存储平台,从而同时满足业务人员和技术人员的需要,并图形化构建数据血缘关系图,实现各层次数据的快速溯源。 1 L9 }7 }' R: @- X$ w
Pilot Enterprise具备可视化报表平台及开发能力,实现海洋石油富岛化肥二部27个关键业务指标加工及不同形式的展示,并完成4个化工生产过程监测模型监测结果的展示,及关键指标变量软测量模型预测趋势的可视化展现,实现了对关键生产环节的自动化过程监测、故障检测与故障定位,以及对关键质量变量的低成本、高精度的在线实时预测,辅助生产人员更加及时准确地发现、处理生产业务相关问题,真正提高生产的高效性及安全性。
- o/ G! @# W9 U Transwarp Pilot Enterprise提供丰富的数据源支持,并可以由用户自行在源数据关系的基础上,构建自己的业务模型,是实现数据分析不可或缺的核心组件。Pilot Enterprise自助仪表盘为企业级用户提供数据自助分析服务,化数据为价值,有效解决企业大数据隐患,大幅度降低沟通成本,提高企业营运效率。
+ z% F+ A8 F) M' }2 m/ | 海洋石油富岛化肥二部一位工艺操作人员就表示,生产工况图构思了2年多,一直没有合适的机会来实现,星环科技团队不仅把生产工况图画出来了,还做到了数据的实时更新。 . q% U$ A% A( o6 w [# a
另外,项目针对化工企业进行数据的集成、标准化、建模、质量管理、资产目录及血缘关系构建、数据可视化等数据全过程管理,形成了完整的化工行业数据治理解决方案,为人工智能、元数据管理、数据可视化等场景累计成功落地案例,能够直接应用于中海油体系内外的化工企业的数据治理体系推广当中,具有良好的推广价值。 * I. J- [- h% e/ w6 P$ u
% j' r& M" ~$ k2 Z2 e, s0 C$ I5 Y/ [% T7 i6 S& K- Z+ }6 o+ p+ ^) h/ g
S; z, Y0 ~; @
0 X: v& b# K+ b, ~ |