存储 频道

数据集成前夜之评估你的数据质量

  【IT168专稿】如今,由于法规遵从、差异化竞争、企业并购等需求因素的带动,数据集成已经受到越来越多企业的重视。来自IDC的调查报告显示(《中国企业数据集成和数据质量调查白皮书》),70%的接受调查的中国企业已经建设或正在建设数据集成项目。这是一个可喜的数字,然而,该白皮书也指出:中国目前实施的数据集成项目里面,也有相当部分难以达到预期甚至相去甚远,造成这种结局的一个重要原因就是中国企业复杂的信息化背景造成的数据质量问题。

  众多迹象表明,数据集成已经成为企业发展的必由之路,因此,我们就不得不正视与之重要相关的数据质量问题。数据质量与数据集成一样,已经刻不容缓!就此问题,记者对数据集成领域的领导厂商Informatica大中国区董事总经理吴韶益及IDC中国区总裁郭昕进行了专访。

  Informatica大中国区董事总经理吴韶益(左)IDC中国区总裁郭昕(右)接受记者专访

  评估你的数据质量

  对于大多数企业来说,确保数据质量是一项艰巨的挑战。普华永道发布的全球数据管理调查结果表明:75%的被调查公司认为缺损的数据会导致严重问题;50%以上的公司因内部对帐而产生了额外的成本;33%的公司不得不延迟或放弃使用新系统的计划;而 20%的公司认为无法满足合同或协议约定的服务水平。截至2007年,由于忽略数据质量问题,有50%以上的数据仓库项目无法得到客户的认同,甚至完全失败。

  既然数据质量如此重要,那么如何评估我们当前的数据质量的高低呢?来自Informatica公司和IDC的双重建议,中国企业可以从以下六个方面评估当前数据的质量:

  数据质量六大评估标准  来源:IDC,2008

  确保数据质量不仅涉及到在企业范围内查找并修复丢失或错误数据。它意味着为业务提供全面、一致、相关且适时的数据,而不考虑数据的应用、用途以及来源。

  数据质量不高,通常问题处在哪里呢?数据集成和数据质量领域领先厂商Informaita告诉我们,数据质量的降低一般与以下操作有关:

  * 输入。如果数据字段为空或向字段中输入了错误数据,则数据质量因此而降低。

  * 维护。每个数据维护操作都可能改变数据,从而导致无法预知的结果。

  * 处理。随着错误数据的输入,它可能扩散到多个系统中,从而影响到整个企业中的数据质量。即使相对简单的数据错误也会迅速升级为复杂问题,降低整个企业的数据质量。

  * 接收。企业越来越倾向于将业务流程外包给第三方或者与合作伙伴以及供应商协作,此时它们无法对数据进行即时控制。那些来源或质量无法确定的外部数据可能进入企业中并在企业中扩散。

  * 存储。在多个系统中存储数据经常导致数据一致性问题。

  因此,在日常工作中,我们则应该注意上述几点情况是否经常发生,并经常改进,从而控制数据质量。

  提升你的数据质量

  由于系统和应用程序经常接收到新数据,而数据的总量也在不断提高,确保数据质量并不是一次就能完成的。因此,Informatica建议,所有企业都应该使用一种反复进行的阶段性过程管理数据质量,此过程包括数据质量评估、计划以及策略的选择和实施,具体如下:

  一、数据质量评估

  第一步是评估当前的数据质量状态。无论数据存储在哪里(企业资源计划 (ERP) 或 CRM 系统、原有和大型机系统、合作伙伴和供应商的系统、各种电子表格、文档、.pdf 文件或桌面数据库),数据归档都能帮助企业准确地评估数据的内容、质量和结构。在最有效的数据质量评估中,所有问题都按照对业务影响从大到小的顺序列出,这将帮助 IT 企业节省项目成本。

  二、数据质量计划

  彻底了解企业数据的内容和质量后,接下来的步骤是开发一个递增项目计划,改正当前的错误并避免未来错误的发生。有效的计划不但可以改善企业当前所有应用程序中数据的质量,还将指定一些方式以确保新应用程序从开始就遵循数据质量规则。

  三、数据质量策略的选择和实施

  选择改善企业数据质量的策略要求决策者权衡每个数据质量计划的成本以及该策略产生的影响。目前的策略类型有两种:在向企业输入数据时提高数据质量的方法称为"上游"方法,而在使用操作系统(例如,数据仓库)数据的应用程序中改善数据质量的方法是"下游"方法。

  数据质量管理流程 来源:Informatica Corporation,2008

  数据集成和数据质量相辅相成

  "数据整合和数据质量的提升二者是相依存在的,数据质量的提升可以让数据整合的结果更精准,在数据整合过程中数据质量问题质量问题也会凸显并得到有效提升,这两者既可以并行,也可以分开进行"


Informatica大中国区董事总经理吴韶益

  在谈到中国企业如何实施数据集成,以提升企业的自身竞争力时,Informatica大中国区董事总经理吴韶益表示,"现阶段企业尤其是中国企业,由于以往系统平台以及数据的复杂性,实施数据集成不能一蹴而就,而要遵循循序渐进的原则,从局部入手,进而扩展到全局。这样做的好处,一则可以化解数据集成盲目上马造成的风险,二来可以即时查漏补缺,从而完善系统,切实从根本上提升数据集成的高效率"。

  而对于选择数据集成平台工具,IDC则认为首要的衡量标准是高扩展性。同时需要考虑以下因素:

  >>可广泛访问所有类型、结构或来源的所有企业数据

  >>针对不断变化的异类IT环境,量身定做的开放式、独立于平台的体系架构

  >>可以简化并加速开发、部署以及维护的一个统一的体系结构

  >>企业级安全性、可伸缩性、可靠性和可用性

  >>基于元数据和开放标准的共享服务方法,可提供透明性、互操作性和灵活性

  基于这样的标准和认识,我们发现,要选择一款优秀的数据集成和数据质量工具也绝非易事。但毕竟不是没有,Informatica 公司提供的具有数据质量功能的企业数据集成平台――PowerCenter,就体现了上述思想:允许企业使用综合、完整的生命周期方法改善数据质量。

  据了解,与独立的数据质量工具不同,PowerCenter 提供了稳健的连通性、元数据管理、并行性能和线性扩展性,这些功能提供了满足企业数据质量需求的体系结构和处理能力。通过确保使用标准定义、提供开发标准并加强访问安全性,该平台还保证了流程的质量。同时,它也通过审计和控制、系统管理以及差错处理等功能改善了运营质量。

  Informatica PowerCenter 通过以下五个核心功能确保数据质量:

  1. 数据归档。评估当前正在处理的数据质量。

  2. 数据转换与更正。分析、转换和更正当前数据。

  3. 数据清理与改进。利用辅助字段和信息(如邮政编码和地理信息)清理和/或改进数据。

  4. 数据匹配与整合。匹配相似的记录,并基于预设的标准执行消除和整合。

  5. 数据质量流程管理。反复重复数据质量流程,衡量目前取得的成效。

  各种规模的企业都可以使用 PowerCenter 访问、发现并集成任何业务系统中各种格式的数据,并可以任意的速度在企业范围内传递数据。通过全面、强大的数据质量功能,PowerCenter 能够支持大量数据质量项目、加速整个项目周期,并帮助企业相信他们用于制定策略性业务决策的数据是准确、实时、一致的。

  总之,把握住了数据质量问题,数据集成就成功了一大半!

0
相关文章