房产管理系统全面分析:数图互通高校房产管理系统
房产管理系统全面分析:数图互通高校房产管理系统5、数据转换模型当数据通过提取、转换、清洗之后,就可以按照规则将数据加载到中心数据库中。数据加载的方法主要通过ETL工具或ORACLE的快照复制技术进行数据加载。3、数据清洗数据经过提取、转换到接口数据库表中之后,需要对数据作进一步的清洗,以确保数据满足中心数据库的要求。数据清洗主要对数据对的一致性和完整性进行校验和调整。方式主要由系统统计出不符合中心数据库规范要求的数据,再由系统对数据进行自动检验和校对,然后有数据维护人员手工对仍不符合规范的数据进行修改,决定是进行剔除或矫正。4、数据加载
1、数据提取
在进行数据整合中,为了不影响原系统的正常运行,需要将数据从源系统中不失真的复制到中间过程数据库中。在数据提取过程中主要对源数据表进行一对一的数据复制。数据提取对不同的源数据需要采用不同的复制技术。考虑到数据更新,采用的数据复制技术包括ORACLE的快照复制技术、ETL工具。需要确定更新频次。另外考虑到源数据表中部分表无时间戳标志,无法判断数据自上次复制以来是否被更新,因此需要在整合数据库对应的表中建立时间戳和更新标志,并在源系统表中建立相应的触发器,将时间戳和更新标志回填到整合数据库的对应表中。
2、数据转换
当数据复制到整合数据库中后,需要按照中心数据库数据接口规范和业务规则进行数据转换,将复制的数据转换到接口数据库数据表中。由于数据转换涉及的转化规则比较复杂,因此数据转化将通过ORACALE的PL/SQL程序进行,对于部分转化规则比较简单的数据可以通过ETL工具实现数据转换。根据中心数据库中不同的业务表对象,有不同的PL/SQL过程分别完成,转化过程需要记录转换日期和不满足规则的数据。对日志何为转换成功的数据的记录通过统一的PL/SQL过程完成。
3、数据清洗
数据经过提取、转换到接口数据库表中之后,需要对数据作进一步的清洗,以确保数据满足中心数据库的要求。数据清洗主要对数据对的一致性和完整性进行校验和调整。方式主要由系统统计出不符合中心数据库规范要求的数据,再由系统对数据进行自动检验和校对,然后有数据维护人员手工对仍不符合规范的数据进行修改,决定是进行剔除或矫正。
4、数据加载
当数据通过提取、转换、清洗之后,就可以按照规则将数据加载到中心数据库中。数据加载的方法主要通过ETL工具或ORACLE的快照复制技术进行数据加载。
5、数据转换模型
确定如何抽取、转换数据并非易事,因为它往往存储在多个地方,可能是一个RDMS、一个文本文件、一个Excel文件、一个DBF文件或者其他类型文件,从设计角度讲最好忽视一些连接问题,把主要精力集中在源数据如何映射目标数据上。
6、数据整合技术
在整合过程中,由于现有系统数据不完整、不一致的情况比较多,因此在整合过程中需要通过人工干预的方式对数据进行补充和调整。,为此需要开发一套基于B/S结构对中心数据库进行录入、修改、删除、查询的应用系统。在对数据进行整合的各个阶段,应尽量采用ETL工具。
7、数据更新技术
对于需要更新的数据,首先必须要识别源数据是否已被更新,对一般的系统,源数据表中应该有主键和时间戳,通过时间戳比较可判断数据是否被更新过,然后通过主键确定目标表中对应表的数据记录,通过更新数规则对目标表进行更新。如果源表中没有主键或时间戳的表的数据的更新处理起来相对复杂。数据更新的方式根据实时性要求可采用的技术有Oracle数据库快照、数据库触发器(及时更新)、ETL工具等,可在实际运行时根据不同的需求采用不同的数据更新技术方案。
由于目前高校房产类型很多,房产数据也很多样化。数图互通房产管理数据整合能完美的将这些数据整合,并运用到实际管理中去。