甘肃银行历史数据及应用管理方案介绍甘肃银行2016年7月目录1我行历史数据应用与管理方案与架构23历史数据平台与ODS功能定位历史数据应用与管理面临的问题与挑战3银行对历史数据管理的需求业务需求•直观地搜索企业95%的信息•经营报表•历史查询•客户历史账单查询•Fast,easysearch•Alignbusiness,legalandITneedsIT需求•数据查询•数据备份•数据归档•数据仓库系统数据法规需求•把更多的电子发现工作留在企业内部•审计•合规检查•监管报送•实行保留策略和法律存(LegalHold)•出于法规相关或特权查阅信息►如何优化存储控制成本►怎样保证可靠性和性能►怎样归档管理留存信息,保证无篡改,无丢失,满足未来需求的格式►怎样提高响应时间或者确保良好的响应时间IT部门需要面临的问题►如何保证完整的保留信息►怎样有效灵活的统计,方便快速的查询►防止信息泄露与审查方法来自业务需求的挑战满足银行各部门对信息风险监管的高弹性、健壮性、高性能需求?合规审查保留审计各部门对数据的问题与挑战5IT部门对历史数据面临的与挑战5趋势挑战•信息数据的海量增长•IT预算的紧缩•数据存储的需求大于IT预算•不断增长的数据使用需求•数据应用频繁•信息无处不在•内部数据丢失问题日益严重•数据要求严格、•数据存储时间长•严格的数据管理•安全的数据完整性和可用性。•信息的审计和法规遵从•信息难以审计•信息统一法规遵从的挑战目录我行历史数据应用与管理方案与架构3历史数据平台与ODS功能定位历史数据应用与管理面临的问题与挑战分析系统&业务系统区别历史数据平台&ODS功能定位历史数据平台系统ODS系统系统定位1用于交易明细查询,非结构化数据存储查询等2分流交易系统明细数据查询压力1业务指标,报表展现.2数据交换面向用户1柜面(柜员)2客服中心(客服)3网上银行(客户)4手机银行等渠道(客户)1业务管理层(报表平台)2企业管理层(高管驾驶仓)3下游数据消费系统(数据交换平台)响应能力1高并发,高可用1批量,独占资源保存期限长期存在,3年以上1接口文件保存13个月2加工汇总后数据长期保存优点1保留数据的原样性2满足了数据的管理要求1突出数据的统一性2满足了数据的应用要求OLTP&ODS数据结构对比OLTP&OLAP系统对比比较项目OLTP(联机事务处理)OLAP(联机分析处理)ODSDW建设目的业务操作,事务处理事务处理,短时分析决策支持,分析功能服务对象生产层业务管理层企业管理层存储周期即时短期长期处理频率实时准实时(T+1)非实时数据容量小小非常大功能结构分散相对集中集中数据类型明细数据明细数据明细数据,汇总数据面向用户操作人员,低层管理人员业务管理人员决策人员,高级管理人员访问方式实时访问(增,删,改,查)准实时(增,删,改,查)非实时(主要是读操作)数据处理量100MB-GB100GB-TB100GB-TB数据简单的事务(处理的数据量小)复杂的查询(数据量大)复杂的查询(数据量大)11归档备份归档储存生产系统(OLTP)OLTP&OLAP数据处理流程引出的问题Q1:数据仓库是否能够替代归档系统.既突出数据的统一性,又保持数据的原样性Q2:数据备份是否能满足历史数据的可用性,能否使用自动化归档系统加以改善Q3:数据仓库和归档系统两者虽然都是针对数据进行操作的.但只能分别进行部署.数据冗余大.资源浪费严重。DW与归档系统相结合的综合方案思考:如果能够将数据的应用与管理进行综合规划.那就既满足了数据的应用要求.又满足了数据的管理要求.对二者进行有机结合,是符合商业银行长远发展要求的。解决思路:1综合仓库和归档系统的优势2解决仓库单纯横向规划系统而不能将海量数据作为归档数据使用的不足.3解决归档系统单纯以数据的生命周期存储为目的不能及时为商业分析提供综合数据的不足。优势:1分流数据,减轻生产系统的压力2减轻数据仓库大量查询的压力目录1我行历史数据应用与管理方案与架构2历史数据平台与ODS功能定位历史数据应用与管理面临的问题与挑战数据归档系统架构图1报表数据迁移只移植重要业务报表(如四表等)2老报表平台作为备份库查询,新报表平台门户做统一入口核心系统信贷系统备份服务器备份库三级存储一级存储二级存储便携电脑便携电脑其它系统...