大数据分析平台技术要求 大 数 据 分析平台技术要求 1. 技术构架需求 采 用 平 台 化 策 略 , 全 面 建 立 先 进 、安全 、可靠、灵活、方便扩展、便于部署、操作简单、易于维护、互联互通、信息共享的软件。 技术构架的基本要求: ➢ 采 用 多层体系结构, 应用 软件系统具有相对的独立 性, 不依赖任何特定的操作系统、特定的数据库系统、特定的中间件应用 服务器和特定的硬件环境, 便于系统今后的在不同的系统平 台 、不同的硬件环境下安装、部署、升级移植, 保证系统具有一定的可伸缩性和可扩展性。 ➢ 实现 B(浏览器)/A(应用 服务器)/D(数据库服务器)应用 模式。 ➢ 采 用 平 台 化 和构件化 技术, 实现系统能够根据需要方便地进 行扩展。 ➢ 大数据分析平台技术要求 2. 功 能 指 标 需 求 2.1 基 础 平 台 本 项 目 的 基 础 平 台 包 括 : 元 数 据 管 理 平 台 、数 据 交换平 台 、应用支撑平 台 。按照 SOA 的 体系架构,实现对 XX 数 据 资源中心的 服务化、构件化、定制化管理 。 2.1.1 元数据管理平 台 根据 XX 的 业务需求,制定统一的 技术元 数 据 和业务元 数 据 标准,覆盖多种来源统计数 据 采集、加工、清洗、加载、多维生成、分析利用、发布、归档等各个环节,建立相应的 管 理 维护机制,梳理 并加载各种元 数 据 。 具体实施内容包 括 : 根据 业务特点,制定元 数 据 标准,要满足元 数 据 在口径、分类等方面的历史变化。 支持对元 数 据 的 管 理 ,包 括 : 定义、添加、删除、查询和修改等操作,支持对派生元 数 据 的 管 理 ,如派生指标、代码重新组合等,对元 数 据 管理 实行权限控制。 通过元 数 据 ,实现对各类业务数 据 的 统一管 理 和利用,包 括 : 基 础 数 据 管 理 : 建立各类业务数 据 与元 数 据 的 映射关系,实现统一的 数 据 查询、处理 、报表管 理 。 ETL: 通过元 数 据 获取 ETL 规则的 描述信息,包 括 字段映射、数 据 转换、数 据 转换、数 据 清洗、数 据 加载规则以及错误处理 等。 大数据分析平台技术要求 数 据 仓 库 : 利 用 元 数 据 实 现 对 数 据 仓 库 结 构 的 描 述 , 包 括 仓 库 模 ...