宁波银行数据仓库
华为云助力招商银行零售客户“体验升级” 招商架构师曾民在华为云TechWave全球技术峰会上分享了招商银行云化数仓探索之路。
、互联网等各种行业的各种应用场景。 标准数仓、实时数仓、云数仓等多种产品形态,覆盖政府、金融、企业、教育、通信、互联网等各种行业的各种应用场景。 应用场景 一站式BI解决方案 传统数仓替换数据湖分析 实时数据分析 一站式BI解决方案 企业积累的海量数据及各种数据资产,体量庞大,
发展成为沪港两地上市,拥有商业银行、金融租赁、基金管 理、人寿保险、境外投行等金融牌照的银行集团。近年来, 招商银行紧密围绕“轻型银行”战略,以客户和科技为主线, 实现“质量、效益、规模”动态均衡发展。2020 年招行正 式开始了全面数据中台的建设,提出了“人人用数,人人都 是数据分析师”的数据发展战略。 展开详情
实时/历史TopSQL查询 06 使用数据库数据库开发指南重点面向数据库的设计者、应用程序开发人员或DBA,提供设计、构建、查询和维护数据仓库所需的信息。数据库基本操作 创建和管理数据库创建和管理表 管理用户及权限 配置GUC参数用户自定义函数PostGIS空间数据库扩展 全文检索 SQL语法参考
析和核心交易业务进行数据库用户分离,例如核心交易业务使用数据库用户budget_config_user,报表分析业务使用数据库用户report_user。针对交易用户和报表用户分别进行CPU资源和并发数控制以保障数据库稳定运行。 结合报表分析业务的负载调研、日常监控和测试验证,5
,支持数据的采集、汇聚、计算、资产管理、数据开放服务的全生命周期管理。 华为拥有强大的湖、仓、库引擎技术,比如数据湖敏捷构建、GaussDB数据库快速迁移,数仓的实时分析等,对应服务如下:数据库: 关系型数据库包括:云数据库RDS、云数据库GaussDB(for MySQL)、云数据库
数据脱敏 GaussDB(DWS)提供列级别的数据脱敏(Dynamic Data Masking)功能。针对某些敏感信息(如身份证号、手机号、银行卡号等),通过应用脱敏函数进行原始数据的变形改写,实现敏感隐私数据的可靠保护,从而增强产品在数据安全和隐私保护方面的能力。 用户可以在
数据脱敏 GaussDB(DWS)提供列级别的数据脱敏(Dynamic Data Masking)功能。针对某些敏感信息(如身份证号、手机号、银行卡号等),通过应用脱敏函数进行原始数据的变形改写,实现敏感隐私数据的可靠保护,从而增强产品在数据安全和隐私保护方面的能力。 用户可以在
返回值类型:与入参column_name数据类型相同。 脱敏函数可以覆盖常见敏感信息的脱敏场景,推荐用户优先使用脱敏函数创建脱敏策略。数据脱敏函数的使用方法请参考数据脱敏中的示例。 自定义脱敏函数支持用户使用PL/PGSQL语言自定义脱敏函数。 自定义脱敏函数需要严格遵循如下要求: 返回值与脱敏列类型一致。
返回值类型:与入参column_name数据类型相同。 脱敏函数可以覆盖常见敏感信息的脱敏场景,推荐用户优先使用脱敏函数创建脱敏策略。数据脱敏函数的使用方法,请参考数据脱敏中的示例。 自定义脱敏函数支持用户使用PL/PGSQL语言自定义脱敏函数。 自定义脱敏函数需要严格遵循如下要求: 返回值与脱敏列类型一致。
GaussDB(DWS),新一代全场景云数据仓库DGC,一站式数据运营,管好数,用好数华为云 +智能,见未来 大数据技术普惠创新,释放千行百业数据价值 中国工商银行:金融数据创新应用实践 华为云FusionInsight引领全球大数据技术发展 广东移动:运营商大数据创新应用实践 清华大学:产学研深度融合,培养大数据顶尖技术人才
返回值类型:与入参column_name数据类型相同。 脱敏函数可以覆盖常见敏感信息的脱敏场景,推荐用户优先使用脱敏函数创建脱敏策略。数据脱敏函数的使用方法,请参考数据脱敏中的示例。 自定义脱敏函数支持用户使用PL/PGSQL语言自定义脱敏函数。 自定义脱敏函数需要严格遵循如下要求: 返回值与脱敏列类型一致。
现在通常所说的数据库指的是关系型数据库。关系数据库是指采用了关系模型来组织数据的数据库,其以行和列的形式存储数据,具有结构化程度高,独立性强,冗余度低等优点。1970年关系型数据库的诞生,真正彻底把软件中的数据和程序分开来,成为主流计算机系统不可或缺的组成部分。关系型数据库已经成为目前数据库产品中蕞重要的一员,
P 的源数据通常存储在关系数据库的数据仓库中。OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。 OLTP也称为面向交易的处理系统,其基本特征是顾客的原始数据可以立即传送到计算中心进行处理,并在很短的时间内给出处理结果。OLTP是传统
Processing)大规模并行处理引擎,由众多拥有独立且互不共享的CPU、内存、存储等系统资源的逻辑节点组成。在这样的系统架构中,业务数据被分散存储在多个节点上,数据分析任务被推送到数据所在位置就近执行,并行地完成大规模的数据处理工作,实现对数据处理的快速响应。 图1 产品架构 应用层数据加载工具
招商银行定位为“金融科技银行”,作为银行业数字化转型的代表和先行者,在持续金融创新之路上坚定不移的探索前行。招行数据仓库架构师曾民在华为云TechWave全球技术峰会上分享了招商银行云化数仓探索之路。
(DWS)数据仓库作为华为云重量级产品之一,受到金融、政府、运营商及各类企业的重点关注。中国光大银行信息科技部副处长刘淼受邀分享了“光大银行基于华为云GaussDB(DWS)数据仓库创新实践”。刘淼在演讲中提到,光大银行是首家在数据仓库体系中引入国产产品的全国股份制银行,华为云G
试错、迭代找到解决方案; 执行能力:通过数字化工具实现过程监督、业务闭环,以及正确策略的全局推广,并提升工作效率。通过数据中台三大能力赋能业务,从而实现新业务模式的创新。 基于银行业务复杂、数据应用场景多样的现状,中信银行通过数据底座和数据工具进行数据采集、清洗、整合,为业务部门
S)未来作为数据仓库唯一平台,数据链路实现从数据湖直接到华为云GaussDB(DWS)数据仓库。”当前,光大银行使用华为云GaussDB(DWS)数据规模已经达到数百TB,并计划扩容到PB级。华为云GaussDB(DWS)总经理彭贵平表示,产品有十足信心支持光大银行业务持续创新与
全部数据仓库服务 IoT数仓购买数据仓库服务 周边工具 连接集群数据库数据库参数管理 快照 扩容与升级 导入数据导出数据解除只读 开发设计建议 SQL语法 Java UDF TopSQL查询 SQL调优 工作负载管理 细粒度权限策略数据库权限行级访问控制数据脱敏 PostGIS
5G智慧银行营业厅解决方案 5G智慧银行营业厅解决方案 华为5G智慧银行营业厅,基于边缘计算、IoT、AI、混合云集成等云平台,依托华为5G高速通道,毫秒级网络时延,快速打造智能化营业网点,自动识别VIP客户,提供沉浸式体验和个性化服务,支撑银行营业厅数字化转型 华为5G智慧银行营业
金融科技时代金融行业数字化转型的重要课题。华为云GaussDB(DWS)是推动金融数据仓库技术创新的积极贡献者,截止2021年5月底,为半数以上全国性股份制银行提供超大规模多层并行计算的数据仓库服务。 工商银行与华为云深度合作,建设全球蕞大金融数仓
在数据库监控页面展示了数据库级别的实时资源消耗和历史趋势指标。数据库资源消耗 您可以根据数据库名称选中指定的数据库查看其资源消耗情况,指标项详情请参见监控项列表。其中包括:数据库名称 使用容量(GB) 监控 用户数量 应用数量 会话数量 查询数量 全表扫描返回行数索引查询返回行数插入行数更新行数
数据库性能、资源 GaussDB(DWS) 集群进入只读状态,集群被锁无法写数据分析查询效率异常降低的问题 CPU使用率一直处在70%+的高位,如何定位占用CPU高的业务sql? SQL执行很慢,性能低,有时长时间运行未结束 以前执行很快的SQL语句,执行很长时间才能完成 执行
与云监控服务集成,使您能够对集群中的计算节点和数据库进行实时监控。详情请参见监控集群。数据库监控数据库监控(DMS)是一个为GaussDB(DWS)数据库提供多维度监控服务的系统,为客户数据库的快速、稳定运行提供保驾护航的能力。该功能对业务数据库所使用磁盘、网络、OS指标数据,集群运行关键性能指标数据进行收集、监
方面的瓶颈开始凸显,新一代的数据仓库建设势在必行。 招商银行数据中心应用及数据库管理主管 田永江 招商银行数据中心应用及数据库管理主管田永江指出:“在数据平台的建设上,招行始终以解决实际问题为出发点,
量化执行引擎,谓词下推智能过滤扫描,LLVM等关键技术,实现内核引擎极致性能,支持高性能交互式查询分析。 跨数据中心协同分析 随着数据量的不断增加,在单数据中心存储计算能力有限情况下,不可能把所有数据都统一汇总到单个数据中心。而在进行数据挖掘、碰撞分析时,又需要涉及更多更全面的数
神州信息成功落地金融业敏捷高效的数据管理蕞佳实践 神州信息首席数据官CDO黄万忠表示,数字经济时代,金融机构需要挖掘数据潜在价值,驱动业务决策和优化,提升银行效能,推动银行高质量发展。神州信息通过数据服务的5大关键要素,即治理标准化、数据资产化、资产服务化、数据业务化和运营平台化,帮助银行构建基于数据服务的6
客户端返回执行结果。CN负责协调分解任务,并调度任务分片在各DN(Datanode)上并行执行。 CN可以有多个,分别部署在不同的物理节点。 DN数据节点(Datanode)。负责存储业务数据、执行数据查询任务以及向CN返回执行结果。 DN的数量可以通过配置文件进行配置,DN包
使用GDS导入数据数据倾斜会造成查询表性能下降。对于记录数超过千万条的表,建议在执行全量数据导入前,先导入部分数据,以进行数据倾斜检查和调整分布列,避免导入大量数据后发现数据倾斜,调整成本高。详细请参见查看数据倾斜状态。 为了优化导入速度,建议拆分文件,使用多GDS进行并行导入。另外,单个导
自动进行ANALYZE。 对于表中已有数据的情况,阈值设定为50+10%*reltuples,其中reltuples是表的总行数。 autovacuum自动清理功能的生效还依赖于下面两个GUC参数: track_counts 参数需要设置为on,表示开启收集收据库统计数据功能。
oanalyze,仅支持行存表和列存表,不支持外表、HDFS表、OBS外表、临时表、unlogged表和toast表。 autovacuum自动清理功能的生效还依赖于下面两个GUC参数: track_counts参数需要设置为on,开启收集收据库统计数据功能。 autovacuu
务快速增长。数据管理难度大数据分散在总行和分行多部门,各自建设孤立的物理集群,经营和运营数据跨部门间无法互联互通;数据质量差,缺乏统一指标和标签体系和全行数据共享机制。数据分散在总行和分行多部门,各自建设孤立的物理集群,经营和运营数据跨部门间无法互联互通;数据质量差,缺乏统一指标和标签体系和全行数据共享机制。
数据库索引查询返回行数集群中单个数据库上索引查询返回行数变化的历史趋势。 0 60s数据库插入行数集群中单个数据库上插入行数变化的历史趋势。 0 60s数据库更新行数集群中单个数据库上更新行数变化的历史趋势。 0 60s数据库删除行数集群中单个数据库上删除行数变化的历史趋势。
GaussDB(DWS) 支持数据加密,同时可与数据库安全服务对接,保证云上数据安全。同时GaussDB(DWS)支持自动数据全量、增量备份,提升数据可靠性。 大数据融合分析 随着IT、信息技术的发展和进步,数据资源已经成为企业的核心资源。整合数据资源,构建大数据平台,发现数据价值,成为企业经
秒事务数,平均每秒查询数。数据库维度的监控指标:查询等待队列长度,会话数量,查询数量,提交事务数,回滚事务数,全表扫描返回行数,索引查询返回行数,插入行数,更新行数,删除行数,容量,每秒事务数。 每个监控面板上蕞多可以添加20个监控视图,添加过多的视图会导致页面请求数据增多,所
版权声明:本文由青岛厂房网发布,如需转载请注明出处。部份内容收集于网络,如有不妥之处请联系我们删除 400-0123-021 或 13391219793