本篇文章3128字,读完约8分钟
12月30日,华为云techwave云原生2.0峰会在深圳顺利举行。 这次大会,华为云fusioninsight首席设计师徐礼锋出席,发表了主题演讲,华为云fusioninsight mrs云原原始数据湖构筑了企业一湖、一城一湖。
华为云fusioninsight mrs云原原始数据湖为政企客户的大量数据提供了大数据处理方案,支持大数据的实时分解、离线分解、交互查询、实时检索等应用场景,使政企具有大量数据价值
hc由华为云cto张宇昕在峰会上重点发布华为云fusioninsight新一代智能数据湖,原fusioninsight hd与华为云mrs强烈结合,架构、内核统一,在fusioninsightmrs云原生结构上
1.obs大数据存储分离方案:首先,比以前传来的大数据存储一体化方案,硬件和软件被解除结合,提供更高的性价比、更灵活的obs大数据存储分离方案。 obs+大数据根据需要灵活扩展计算和存储资源,不浪费资源。 obs使用公司级ec,以前需要复制三个大数据。 防火墙提供了最少1.2拷贝的大数据存储分离处理方案,将存储利用率从33%提高到80%+,将整体tco降低60%+。 其次,obs大数据保存分离方案将数据统一保存在obs中,数据支持多协议共享,实现多引擎共享,数据不转移,另外通过全球数据集,统一数据管理,降低了运输的难度。 最后,在性能方面,obs大数据保存分离方式通过操作人员的下推、软件硬件的调整,与同等价格的集群相比,性能提高了30%+。
2.datalake catalog统一数据目录:与以前传输的孤岛相比,dlc集成了全球数据视图,并在全球范围内可视化元数据。 dlc与hive metastore兼容,性能是hive metastore的3到5倍,在保持高性能的同时实现数据的全局可视化。
3.bms裸机服务器:与以前传输的虚拟机相比,性能为零。 兼具大数据所需的资源灵活性,实现分层次的发行。 然后,华为云大数据具备独特的sdi技术,基于擎天柱,具有超低时间延迟,100%释放完善的计算能力,让老虎增加大数据观察、计算等高cpu、高内存、高io等计算密集型场景。
新版本的fusioninsight mrs云原原始数据湖除了上述云原原始特征外,还在以下五个方面继续出力。
1 .快:可以基于mrs构建实时数据湖,在湖内建设仓库,一个数据支持全场景,缩短分解链接,加快数据观察的全过程。 首先,在数据入湖中,实现基于hudi的全量数据的t+0实时增量更新,其次,在数据市场的构筑中,通过clickhouse实时olap能力构筑大数据的实时数据湖,KIME 湖内建库在湖内完成数据粘贴源加工、集成相关、主题加工过程,一个数据支持数据应用全场景,缩短数据加工链接。 通过hetuengine进行数据虚拟化访问,整合sql接口,简化使用数量,全民bi! 通过实测,在某个顾客营销业务场景中(在大表相关场景中)采用了hetuengine,比以前传来的大数据性能提高了10倍!
2 .融:帮助顾客从孤岛建设方法发展到云原原始数据湖,提供源间、域间、发动机间的融合分解,数据不转移。
3 .大:支持最多2万+节点的大群集,群集联邦可以无限扩展。
4 .稳定:支持在线滚动升级,拆除集群,移动应用程序,持续发展客户的一个体系结构,10年不需要放心。 支持资源分离,支持两地三中心的高可用性灾难恢复,确保业务连续性!
5 .开放:华为云fusioninsight mrs积极拥抱开源,与世界同行,专利500+; 拥有20+开源的pmc committer,依次打开carbondata和openlookeng等组件。
并且,华为云fusioninsight mrs作为最熟悉的大数据处理方案,具有充分的技术研发实力,深刻理解顾客场景的痛点,为政企数字化转型提供最坚实的数据库,多年来得到顾客和权威机构的同意 在idcmarketscape报告中,防火墙位于领导象限,在市场份额和技术力量两个维度领先。 年,华为云fusioninsight已经连续4年入选中国大数据公司50强,获得金融领域大数据最佳处理方案奖、中国新闻通讯大数据领域影响大奖、中国大数据平台类最佳处理方案奖。
到2011年11月,华为云fusioninsight mrs云原原始数据湖广泛应用于政府、金融、运营商、大企业、网络等领域,与800+合作伙伴合作,为世界60+国家和地区3000+政企客户提供服务
在金融行业,50%的国内top20金融客户(包括银行、证券、保险等)使用fusioninsight mrs构建了大规模的数据平台。 金融巨头行使用以前传递的大数据的3拷贝存储的性价比很低,通常是10pb的存储空间,可用容量只有3pb。 此外,存在存储、计算等资源不平衡,存储利用率经常超过70%,但cpu利用率不足50%,扩展时需要计算、存储资源一起扩展,存在资源浪费现象。 该金融客户采用fusioninsight后,实现了大规模数据平台和obs对象存储服务的对接,在保证性能的基础上,实现了计算和存储的独立按需扩展,提高了整体资源利用率。
在运营商行业,国内的三大运营商采用防火墙fusioninsight mrs构建了大规模的数据平台。 广东移动大数据平台集群规模已经超过1500节点,日均解决作业21万+,运输业务达到200+,其中包括内部精准营销、收入审计、对外广告发布等重要业务,服务交接 大数据技术反复快速,从以前开始升级方法就需要切断电源、重新启动等操作,升级操作多且复杂,运维复杂,影响了现在的网络业务运行,而且大集群的升级需要时间吗 为了保持业务连续性和技术领先,广东移动通过华为云fusioninsight mrs的滚动升级能力,实现大集群的批量滚动升级,业务0中断。 故障节点隔离功能可确保升级操作的稳定运行,提供7*24小时全天候服务。 1000+运维指标的精细化和可视化操作简化了运维,实现了体系结构的持续发展。
在交通行业,深圳地铁在6、10号线使用华为云fusioninsight mrs构建大数据观察平台,构建先进的5g+大数据方案,与其数据资产中心建立运行监视中心,搭载地铁各业务系统
除了在以上各行业的应用外,在环境保护方面,青海省绿色能源数据有限企业基于华为云fusioninsight mrs构建了国内第一个能源大数据创新平台,开展了计划辅助决策、用气象数据科学指导发电等创新业务 为上下游产业链公司提供25类47项数据服务,推进28个新能源场无人值班、少数无人化,比较有效地支持青海省绿色电力15日。
然后,华为跳了好几次自己的降落伞,华为集团it通过fusioninsight mrs构建onedata大数据集群,实现了大规模场景下的大规模数据平台开拓,ONEDD 然后,实现统一的数据管理服务,在菩提海unidb产品中,通过逻辑统一的方法,将50+物理分散的计算集群( hadoop )分为5个统一(数据安全、元数据目录、数据整合、 基于fusioninsight mrs的+治理、+ai、+运营、+云融合数据基础(菩提海)已经被华为集团it广泛采用,有未来的可能性。
以上只是冰山的一角。 华为云fusioninsight mrs一方面不断深入理解顾客迅速发展的业务需求,另一方面引领持续的技术创新和领域迅速发展,商业需求+技术创新的二轮驱动领域持续,质量迅速发展,以数助顾客商业成功 以上论述已经充分说明了,华为云是内行的大数据领袖,真的让客户有好的数量、好的数量、放心使用,构建数字世界的黑土地!
标题:【科讯】华为云FusionInsight MRS全面升级,构建坚实数据底座使能新云原生公司
地址:http://www.miutrip.net.cn/news/90.html