- RocketMQ 是阿里巴巴在 2012 年开源的分布式消息中间件,目前已经捐赠给 Apache 基金会,并于 2016 年 11 月成为 Apache 孵化项目。作为一款纯 java、分布式、队列模型的开源消息中间件,RocketMQ 支持事务消息、顺序消息、批量消息、定时消息、消息回溯等。 RocketMQ 是阿里巴巴在 2012 年开源的分布式消息中间件,目前已经捐赠给 Apache 基金会,并于 2016 年 11 月成为 Apache 孵化项目。作为一款纯 java、分布式、队列模型的开源消息中间件,RocketMQ 支持事务消息、顺序消息、批量消息、定时消息、消息回溯等。
- 2025年6月20~22日,华为开发者大会2025(HDC 2025)在东莞隆重举行。期间华为云举办了以“AI 原生中间件,构建应用运行的领先架构”为主题的专题论坛。论坛汇聚权威专家、技术先锋和开发者,共同探讨智能时代中间件的创新趋势、行业落地和未来趋势。 智能时代中间件技术演进与趋势前瞻论坛上,中国信息通信研究院专家姬海南为大家讲述了智能时代下中间件技术的演进与趋势。姬海南指出,随着国产化... 2025年6月20~22日,华为开发者大会2025(HDC 2025)在东莞隆重举行。期间华为云举办了以“AI 原生中间件,构建应用运行的领先架构”为主题的专题论坛。论坛汇聚权威专家、技术先锋和开发者,共同探讨智能时代中间件的创新趋势、行业落地和未来趋势。 智能时代中间件技术演进与趋势前瞻论坛上,中国信息通信研究院专家姬海南为大家讲述了智能时代下中间件技术的演进与趋势。姬海南指出,随着国产化...
- 一 分区的leader与follower1.1 Leader和Follower在Kafka中,每个topic都可以配置多个分区以及多个副本。每个分区都有一个leader以及0个或者多个follower,在创建topic时,Kafka会将每个分区的leader均匀地分配在每个broker上。我们正常使用kafka是感觉不到leader、follower的存在的。但其实,所有的读写操作都是由le... 一 分区的leader与follower1.1 Leader和Follower在Kafka中,每个topic都可以配置多个分区以及多个副本。每个分区都有一个leader以及0个或者多个follower,在创建topic时,Kafka会将每个分区的leader均匀地分配在每个broker上。我们正常使用kafka是感觉不到leader、follower的存在的。但其实,所有的读写操作都是由le...
- 一、Kafka-Eagle简介在开发工作中,当业务前提不复杂时,可以使用Kafka命令来进行一些集群的管理工作。但如果业务变得复杂,例如:我们需要增加group、topic分区,此时,我们再使用命令行就感觉很不方便,此时,如果使用一个可视化的工具帮助我们完成日常的管理工作,将会大大提高对于Kafka集群管理的效率,而且我们使用工具来监控消费者在Kafka中消费情况。早期,要监控Kafka集群... 一、Kafka-Eagle简介在开发工作中,当业务前提不复杂时,可以使用Kafka命令来进行一些集群的管理工作。但如果业务变得复杂,例如:我们需要增加group、topic分区,此时,我们再使用命令行就感觉很不方便,此时,如果使用一个可视化的工具帮助我们完成日常的管理工作,将会大大提高对于Kafka集群管理的效率,而且我们使用工具来监控消费者在Kafka中消费情况。早期,要监控Kafka集群...
- Apache Kafka 是一个分布式流处理平台,广泛应用于高吞吐量、低延迟的消息传递场景。其核心设计理念之一是通过 分区(Partition) 和 副本(Replica) 机制实现 水平扩展 和 高可用性。分区(Partition):Kafka 的 Topic 可以划分为多个 Partition,每个 Partition 是一个有序的、不可变的消息序列,支持并行生产和消费,从而提升吞吐量。... Apache Kafka 是一个分布式流处理平台,广泛应用于高吞吐量、低延迟的消息传递场景。其核心设计理念之一是通过 分区(Partition) 和 副本(Replica) 机制实现 水平扩展 和 高可用性。分区(Partition):Kafka 的 Topic 可以划分为多个 Partition,每个 Partition 是一个有序的、不可变的消息序列,支持并行生产和消费,从而提升吞吐量。...
- Kafka通过幂等生产者(Idempotent Producer)机制来实现消息的幂等性,确保每条消息在Kafka中只被处理一次,即使在生产者重试发送的情况下也不会导致重复消息。以下是Kafka实现幂等性的详细说明:1. 幂等生产者的基本概念 幂等性(Idempotence):指操作的结果不会因为多次执行而改变。在Kafka中,幂等性确保每条消息在Topic的Partition中只被写入一次。 Kafka通过幂等生产者(Idempotent Producer)机制来实现消息的幂等性,确保每条消息在Kafka中只被处理一次,即使在生产者重试发送的情况下也不会导致重复消息。以下是Kafka实现幂等性的详细说明:1. 幂等生产者的基本概念 幂等性(Idempotence):指操作的结果不会因为多次执行而改变。在Kafka中,幂等性确保每条消息在Topic的Partition中只被写入一次。
- 海量数据排序思路核心方案:外排序(分治+多路归并)MapReduce外排序是指数据量太大,无法全部加载到内存中,需要将数据分成多个小块进行排序,然后将排序后的小块合并成一个大的有序块 1.分块排序(Map阶段)分块策略按1G内存容量限制,将100G文件拆分为 200个500MB分块(保留内存用于排序计算和系统开销)内存排序每个分块加载至内存后:① 使用快速排序(时间复杂度O(n log n... 海量数据排序思路核心方案:外排序(分治+多路归并)MapReduce外排序是指数据量太大,无法全部加载到内存中,需要将数据分成多个小块进行排序,然后将排序后的小块合并成一个大的有序块 1.分块排序(Map阶段)分块策略按1G内存容量限制,将100G文件拆分为 200个500MB分块(保留内存用于排序计算和系统开销)内存排序每个分块加载至内存后:① 使用快速排序(时间复杂度O(n log n...
- 这是面试中经常问的一个场景题,主要考察研发的过往经验积累,需要系统性地回答,不能笼统简单敷衍。以下是整理的相关内容 1.排查思路总览 2.方法论面试问到这个问题,面试官其实想听到一些方法论的东西,并不想了解零零散散的排查过程。需要重点关注的点包括:结合业务场景(大促、双11促销、业务高峰期等)给出具体排查过程在阐述理论的同时,需结合工具的使用(Arthas、SkyWalking、Promet... 这是面试中经常问的一个场景题,主要考察研发的过往经验积累,需要系统性地回答,不能笼统简单敷衍。以下是整理的相关内容 1.排查思路总览 2.方法论面试问到这个问题,面试官其实想听到一些方法论的东西,并不想了解零零散散的排查过程。需要重点关注的点包括:结合业务场景(大促、双11促销、业务高峰期等)给出具体排查过程在阐述理论的同时,需结合工具的使用(Arthas、SkyWalking、Promet...
- Kafka 是一个高吞吐量、高性能的消息中间件,关于 Kafka 高性能背后的实现,是大厂面试高频问题。本篇全面详解 Kafka 高性能背后的实现。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。 Kafka 是一个高吞吐量、高性能的消息中间件,关于 Kafka 高性能背后的实现,是大厂面试高频问题。本篇全面详解 Kafka 高性能背后的实现。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
- 本文详细解析了 RocketMQ 的核心架构、消息领域模型、关键特性和应用场景,帮助深入理解消息中间件的工作原理。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。 本文详细解析了 RocketMQ 的核心架构、消息领域模型、关键特性和应用场景,帮助深入理解消息中间件的工作原理。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
- 本文详细解析了 Kafka 的核心架构和实现原理,消息中间件是亿级互联网架构的基石,大厂面试高频,非常重要,建议收藏。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。 本文详细解析了 Kafka 的核心架构和实现原理,消息中间件是亿级互联网架构的基石,大厂面试高频,非常重要,建议收藏。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
- 基于华为云服务器ECS与消息中间件rabbitmq,实现一个中间件插件平台,以满足多云间存储数据的同步。 基于华为云服务器ECS与消息中间件rabbitmq,实现一个中间件插件平台,以满足多云间存储数据的同步。
上滑加载中
推荐直播
-
HDC深度解读系列 - Serverless与MCP融合创新,构建AI应用全新智能中枢
2025/08/20 周三 16:30-18:00
张昆鹏 HCDG北京核心组代表
HDC2025期间,华为云展示了Serverless与MCP融合创新的解决方案,本期访谈直播,由华为云开发者专家(HCDE)兼华为云开发者社区组织HCDG北京核心组代表张鹏先生主持,华为云PaaS服务产品部 Serverless总监Ewen为大家深度解读华为云Serverless与MCP如何融合构建AI应用全新智能中枢
回顾中 -
苏州工业园区“华为云杯”2025人工智能应用创新大赛赛中直播
2025/08/21 周四 16:00-17:00
Vz 华为云AIoT技术布道师
本期直播将与您一起探讨如何基于华为云IoT平台全场景云服务,结合AI、鸿蒙、大数据等技术,打造有创新性,有竞争力的方案和产品。
即将直播
热门标签