- RocketMQ 是阿里巴巴在 2012 年开源的分布式消息中间件,目前已经捐赠给 Apache 基金会,并于 2016 年 11 月成为 Apache 孵化项目。作为一款纯 java、分布式、队列模型的开源消息中间件,RocketMQ 支持事务消息、顺序消息、批量消息、定时消息、消息回溯等。 RocketMQ 是阿里巴巴在 2012 年开源的分布式消息中间件,目前已经捐赠给 Apache 基金会,并于 2016 年 11 月成为 Apache 孵化项目。作为一款纯 java、分布式、队列模型的开源消息中间件,RocketMQ 支持事务消息、顺序消息、批量消息、定时消息、消息回溯等。
- 2025年6月20~22日,华为开发者大会2025(HDC 2025)在东莞隆重举行。期间华为云举办了以“AI 原生中间件,构建应用运行的领先架构”为主题的专题论坛。论坛汇聚权威专家、技术先锋和开发者,共同探讨智能时代中间件的创新趋势、行业落地和未来趋势。 智能时代中间件技术演进与趋势前瞻论坛上,中国信息通信研究院专家姬海南为大家讲述了智能时代下中间件技术的演进与趋势。姬海南指出,随着国产化... 2025年6月20~22日,华为开发者大会2025(HDC 2025)在东莞隆重举行。期间华为云举办了以“AI 原生中间件,构建应用运行的领先架构”为主题的专题论坛。论坛汇聚权威专家、技术先锋和开发者,共同探讨智能时代中间件的创新趋势、行业落地和未来趋势。 智能时代中间件技术演进与趋势前瞻论坛上,中国信息通信研究院专家姬海南为大家讲述了智能时代下中间件技术的演进与趋势。姬海南指出,随着国产化...
- 一 分区的leader与follower1.1 Leader和Follower在Kafka中,每个topic都可以配置多个分区以及多个副本。每个分区都有一个leader以及0个或者多个follower,在创建topic时,Kafka会将每个分区的leader均匀地分配在每个broker上。我们正常使用kafka是感觉不到leader、follower的存在的。但其实,所有的读写操作都是由le... 一 分区的leader与follower1.1 Leader和Follower在Kafka中,每个topic都可以配置多个分区以及多个副本。每个分区都有一个leader以及0个或者多个follower,在创建topic时,Kafka会将每个分区的leader均匀地分配在每个broker上。我们正常使用kafka是感觉不到leader、follower的存在的。但其实,所有的读写操作都是由le...
- 一、Kafka-Eagle简介在开发工作中,当业务前提不复杂时,可以使用Kafka命令来进行一些集群的管理工作。但如果业务变得复杂,例如:我们需要增加group、topic分区,此时,我们再使用命令行就感觉很不方便,此时,如果使用一个可视化的工具帮助我们完成日常的管理工作,将会大大提高对于Kafka集群管理的效率,而且我们使用工具来监控消费者在Kafka中消费情况。早期,要监控Kafka集群... 一、Kafka-Eagle简介在开发工作中,当业务前提不复杂时,可以使用Kafka命令来进行一些集群的管理工作。但如果业务变得复杂,例如:我们需要增加group、topic分区,此时,我们再使用命令行就感觉很不方便,此时,如果使用一个可视化的工具帮助我们完成日常的管理工作,将会大大提高对于Kafka集群管理的效率,而且我们使用工具来监控消费者在Kafka中消费情况。早期,要监控Kafka集群...
- Apache Kafka 是一个分布式流处理平台,广泛应用于高吞吐量、低延迟的消息传递场景。其核心设计理念之一是通过 分区(Partition) 和 副本(Replica) 机制实现 水平扩展 和 高可用性。分区(Partition):Kafka 的 Topic 可以划分为多个 Partition,每个 Partition 是一个有序的、不可变的消息序列,支持并行生产和消费,从而提升吞吐量。... Apache Kafka 是一个分布式流处理平台,广泛应用于高吞吐量、低延迟的消息传递场景。其核心设计理念之一是通过 分区(Partition) 和 副本(Replica) 机制实现 水平扩展 和 高可用性。分区(Partition):Kafka 的 Topic 可以划分为多个 Partition,每个 Partition 是一个有序的、不可变的消息序列,支持并行生产和消费,从而提升吞吐量。...
- Kafka通过幂等生产者(Idempotent Producer)机制来实现消息的幂等性,确保每条消息在Kafka中只被处理一次,即使在生产者重试发送的情况下也不会导致重复消息。以下是Kafka实现幂等性的详细说明:1. 幂等生产者的基本概念 幂等性(Idempotence):指操作的结果不会因为多次执行而改变。在Kafka中,幂等性确保每条消息在Topic的Partition中只被写入一次。 Kafka通过幂等生产者(Idempotent Producer)机制来实现消息的幂等性,确保每条消息在Kafka中只被处理一次,即使在生产者重试发送的情况下也不会导致重复消息。以下是Kafka实现幂等性的详细说明:1. 幂等生产者的基本概念 幂等性(Idempotence):指操作的结果不会因为多次执行而改变。在Kafka中,幂等性确保每条消息在Topic的Partition中只被写入一次。
- 海量数据排序思路核心方案:外排序(分治+多路归并)MapReduce外排序是指数据量太大,无法全部加载到内存中,需要将数据分成多个小块进行排序,然后将排序后的小块合并成一个大的有序块 1.分块排序(Map阶段)分块策略按1G内存容量限制,将100G文件拆分为 200个500MB分块(保留内存用于排序计算和系统开销)内存排序每个分块加载至内存后:① 使用快速排序(时间复杂度O(n log n... 海量数据排序思路核心方案:外排序(分治+多路归并)MapReduce外排序是指数据量太大,无法全部加载到内存中,需要将数据分成多个小块进行排序,然后将排序后的小块合并成一个大的有序块 1.分块排序(Map阶段)分块策略按1G内存容量限制,将100G文件拆分为 200个500MB分块(保留内存用于排序计算和系统开销)内存排序每个分块加载至内存后:① 使用快速排序(时间复杂度O(n log n...
- 这是面试中经常问的一个场景题,主要考察研发的过往经验积累,需要系统性地回答,不能笼统简单敷衍。以下是整理的相关内容 1.排查思路总览 2.方法论面试问到这个问题,面试官其实想听到一些方法论的东西,并不想了解零零散散的排查过程。需要重点关注的点包括:结合业务场景(大促、双11促销、业务高峰期等)给出具体排查过程在阐述理论的同时,需结合工具的使用(Arthas、SkyWalking、Promet... 这是面试中经常问的一个场景题,主要考察研发的过往经验积累,需要系统性地回答,不能笼统简单敷衍。以下是整理的相关内容 1.排查思路总览 2.方法论面试问到这个问题,面试官其实想听到一些方法论的东西,并不想了解零零散散的排查过程。需要重点关注的点包括:结合业务场景(大促、双11促销、业务高峰期等)给出具体排查过程在阐述理论的同时,需结合工具的使用(Arthas、SkyWalking、Promet...
- Kafka 是一个高吞吐量、高性能的消息中间件,关于 Kafka 高性能背后的实现,是大厂面试高频问题。本篇全面详解 Kafka 高性能背后的实现。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。 Kafka 是一个高吞吐量、高性能的消息中间件,关于 Kafka 高性能背后的实现,是大厂面试高频问题。本篇全面详解 Kafka 高性能背后的实现。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
- 本文详细解析了 RocketMQ 的核心架构、消息领域模型、关键特性和应用场景,帮助深入理解消息中间件的工作原理。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。 本文详细解析了 RocketMQ 的核心架构、消息领域模型、关键特性和应用场景,帮助深入理解消息中间件的工作原理。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
- 本文详细解析了 Kafka 的核心架构和实现原理,消息中间件是亿级互联网架构的基石,大厂面试高频,非常重要,建议收藏。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。 本文详细解析了 Kafka 的核心架构和实现原理,消息中间件是亿级互联网架构的基石,大厂面试高频,非常重要,建议收藏。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
- 基于华为云服务器ECS与消息中间件rabbitmq,实现一个中间件插件平台,以满足多云间存储数据的同步。 基于华为云服务器ECS与消息中间件rabbitmq,实现一个中间件插件平台,以满足多云间存储数据的同步。
上滑加载中
推荐直播
-
香橙派AIpro的远程推理框架与实验案例
2025/07/04 周五 19:00-20:00
郝家胜 -华为开发者布道师-高校教师
AiR推理框架创新采用将模型推理与模型应用相分离的机制,把香橙派封装为AI推理黑盒服务,构建了分布式远程推理框架,并提供多种输入模态、多种输出方式以及多线程支持的高度复用框架,解决了开发板环境配置复杂上手困难、缺乏可视化体验和资源稀缺课程受限等痛点问题,真正做到开箱即用,并支持多种笔记本电脑环境、多种不同编程语言,10行代码即可体验图像分割迁移案例。
回顾中 -
鸿蒙端云一体化应用开发
2025/07/10 周四 19:00-20:00
倪红军 华为开发者布道师-高校教师
基于鸿蒙平台终端设备的应用场景越来越多、使用范围越来越广。本课程以云数据库服务为例,介绍云侧项目应用的创建、新建对象类型、新增存储区及向对象类型中添加数据对象的方法,端侧(HarmonyOS平台)一体化工程项目的创建、云数据资源的关联方法及对云侧数据的增删改查等操作方法,为开发端云一体化应用打下坚实基础。
即将直播
热门标签