- 操作场景： Flume消费kafka数据存储到HBase中。前提条件： 已创建混合集群或者流式和分析集群（集群间网络互通，如果开启kerberos，则需配置跨集群互信https://support.huaweicloud.cn/usermanual-mrs/mrs_01_0354.html）。操作步骤： 1. 从HBase客户端拷贝配置文件hbase-site.xml到F... 操作场景： Flume消费kafka数据存储到HBase中。前提条件： 已创建混合集群或者流式和分析集群（集群间网络互通，如果开启kerberos，则需配置跨集群互信https://support.huaweicloud.cn/usermanual-mrs/mrs_01_0354.html）。操作步骤： 1. 从HBase客户端拷贝配置文件hbase-site.xml到F...
- 本文将介绍如何通过在Linux的机器上，执行kettle脚本，在MRS集群中，运行Spark程序。 本文将介绍如何通过在Linux的机器上，执行kettle脚本，在MRS集群中，运行Spark程序。
- 如果我们安装了python3.7版本来运行spark，并且用到了RDD的take函数，就会报错：RuntimeError: generator raised StopIteration。本文介绍了问题的原因和处理方法。 如果我们安装了python3.7版本来运行spark，并且用到了RDD的take函数，就会报错：RuntimeError: generator raised StopIteration。本文介绍了问题的原因和处理方法。
- 如果能配合jupyter notebook使用pyspark，无论是机器学习，数据探索，还是ETL应用的开发，开发效率直接起飞。本文就来介绍配合jupyter notebook来使用pyspark。 如果能配合jupyter notebook使用pyspark，无论是机器学习，数据探索，还是ETL应用的开发，开发效率直接起飞。本文就来介绍配合jupyter notebook来使用pyspark。
- 使用python3运行pyspark，需要做两步：1. 在mrs集群的所有core节点，以及提交任务的节点（通常为mrs的master节点），均安装python3；2. 指定pyspark使用的python路径。 使用python3运行pyspark，需要做两步：1. 在mrs集群的所有core节点，以及提交任务的节点（通常为mrs的master节点），均安装python3；2. 指定pyspark使用的python路径。
- MRS服务的ECS对用户开放，但是都是内网地址，用户访问十分困难，给调试带来很多不便，故该本文提供在ECS上搭建vpn服务，通过本地连接vpn，进而可以利用一个弹性ip即可访问整个MRS服务内的所有节点，为用户开发者在MRS服务进行业务开发提供访问便利。本文提供两种方法搭建vpn，开源代码见附件，也可自行在github下载。 MRS服务的ECS对用户开放，但是都是内网地址，用户访问十分困难，给调试带来很多不便，故该本文提供在ECS上搭建vpn服务，通过本地连接vpn，进而可以利用一个弹性ip即可访问整个MRS服务内的所有节点，为用户开发者在MRS服务进行业务开发提供访问便利。本文提供两种方法搭建vpn，开源代码见附件，也可自行在github下载。
推荐直播
-
5分钟让华为云主机加持deepseek2025/05/21 周三 20:00-21:30
刘光智 全栈高级工程师，CSDN优质创作者
本期直播将与您一同体验如何在华为开发者空间云主机上，一步步完成 Open WebUI 环境搭建及 DeepSeek 模型接入，并进行简单的文本生成任务。
即将直播 -
星闪应用开发技术课程（群）建设思路与设想2025/05/22 周四 19:00-21:00
葛非 华为开发者布道师
华中师范大学计算机学院副教授-葛非老师将深入讲解星闪核心技术及其支撑技术，并讨论如何将这些技术融入到通信工程、计算机科学与技术、软件工程等专业的课程内容中，旨在推动高等教育领域星闪鸿蒙生态的有序发展。
即将直播
热门标签