- 背景 相关篇:Windows10配置运行Hadoop(非WSL模式)Hive的运行依赖HDFS,需要先准备好Hadoop部分的配置。 版本 OS:Windows 10 Pro 1903Java:1.8.0_231Hive:Hive-3.1.0.tar.gz(Apache官方源下载 https://archive.apache.org/dist/hive/hive-3.1.0/ )derby:... 背景 相关篇:Windows10配置运行Hadoop(非WSL模式)Hive的运行依赖HDFS,需要先准备好Hadoop部分的配置。 版本 OS:Windows 10 Pro 1903Java:1.8.0_231Hive:Hive-3.1.0.tar.gz(Apache官方源下载 https://archive.apache.org/dist/hive/hive-3.1.0/ )derby:...
- 环境准备hadoop-2.x及以上,具体请参考博客hive-2.3.3安装包mysql-5.7.24,下载路径:mysql-5.7.24-linux-glibc2.12-x86_64mysql数据库安装和后台启动tar -zxvf mysql-5.7.24-linux-glibc2.12-x86_64.tar.gzmv mysql-5.7.24-linux-glibc2.12-x86_64 ... 环境准备hadoop-2.x及以上,具体请参考博客hive-2.3.3安装包mysql-5.7.24,下载路径:mysql-5.7.24-linux-glibc2.12-x86_64mysql数据库安装和后台启动tar -zxvf mysql-5.7.24-linux-glibc2.12-x86_64.tar.gzmv mysql-5.7.24-linux-glibc2.12-x86_64 ...
- 大数据时代的Serverless工作负载预测真实场景海量数据,华为云邀你一起打造极致弹性服务华为云携手CCF打造Serverless大数据服务算法赛题,共同向全世界大数据人才发出参赛邀请!云计算时代,Serverless软件架构可根据业务工作负载进行弹性资源调整,这种方式可以有效减少资源在空闲期的浪费以及在繁忙期的业务过载,同时给用户带来极致的性价比服务。在弹性资源调度的背后,对工作负载的预... 大数据时代的Serverless工作负载预测真实场景海量数据,华为云邀你一起打造极致弹性服务华为云携手CCF打造Serverless大数据服务算法赛题,共同向全世界大数据人才发出参赛邀请!云计算时代,Serverless软件架构可根据业务工作负载进行弹性资源调整,这种方式可以有效减少资源在空闲期的浪费以及在繁忙期的业务过载,同时给用户带来极致的性价比服务。在弹性资源调度的背后,对工作负载的预...
- MRS 2.x 普通集群通过密码验证访问presto MRS 2.x 普通集群通过密码验证访问presto
- HiveMetaStore架构源码分析 HiveMetaStore架构源码分析
- Apache Ranger提供一个集中式安全管理框架,并解决授权和审计。它可以对整个Hadoop生态中如HDFS、Hive、HBase、Kafka、Storm等进行细粒度的数据访问控制。用户可以利用Ranger提供的前端WebUI控制台通过配置相关策略来控制用户对这些组件的访问权限 。 Apache Ranger提供一个集中式安全管理框架,并解决授权和审计。它可以对整个Hadoop生态中如HDFS、Hive、HBase、Kafka、Storm等进行细粒度的数据访问控制。用户可以利用Ranger提供的前端WebUI控制台通过配置相关策略来控制用户对这些组件的访问权限 。
- 项目中使用线程池很正常,诸如dlcatalog创建使用metastore的client所使用的线程池,但如何设置线程池的大小则关乎系统性能。线程池的理想大小取决于被提交任务的类型以及所部署系统的特性。线程池应该避免设置的过大或过小,如果线程池过大,大量的线程将在相对很少的CPU和内存资源上发生竞争,这不仅会导致更高的内存使用量,而且还可能耗尽资源。如果线程池过小,那么将导致许... 项目中使用线程池很正常,诸如dlcatalog创建使用metastore的client所使用的线程池,但如何设置线程池的大小则关乎系统性能。线程池的理想大小取决于被提交任务的类型以及所部署系统的特性。线程池应该避免设置的过大或过小,如果线程池过大,大量的线程将在相对很少的CPU和内存资源上发生竞争,这不仅会导致更高的内存使用量,而且还可能耗尽资源。如果线程池过小,那么将导致许...
- 可信智能计算服务产品优势介绍 可信智能计算服务产品优势介绍
- 可信智能计算服务TICS公测上线。 可信智能计算服务TICS公测上线。
- 某天,某电视台找到税务局和水电局, 说想做一起节目, 以获知有哪些企业是高质量节能企业,要给他们颁奖。这就需要交税量和用电量的数据, 如果交税量/用电量的比值很高, 说明这家公司既挣钱,用电量又少,高效又节能 类似于希望这2个局提供2个表, 将电力表和税收表做一个联合查询, 放到一个数据库中,并执行如下sql:Select rank.公 司 名 ( Select t... 某天,某电视台找到税务局和水电局, 说想做一起节目, 以获知有哪些企业是高质量节能企业,要给他们颁奖。这就需要交税量和用电量的数据, 如果交税量/用电量的比值很高, 说明这家公司既挣钱,用电量又少,高效又节能 类似于希望这2个局提供2个表, 将电力表和税收表做一个联合查询, 放到一个数据库中,并执行如下sql:Select rank.公 司 名 ( Select t...
- 数据治理建设步骤参考:简单介绍一下相关概念:1. 分层分库: 针对一个庞大的业务系统实现数据标准化治理, 分层分库即是采用分治理念,将复杂的问题简单化, 减少变化影响, 减少重复开发重复计算. 分层即按照华为概念划分为SDI(原始数据层)->DWI(多源整合层)->DWR(数据报告层)->DM(数据汇总层); SDI对应系统原始业务元数据, 真实系统会分多个源头\多个部门数据, DWI层的目... 数据治理建设步骤参考:简单介绍一下相关概念:1. 分层分库: 针对一个庞大的业务系统实现数据标准化治理, 分层分库即是采用分治理念,将复杂的问题简单化, 减少变化影响, 减少重复开发重复计算. 分层即按照华为概念划分为SDI(原始数据层)->DWI(多源整合层)->DWR(数据报告层)->DM(数据汇总层); SDI对应系统原始业务元数据, 真实系统会分多个源头\多个部门数据, DWI层的目...
- 数据对账对于数据开发和数据迁移流程中的数据一致性至关重要,而跨源数据对账的能力是检验数据迁移或数据加工前后是否一致的关键指标,下面介绍如何通过DAYU中的数据质量模块实现跨源数据对账的基本一致性校验。 数据对账对于数据开发和数据迁移流程中的数据一致性至关重要,而跨源数据对账的能力是检验数据迁移或数据加工前后是否一致的关键指标,下面介绍如何通过DAYU中的数据质量模块实现跨源数据对账的基本一致性校验。
- 数据服务支持对于API的导入导出, 便于快速复制迁移现有的API。 API导出:首先在数据服务的API管理界面, 选择更多下的导出, 如下图所示。在导出界面, 勾选需要导出的API, 确定导出列表。点击确定后, 即可生成对应的excel文件。数据服务各种类型的API, 数据格式并不相同, 会分别导出至excel不同的sheet中, 点击下方sheet切换查看编辑。excel中所有列的具体参数... 数据服务支持对于API的导入导出, 便于快速复制迁移现有的API。 API导出:首先在数据服务的API管理界面, 选择更多下的导出, 如下图所示。在导出界面, 勾选需要导出的API, 确定导出列表。点击确定后, 即可生成对应的excel文件。数据服务各种类型的API, 数据格式并不相同, 会分别导出至excel不同的sheet中, 点击下方sheet切换查看编辑。excel中所有列的具体参数...
- 本文介绍了一种HBase迁移的方法,可以在一些特定场景下运用 本文介绍了一种HBase迁移的方法,可以在一些特定场景下运用
- 分享一个HBase集群恢复的方法 分享一个HBase集群恢复的方法
上滑加载中
推荐直播
-
华为云码道-玩转OpenClaw,在线养虾2026/03/11 周三 19:00-21:00
刘昱,华为云高级工程师/谈心,华为云技术专家/李海仑,上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈,华为云码道最新推出 Skill ——开发者只需输入一句口令,即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道,玩转OpenClaw
回顾中 -
华为云码道-AI时代应用开发利器2026/03/18 周三 19:00-20:00
童得力,华为云开发者生态运营总监/姚圣伟,华为云HCDE开发者专家
本次直播由华为专家带你实战应用开发,看华为云码道(CodeArts)代码智能体如何在AI时代让你的创意应用快速落地。更有华为云HCDE开发者专家带你用码道玩转JiuwenClaw,让小艺成为你的AI助理。
回顾中 -
Skill 构建 × 智能创作:基于华为云码道的 AI 内容生产提效方案2026/03/25 周三 19:00-20:00
余伟,华为云软件研发工程师/万邵业(万少),华为云HCDE开发者专家
本次直播带来两大实战:华为云码道 Skill-Creator 手把手搭建专属知识库 Skill;如何用码道提效 OpenClaw 小说文本,打造从大纲到成稿的 AI 原创小说全链路。技术干货 + OPC创作思路,一次讲透!
回顾中
热门标签