- 文章目录 一、提出任务二、完成任务（一）新建Maven项目（二）添加相关依赖和构建插件（三）创建日志属性文件（四）创建分组排行榜单例对象（五）本地运行程序，查看结果（六）交互式操作查看中间结果1、... 文章目录 一、提出任务二、完成任务（一）新建Maven项目（二）添加相关依赖和构建插件（三）创建日志属性文件（四）创建分组排行榜单例对象（五）本地运行程序，查看结果（六）交互式操作查看中间结果1、...
- 文章目录 一、ML Pipeline机器学习流程1.1 ML Pipeline构建流程1.2 ML Pipeline组件 二、以GBDT为栗子2.0 GBTs介绍2.1 加载libsvm数据2... 文章目录 一、ML Pipeline机器学习流程1.1 ML Pipeline构建流程1.2 ML Pipeline组件 二、以GBDT为栗子2.0 GBTs介绍2.1 加载libsvm数据2...
- <scala.version>2.11.0</scala.version> <spark.version>2.0.0</spark.version> <hadoop.version>2.6.0</hadoop.version> <slf4j.versio... <scala.version>2.11.0</scala.version> <spark.version>2.0.0</spark.version> <hadoop.version>2.6.0</hadoop.version> <slf4j.versio...
- Spark官网：(https://spark.apache.org/) Spark是一个大数据领域统一的数据分析/计算/处理引擎 目录 环境配置 一、解压更名 二、配置环境变量 三、配置Spark参数 四、环境测试 五、提交任务 六、结果查看 七、查看spark任务web-ui ... Spark官网：(https://spark.apache.org/) Spark是一个大数据领域统一的数据分析/计算/处理引擎 目录 环境配置 一、解压更名 二、配置环境变量 三、配置Spark参数 四、环境测试 五、提交任务 六、结果查看 七、查看spark任务web-ui ...
- 支持的数据源-JDBC 需求说明：使用Spark流式计算 将数据写入MySQL，并读取数据库信息进行打印 文章目录 支持的数据源-JDBC 项目主体架构 pom.xml依赖 创建数据库 业务逻辑 完整代码 程序运行 项目总结 项目主体架构 pom.xml依赖 ... 支持的数据源-JDBC 需求说明：使用Spark流式计算 将数据写入MySQL，并读取数据库信息进行打印 文章目录 支持的数据源-JDBC 项目主体架构 pom.xml依赖 创建数据库 业务逻辑 完整代码 程序运行 项目总结 项目主体架构 pom.xml依赖 ...
- Spark环境搭建 Spark的部署方式 目前Spark支持4种部署方式，分别是Local、Standalone、Spark on Mesos和 Spark on YARN。Local模式是单机模式。Standalone模式即独立模式，自... Spark环境搭建 Spark的部署方式 目前Spark支持4种部署方式，分别是Local、Standalone、Spark on Mesos和 Spark on YARN。Local模式是单机模式。Standalone模式即独立模式，自...
- 读取本地文件上传至Hive数据仓库 pom.xml <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-hive_2.12</artifact... 读取本地文件上传至Hive数据仓库 pom.xml <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-hive_2.12</artifact...
- 前景连接： Hadoop HA部署（MINI版）https://blog.csdn.net/m0_54925305/article/details/121566611?spm=1001.2014.3001.5501https://blog.csdn.net/m0_54925305/article/details/121566611?s... 前景连接： Hadoop HA部署（MINI版）https://blog.csdn.net/m0_54925305/article/details/121566611?spm=1001.2014.3001.5501https://blog.csdn.net/m0_54925305/article/details/121566611?s...
- 本地运行：在IDEA中直接运行控制台输出结果即可 集群运行：在本地将程序打包为 jar，提交至集群运行其程序（将结果上传至hdfs） 文章目录 一、本地运行spark程序 二、集群运行spark程序 一、本地运行spark程序  ... 本地运行：在IDEA中直接运行控制台输出结果即可 集群运行：在本地将程序打包为 jar，提交至集群运行其程序（将结果上传至hdfs） 文章目录 一、本地运行spark程序 二、集群运行spark程序 一、本地运行spark程序  ...
- textFile文件读取 读取数据展示 代码 package org.example.SQL import org.apache.log4j.{Level, Logger}import org.apache.spark.SparkContextimport org.apache.spark.rdd.RDD... textFile文件读取 读取数据展示 代码 package org.example.SQL import org.apache.log4j.{Level, Logger}import org.apache.spark.SparkContextimport org.apache.spark.rdd.RDD...
- 1、spark 的JavaRDD使用map、flatmap、filter等算子时，统一需要implement接口 org.apache.spark.api.java.function.Function ... 1、spark 的JavaRDD使用map、flatmap、filter等算子时，统一需要implement接口 org.apache.spark.api.java.function.Function ...
- 读取JSON文件，以JSON，CSV，jdbc格式写出 数据展示 代码 package org.example.SQL import org.apache.log4j.{Level, Logger}import org.apache.spark.sql.{DataFrame, SaveMode, SparkSes... 读取JSON文件，以JSON，CSV，jdbc格式写出 数据展示 代码 package org.example.SQL import org.apache.log4j.{Level, Logger}import org.apache.spark.sql.{DataFrame, SaveMode, SparkSes...
- 文章目录 一、皮尔逊相关系数 （一）皮尔逊相关系数公式 （二）根据皮尔逊相关系数判断相关强度 二、利用Spark ML计算皮尔逊相关系数矩阵... 文章目录 一、皮尔逊相关系数 （一）皮尔逊相关系数公式 （二）根据皮尔逊相关系数判断相关强度 二、利用Spark ML计算皮尔逊相关系数矩阵...
- 文章目录 一、提出任务 二、完成任务 （一）将成绩文件上传到HDFS （二）创建Maven项目 （三）添加依赖和构建插件 （四）创建日... 文章目录 一、提出任务 二、完成任务 （一）将成绩文件上传到HDFS （二）创建Maven项目 （三）添加依赖和构建插件 （四）创建日...
- 对电影评分数据进行分析，使用SQL编程，获取电影平均分Top10，要求电影的评分次数大于200 数据展示 代码 package org.example.SQL import org.apache.log4j.{Level, Logger}import org.apache.spark.sql.{DataF... 对电影评分数据进行分析，使用SQL编程，获取电影平均分Top10，要求电影的评分次数大于200 数据展示 代码 package org.example.SQL import org.apache.log4j.{Level, Logger}import org.apache.spark.sql.{DataF...
上滑加载中
推荐直播
-
香橙派AIpro的远程推理框架与实验案例2025/07/04 周五 19:00-20:00
郝家胜 -华为开发者布道师-高校教师
AiR推理框架创新采用将模型推理与模型应用相分离的机制，把香橙派封装为AI推理黑盒服务，构建了分布式远程推理框架，并提供多种输入模态、多种输出方式以及多线程支持的高度复用框架，解决了开发板环境配置复杂上手困难、缺乏可视化体验和资源稀缺课程受限等痛点问题，真正做到开箱即用，并支持多种笔记本电脑环境、多种不同编程语言，10行代码即可体验图像分割迁移案例。
回顾中 -
鸿蒙端云一体化应用开发2025/07/10 周四 19:00-20:00
倪红军 华为开发者布道师-高校教师
基于鸿蒙平台终端设备的应用场景越来越多、使用范围越来越广。本课程以云数据库服务为例，介绍云侧项目应用的创建、新建对象类型、新增存储区及向对象类型中添加数据对象的方法，端侧（HarmonyOS平台）一体化工程项目的创建、云数据资源的关联方法及对云侧数据的增删改查等操作方法，为开发端云一体化应用打下坚实基础。
即将直播
热门标签