- 一、任务需求首先了解熟悉任务计划书(https://bbs.huaweicloud.cn/blogs/439894),目的需求是将 Whisper 项目适配至华为的 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器,确保模型能在这些硬件平台上的高效运行,需要注意系统架构是aarch64。二、过程明确需求后开始熟悉模型,了解其需要的配置和环境要求拉取镜像,参考http://mirrors... 一、任务需求首先了解熟悉任务计划书(https://bbs.huaweicloud.cn/blogs/439894),目的需求是将 Whisper 项目适配至华为的 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器,确保模型能在这些硬件平台上的高效运行,需要注意系统架构是aarch64。二、过程明确需求后开始熟悉模型,了解其需要的配置和环境要求拉取镜像,参考http://mirrors...
- 扫描问卷二维码填写问卷在线收集问题并解答! 扫描问卷二维码填写问卷在线收集问题并解答!
- 关注【昇腾CANN】视频号快速预约直播!B站观看链接:https://live.bilibili.com/h5/23361884昇腾社区观看链接:https://www.hiascend.com/developer/cann20242?tab=live#cann-camp-2402-live-course 关注【昇腾CANN】视频号快速预约直播!B站观看链接:https://live.bilibili.com/h5/23361884昇腾社区观看链接:https://www.hiascend.com/developer/cann20242?tab=live#cann-camp-2402-live-course
- CANN(Compute Architecture for Neural Networks)提供了算子加速库(Ascend Operator Library,简称AOL)。该库提供了一系列丰富且深度优化过的高性能算子API,更亲和昇腾AI处理器,调用流程如图1所示。开发者可直接调用算子库API使能模型创新与应用,以进一步提升开发效率和获取极致模型性能。 CANN(Compute Architecture for Neural Networks)提供了算子加速库(Ascend Operator Library,简称AOL)。该库提供了一系列丰富且深度优化过的高性能算子API,更亲和昇腾AI处理器,调用流程如图1所示。开发者可直接调用算子库API使能模型创新与应用,以进一步提升开发效率和获取极致模型性能。
- MindIE LLM是MindIE解决方案下的大语言模型推理组件,基于昇腾硬件提供业界通用大模型推理能力,同时提供多并发请求的调度功能,支持Continuous Batching、PageAttention、FlashDecoding等加速特性,使能用户高性能推理需求。 MindIE LLM是MindIE解决方案下的大语言模型推理组件,基于昇腾硬件提供业界通用大模型推理能力,同时提供多并发请求的调度功能,支持Continuous Batching、PageAttention、FlashDecoding等加速特性,使能用户高性能推理需求。
- 在Ascend Transformer Boost加速库(ATB)中存在三种类型的算子,那么这三种类型的算子,它们的执行流程是什么,和其它的CANN中的算子有什么区别。 在Ascend Transformer Boost加速库(ATB)中存在三种类型的算子,那么这三种类型的算子,它们的执行流程是什么,和其它的CANN中的算子有什么区别。
- 扫码报名参与,0基础学习课程,轻松掌握算子开发技能!完成认证考核,五重挑战赢开发板、华为手机等千元大奖! 扫码报名参与,0基础学习课程,轻松掌握算子开发技能!完成认证考核,五重挑战赢开发板、华为手机等千元大奖!
- 全爱科技边缘计算机系列供多款AI核心板、计算机和开发套件,覆盖了多种工业应用场景。 全爱科技边缘计算机系列供多款AI核心板、计算机和开发套件,覆盖了多种工业应用场景。
- 昇腾Atlas200I A2 EP模式驱动固件已开放 已适配多款CPU操作系统 昇腾Atlas200I A2 EP模式驱动固件已开放 已适配多款CPU操作系统
- 安装tightvncserver后,启动VNC,这里的VNC默认端口5901/usr/bin/tightvncserver -depth 16 -geometry 1920x1080 :1使用microusb连接,直接搞putty本地笔记本插上网线以后,直接连接ping orangepiaipro.localssh HwHiAiUser@orangepiaipro.local然后vscode... 安装tightvncserver后,启动VNC,这里的VNC默认端口5901/usr/bin/tightvncserver -depth 16 -geometry 1920x1080 :1使用microusb连接,直接搞putty本地笔记本插上网线以后,直接连接ping orangepiaipro.localssh HwHiAiUser@orangepiaipro.local然后vscode...
- 1. 背景介绍笔者使用华为云ModelArts弹性裸金属服务器-Ascend Snt9B服务器,选择的服务器镜像为: EulerOS-2.10-Arm-rc3-64bit-for-Snt9B-BareMetal-with-CANN7.0.RC1Ascend Snt9B服务器中的hccl_tool集群网络工具,可以对硬件资源进行管理、监控、配置、查询等。2. 方案介绍本文通过hccn_too... 1. 背景介绍笔者使用华为云ModelArts弹性裸金属服务器-Ascend Snt9B服务器,选择的服务器镜像为: EulerOS-2.10-Arm-rc3-64bit-for-Snt9B-BareMetal-with-CANN7.0.RC1Ascend Snt9B服务器中的hccl_tool集群网络工具,可以对硬件资源进行管理、监控、配置、查询等。2. 方案介绍本文通过hccn_too...
- 笔者使用华为云ModelArts弹性裸金属服务器-Ascend Snt9B服务器,选择的服务器镜像为: EulerOS-2.10-Arm-rc3-64bit-for-Snt9B-BareMetal-with-CANN7.0.RC1Ascend Snt9B服务器中的hccl_tool工具可以查看RoCE网卡的统计信息。本文基本hccl_tool工具,提供用于计算MAC、RoCEE、Nic收发... 笔者使用华为云ModelArts弹性裸金属服务器-Ascend Snt9B服务器,选择的服务器镜像为: EulerOS-2.10-Arm-rc3-64bit-for-Snt9B-BareMetal-with-CANN7.0.RC1Ascend Snt9B服务器中的hccl_tool工具可以查看RoCE网卡的统计信息。本文基本hccl_tool工具,提供用于计算MAC、RoCEE、Nic收发...
- 1. 背景Snt9B裸金属服务器包含8张独立的npu,均可独立进行训练和推理任务。在创建docker容器时,可以通过如下命令指定挂载npu卡。如下的命令为:在docker容器中挂载0、1、2、3号npu。-e ASCEND_VISIBLE_DEVICES=0-32. 问题描述分别使用如下命令创建两个docker容器,期望在容器test0挂载0~3号npu,在容器test1挂载4~7号npu,... 1. 背景Snt9B裸金属服务器包含8张独立的npu,均可独立进行训练和推理任务。在创建docker容器时,可以通过如下命令指定挂载npu卡。如下的命令为:在docker容器中挂载0、1、2、3号npu。-e ASCEND_VISIBLE_DEVICES=0-32. 问题描述分别使用如下命令创建两个docker容器,期望在容器test0挂载0~3号npu,在容器test1挂载4~7号npu,...
- ROS2系统及使用介绍 ROS2介绍及特点介绍 ROS2简介要说ROS2,那就不得不提起ROS,ROS就是机器人操作系统英文全称(Robot Operating System),但ROS本身并不是一个操作系统,而是可以安装在现在已有的操作系统上(Linux、Windows、Mac)上的软件和工具集。ROS出生于2007年,ROS的出现解决了机器人各个组件之间的通信问题,同时基于ROS的完善... ROS2系统及使用介绍 ROS2介绍及特点介绍 ROS2简介要说ROS2,那就不得不提起ROS,ROS就是机器人操作系统英文全称(Robot Operating System),但ROS本身并不是一个操作系统,而是可以安装在现在已有的操作系统上(Linux、Windows、Mac)上的软件和工具集。ROS出生于2007年,ROS的出现解决了机器人各个组件之间的通信问题,同时基于ROS的完善...
- 1. 环境描述笔者使用华为云ModelArts弹性裸金属服务器-Ascend Snt9B服务器进行DMA及P2P性能测试.选择的服务器镜像是: EulerOS-2.10-Arm-rc3-64bit-for-Snt9B-BareMetal-with-CANN7.0.RC1该镜像已经安装ascend-dmi,并进行了环境配置,可以直接使用。2.DMA测试2.1 测试Host传输到Device... 1. 环境描述笔者使用华为云ModelArts弹性裸金属服务器-Ascend Snt9B服务器进行DMA及P2P性能测试.选择的服务器镜像是: EulerOS-2.10-Arm-rc3-64bit-for-Snt9B-BareMetal-with-CANN7.0.RC1该镜像已经安装ascend-dmi,并进行了环境配置,可以直接使用。2.DMA测试2.1 测试Host传输到Device...
上滑加载中
推荐直播
-
基于开源鸿蒙+海思星闪开发板:嵌入式系统开发实战(Day1)
2025/03/29 周六 09:00-18:00
华为开发者布道师
本次为期两天的课程将深入讲解OpenHarmony操作系统及其与星闪技术的结合应用,涵盖WS63E星闪开发板的详细介绍、“OpenHarmony+星闪”的创新实践、实验环境搭建以及编写首个“Hello World”程序等内容,旨在帮助学员全面掌握相关技术并进行实际操作
回顾中 -
基于开源鸿蒙+海思星闪开发板:嵌入式系统开发实战(Day2)
2025/03/30 周日 09:00-12:00
华为开发者布道师
本次为期两天的课程将深入讲解OpenHarmony操作系统及其与星闪技术的结合应用,涵盖WS63E星闪开发板的详细介绍、“OpenHarmony+星闪”的创新实践、实验环境搭建以及编写首个“Hello World”程序等内容,旨在帮助学员全面掌握相关技术并进行实际操作
回顾中 -
从AI基础到昇腾:大模型初探、DeepSeek解析与昇腾入门
2025/04/02 周三 16:00-17:30
不易 / 华为云学堂技术讲师
昇腾是华为研发的AI芯片,其具有哪些能力?我们如何基于其进行开发?本期直播将从AI以及大模型基础知识开始,介绍人工智能核心概念、昇腾AI基础软硬件平台以及昇腾专区,旨在为零基础或入门级学习者搭建从AI基础知识到昇腾技术的完整学习路径。
回顾中
热门标签