- 昇腾MindSpeed-LLM全流程实践及踩坑记录我们都知道大模型训练是一个非常复杂的过程,大模型军备竞赛下如何控制训练成本成为各大模型训练方尤为关注的问题。大模型的训练通常面临内存、计算、通信等压力,如何在有限的资源下尽可能提升大模型训练效率成为关键。介绍MindSpeed-LLM之前,首先介绍下MindSpeed,它是专门面向昇腾的大模型训练加速库。 1、 MindSpeed-LLM简... 昇腾MindSpeed-LLM全流程实践及踩坑记录我们都知道大模型训练是一个非常复杂的过程,大模型军备竞赛下如何控制训练成本成为各大模型训练方尤为关注的问题。大模型的训练通常面临内存、计算、通信等压力,如何在有限的资源下尽可能提升大模型训练效率成为关键。介绍MindSpeed-LLM之前,首先介绍下MindSpeed,它是专门面向昇腾的大模型训练加速库。 1、 MindSpeed-LLM简...
- GE图引擎文档优化上新啦~助您全面了解昇腾图模式开发 GE图引擎文档优化上新啦~助您全面了解昇腾图模式开发
- Faiss是一个高效的相似性搜索和密集向量聚类库。本项目致力于实现Faiss在华为昇腾NPU、鲲鹏CPU和EulerOS操作系统上的部署演示. 主要目的是通过不同的索引类型,探索在给定查询和评估准则下的最佳性能点 Faiss是一个高效的相似性搜索和密集向量聚类库。本项目致力于实现Faiss在华为昇腾NPU、鲲鹏CPU和EulerOS操作系统上的部署演示. 主要目的是通过不同的索引类型,探索在给定查询和评估准则下的最佳性能点
- 一、任务需求根据项目任务计划书,目的让facenet能够在昇腾环境上高效运行,确保项目在平台上具备良好的兼容性和性能,旨在通过深度学习技术实现高效、准确的人脸识别和验证。二、开发过程明确任务目的和demo要求后,先获取源码,facenet的github网址:https://github.com/timesler/facenet-pytorch。首先创建一个进行开发过程的虚拟环境,conda ... 一、任务需求根据项目任务计划书,目的让facenet能够在昇腾环境上高效运行,确保项目在平台上具备良好的兼容性和性能,旨在通过深度学习技术实现高效、准确的人脸识别和验证。二、开发过程明确任务目的和demo要求后,先获取源码,facenet的github网址:https://github.com/timesler/facenet-pytorch。首先创建一个进行开发过程的虚拟环境,conda ...
- 根据任务计划书了解任务内容,主要目的是将 Open-Sora-Plan项目适配至华为的 Ascend(昇腾),确保其在昇腾上能够单卡、多卡推理部署。 根据任务计划书了解任务内容,主要目的是将 Open-Sora-Plan项目适配至华为的 Ascend(昇腾),确保其在昇腾上能够单卡、多卡推理部署。
- 此文章是本人使用昇腾npu推理gemma2模型的历程心得 此文章是本人使用昇腾npu推理gemma2模型的历程心得
- HivisionIDPhotos适配昇腾开源验证任务心得根据任务计划书,主要目的是将HivisionIDPhotos项目适配至华为的 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器,确保其在这硬件平台上的高效运行,也就是说验证HivisionIDPhotos能不能在 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器中运行。 HivisionIDPhotos适配昇腾开源验证任务心得根据任务计划书,主要目的是将HivisionIDPhotos项目适配至华为的 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器,确保其在这硬件平台上的高效运行,也就是说验证HivisionIDPhotos能不能在 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器中运行。
- deepseek是一个高性能的混合专家(MoE)语言模型,能够生成高质量的文本内容,解决自然语言处理任务。它在文本生成、对话系统、情感分析和机器翻译等应用场景中表现出色,显著提升处理效率和生成质量。本文将介绍在华为的Ascend NPU上配置deepseek项目的过程中遇到的问题和解决方案,以及心得总结。 deepseek是一个高性能的混合专家(MoE)语言模型,能够生成高质量的文本内容,解决自然语言处理任务。它在文本生成、对话系统、情感分析和机器翻译等应用场景中表现出色,显著提升处理效率和生成质量。本文将介绍在华为的Ascend NPU上配置deepseek项目的过程中遇到的问题和解决方案,以及心得总结。
- 首先查看任务计划书:https://onebox,huawei.com/#eSpaceGroupFile/1/46845/8932260,主要目的是将Deeplabv3+项目适配至华为的 Ascend(昇腾)处理器,确保其在这些硬件平台上的高效运行,即验证Deeplabv3能不能在 Ascend(昇腾)系统中运行。 首先查看任务计划书:https://onebox,huawei.com/#eSpaceGroupFile/1/46845/8932260,主要目的是将Deeplabv3+项目适配至华为的 Ascend(昇腾)处理器,确保其在这些硬件平台上的高效运行,即验证Deeplabv3能不能在 Ascend(昇腾)系统中运行。
- 由任务计划书(https://onebox.huawei.cn/v/8ba5735992eb1a328f6e246f972d09ff?type=1 )了解任务内容,任务主要目的是将MiniCPM大模型适配至华为的Ascend Npu(昇腾)上,基于昇腾硬件验证模型推理情况。本次开发过程选择MiniCPM-2B模型。1 开发过程1.1 拉取仓库安装依赖:g... 由任务计划书(https://onebox.huawei.cn/v/8ba5735992eb1a328f6e246f972d09ff?type=1 )了解任务内容,任务主要目的是将MiniCPM大模型适配至华为的Ascend Npu(昇腾)上,基于昇腾硬件验证模型推理情况。本次开发过程选择MiniCPM-2B模型。1 开发过程1.1 拉取仓库安装依赖:g...
- Qwen2.5适配昇腾开源验证任务 根据任务计划书了解任务内容,主要目的是在昇腾npu上将qwen2.5项目完成一个大模型的推理验证,确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉项目,第一步:镜像拉取 docker pull swr.cn-east-317.qdrgznjszx.com/donggang/llama-factory-ascend910b:cann8-py310... Qwen2.5适配昇腾开源验证任务 根据任务计划书了解任务内容,主要目的是在昇腾npu上将qwen2.5项目完成一个大模型的推理验证,确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉项目,第一步:镜像拉取 docker pull swr.cn-east-317.qdrgznjszx.com/donggang/llama-factory-ascend910b:cann8-py310...
- qwen2-vl适配昇腾开源验证任务心得根据发布任务中的任务计划书了解任务内容,主要目的是在昇腾npu上完成qwen2-vl模型的训练推理,确保其在昇腾上能够正常运行。开发过程在qwen2-vl的github网址中,提到可用llama-factory跑qwen2-vl模型,明确目的后开始熟悉框架,搭建llama-factory框架所需环境,Llama-factory的github网址:htt... qwen2-vl适配昇腾开源验证任务心得根据发布任务中的任务计划书了解任务内容,主要目的是在昇腾npu上完成qwen2-vl模型的训练推理,确保其在昇腾上能够正常运行。开发过程在qwen2-vl的github网址中,提到可用llama-factory跑qwen2-vl模型,明确目的后开始熟悉框架,搭建llama-factory框架所需环境,Llama-factory的github网址:htt...
- TigerBot是虎博科技所发布的自研大模型,是一个多语言多任务大规模语言模型,功能上,Tigerbot已经包含大部分生成和理解类的能力,具体包括内容生成、文生图、开放问答、提取信息等。 TigerBot是虎博科技所发布的自研大模型,是一个多语言多任务大规模语言模型,功能上,Tigerbot已经包含大部分生成和理解类的能力,具体包括内容生成、文生图、开放问答、提取信息等。
- 根据任务计划书(https://bbs.huaweicloud.cn/blogs/442044)了解任务内容,主要目的是在昇腾npu上在fastchat项目完成一个大模型的推理验证,确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉框架,Fastchat的github网址:https://github.com/lm-sys/FastChat,把Fastchat项目从github上用... 根据任务计划书(https://bbs.huaweicloud.cn/blogs/442044)了解任务内容,主要目的是在昇腾npu上在fastchat项目完成一个大模型的推理验证,确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉框架,Fastchat的github网址:https://github.com/lm-sys/FastChat,把Fastchat项目从github上用...
- FastChat适配昇腾开源验证任务1 背景介绍开源for Huawei(参考:https://developer.huaweicloud.cn/programs/opensource/contributing/) 通过和公司、高校、社区的开发者合作,完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发,帮助繁荣Huawei的基础生态,同时让开源软件能够更加简单、高效的运行于华... FastChat适配昇腾开源验证任务1 背景介绍开源for Huawei(参考:https://developer.huaweicloud.cn/programs/opensource/contributing/) 通过和公司、高校、社区的开发者合作,完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发,帮助繁荣Huawei的基础生态,同时让开源软件能够更加简单、高效的运行于华...
上滑加载中
推荐直播
-
基于开源鸿蒙+海思星闪开发板:嵌入式系统开发实战(Day1)
2025/03/29 周六 09:00-18:00
华为开发者布道师
本次为期两天的课程将深入讲解OpenHarmony操作系统及其与星闪技术的结合应用,涵盖WS63E星闪开发板的详细介绍、“OpenHarmony+星闪”的创新实践、实验环境搭建以及编写首个“Hello World”程序等内容,旨在帮助学员全面掌握相关技术并进行实际操作
回顾中 -
基于开源鸿蒙+海思星闪开发板:嵌入式系统开发实战(Day2)
2025/03/30 周日 09:00-12:00
华为开发者布道师
本次为期两天的课程将深入讲解OpenHarmony操作系统及其与星闪技术的结合应用,涵盖WS63E星闪开发板的详细介绍、“OpenHarmony+星闪”的创新实践、实验环境搭建以及编写首个“Hello World”程序等内容,旨在帮助学员全面掌握相关技术并进行实际操作
回顾中 -
从AI基础到昇腾:大模型初探、DeepSeek解析与昇腾入门
2025/04/02 周三 16:00-17:30
不易 / 华为云学堂技术讲师
昇腾是华为研发的AI芯片,其具有哪些能力?我们如何基于其进行开发?本期直播将从AI以及大模型基础知识开始,介绍人工智能核心概念、昇腾AI基础软硬件平台以及昇腾专区,旨在为零基础或入门级学习者搭建从AI基础知识到昇腾技术的完整学习路径。
回顾中
热门标签