- 一、任务需求 首先看了一下任务计划书:https://bbs.huaweicloud.cn/blogs/441501 ,主要目的是让haystack能够在Ascend NPU和Kunpeng CPU上高效运行,确保项目在平台上具备良好的兼容性和性能,以显著提高企业的信息检索和问答系统的效率。即验证haystack能不能在 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器中运行。 一、任务需求 首先看了一下任务计划书:https://bbs.huaweicloud.cn/blogs/441501 ,主要目的是让haystack能够在Ascend NPU和Kunpeng CPU上高效运行,确保项目在平台上具备良好的兼容性和性能,以显著提高企业的信息检索和问答系统的效率。即验证haystack能不能在 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器中运行。
- 昇腾MindSpeed-LLM全流程实践及踩坑记录我们都知道大模型训练是一个非常复杂的过程,大模型军备竞赛下如何控制训练成本成为各大模型训练方尤为关注的问题。大模型的训练通常面临内存、计算、通信等压力,如何在有限的资源下尽可能提升大模型训练效率成为关键。介绍MindSpeed-LLM之前,首先介绍下MindSpeed,它是专门面向昇腾的大模型训练加速库。 1、 MindSpeed-LLM简... 昇腾MindSpeed-LLM全流程实践及踩坑记录我们都知道大模型训练是一个非常复杂的过程,大模型军备竞赛下如何控制训练成本成为各大模型训练方尤为关注的问题。大模型的训练通常面临内存、计算、通信等压力,如何在有限的资源下尽可能提升大模型训练效率成为关键。介绍MindSpeed-LLM之前,首先介绍下MindSpeed,它是专门面向昇腾的大模型训练加速库。 1、 MindSpeed-LLM简...
- GE图引擎文档优化上新啦~助您全面了解昇腾图模式开发 GE图引擎文档优化上新啦~助您全面了解昇腾图模式开发
- Faiss是一个高效的相似性搜索和密集向量聚类库。本项目致力于实现Faiss在华为昇腾NPU、鲲鹏CPU和EulerOS操作系统上的部署演示. 主要目的是通过不同的索引类型,探索在给定查询和评估准则下的最佳性能点 Faiss是一个高效的相似性搜索和密集向量聚类库。本项目致力于实现Faiss在华为昇腾NPU、鲲鹏CPU和EulerOS操作系统上的部署演示. 主要目的是通过不同的索引类型,探索在给定查询和评估准则下的最佳性能点
- 一、任务需求根据项目任务计划书,目的让facenet能够在昇腾环境上高效运行,确保项目在平台上具备良好的兼容性和性能,旨在通过深度学习技术实现高效、准确的人脸识别和验证。二、开发过程明确任务目的和demo要求后,先获取源码,facenet的github网址:https://github.com/timesler/facenet-pytorch。首先创建一个进行开发过程的虚拟环境,conda ... 一、任务需求根据项目任务计划书,目的让facenet能够在昇腾环境上高效运行,确保项目在平台上具备良好的兼容性和性能,旨在通过深度学习技术实现高效、准确的人脸识别和验证。二、开发过程明确任务目的和demo要求后,先获取源码,facenet的github网址:https://github.com/timesler/facenet-pytorch。首先创建一个进行开发过程的虚拟环境,conda ...
- 此文章是本人使用昇腾npu推理gemma2模型的历程心得 此文章是本人使用昇腾npu推理gemma2模型的历程心得
- HivisionIDPhotos适配昇腾开源验证任务心得根据任务计划书,主要目的是将HivisionIDPhotos项目适配至华为的 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器,确保其在这硬件平台上的高效运行,也就是说验证HivisionIDPhotos能不能在 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器中运行。 HivisionIDPhotos适配昇腾开源验证任务心得根据任务计划书,主要目的是将HivisionIDPhotos项目适配至华为的 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器,确保其在这硬件平台上的高效运行,也就是说验证HivisionIDPhotos能不能在 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器中运行。
- deepseek是一个高性能的混合专家(MoE)语言模型,能够生成高质量的文本内容,解决自然语言处理任务。它在文本生成、对话系统、情感分析和机器翻译等应用场景中表现出色,显著提升处理效率和生成质量。本文将介绍在华为的Ascend NPU上配置deepseek项目的过程中遇到的问题和解决方案,以及心得总结。 deepseek是一个高性能的混合专家(MoE)语言模型,能够生成高质量的文本内容,解决自然语言处理任务。它在文本生成、对话系统、情感分析和机器翻译等应用场景中表现出色,显著提升处理效率和生成质量。本文将介绍在华为的Ascend NPU上配置deepseek项目的过程中遇到的问题和解决方案,以及心得总结。
- 首先查看任务计划书:https://onebox,huawei.com/#eSpaceGroupFile/1/46845/8932260,主要目的是将Deeplabv3+项目适配至华为的 Ascend(昇腾)处理器,确保其在这些硬件平台上的高效运行,即验证Deeplabv3能不能在 Ascend(昇腾)系统中运行。 首先查看任务计划书:https://onebox,huawei.com/#eSpaceGroupFile/1/46845/8932260,主要目的是将Deeplabv3+项目适配至华为的 Ascend(昇腾)处理器,确保其在这些硬件平台上的高效运行,即验证Deeplabv3能不能在 Ascend(昇腾)系统中运行。
- 由任务计划书(https://onebox.huawei.cn/v/8ba5735992eb1a328f6e246f972d09ff?type=1 )了解任务内容,任务主要目的是将MiniCPM大模型适配至华为的Ascend Npu(昇腾)上,基于昇腾硬件验证模型推理情况。本次开发过程选择MiniCPM-2B模型。1 开发过程1.1 拉取仓库安装依赖:g... 由任务计划书(https://onebox.huawei.cn/v/8ba5735992eb1a328f6e246f972d09ff?type=1 )了解任务内容,任务主要目的是将MiniCPM大模型适配至华为的Ascend Npu(昇腾)上,基于昇腾硬件验证模型推理情况。本次开发过程选择MiniCPM-2B模型。1 开发过程1.1 拉取仓库安装依赖:g...
- Qwen2.5适配昇腾开源验证任务 根据任务计划书了解任务内容,主要目的是在昇腾npu上将qwen2.5项目完成一个大模型的推理验证,确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉项目,第一步:镜像拉取 docker pull swr.cn-east-317.qdrgznjszx.com/donggang/llama-factory-ascend910b:cann8-py310... Qwen2.5适配昇腾开源验证任务 根据任务计划书了解任务内容,主要目的是在昇腾npu上将qwen2.5项目完成一个大模型的推理验证,确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉项目,第一步:镜像拉取 docker pull swr.cn-east-317.qdrgznjszx.com/donggang/llama-factory-ascend910b:cann8-py310...
- qwen2-vl适配昇腾开源验证任务心得根据发布任务中的任务计划书了解任务内容,主要目的是在昇腾npu上完成qwen2-vl模型的训练推理,确保其在昇腾上能够正常运行。开发过程在qwen2-vl的github网址中,提到可用llama-factory跑qwen2-vl模型,明确目的后开始熟悉框架,搭建llama-factory框架所需环境,Llama-factory的github网址:htt... qwen2-vl适配昇腾开源验证任务心得根据发布任务中的任务计划书了解任务内容,主要目的是在昇腾npu上完成qwen2-vl模型的训练推理,确保其在昇腾上能够正常运行。开发过程在qwen2-vl的github网址中,提到可用llama-factory跑qwen2-vl模型,明确目的后开始熟悉框架,搭建llama-factory框架所需环境,Llama-factory的github网址:htt...
- TigerBot是虎博科技所发布的自研大模型,是一个多语言多任务大规模语言模型,功能上,Tigerbot已经包含大部分生成和理解类的能力,具体包括内容生成、文生图、开放问答、提取信息等。 TigerBot是虎博科技所发布的自研大模型,是一个多语言多任务大规模语言模型,功能上,Tigerbot已经包含大部分生成和理解类的能力,具体包括内容生成、文生图、开放问答、提取信息等。
- 根据任务计划书(https://bbs.huaweicloud.cn/blogs/442044)了解任务内容,主要目的是在昇腾npu上在fastchat项目完成一个大模型的推理验证,确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉框架,Fastchat的github网址:https://github.com/lm-sys/FastChat,把Fastchat项目从github上用... 根据任务计划书(https://bbs.huaweicloud.cn/blogs/442044)了解任务内容,主要目的是在昇腾npu上在fastchat项目完成一个大模型的推理验证,确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉框架,Fastchat的github网址:https://github.com/lm-sys/FastChat,把Fastchat项目从github上用...
- FastChat适配昇腾开源验证任务1 背景介绍开源for Huawei(参考:https://developer.huaweicloud.cn/programs/opensource/contributing/) 通过和公司、高校、社区的开发者合作,完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发,帮助繁荣Huawei的基础生态,同时让开源软件能够更加简单、高效的运行于华... FastChat适配昇腾开源验证任务1 背景介绍开源for Huawei(参考:https://developer.huaweicloud.cn/programs/opensource/contributing/) 通过和公司、高校、社区的开发者合作,完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发,帮助繁荣Huawei的基础生态,同时让开源软件能够更加简单、高效的运行于华...
上滑加载中
推荐直播
-
香橙派AIpro的远程推理框架与实验案例
2025/07/04 周五 19:00-20:00
郝家胜 -华为开发者布道师-高校教师
AiR推理框架创新采用将模型推理与模型应用相分离的机制,把香橙派封装为AI推理黑盒服务,构建了分布式远程推理框架,并提供多种输入模态、多种输出方式以及多线程支持的高度复用框架,解决了开发板环境配置复杂上手困难、缺乏可视化体验和资源稀缺课程受限等痛点问题,真正做到开箱即用,并支持多种笔记本电脑环境、多种不同编程语言,10行代码即可体验图像分割迁移案例。
回顾中 -
鸿蒙端云一体化应用开发
2025/07/10 周四 19:00-20:00
倪红军 华为开发者布道师-高校教师
基于鸿蒙平台终端设备的应用场景越来越多、使用范围越来越广。本课程以云数据库服务为例,介绍云侧项目应用的创建、新建对象类型、新增存储区及向对象类型中添加数据对象的方法,端侧(HarmonyOS平台)一体化工程项目的创建、云数据资源的关联方法及对云侧数据的增删改查等操作方法,为开发端云一体化应用打下坚实基础。
即将直播
热门标签