- VLLM适配昇腾开源体验任务心得1 项目介绍VLLM是一个开源的高性能大语言模型推理库，旨在实现大规模语言模型的快速推理。本任务的主要目的是帮助开源开发者体验开源for Huawei的过程，并使用和了解昇腾的开发能力。开发者需要基于昇腾资源，在demo的基础上，完成vllm的模型推理流程。源码地址：https://github.com/vllm-project/vllm官网主页：https:... VLLM适配昇腾开源体验任务心得1 项目介绍VLLM是一个开源的高性能大语言模型推理库，旨在实现大规模语言模型的快速推理。本任务的主要目的是帮助开源开发者体验开源for Huawei的过程，并使用和了解昇腾的开发能力。开发者需要基于昇腾资源，在demo的基础上，完成vllm的模型推理流程。源码地址：https://github.com/vllm-project/vllm官网主页：https:...
- GE图引擎文档优化上新啦~助您全面了解昇腾图模式开发 GE图引擎文档优化上新啦~助您全面了解昇腾图模式开发
- 一、任务需求根据项目任务计划书，目的让facenet能够在昇腾环境上高效运行，确保项目在平台上具备良好的兼容性和性能，旨在通过深度学习技术实现高效、准确的人脸识别和验证。二、开发过程明确任务目的和demo要求后，先获取源码，facenet的github网址:https://github.com/timesler/facenet-pytorch。首先创建一个进行开发过程的虚拟环境，conda ... 一、任务需求根据项目任务计划书，目的让facenet能够在昇腾环境上高效运行，确保项目在平台上具备良好的兼容性和性能，旨在通过深度学习技术实现高效、准确的人脸识别和验证。二、开发过程明确任务目的和demo要求后，先获取源码，facenet的github网址:https://github.com/timesler/facenet-pytorch。首先创建一个进行开发过程的虚拟环境，conda ...
- 根据任务计划书了解任务内容，主要目的是将 Open-Sora-Plan项目适配至华为的 Ascend（昇腾），确保其在昇腾上能够单卡、多卡推理部署。 根据任务计划书了解任务内容，主要目的是将 Open-Sora-Plan项目适配至华为的 Ascend（昇腾），确保其在昇腾上能够单卡、多卡推理部署。
- deepseek是一个高性能的混合专家（MoE）语言模型，能够生成高质量的文本内容，解决自然语言处理任务。它在文本生成、对话系统、情感分析和机器翻译等应用场景中表现出色，显著提升处理效率和生成质量。本文将介绍在华为的Ascend NPU上配置deepseek项目的过程中遇到的问题和解决方案，以及心得总结。 deepseek是一个高性能的混合专家（MoE）语言模型，能够生成高质量的文本内容，解决自然语言处理任务。它在文本生成、对话系统、情感分析和机器翻译等应用场景中表现出色，显著提升处理效率和生成质量。本文将介绍在华为的Ascend NPU上配置deepseek项目的过程中遇到的问题和解决方案，以及心得总结。
- Qwen2.5适配昇腾开源验证任务 根据任务计划书了解任务内容，主要目的是在昇腾npu上将qwen2.5项目完成一个大模型的推理验证，确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉项目，第一步：镜像拉取 docker pull swr.cn-east-317.qdrgznjszx.com/donggang/llama-factory-ascend910b:cann8-py310... Qwen2.5适配昇腾开源验证任务 根据任务计划书了解任务内容，主要目的是在昇腾npu上将qwen2.5项目完成一个大模型的推理验证，确保其在昇腾上能够正常进行对话。开发过程明确目的后开始熟悉项目，第一步：镜像拉取 docker pull swr.cn-east-317.qdrgznjszx.com/donggang/llama-factory-ascend910b:cann8-py310...
- VLLM适配昇腾开源验证任务心得 首先看了一下任务计划书：https://bbs.huaweicloud.cn/blogs/440479，主要目的是将 VLLM项目适配至华为的 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器，确保其在这些硬件平台上的高效运行，也就是说验证VLLM能不能在 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器中运行。 开发过程明确目的后开始熟悉模型，V... VLLM适配昇腾开源验证任务心得 首先看了一下任务计划书：https://bbs.huaweicloud.cn/blogs/440479，主要目的是将 VLLM项目适配至华为的 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器，确保其在这些硬件平台上的高效运行，也就是说验证VLLM能不能在 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器中运行。 开发过程明确目的后开始熟悉模型，V...
- 1 背景介绍开源for Huawei（参考：https://developer.huaweicloud.cn/programs/opensource/contributing/） 通过和公司、高校、社区的开发者合作，完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发，帮助繁荣Huawei的基础生态，同时让开源软件能够更加简单、高效的运行于华为云上。开始之前，开发者可以下载 开... 1 背景介绍开源for Huawei（参考：https://developer.huaweicloud.cn/programs/opensource/contributing/） 通过和公司、高校、社区的开发者合作，完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发，帮助繁荣Huawei的基础生态，同时让开源软件能够更加简单、高效的运行于华为云上。开始之前，开发者可以下载 开...
- Ascend C文档体验再提升！接口更易查、功能更易懂、案例更丰富 Ascend C文档体验再提升！接口更易查、功能更易懂、案例更丰富
- 1. 背景介绍开源for Huawei（参考：https://developer.huaweicloud.cn/programs/opensource/contributing/）通过和公司、高校、社区的开发者合作，完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发，帮助繁荣Huawei的基础生态，同时让开源软件能够更加简单、高效的运行于华为云上。开始之前，开发者可以下... 1. 背景介绍开源for Huawei（参考：https://developer.huaweicloud.cn/programs/opensource/contributing/）通过和公司、高校、社区的开发者合作，完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发，帮助繁荣Huawei的基础生态，同时让开源软件能够更加简单、高效的运行于华为云上。开始之前，开发者可以下...
- flux适配昇腾开源验证任务心得根据任务计划书（https://bbs.huaweicloud.cn/blogs/437824）了解任务内容，主要目的是将 flux项目适配至华为的 Ascend（昇腾），确保其在昇腾上能够正常运行，并完成文本到图像的功能验证。开发过程明确目的后开始熟悉模型，flux模型的github网址：https://github.com/black-forest-la... flux适配昇腾开源验证任务心得根据任务计划书（https://bbs.huaweicloud.cn/blogs/437824）了解任务内容，主要目的是将 flux项目适配至华为的 Ascend（昇腾），确保其在昇腾上能够正常运行，并完成文本到图像的功能验证。开发过程明确目的后开始熟悉模型，flux模型的github网址：https://github.com/black-forest-la...
- Swin-Transformer是一个完全开源的视觉模型项目，拥有强大、高效且灵活的图像处理能力。此任务目标是将该模型适配昇腾，使其可以使用昇腾算力进行推理。 Swin-Transformer是一个完全开源的视觉模型项目，拥有强大、高效且灵活的图像处理能力。此任务目标是将该模型适配昇腾，使其可以使用昇腾算力进行推理。
- 本专题介绍常见的深度学习分布式训练的并行策略和背后使用到的集合通信操作，希望能帮助读者理解分布式训练的原理，以及集合通信之于分布式训练的重要性和必要性。 本专题介绍常见的深度学习分布式训练的并行策略和背后使用到的集合通信操作，希望能帮助读者理解分布式训练的原理，以及集合通信之于分布式训练的重要性和必要性。
- 在昇腾AI异构计算架构CANN最新推出的8.0版本中，基于LLM P-D分离部署方案设计并发布LLM-DataDist组件，API简单易用，可以低开发成本被MindIE-LLM、vLLM等大模型推理框架集成，并在近一年支撑了多个大模型业务的规模化商用。 在昇腾AI异构计算架构CANN最新推出的8.0版本中，基于LLM P-D分离部署方案设计并发布LLM-DataDist组件，API简单易用，可以低开发成本被MindIE-LLM、vLLM等大模型推理框架集成，并在近一年支撑了多个大模型业务的规模化商用。
- 体验华为鲲鹏、昇腾、鸿蒙、高斯、欧拉等“根”技术，共赴AI新‘’智”界 体验华为鲲鹏、昇腾、鸿蒙、高斯、欧拉等“根”技术，共赴AI新‘’智”界
上滑加载中
推荐直播
-
GaussDB管理平台TPOPS，DBA高效运维的一站式解决方案2024/12/24 周二 16:30-18:00
Leo 华为云数据库DTSE技术布道师
数据库的复杂运维，是否让你感到头疼不已？今天，华为云GaussDB管理平台将彻底来改观！本期直播，我们将深入探索GaussDB管理平台的TPOPS功能，带你感受一键式部署安装的便捷，和智能化运维管理的高效，让复杂的运维、管理变得简单，让简单变得可靠。
回顾中 -
华为云软件开发生产线（CodeArts）11月新特性解读2024/12/24 周二 19:00-20:00
苏柏亚培 华为云高级产品经理
不知道产品的最新特性？没法和产品团队建立直接的沟通？本期直播产品经理将为您解读华为云软件开发生产线10月发布的新特性，并在直播过程中为您答疑解惑。
回顾中
热门标签