- 通用大模型虽然博学,但在医疗、法律、金融或垂直企业内部,往往因为缺乏行业“专业常识”而频频翻车。本文将带你实操,如何利用华为云 ModelArts 与主流开源框架,结合 LoRA 技术对大模型进行轻量化微调,打造专属的行业垂直大模型。 通用大模型虽然博学,但在医疗、法律、金融或垂直企业内部,往往因为缺乏行业“专业常识”而频频翻车。本文将带你实操,如何利用华为云 ModelArts 与主流开源框架,结合 LoRA 技术对大模型进行轻量化微调,打造专属的行业垂直大模型。
- 告别幻觉,从0到1搭建生产级RAG|基于华为云ModelArts+昇腾实践前言大模型本身存在知识截止、幻觉、私有数据无法识别三大痛点,RAG(检索增强生成)是目前产业落地最成熟、成本可控的方案。 但很多开发者踩了同一个误区:文档上传、切片、入库、调用大模型,就认为RAG做完了。上线之后才发现:召回无关文档、长文档信息丢失、多跳问题答不对、模型强行编造不存在的内容。RAG的核心不是“向量库+大... 告别幻觉,从0到1搭建生产级RAG|基于华为云ModelArts+昇腾实践前言大模型本身存在知识截止、幻觉、私有数据无法识别三大痛点,RAG(检索增强生成)是目前产业落地最成熟、成本可控的方案。 但很多开发者踩了同一个误区:文档上传、切片、入库、调用大模型,就认为RAG做完了。上线之后才发现:召回无关文档、长文档信息丢失、多跳问题答不对、模型强行编造不存在的内容。RAG的核心不是“向量库+大...
- 后来在华为云开发者成长中心做任务时,碰到了「AI Agent 开发实践中心」。它把华为云的几个 Agent 开源项目串成了一个能动手玩的站点。我顺着走了一遍,从看案例到在云端跑通一个项目,前后不到一小时。下面把这次上手的过程和几个值得记的点写下来。 后来在华为云开发者成长中心做任务时,碰到了「AI Agent 开发实践中心」。它把华为云的几个 Agent 开源项目串成了一个能动手玩的站点。我顺着走了一遍,从看案例到在云端跑通一个项目,前后不到一小时。下面把这次上手的过程和几个值得记的点写下来。
- 本文梳理 ModelArts 模型部署实操流程:模型准备、部署为在线服务、Python requests 调用测试,以及 401/403、启动失败、输入格式错误、超时等常见问题排查方法。 本文梳理 ModelArts 模型部署实操流程:模型准备、部署为在线服务、Python requests 调用测试,以及 401/403、启动失败、输入格式错误、超时等常见问题排查方法。
- 下面按「问题定位 → 方案设计 → 落地验证 → 效果对比」四个阶段展开。现状与问题在原有架构下,核心瓶颈集中在 冷启动:连接复用并设置合理上限。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 Nginx 替换原方案中耦合较重的部分,把 冷启动 拆成独立可水平扩展的单元。关键点有三:1. 预拉取减少按需加载抖动2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于... 下面按「问题定位 → 方案设计 → 落地验证 → 效果对比」四个阶段展开。现状与问题在原有架构下,核心瓶颈集中在 冷启动:连接复用并设置合理上限。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 Nginx 替换原方案中耦合较重的部分,把 冷启动 拆成独立可水平扩展的单元。关键点有三:1. 预拉取减少按需加载抖动2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于...
- 结合日常用大模型写代码、写文档的经验,总结 7 个可以马上用上的提示词技巧,并给出前后对比示例,帮助开发者把模型输出从"差不多"提升到"可直接用"。 结合日常用大模型写代码、写文档的经验,总结 7 个可以马上用上的提示词技巧,并给出前后对比示例,帮助开发者把模型输出从"差不多"提升到"可直接用"。
- 当企业大模型部署上线后,如何让它真正服务于业务?本文将结合前两篇的知识,手把手带你使用华为云 ModelArts 托管的大模型 API,搭配 LangChain 框架,打造一个具备私有知识库检索能力的“企业级智能客服系统”。 当企业大模型部署上线后,如何让它真正服务于业务?本文将结合前两篇的知识,手把手带你使用华为云 ModelArts 托管的大模型 API,搭配 LangChain 框架,打造一个具备私有知识库检索能力的“企业级智能客服系统”。
- 一、背景与目标最近接手一个小型工业质检项目,需求是对产线摄像头采集的零件图片做二分类判断:正常或异常。团队人手有限,没有专职算法工程师,因此希望尽量复用云端托管能力,把精力放在数据标注和业务集成上。最终选定的方案是华为云 ModelArts:数据标注、训练、模型管理和在线推理都在一个平台内完成,省去了自建训练集群和推理网关的工作。二、数据与标注样本共约三千张,正负样本比例接近 3:1,存在轻... 一、背景与目标最近接手一个小型工业质检项目,需求是对产线摄像头采集的零件图片做二分类判断:正常或异常。团队人手有限,没有专职算法工程师,因此希望尽量复用云端托管能力,把精力放在数据标注和业务集成上。最终选定的方案是华为云 ModelArts:数据标注、训练、模型管理和在线推理都在一个平台内完成,省去了自建训练集群和推理网关的工作。二、数据与标注样本共约三千张,正负样本比例接近 3:1,存在轻...
- 从"对着菜单找半天"到"想做什么直接搜",从"提工单等三天"到"一键自助办"。2026 年华为云这轮体验焕新,不像是加了一堆新功能,更像是把过去那些让人皱眉的小卡点,悄悄抹平了。 从"对着菜单找半天"到"想做什么直接搜",从"提工单等三天"到"一键自助办"。2026 年华为云这轮体验焕新,不像是加了一堆新功能,更像是把过去那些让人皱眉的小卡点,悄悄抹平了。
- 大模型落地最常见的误区,是把它当成"换个更聪明的 API 而已"。实际上,企业真正需要的不是一个通用聊天窗口,而是在具体业务场景里稳定、可控、算得起账的模型能力。华为盘古大模型的思路很有代表性:不做"一个模型打天下",而是分层设计,再配合华为云 ModelArts Studio 的大模型托管与推理服务,把能力送到业务手里。本文从架构讲到实践,最后给出一张落地检查清单。 一、盘古的分层设计:L... 大模型落地最常见的误区,是把它当成"换个更聪明的 API 而已"。实际上,企业真正需要的不是一个通用聊天窗口,而是在具体业务场景里稳定、可控、算得起账的模型能力。华为盘古大模型的思路很有代表性:不做"一个模型打天下",而是分层设计,再配合华为云 ModelArts Studio 的大模型托管与推理服务,把能力送到业务手里。本文从架构讲到实践,最后给出一张落地检查清单。 一、盘古的分层设计:L...
- 引言很多团队的 AI 项目卡住,并不是模型不够好,而是链路太长:数据在 A 同学的电脑上,训练脚本在 B 同学的服务器上,上线又要找运维从头搭环境。华为云 ModelArts 要解决的正是这个问题——把"数据 → 标注 → 开发 → 训练 → 调优 → 部署 → 运维"收进一个平台。本文不逐条罗列控制台按钮,而是按真实项目的时间顺序,讲清楚每个环节该做什么、容易踩什么坑。 一、ModelA... 引言很多团队的 AI 项目卡住,并不是模型不够好,而是链路太长:数据在 A 同学的电脑上,训练脚本在 B 同学的服务器上,上线又要找运维从头搭环境。华为云 ModelArts 要解决的正是这个问题——把"数据 → 标注 → 开发 → 训练 → 调优 → 部署 → 运维"收进一个平台。本文不逐条罗列控制台按钮,而是按真实项目的时间顺序,讲清楚每个环节该做什么、容易踩什么坑。 一、ModelA...
- AI 算力的三大门派——**开放平台 API**、**Web2API**、**客户端凭证(Client Credentials)** AI 算力的三大门派——**开放平台 API**、**Web2API**、**客户端凭证(Client Credentials)**
- 最近在华为云开发者成长中心做任务,看到"每日体验 AI DevSpace",顺手点进去实测了一下,记录一下过程,给想尝鲜的同学参考。 进入方式成长中心任务中心 → “每日体验 AI DevSpace” → 去完成 → AI 办公开发实践中心 → “前往 AI DevSpace 实践”。版本选择页有付费版和免费"体验版",体验版不消耗额度、时长 3 小时,点"立即进入"就行,全程在浏览器里完成... 最近在华为云开发者成长中心做任务,看到"每日体验 AI DevSpace",顺手点进去实测了一下,记录一下过程,给想尝鲜的同学参考。 进入方式成长中心任务中心 → “每日体验 AI DevSpace” → 去完成 → AI 办公开发实践中心 → “前往 AI DevSpace 实践”。版本选择页有付费版和免费"体验版",体验版不消耗额度、时长 3 小时,点"立即进入"就行,全程在浏览器里完成...
- 上周有个图像分类的任务在 ModelArts 上跑了两个多小时,最后十分钟因为一个我完全没预料到的原因挂掉,前面的 checkpoint 也因为没配自动保存策略而丢了。那天加班到很晚,但真正让我难受的不是这次失败,而是意识到:我对训练任务的「可恢复性」几乎一无所知,只能靠人肉守着看。这篇文章算是我交过的学费总结,围绕三个问题展开:训练任务怎么配才能在意外中断后自动接上、超参搜索怎么跑才不至于... 上周有个图像分类的任务在 ModelArts 上跑了两个多小时,最后十分钟因为一个我完全没预料到的原因挂掉,前面的 checkpoint 也因为没配自动保存策略而丢了。那天加班到很晚,但真正让我难受的不是这次失败,而是意识到:我对训练任务的「可恢复性」几乎一无所知,只能靠人肉守着看。这篇文章算是我交过的学费总结,围绕三个问题展开:训练任务怎么配才能在意外中断后自动接上、超参搜索怎么跑才不至于...
- 本文结合近期项目实践,整理了一套相对通用的思路,希望对同行有所启发。现状与问题在原有架构下,核心瓶颈集中在 调度延迟:预拉取减少按需加载抖动。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 Redis 替换原方案中耦合较重的部分,把 连接池 拆成独立可水平扩展的单元。关键点有三:1. 改用二进制协议减少带宽2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于回滚... 本文结合近期项目实践,整理了一套相对通用的思路,希望对同行有所启发。现状与问题在原有架构下,核心瓶颈集中在 调度延迟:预拉取减少按需加载抖动。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 Redis 替换原方案中耦合较重的部分,把 连接池 拆成独立可水平扩展的单元。关键点有三:1. 改用二进制协议减少带宽2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于回滚...
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签