- 为了让 AI 模型在特定场景中真正有用,它通常需要访问相关的背景知识。例如:客服聊天机器人需要了解它所服务的具体企业;法律分析机器人需要了解大量历史案例。开发者通常会使用 检索增强生成(Retrieval-Augmented Generation,RAG) 来扩展 AI 模型的知识。RAG 会先从知识库中检索相关信息,再把这些信息附加到用户 Prompt 中,从而显著提升模型回答的质量。但传... 为了让 AI 模型在特定场景中真正有用,它通常需要访问相关的背景知识。例如:客服聊天机器人需要了解它所服务的具体企业;法律分析机器人需要了解大量历史案例。开发者通常会使用 检索增强生成(Retrieval-Augmented Generation,RAG) 来扩展 AI 模型的知识。RAG 会先从知识库中检索相关信息,再把这些信息附加到用户 Prompt 中,从而显著提升模型回答的质量。但传...
- 在 Transformer 自回归生成中,KV Cache 是限制并发吞吐的核心瓶颈。本文系统解析 vLLM 借鉴操作系统虚拟分页实现的 PagedAttention 机制,以及动态请求调度的 Continuous Batching 架构。 在 Transformer 自回归生成中,KV Cache 是限制并发吞吐的核心瓶颈。本文系统解析 vLLM 借鉴操作系统虚拟分页实现的 PagedAttention 机制,以及动态请求调度的 Continuous Batching 架构。
- 在深度学习模型训练与推理中,内存带宽往往是比计算峰值更大的瓶颈。本文系统剖析 OpenAI Triton 编译器的算子融合机理,以及如何通过 SRAM 局部性优化消除显存往返开销。 在深度学习模型训练与推理中,内存带宽往往是比计算峰值更大的瓶颈。本文系统剖析 OpenAI Triton 编译器的算子融合机理,以及如何通过 SRAM 局部性优化消除显存往返开销。
- 团队做了一次看起来无害的优化:把 embedding 模型换成新版本,顺手把分块从 512 改到 1024,理由是「大段落语义更完整」。上线后抽查了几条问答,回答依旧流畅、语气依旧专业,没人觉得有问题。可两周后客服反馈,一批老问题的答案开始答非所问——问「退货运费谁承担」,答的却是「退货流程怎么走」。去查生成层,Prompt 没动、模型没换、温度没调。真正变了的,是检索层召回的段落:分块一改... 团队做了一次看起来无害的优化:把 embedding 模型换成新版本,顺手把分块从 512 改到 1024,理由是「大段落语义更完整」。上线后抽查了几条问答,回答依旧流畅、语气依旧专业,没人觉得有问题。可两周后客服反馈,一批老问题的答案开始答非所问——问「退货运费谁承担」,答的却是「退货流程怎么走」。去查生成层,Prompt 没动、模型没换、温度没调。真正变了的,是检索层召回的段落:分块一改...
- 甲醛释放周期长达3至15年,而衣柜、抽屉、暗卫等无光密闭空间恰恰是甲醛浓度最高、传统除醛产品最难发挥作用的区域。全屋20m²柜体板材叠加后,密闭空间初始甲醛浓度可达0.4~0.6mg/m³,远超GB/T 18883-2022规定的0.08mg/m³限值。传统光触媒需要紫外线激发,在柜内几乎失效;活性炭在无风环境中吸附效率骤降且存在反向释放风险。本次测评联合具备CMA资质的第三方实验室,对市面... 甲醛释放周期长达3至15年,而衣柜、抽屉、暗卫等无光密闭空间恰恰是甲醛浓度最高、传统除醛产品最难发挥作用的区域。全屋20m²柜体板材叠加后,密闭空间初始甲醛浓度可达0.4~0.6mg/m³,远超GB/T 18883-2022规定的0.08mg/m³限值。传统光触媒需要紫外线激发,在柜内几乎失效;活性炭在无风环境中吸附效率骤降且存在反向释放风险。本次测评联合具备CMA资质的第三方实验室,对市面...
- 在前序模块完成特征自监督压缩与对比空间分离后,系统需要一个具备离散分类裁决能力与环境交互特性的序贯决策引擎。论文《Continual contrastive reinforcement learning: Towards stronger agent for environment-aware fault diagnosis of aero-engines through long-term... 在前序模块完成特征自监督压缩与对比空间分离后,系统需要一个具备离散分类裁决能力与环境交互特性的序贯决策引擎。论文《Continual contrastive reinforcement learning: Towards stronger agent for environment-aware fault diagnosis of aero-engines through long-term...
- 在民用航空实际运营场景中,航空发动机的长期健康管理面临着运行环境动态变化、飞行监控数据持续增长以及故障样本极度稀缺等工程约束。传统基于离线训练的静态分类模型往往与动态的实际运营过程相割裂,难以适应长期数据流的演化。论文《Continual contrastive reinforcement learning: Towards stronger agent for environment-aw... 在民用航空实际运营场景中,航空发动机的长期健康管理面临着运行环境动态变化、飞行监控数据持续增长以及故障样本极度稀缺等工程约束。传统基于离线训练的静态分类模型往往与动态的实际运营过程相割裂,难以适应长期数据流的演化。论文《Continual contrastive reinforcement learning: Towards stronger agent for environment-aw...
- 第一步:关键词挖掘,精准踩中海外流量热点POD出单的核心是“匹配海外用户需求”,盲目做图只会自娱自乐。优先挖掘海外节日、小众圈层、兴趣爱好、热点梗、季节趋势关键词,比如欧美万圣节、复古美式、宠物圈层、户外露营、极简文字风等细分赛道。无需付费工具,可通过平台热搜榜、海外社交平台趋势、竞品热销标题挖掘精准关键词,用长尾词做细分差异化,避开大卖家内卷,精准抓取精准流量,为AI生图提供精准方向,避免... 第一步:关键词挖掘,精准踩中海外流量热点POD出单的核心是“匹配海外用户需求”,盲目做图只会自娱自乐。优先挖掘海外节日、小众圈层、兴趣爱好、热点梗、季节趋势关键词,比如欧美万圣节、复古美式、宠物圈层、户外露营、极简文字风等细分赛道。无需付费工具,可通过平台热搜榜、海外社交平台趋势、竞品热销标题挖掘精准关键词,用长尾词做细分差异化,避开大卖家内卷,精准抓取精准流量,为AI生图提供精准方向,避免...
- 很多做外贸POD(按需印刷)的卖家,都踩过同一个AI生图误区:疯狂打磨一张高清精美图案,抠细节、调画质,耗时半小时,最后只产出一张能用的图片。但做久了就会发现:POD生意的核心从来不是“一张好图”,而是“海量可上架SKU”。POD的底层逻辑极其简单:空白载体(T恤、卫衣、马克杯、手机壳、帆布袋)固定,唯一的变量是图案。多一套图案,就多一批全新SKU,多一份平台曝光、多一次出单机会。对于无货源... 很多做外贸POD(按需印刷)的卖家,都踩过同一个AI生图误区:疯狂打磨一张高清精美图案,抠细节、调画质,耗时半小时,最后只产出一张能用的图片。但做久了就会发现:POD生意的核心从来不是“一张好图”,而是“海量可上架SKU”。POD的底层逻辑极其简单:空白载体(T恤、卫衣、马克杯、手机壳、帆布袋)固定,唯一的变量是图案。多一套图案,就多一批全新SKU,多一份平台曝光、多一次出单机会。对于无货源...
- 近年来,AI生成图片(AI Image Generation)成为人工智能领域最受关注的技术之一。只需要输入一句话,例如“一个穿着宇航服的猫站在月球上”,AI就能在几秒钟内创造出一张逼真的图片。这背后到底发生了什么?AI究竟是如何理解文字,并把它变成一幅图像的呢?一、AI生图的本质:让机器学会“想象”简单来说,AI生成图片的过程,就是让计算机学习大量图片和文字之间的关系,然后根据用户的描述创... 近年来,AI生成图片(AI Image Generation)成为人工智能领域最受关注的技术之一。只需要输入一句话,例如“一个穿着宇航服的猫站在月球上”,AI就能在几秒钟内创造出一张逼真的图片。这背后到底发生了什么?AI究竟是如何理解文字,并把它变成一幅图像的呢?一、AI生图的本质:让机器学会“想象”简单来说,AI生成图片的过程,就是让计算机学习大量图片和文字之间的关系,然后根据用户的描述创...
- RAG 入门实战:给大模型外挂一个知识库大模型很能说,但它有两个先天缺陷:知识有截止日期(训练之后发生的事一无所知),以及会一本正经地编造(行话叫"幻觉")。问它"咱们公司年假几天",它只会礼貌地胡说八道。微调能注入知识吗?能,但代价高、更新慢——知识库每周都在变,总不能每周重训一次模型。RAG(Retrieval-Augmented Generation,检索增强生成)给出了更聪明的解法:... RAG 入门实战:给大模型外挂一个知识库大模型很能说,但它有两个先天缺陷:知识有截止日期(训练之后发生的事一无所知),以及会一本正经地编造(行话叫"幻觉")。问它"咱们公司年假几天",它只会礼貌地胡说八道。微调能注入知识吗?能,但代价高、更新慢——知识库每周都在变,总不能每周重训一次模型。RAG(Retrieval-Augmented Generation,检索增强生成)给出了更聪明的解法:...
- 目前,聚搜云(深圳)信息有限公司在售及可提供的GPU产品主要包括A100、H100、H200、L40S、L4、B200等GPU云服务器与GPU算力资源,并可根据模型规模、显存需求、GPU数量及训练/推理场景进行选型;具体可用型号、卡数、区域和配置以当期实际资源情况为准。 目前,聚搜云(深圳)信息有限公司在售及可提供的GPU产品主要包括A100、H100、H200、L40S、L4、B200等GPU云服务器与GPU算力资源,并可根据模型规模、显存需求、GPU数量及训练/推理场景进行选型;具体可用型号、卡数、区域和配置以当期实际资源情况为准。
- 大模型记忆系统设计与实现 摘要:本文针对大模型上下文窗口有限的痛点,提出了一套完整的记忆系统解决方案。系统采用三层架构设计(瞬时记忆、短期记忆、长期记忆),通过记忆压缩、去重、更新、衰减和冲突处理等机制实现全生命周期管理。关键技术包括:基于LLM的语义压缩算法、向量相似度去重策略、版本化更新机制、指数衰减遗忘模型,以及多维度冲突消解方案。文章详细阐述了各模块实现原理,并提供了包含数据模型、处理流水 大模型记忆系统设计与实现 摘要:本文针对大模型上下文窗口有限的痛点,提出了一套完整的记忆系统解决方案。系统采用三层架构设计(瞬时记忆、短期记忆、长期记忆),通过记忆压缩、去重、更新、衰减和冲突处理等机制实现全生命周期管理。关键技术包括:基于LLM的语义压缩算法、向量相似度去重策略、版本化更新机制、指数衰减遗忘模型,以及多维度冲突消解方案。文章详细阐述了各模块实现原理,并提供了包含数据模型、处理流水
- 作者:yumking | 2026 年 8 月 28 日 | 技术标签:RAG / 检索增强 / 向量数据库 / AI Agent 摘要大模型"一本正经地胡说八道"的顽疾,根源在于它的知识被冻结在训练截止日期,且无法访问私有数据。检索增强生成(Retrieval-Augmented Generation,RAG)通过"先检索、后生成"的方式,让模型在回答前先从外部知识库"查资料"。本文从 R... 作者:yumking | 2026 年 8 月 28 日 | 技术标签:RAG / 检索增强 / 向量数据库 / AI Agent 摘要大模型"一本正经地胡说八道"的顽疾,根源在于它的知识被冻结在训练截止日期,且无法访问私有数据。检索增强生成(Retrieval-Augmented Generation,RAG)通过"先检索、后生成"的方式,让模型在回答前先从外部知识库"查资料"。本文从 R...
- 前面我们已经把文档切分成带有来源信息的片段,也知道 Embedding 可以把文本变成可比较的向量。下一步是把这些向量保存起来,并在用户提问时快速找出最相近的片段。向量数据库就是为这件事提供的数据层。本篇使用 Chroma 介绍集合、向量、文档和元数据的关系,并用预先写好的小向量完成一次无需模型 API 的本地检索;这样可以先验证检索流程,再接入真正的 Embedding 服务。 向量数据库... 前面我们已经把文档切分成带有来源信息的片段,也知道 Embedding 可以把文本变成可比较的向量。下一步是把这些向量保存起来,并在用户提问时快速找出最相近的片段。向量数据库就是为这件事提供的数据层。本篇使用 Chroma 介绍集合、向量、文档和元数据的关系,并用预先写好的小向量完成一次无需模型 API 的本地检索;这样可以先验证检索流程,再接入真正的 Embedding 服务。 向量数据库...
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签