- 如何避开80% AI项目失败率? 如何避开80% AI项目失败率?
- 前面两篇文章在演示RAG功能时,做向量化的文本嵌入模型都用国外的all-MiniLM-L6-v2,该模型主要适用英文,对于中文总体也能用,但在细节上处理欠佳。本文就来介绍如何使用国产离线的文本嵌入模型替换国外模型,以及如何体现国产模型的比较优势。一、all-MiniLM-L6-v2的缺点虽然all-MiniLM-L6-v2的优点很多,比如下列几点:1、体积极小:几十 MB,随便本地离线下载2... 前面两篇文章在演示RAG功能时,做向量化的文本嵌入模型都用国外的all-MiniLM-L6-v2,该模型主要适用英文,对于中文总体也能用,但在细节上处理欠佳。本文就来介绍如何使用国产离线的文本嵌入模型替换国外模型,以及如何体现国产模型的比较优势。一、all-MiniLM-L6-v2的缺点虽然all-MiniLM-L6-v2的优点很多,比如下列几点:1、体积极小:几十 MB,随便本地离线下载2...
- 上一篇文章通过all-MiniLM-L6-v2模型结合FAISS实现了简单的RAG检索功能,但FAISS运行于内存中,无法持久化保存向量数据,重启后又得重新对文本做向量化,比较浪费算力资源。本文就来介绍如何使用向量数据库来持久保存向量数据。一、向量数据库ChromaChroma是一个本地向量数据库,专门用来保存 RAG 知识库,并且快速检索相关内容。Chroma与FAISS之间的区别如下:... 上一篇文章通过all-MiniLM-L6-v2模型结合FAISS实现了简单的RAG检索功能,但FAISS运行于内存中,无法持久化保存向量数据,重启后又得重新对文本做向量化,比较浪费算力资源。本文就来介绍如何使用向量数据库来持久保存向量数据。一、向量数据库ChromaChroma是一个本地向量数据库,专门用来保存 RAG 知识库,并且快速检索相关内容。Chroma与FAISS之间的区别如下:...
- 上一篇文章采用字符串匹配的方式来查找知识,这种方式比较呆板不够智能,接下来引入向量数据库,通过向量化实现更精细的知识检索。一、文本嵌入Embedding模型向量化一段文本的时候,经常用到all-MiniLM-L6-v2,它是一个轻量级的文本嵌入Embedding模型,专门把文字转成数字向量,给RAG做语义检索用。命令行通过cd命令进入Python工程的所在目录,再执行下面的模型下载命令,可将... 上一篇文章采用字符串匹配的方式来查找知识,这种方式比较呆板不够智能,接下来引入向量数据库,通过向量化实现更精细的知识检索。一、文本嵌入Embedding模型向量化一段文本的时候,经常用到all-MiniLM-L6-v2,它是一个轻量级的文本嵌入Embedding模型,专门把文字转成数字向量,给RAG做语义检索用。命令行通过cd命令进入Python工程的所在目录,再执行下面的模型下载命令,可将...
- 前面的文章依次介绍了如何截断历史会话的对话记录,包括按照记录数量截断、按照Token长度截断,以及浓缩为摘要截断等等,其中摘要操作又分为三大类:1、使用第三方的摘要库对文本摘要;2、使用在线大模型对文本摘要;3、使用离线大模型对文本摘要;以上对会话记录的各种处理操作,统称为AI应用的上下文管理,即让AI理解用户之前的意图。接下来将开启有关RAG部分的AI应用开发教程介绍。一、什么是RAGR... 前面的文章依次介绍了如何截断历史会话的对话记录,包括按照记录数量截断、按照Token长度截断,以及浓缩为摘要截断等等,其中摘要操作又分为三大类:1、使用第三方的摘要库对文本摘要;2、使用在线大模型对文本摘要;3、使用离线大模型对文本摘要;以上对会话记录的各种处理操作,统称为AI应用的上下文管理,即让AI理解用户之前的意图。接下来将开启有关RAG部分的AI应用开发教程介绍。一、什么是RAGR...
- AI正在改变软件研发的工作方式。工程师写代码、写测试、查问题的效率会越来越高。但真正拉开差距的,不只是工具用得快,而是能不能理解业务问题,能不能用数据判断结果,能不能把技术工作和业务改善联系起来。 AI正在改变软件研发的工作方式。工程师写代码、写测试、查问题的效率会越来越高。但真正拉开差距的,不只是工具用得快,而是能不能理解业务问题,能不能用数据判断结果,能不能把技术工作和业务改善联系起来。
- 我们一起来思考一个问题 我们一起来思考一个问题
- 上一篇文章末尾使用了在线大模型压缩文本生成摘要,但该方式会消耗Token,不便初学者长期使用,更好的办法是采用离线大模型来生成文本摘要。一、离线大模型的种类国内常用的离线大模型有阿里Qwen、智谱GLM、深度求索DeepSeek、百度文心等等,以千问的文本大模型为例,又有Qwen1.5-1.8B-Chat和Qwen1.5-0.5B-Chat两种。Qwen1.5是一系列不同大小的解码器语言模... 上一篇文章末尾使用了在线大模型压缩文本生成摘要,但该方式会消耗Token,不便初学者长期使用,更好的办法是采用离线大模型来生成文本摘要。一、离线大模型的种类国内常用的离线大模型有阿里Qwen、智谱GLM、深度求索DeepSeek、百度文心等等,以千问的文本大模型为例,又有Qwen1.5-1.8B-Chat和Qwen1.5-0.5B-Chat两种。Qwen1.5是一系列不同大小的解码器语言模...
- 【算法】强化学习中奖励和损失函数的关系奖励是环境的"评分",损失函数是优化器的"指导手册"。奖励告诉我们"什么好什么坏",损失函数告诉优化器"如何调整神经元的权重,让好的动作更可能发生"。在强化学习中,奖励是目标,损失函数是手段,两者缺一不可。 一、前言概念作用对象用途来源奖励 (Reward)策略(Policy)评估动作好坏环境给出损失函数 (Loss)神经网络参数更新网络权重基于奖励构... 【算法】强化学习中奖励和损失函数的关系奖励是环境的"评分",损失函数是优化器的"指导手册"。奖励告诉我们"什么好什么坏",损失函数告诉优化器"如何调整神经元的权重,让好的动作更可能发生"。在强化学习中,奖励是目标,损失函数是手段,两者缺一不可。 一、前言概念作用对象用途来源奖励 (Reward)策略(Policy)评估动作好坏环境给出损失函数 (Loss)神经网络参数更新网络权重基于奖励构...
- 那些宣称“没有流程更高效”的团队,大多局限于规模小、人数少、需求简单的场景。一旦项目扩容、跨部门协作增多,缺乏流程约束只会带来需求混乱、责任不清、重复返工等更多的问题,反而拖慢整体效率。 那些宣称“没有流程更高效”的团队,大多局限于规模小、人数少、需求简单的场景。一旦项目扩容、跨部门协作增多,缺乏流程约束只会带来需求混乱、责任不清、重复返工等更多的问题,反而拖慢整体效率。
- 前面两篇文章分别介绍了根据消息数量截断历史对话和根据Token长度截断历史对话,可是这两种方式有两个共同的问题:1、被删去的早期记录可能包含关键信息,直接截断会导致信息丢失。2、原始的对话记录可能存在重复、冗余、拖沓的文字内容。一、为什么要对原始记录做摘要要知道,重复、冗余、拖沓的文字内容并不高效,因为它的信息密度很低,很啰嗦,同样的意思使用更少的文字即可表达,完全没必要照搬原始的对话记录... 前面两篇文章分别介绍了根据消息数量截断历史对话和根据Token长度截断历史对话,可是这两种方式有两个共同的问题:1、被删去的早期记录可能包含关键信息,直接截断会导致信息丢失。2、原始的对话记录可能存在重复、冗余、拖沓的文字内容。一、为什么要对原始记录做摘要要知道,重复、冗余、拖沓的文字内容并不高效,因为它的信息密度很低,很啰嗦,同样的意思使用更少的文字即可表达,完全没必要照搬原始的对话记录...
- 上一篇文章说到按照消息数量来截断历史对话,这种方式有个问题,就是每次对话的内容可长可短,导致固定消息数量的对话内容忽长忽短。历史对话内容不光要存入数据库,还要作为初始提示词发给下次新会话的大模型。太长的提示词不仅冗余,还会消耗大量Token,让用户钱包快速缩水。太短的提示词容纳的信息量不足,难以起到充分记忆的功能。一、为什么统计Token个数而非文字个数改进方式是按照文字长度来截断历史对话... 上一篇文章说到按照消息数量来截断历史对话,这种方式有个问题,就是每次对话的内容可长可短,导致固定消息数量的对话内容忽长忽短。历史对话内容不光要存入数据库,还要作为初始提示词发给下次新会话的大模型。太长的提示词不仅冗余,还会消耗大量Token,让用户钱包快速缩水。太短的提示词容纳的信息量不足,难以起到充分记忆的功能。一、为什么统计Token个数而非文字个数改进方式是按照文字长度来截断历史对话...
- 当Agent开始调用工具、访问系统、执行任务、交付结果之后,企业到底应该如何承接这些能力,今天分享一下如何为企业构建一个Agent适配底座~ 当Agent开始调用工具、访问系统、执行任务、交付结果之后,企业到底应该如何承接这些能力,今天分享一下如何为企业构建一个Agent适配底座~
- 兄弟们,不知道你们有没有一种感觉:我们的工作,正在被AI悄悄“接管”。以前,写一个排序算法要查半天资料;现在,你注释写得够清楚,Copilot、Codex能直接给你生成整个模块。效率是上去了,但一个新的问题也随之而来:当AI成了“主力程序员”,我们这群原本的“码农”,是不是正在变成“AI驯兽师”或者“代码审查员”?最近,我们团队就做了一个大胆的实验:在一个内部项目中,让Codex担当60%的... 兄弟们,不知道你们有没有一种感觉:我们的工作,正在被AI悄悄“接管”。以前,写一个排序算法要查半天资料;现在,你注释写得够清楚,Copilot、Codex能直接给你生成整个模块。效率是上去了,但一个新的问题也随之而来:当AI成了“主力程序员”,我们这群原本的“码农”,是不是正在变成“AI驯兽师”或者“代码审查员”?最近,我们团队就做了一个大胆的实验:在一个内部项目中,让Codex担当60%的...
- Agent能力进入企业之后,Skill会逐渐成为一个绕不开的问题,一个Skill里可能包含任务说明、业务规则、参考模板、处理步骤,也可能包含脚本和工具调用方式。它不是简单的一段提示词,也不只是一个功能入口,更接近某类任务的经验包,今天分享一下企业如何管理团队生成的Skill~ Agent能力进入企业之后,Skill会逐渐成为一个绕不开的问题,一个Skill里可能包含任务说明、业务规则、参考模板、处理步骤,也可能包含脚本和工具调用方式。它不是简单的一段提示词,也不只是一个功能入口,更接近某类任务的经验包,今天分享一下企业如何管理团队生成的Skill~
上滑加载中
推荐直播
-
用码道,让你的AI作品三步上朋友圈2026/08/04 周二 19:00-20:00
林华鼎-华为云AI开发者运营负责人
从入门 · 到做AI应用 · 到企业级开发。不教编程,只教用AI · 零代码、有产出、能带走、可炫耀 · 每课人人动手实操
回顾中 -
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
基于华为云码道,构建你的定制化AI搭子2026/08/14 周五 09:00-11:30
明亮-华为云开发者发展与支持部部长
本期直播将向您全面介绍华为云码道产品,并基于码道手把手教你部署自己的定制化AI陪伴搭子。
回顾中
热门标签