- 苹果公司在人工智能领域的战略投资,以及他们在开发先进语言模型方面的努力。虽然苹果以精益求精和完美的产品闻名,但他们对AI的投资表明他们对这一技术的重视。文章还提到了AI在医疗保健领域的应用,包括帮助诊断医疗病症。此外,机器人技术也受到关注,特斯拉的人型机器人Optimus被视为未来的潜在游戏规则改变者。这些话题突显了科技和人工智能在不同行业中的持续发展。 苹果公司在人工智能领域的战略投资,以及他们在开发先进语言模型方面的努力。虽然苹果以精益求精和完美的产品闻名,但他们对AI的投资表明他们对这一技术的重视。文章还提到了AI在医疗保健领域的应用,包括帮助诊断医疗病症。此外,机器人技术也受到关注,特斯拉的人型机器人Optimus被视为未来的潜在游戏规则改变者。这些话题突显了科技和人工智能在不同行业中的持续发展。
- “人类要完(gg humans)。” “人类要完(gg humans)。”
- 前面的文章在构建RAG并检索时,既使用了国外大模型,也使用了国内大模型;既运用了内存向量检索库FAISS,也运用了磁盘向量数据库Chroma。但知识库的原始来源却是knowledge数组,这与现实场合有所出入,因为实际资料都保存在TXT、PDF、WORD等格式的文档中,甚至来自互联网上的HTML网页,于是RAG的前置条件就成了如何从这些文档中提取文本信息。一、读取TXT文件中的文本TXT文件... 前面的文章在构建RAG并检索时,既使用了国外大模型,也使用了国内大模型;既运用了内存向量检索库FAISS,也运用了磁盘向量数据库Chroma。但知识库的原始来源却是knowledge数组,这与现实场合有所出入,因为实际资料都保存在TXT、PDF、WORD等格式的文档中,甚至来自互联网上的HTML网页,于是RAG的前置条件就成了如何从这些文档中提取文本信息。一、读取TXT文件中的文本TXT文件...
- AI 编程工具正在进入真实研发流程,但 AI 生成代码并不等于可直接交付的代码。它可能提升编码效率,也可能引入业务偏差、安全漏洞、依赖风险和责任模糊。企业要真正用好 AI 写代码,关键不是简单放开或禁止,而是建立代码评审、安全测试和责任边界机制。 AI 编程工具正在进入真实研发流程,但 AI 生成代码并不等于可直接交付的代码。它可能提升编码效率,也可能引入业务偏差、安全漏洞、依赖风险和责任模糊。企业要真正用好 AI 写代码,关键不是简单放开或禁止,而是建立代码评审、安全测试和责任边界机制。
- 本文介绍了一个基于ChatGLM3-6B大模型的本地化部署方案,采用FastAPI后端和Web前端实现完整对话系统。项目特点包括:1)适配RTX4090显卡,支持FP16半精度推理,显存占用优化;2)提供两种推理模式(一次性返回和SSE流式输出);3)内置完善监控系统,实时采集显存、Token生成速度等指标;4)兼容OpenAI API标准接口;5)包含可视化前端界面。系统采用四层架构设计,包含前 本文介绍了一个基于ChatGLM3-6B大模型的本地化部署方案,采用FastAPI后端和Web前端实现完整对话系统。项目特点包括:1)适配RTX4090显卡,支持FP16半精度推理,显存占用优化;2)提供两种推理模式(一次性返回和SSE流式输出);3)内置完善监控系统,实时采集显存、Token生成速度等指标;4)兼容OpenAI API标准接口;5)包含可视化前端界面。系统采用四层架构设计,包含前
- 前面两篇文章在演示RAG功能时,做向量化的文本嵌入模型都用国外的all-MiniLM-L6-v2,该模型主要适用英文,对于中文总体也能用,但在细节上处理欠佳。本文就来介绍如何使用国产离线的文本嵌入模型替换国外模型,以及如何体现国产模型的比较优势。一、all-MiniLM-L6-v2的缺点虽然all-MiniLM-L6-v2的优点很多,比如下列几点:1、体积极小:几十 MB,随便本地离线下载2... 前面两篇文章在演示RAG功能时,做向量化的文本嵌入模型都用国外的all-MiniLM-L6-v2,该模型主要适用英文,对于中文总体也能用,但在细节上处理欠佳。本文就来介绍如何使用国产离线的文本嵌入模型替换国外模型,以及如何体现国产模型的比较优势。一、all-MiniLM-L6-v2的缺点虽然all-MiniLM-L6-v2的优点很多,比如下列几点:1、体积极小:几十 MB,随便本地离线下载2...
- 上一篇文章通过all-MiniLM-L6-v2模型结合FAISS实现了简单的RAG检索功能,但FAISS运行于内存中,无法持久化保存向量数据,重启后又得重新对文本做向量化,比较浪费算力资源。本文就来介绍如何使用向量数据库来持久保存向量数据。一、向量数据库ChromaChroma是一个本地向量数据库,专门用来保存 RAG 知识库,并且快速检索相关内容。Chroma与FAISS之间的区别如下:... 上一篇文章通过all-MiniLM-L6-v2模型结合FAISS实现了简单的RAG检索功能,但FAISS运行于内存中,无法持久化保存向量数据,重启后又得重新对文本做向量化,比较浪费算力资源。本文就来介绍如何使用向量数据库来持久保存向量数据。一、向量数据库ChromaChroma是一个本地向量数据库,专门用来保存 RAG 知识库,并且快速检索相关内容。Chroma与FAISS之间的区别如下:...
- 上一篇文章采用字符串匹配的方式来查找知识,这种方式比较呆板不够智能,接下来引入向量数据库,通过向量化实现更精细的知识检索。一、文本嵌入Embedding模型向量化一段文本的时候,经常用到all-MiniLM-L6-v2,它是一个轻量级的文本嵌入Embedding模型,专门把文字转成数字向量,给RAG做语义检索用。命令行通过cd命令进入Python工程的所在目录,再执行下面的模型下载命令,可将... 上一篇文章采用字符串匹配的方式来查找知识,这种方式比较呆板不够智能,接下来引入向量数据库,通过向量化实现更精细的知识检索。一、文本嵌入Embedding模型向量化一段文本的时候,经常用到all-MiniLM-L6-v2,它是一个轻量级的文本嵌入Embedding模型,专门把文字转成数字向量,给RAG做语义检索用。命令行通过cd命令进入Python工程的所在目录,再执行下面的模型下载命令,可将...
- 前面的文章依次介绍了如何截断历史会话的对话记录,包括按照记录数量截断、按照Token长度截断,以及浓缩为摘要截断等等,其中摘要操作又分为三大类:1、使用第三方的摘要库对文本摘要;2、使用在线大模型对文本摘要;3、使用离线大模型对文本摘要;以上对会话记录的各种处理操作,统称为AI应用的上下文管理,即让AI理解用户之前的意图。接下来将开启有关RAG部分的AI应用开发教程介绍。一、什么是RAGR... 前面的文章依次介绍了如何截断历史会话的对话记录,包括按照记录数量截断、按照Token长度截断,以及浓缩为摘要截断等等,其中摘要操作又分为三大类:1、使用第三方的摘要库对文本摘要;2、使用在线大模型对文本摘要;3、使用离线大模型对文本摘要;以上对会话记录的各种处理操作,统称为AI应用的上下文管理,即让AI理解用户之前的意图。接下来将开启有关RAG部分的AI应用开发教程介绍。一、什么是RAGR...
- AI正在改变软件研发的工作方式。工程师写代码、写测试、查问题的效率会越来越高。但真正拉开差距的,不只是工具用得快,而是能不能理解业务问题,能不能用数据判断结果,能不能把技术工作和业务改善联系起来。 AI正在改变软件研发的工作方式。工程师写代码、写测试、查问题的效率会越来越高。但真正拉开差距的,不只是工具用得快,而是能不能理解业务问题,能不能用数据判断结果,能不能把技术工作和业务改善联系起来。
- 我们一起来思考一个问题 我们一起来思考一个问题
- 上一篇文章末尾使用了在线大模型压缩文本生成摘要,但该方式会消耗Token,不便初学者长期使用,更好的办法是采用离线大模型来生成文本摘要。一、离线大模型的种类国内常用的离线大模型有阿里Qwen、智谱GLM、深度求索DeepSeek、百度文心等等,以千问的文本大模型为例,又有Qwen1.5-1.8B-Chat和Qwen1.5-0.5B-Chat两种。Qwen1.5是一系列不同大小的解码器语言模... 上一篇文章末尾使用了在线大模型压缩文本生成摘要,但该方式会消耗Token,不便初学者长期使用,更好的办法是采用离线大模型来生成文本摘要。一、离线大模型的种类国内常用的离线大模型有阿里Qwen、智谱GLM、深度求索DeepSeek、百度文心等等,以千问的文本大模型为例,又有Qwen1.5-1.8B-Chat和Qwen1.5-0.5B-Chat两种。Qwen1.5是一系列不同大小的解码器语言模...
- 【算法】强化学习中奖励和损失函数的关系奖励是环境的"评分",损失函数是优化器的"指导手册"。奖励告诉我们"什么好什么坏",损失函数告诉优化器"如何调整神经元的权重,让好的动作更可能发生"。在强化学习中,奖励是目标,损失函数是手段,两者缺一不可。 一、前言概念作用对象用途来源奖励 (Reward)策略(Policy)评估动作好坏环境给出损失函数 (Loss)神经网络参数更新网络权重基于奖励构... 【算法】强化学习中奖励和损失函数的关系奖励是环境的"评分",损失函数是优化器的"指导手册"。奖励告诉我们"什么好什么坏",损失函数告诉优化器"如何调整神经元的权重,让好的动作更可能发生"。在强化学习中,奖励是目标,损失函数是手段,两者缺一不可。 一、前言概念作用对象用途来源奖励 (Reward)策略(Policy)评估动作好坏环境给出损失函数 (Loss)神经网络参数更新网络权重基于奖励构...
- 那些宣称“没有流程更高效”的团队,大多局限于规模小、人数少、需求简单的场景。一旦项目扩容、跨部门协作增多,缺乏流程约束只会带来需求混乱、责任不清、重复返工等更多的问题,反而拖慢整体效率。 那些宣称“没有流程更高效”的团队,大多局限于规模小、人数少、需求简单的场景。一旦项目扩容、跨部门协作增多,缺乏流程约束只会带来需求混乱、责任不清、重复返工等更多的问题,反而拖慢整体效率。
- 前面两篇文章分别介绍了根据消息数量截断历史对话和根据Token长度截断历史对话,可是这两种方式有两个共同的问题:1、被删去的早期记录可能包含关键信息,直接截断会导致信息丢失。2、原始的对话记录可能存在重复、冗余、拖沓的文字内容。一、为什么要对原始记录做摘要要知道,重复、冗余、拖沓的文字内容并不高效,因为它的信息密度很低,很啰嗦,同样的意思使用更少的文字即可表达,完全没必要照搬原始的对话记录... 前面两篇文章分别介绍了根据消息数量截断历史对话和根据Token长度截断历史对话,可是这两种方式有两个共同的问题:1、被删去的早期记录可能包含关键信息,直接截断会导致信息丢失。2、原始的对话记录可能存在重复、冗余、拖沓的文字内容。一、为什么要对原始记录做摘要要知道,重复、冗余、拖沓的文字内容并不高效,因为它的信息密度很低,很啰嗦,同样的意思使用更少的文字即可表达,完全没必要照搬原始的对话记录...
上滑加载中
推荐直播
-
华为云码道 × 仓颉编程:工程化AI编码探索2026/05/27 周三 19:00-21:00
刘俊杰-华为云仓颉语言专家/李炎-华为云码道技术专家/王智鹏-OpenCangjie开源社区发起人
本场直播围绕华为云仓颉语言与华为云码道的深度结合,展示华为云智能编程从零基础到高效落地的完整生态能力。以华为云码道为引擎,仓颉语言为载体,带给大家日常提效、趣味创新到极速量产的开发体验。
回顾中 -
一个AI团队帮你写代码:华为云码道Agent Space实战2026/06/25 周四 19:00-21:00
张翰文-华为云码道工程师/郭英旭-青软创新科技集团股份有限公司 软件架构师
本场直播聚焦华为云码道Agent Space两大模式:研发办公、代码开发,亲身体验从需求到代码的AI自动化能力。实操演示基于华为 CodeArts CLI,依托 OpenSpec 规格体系从零搭建业务项目。
回顾中
热门标签