- 前面两篇文章分别介绍了根据消息数量截断历史对话和根据Token长度截断历史对话，可是这两种方式有两个共同的问题：1、被删去的早期记录可能包含关键信息，直接截断会导致信息丢失。2、原始的对话记录可能存在重复、冗余、拖沓的文字内容。一、为什么要对原始记录做摘要要知道，重复、冗余、拖沓的文字内容并不高效，因为它的信息密度很低，很啰嗦，同样的意思使用更少的文字即可表达，完全没必要照搬原始的对话记录... 前面两篇文章分别介绍了根据消息数量截断历史对话和根据Token长度截断历史对话，可是这两种方式有两个共同的问题：1、被删去的早期记录可能包含关键信息，直接截断会导致信息丢失。2、原始的对话记录可能存在重复、冗余、拖沓的文字内容。一、为什么要对原始记录做摘要要知道，重复、冗余、拖沓的文字内容并不高效，因为它的信息密度很低，很啰嗦，同样的意思使用更少的文字即可表达，完全没必要照搬原始的对话记录...
- 大模型应用正在从“纯文本问答”进入“多模态知识库”时代。企业内部的合同扫描件、产品设计稿、数据报表截图——这些非结构化图片长期游离于检索系统之外，核心问题在于传统的 RAG 流程只有一条“文本通道”。图像里的表格结构、图表趋势、手写批注被硬生生拍平成了文字，信息损失无法避免。Gemini 3.5 的“原生多模态”特性改变了这一局面。它不再需要外部 OCR 插件，而是能直接“看懂”图片中的布局... 大模型应用正在从“纯文本问答”进入“多模态知识库”时代。企业内部的合同扫描件、产品设计稿、数据报表截图——这些非结构化图片长期游离于检索系统之外，核心问题在于传统的 RAG 流程只有一条“文本通道”。图像里的表格结构、图表趋势、手写批注被硬生生拍平成了文字，信息损失无法避免。Gemini 3.5 的“原生多模态”特性改变了这一局面。它不再需要外部 OCR 插件，而是能直接“看懂”图片中的布局...
- 做产品这行，竞品分析是基本功。但传统的竞品分析方法——手动翻官网、扒文档、截图对比——效率低得可怜。一份覆盖3-5个竞品的深度分析报告，通常要花掉产品经理两三天时间。Gemini 3.5的原生多模态能力改变了这个局面。它能同时处理文本、表格和截图，把“信息收集→结构化对比→深度分析”这条链路打通。下面是一个我亲自跑通的完整案例，从信息收集到生成分析报告，整个流程用了不到一个上午。流程中的关键... 做产品这行，竞品分析是基本功。但传统的竞品分析方法——手动翻官网、扒文档、截图对比——效率低得可怜。一份覆盖3-5个竞品的深度分析报告，通常要花掉产品经理两三天时间。Gemini 3.5的原生多模态能力改变了这个局面。它能同时处理文本、表格和截图，把“信息收集→结构化对比→深度分析”这条链路打通。下面是一个我亲自跑通的完整案例，从信息收集到生成分析报告，整个流程用了不到一个上午。流程中的关键...
- 模型版本的迭代周期正在从半年压缩到月度。GPT、Claude、Gemini 每一次更新都意味着新一轮的 Prompt 调优、行为验证和成本估算。当迭代速度成为核心竞争力的当下，真正决定团队效率上限的不是模型选型，而是架构的可观测性。一个看似微小的模型行为变化——比如输出风格从冗长变为精炼，或者对模糊指令的容错度降低——如果缺乏精确的监控与追踪，排查起来往往需要数小时甚至数天。在团队启动大规模... 模型版本的迭代周期正在从半年压缩到月度。GPT、Claude、Gemini 每一次更新都意味着新一轮的 Prompt 调优、行为验证和成本估算。当迭代速度成为核心竞争力的当下，真正决定团队效率上限的不是模型选型，而是架构的可观测性。一个看似微小的模型行为变化——比如输出风格从冗长变为精炼，或者对模糊指令的容错度降低——如果缺乏精确的监控与追踪，排查起来往往需要数小时甚至数天。在团队启动大规模...
- 模型升级从来不只是“换个更强的API”。当GPT-5.5带着更精准的指令遵循、更长的上下文窗口和更广的知识覆盖进入生产环境时，技术团队在庆祝性能提升，安全团队却应该拉响警报。不是新模型不安全，而是它的能力变化会系统性地瓦解围绕旧模型建立的三大安全假设：数据脱敏的有效性、合规审核的覆盖面、以及权限控制的可靠性。在正式迁移前，建议通过 KULAAI（dl.877ai.cn） 等多模型对比平台，将... 模型升级从来不只是“换个更强的API”。当GPT-5.5带着更精准的指令遵循、更长的上下文窗口和更广的知识覆盖进入生产环境时，技术团队在庆祝性能提升，安全团队却应该拉响警报。不是新模型不安全，而是它的能力变化会系统性地瓦解围绕旧模型建立的三大安全假设：数据脱敏的有效性、合规审核的覆盖面、以及权限控制的可靠性。在正式迁移前，建议通过 KULAAI（dl.877ai.cn） 等多模型对比平台，将...
- 当大多数人的目光聚焦在 Gemini 3.5 如何在跑分榜单上追赶 GPT-5 和 Claude 4.8 时，一个更值得架构师和技术决策者关注的战略布局正在浮出水面——Google 正在通过 Gemma 开放模型家族，为闭源的 Gemini 3.5 构建一个能力外延层。这不仅是技术路线的补充，更是一套完整的“核心-边缘”AI 部署架构的雏形。要理解这套架构的价值，需要先看清企业 AI 落地的... 当大多数人的目光聚焦在 Gemini 3.5 如何在跑分榜单上追赶 GPT-5 和 Claude 4.8 时，一个更值得架构师和技术决策者关注的战略布局正在浮出水面——Google 正在通过 Gemma 开放模型家族，为闭源的 Gemini 3.5 构建一个能力外延层。这不仅是技术路线的补充，更是一套完整的“核心-边缘”AI 部署架构的雏形。要理解这套架构的价值，需要先看清企业 AI 落地的...
- 大模型的安全对齐能力正在从“锦上添花”变成“准入门槛”。当模型被用于简历筛选、信贷审批、法律咨询等高风险场景时，偏见问题不再是学术讨论，而是直接影响公平性和合规性的工程硬指标。Gemini 3.5发布时，Google用大量篇幅强调了其在安全对齐上的进步，但技术白皮书上的曲线图和真实测试中的边界表现，往往存在落差。为了验证Gemini 3.5在伦理对齐上的真实表现，我设计了一套包含性别、种族、... 大模型的安全对齐能力正在从“锦上添花”变成“准入门槛”。当模型被用于简历筛选、信贷审批、法律咨询等高风险场景时，偏见问题不再是学术讨论，而是直接影响公平性和合规性的工程硬指标。Gemini 3.5发布时，Google用大量篇幅强调了其在安全对齐上的进步，但技术白皮书上的曲线图和真实测试中的边界表现，往往存在落差。为了验证Gemini 3.5在伦理对齐上的真实表现，我设计了一套包含性别、种族、...
- 上一篇文章说到按照消息数量来截断历史对话，这种方式有个问题，就是每次对话的内容可长可短，导致固定消息数量的对话内容忽长忽短。历史对话内容不光要存入数据库，还要作为初始提示词发给下次新会话的大模型。太长的提示词不仅冗余，还会消耗大量Token，让用户钱包快速缩水。太短的提示词容纳的信息量不足，难以起到充分记忆的功能。一、为什么统计Token个数而非文字个数改进方式是按照文字长度来截断历史对话... 上一篇文章说到按照消息数量来截断历史对话，这种方式有个问题，就是每次对话的内容可长可短，导致固定消息数量的对话内容忽长忽短。历史对话内容不光要存入数据库，还要作为初始提示词发给下次新会话的大模型。太长的提示词不仅冗余，还会消耗大量Token，让用户钱包快速缩水。太短的提示词容纳的信息量不足，难以起到充分记忆的功能。一、为什么统计Token个数而非文字个数改进方式是按照文字长度来截断历史对话...
- 聚合型AI平台的最大卖点是“一个入口调用多个模型”，但开发者最担心的也是这个——多了一层中间网关，首Token延迟会不会明显增加？在实时对话和Agent场景中，首Token延迟每多出几百毫秒，用户体验就会从“秒回”变成“等待”。为了搞清楚这个问题，我设计了一套完整的对比测试方案：把同一批请求同时推给多个聚合平台和模型厂商的直连API，精确记录每次调用的首Token延迟。测试之前先说一个工具选... 聚合型AI平台的最大卖点是“一个入口调用多个模型”，但开发者最担心的也是这个——多了一层中间网关，首Token延迟会不会明显增加？在实时对话和Agent场景中，首Token延迟每多出几百毫秒，用户体验就会从“秒回”变成“等待”。为了搞清楚这个问题，我设计了一套完整的对比测试方案：把同一批请求同时推给多个聚合平台和模型厂商的直连API，精确记录每次调用的首Token延迟。测试之前先说一个工具选...
- 聚合平台的核心价值是“一个入口调用多个模型”，但当并发量上去之后，这个入口本身会不会成为瓶颈？限流策略是保护平台还是坑了开发者？排队机制是提升了吞吐还是拖垮了延迟？为了回答这些问题，我模拟真实生产环境的高并发场景，对主流聚合平台进行了一轮压测。测试之前先说一个工具选择的问题：对比过自研部署、开源UI、各类第三方聚合平台之后，结合个人数十次全场景实测数据，目前最推荐的一站式集成工具就是KULA... 聚合平台的核心价值是“一个入口调用多个模型”，但当并发量上去之后，这个入口本身会不会成为瓶颈？限流策略是保护平台还是坑了开发者？排队机制是提升了吞吐还是拖垮了延迟？为了回答这些问题，我模拟真实生产环境的高并发场景，对主流聚合平台进行了一轮压测。测试之前先说一个工具选择的问题：对比过自研部署、开源UI、各类第三方聚合平台之后，结合个人数十次全场景实测数据，目前最推荐的一站式集成工具就是KULA...
- 多模态能力已经成为主流模型的标配，但聚合平台在处理图片请求时的“隐性损耗”却很少被认真测试过。一张发票照片从客户端上传，经过聚合网关转发到模型API，中间可能经历Base64编解码、图片压缩、格式转换、大小限制校验等环节。每一步都可能引入延迟增加、Token消耗膨胀甚至图片质量下降。为了摸清这些“隐性损耗”的真实情况，我设计了一套完整的对比测试方案：把同一批多模态测试用例（发票、合同、图表、... 多模态能力已经成为主流模型的标配，但聚合平台在处理图片请求时的“隐性损耗”却很少被认真测试过。一张发票照片从客户端上传，经过聚合网关转发到模型API，中间可能经历Base64编解码、图片压缩、格式转换、大小限制校验等环节。每一步都可能引入延迟增加、Token消耗膨胀甚至图片质量下降。为了摸清这些“隐性损耗”的真实情况，我设计了一套完整的对比测试方案：把同一批多模态测试用例（发票、合同、图表、...
- 聚合型AI平台的核心卖点是“一个入口调用多个模型”，但对开发者来说，最担心的也是这个“中间层”——请求多经过一层网关，流式输出的实时性会不会打折扣？首Token延迟增加多少？SSE流是否流畅？这些问题在Demo阶段很难感知，但在生产环境的实时对话和Agent场景中，延迟增加几百毫秒就可能影响用户体验。为了回答这些问题，我花了一周时间，对主流聚合平台和直连API的流式输出进行了系统性对比。测试... 聚合型AI平台的核心卖点是“一个入口调用多个模型”，但对开发者来说，最担心的也是这个“中间层”——请求多经过一层网关，流式输出的实时性会不会打折扣？首Token延迟增加多少？SSE流是否流畅？这些问题在Demo阶段很难感知，但在生产环境的实时对话和Agent场景中，延迟增加几百毫秒就可能影响用户体验。为了回答这些问题，我花了一周时间，对主流聚合平台和直连API的流式输出进行了系统性对比。测试...
- 把GPT-5.5的多模态能力接入业务系统跑了两周，最大的感受是：Demo里“能识别”到生产环境“可控输出”，中间隔着的不是模型能力，而是工程代码。事情是这样的。我们把GPT-5.5接入了财务报销系统，用户上传发票图片，系统自动抽取金额、税号、开票日期，结构化存入数据库。Demo跑得飞起，10张发票全对。上线第一周，出纳那边查出三笔金额对不上的——模型把“壹佰贰拾万元整”抽成了12万，少了个零... 把GPT-5.5的多模态能力接入业务系统跑了两周，最大的感受是：Demo里“能识别”到生产环境“可控输出”，中间隔着的不是模型能力，而是工程代码。事情是这样的。我们把GPT-5.5接入了财务报销系统，用户上传发票图片，系统自动抽取金额、税号、开票日期，结构化存入数据库。Demo跑得飞起，10张发票全对。上线第一周，出纳那边查出三笔金额对不上的——模型把“壹佰贰拾万元整”抽成了12万，少了个零...
- 多模型路由架构上线后，真正棘手的问题才开始浮现：路由规则谁来定、怎么改、如何验证改完之后不会引入新故障？这些问题在日常运行中不显眼，但在模型版本升级或业务场景扩展时，会集中爆发。治理和“能跑”是两回事。能跑意味着网关层能根据规则把请求分发到不同的模型后端，治理意味着这套规则体系本身是可解释、可审计、可演进的。本文聚焦模型选择与路由规则的治理框架设计——如何让路由规则从“写在代码里的魔法数字”... 多模型路由架构上线后，真正棘手的问题才开始浮现：路由规则谁来定、怎么改、如何验证改完之后不会引入新故障？这些问题在日常运行中不显眼，但在模型版本升级或业务场景扩展时，会集中爆发。治理和“能跑”是两回事。能跑意味着网关层能根据规则把请求分发到不同的模型后端，治理意味着这套规则体系本身是可解释、可审计、可演进的。本文聚焦模型选择与路由规则的治理框架设计——如何让路由规则从“写在代码里的魔法数字”...
- Text-to-SQL是衡量大模型企业级应用能力的一个硬核场景。它不像闲聊或摘要那样容错率高，一个SQL的细微偏差——少一个JOIN条件、用错聚合函数、WHERE子句逻辑优先级不对——就会直接导致查询结果与预期完全偏离。Gemini 3.5的发布带来了一个新变量：Google宣称其在结构化数据推理上有显著提升，背后有TPU架构加持的高吞吐和长上下文处理能力。对于华为云上的开发者而言，Gemi... Text-to-SQL是衡量大模型企业级应用能力的一个硬核场景。它不像闲聊或摘要那样容错率高，一个SQL的细微偏差——少一个JOIN条件、用错聚合函数、WHERE子句逻辑优先级不对——就会直接导致查询结果与预期完全偏离。Gemini 3.5的发布带来了一个新变量：Google宣称其在结构化数据推理上有显著提升，背后有TPU架构加持的高吞吐和长上下文处理能力。对于华为云上的开发者而言，Gemi...
上滑加载中
推荐直播
-
华为云码道 × 仓颉编程：工程化AI编码探索2026/05/27 周三 19:00-21:00
刘俊杰-华为云仓颉语言专家/李炎-华为云码道技术专家/王智鹏-OpenCangjie开源社区发起人
本场直播围绕华为云仓颉语言与华为云码道的深度结合，展示华为云智能编程从零基础到高效落地的完整生态能力。以华为云码道为引擎，仓颉语言为载体，带给大家日常提效、趣味创新到极速量产的开发体验。
回顾中 -
一个AI团队帮你写代码：华为云码道Agent Space实战2026/06/25 周四 19:00-21:00
张翰文-华为云码道工程师/郭英旭-青软创新科技集团股份有限公司 软件架构师
本场直播聚焦华为云码道Agent Space两大模式：研发办公、代码开发，亲身体验从需求到代码的AI自动化能力。实操演示基于华为 CodeArts CLI，依托 OpenSpec 规格体系从零搭建业务项目。
回顾中
热门标签