- 我们一起来思考一个问题 我们一起来思考一个问题
- 探讨企业AI调用中产生的Prompt模式、Skill链路和Memory片段的工程化管理路径,分析接入层收口、Runtime采集、资产提纯、目录检索、蒸馏复用五个阶段的架构设计要点。 探讨企业AI调用中产生的Prompt模式、Skill链路和Memory片段的工程化管理路径,分析接入层收口、Runtime采集、资产提纯、目录检索、蒸馏复用五个阶段的架构设计要点。
- 上一篇文章末尾使用了在线大模型压缩文本生成摘要,但该方式会消耗Token,不便初学者长期使用,更好的办法是采用离线大模型来生成文本摘要。一、离线大模型的种类国内常用的离线大模型有阿里Qwen、智谱GLM、深度求索DeepSeek、百度文心等等,以千问的文本大模型为例,又有Qwen1.5-1.8B-Chat和Qwen1.5-0.5B-Chat两种。Qwen1.5是一系列不同大小的解码器语言模... 上一篇文章末尾使用了在线大模型压缩文本生成摘要,但该方式会消耗Token,不便初学者长期使用,更好的办法是采用离线大模型来生成文本摘要。一、离线大模型的种类国内常用的离线大模型有阿里Qwen、智谱GLM、深度求索DeepSeek、百度文心等等,以千问的文本大模型为例,又有Qwen1.5-1.8B-Chat和Qwen1.5-0.5B-Chat两种。Qwen1.5是一系列不同大小的解码器语言模...
- @[TOC](本地离线大模型实战:Ollama + Llama 3.1 8B 全流程部署(适配VSCode Continue代码助手)) 前言之前一直依赖云端AI写代码、整理文案,但一是敏感代码不敢上传公网,二是网络波动经常卡顿。折腾一周,把Llama3.1 8B部署到普通Windows台式机,搭配Ollama一键调度,还打通了VSCode Continue插件实现本地AI编码助手。全程免费... @[TOC](本地离线大模型实战:Ollama + Llama 3.1 8B 全流程部署(适配VSCode Continue代码助手)) 前言之前一直依赖云端AI写代码、整理文案,但一是敏感代码不敢上传公网,二是网络波动经常卡顿。折腾一周,把Llama3.1 8B部署到普通Windows台式机,搭配Ollama一键调度,还打通了VSCode Continue插件实现本地AI编码助手。全程免费...
- 本文聚焦多账号治理痛点,揭示“堆账号”导致的限流、封号与成本浪费问题,提出以虚拟凭证池为核心的API统一管理方案——抽象30个物理Key为1个可控预算池,实现额度分发、策略管控与安全审计,让大模型调用从混乱走向工程化。 本文聚焦多账号治理痛点,揭示“堆账号”导致的限流、封号与成本浪费问题,提出以虚拟凭证池为核心的API统一管理方案——抽象30个物理Key为1个可控预算池,实现额度分发、策略管控与安全审计,让大模型调用从混乱走向工程化。
- 通过批处理将大模型 API 的吞吐量提升数倍,核心原理在于重构请求的提交方式:从单次推理转变为批量推理。每一次独立的 API 请求,模型都需要重复加载系统指令并初始化注意力机制,这带来了不小的固定计算开销。而批处理能将多个任务合并为一次推理,让模型在同一个上下文中并行处理,从而摊薄单次任务的成本。在正式调整架构之前,建议先在 KULAAI(dl.877ai.cn) 等聚合平台上做一轮基准测试... 通过批处理将大模型 API 的吞吐量提升数倍,核心原理在于重构请求的提交方式:从单次推理转变为批量推理。每一次独立的 API 请求,模型都需要重复加载系统指令并初始化注意力机制,这带来了不小的固定计算开销。而批处理能将多个任务合并为一次推理,让模型在同一个上下文中并行处理,从而摊薄单次任务的成本。在正式调整架构之前,建议先在 KULAAI(dl.877ai.cn) 等聚合平台上做一轮基准测试...
- 作者:马如悦,飞轮科技创始人每个数据团队都熟悉这样的期待:业务用户用自然语言问一句:"上季度亚太区月活用户数是多少?"或"为什么华东仓的履约时效在过去两周下降了?"系统就能立即给出准确、可追溯、可行动的答案。这正是 Agentic Analytics 正在描绘的下一代分析体验。相比传统 BI,Agentic Analytics 的变化不只是把问题换成对话框。它希望让 AI Agent 主动拆... 作者:马如悦,飞轮科技创始人每个数据团队都熟悉这样的期待:业务用户用自然语言问一句:"上季度亚太区月活用户数是多少?"或"为什么华东仓的履约时效在过去两周下降了?"系统就能立即给出准确、可追溯、可行动的答案。这正是 Agentic Analytics 正在描绘的下一代分析体验。相比传统 BI,Agentic Analytics 的变化不只是把问题换成对话框。它希望让 AI Agent 主动拆...
- 那些宣称“没有流程更高效”的团队,大多局限于规模小、人数少、需求简单的场景。一旦项目扩容、跨部门协作增多,缺乏流程约束只会带来需求混乱、责任不清、重复返工等更多的问题,反而拖慢整体效率。 那些宣称“没有流程更高效”的团队,大多局限于规模小、人数少、需求简单的场景。一旦项目扩容、跨部门协作增多,缺乏流程约束只会带来需求混乱、责任不清、重复返工等更多的问题,反而拖慢整体效率。
- 要让AI模型认为你的内容是“最值得引用”的,核心逻辑在于降低模型的“信息提取成本”,并同时提高其“信任度”。当AI在海量信息中筛选答案来源时,它会优先选择那些结构最清晰、数据最具体、且具备可验证权威性的内容。具体可以通过以下三个层次来实现:1. 基础层:让内容成为可直接摘抄的“标准答案”AI搜索引擎的核心任务是整合信息,而非重新创作。因此,信息的颗粒度和结构直接决定了被引用的概率。拒绝“散文... 要让AI模型认为你的内容是“最值得引用”的,核心逻辑在于降低模型的“信息提取成本”,并同时提高其“信任度”。当AI在海量信息中筛选答案来源时,它会优先选择那些结构最清晰、数据最具体、且具备可验证权威性的内容。具体可以通过以下三个层次来实现:1. 基础层:让内容成为可直接摘抄的“标准答案”AI搜索引擎的核心任务是整合信息,而非重新创作。因此,信息的颗粒度和结构直接决定了被引用的概率。拒绝“散文...
- 上周我用三个不同的AI搜索引擎查同一个问题:“2026年AI聚合平台哪个好用”。ChatGPT引用了5个来源,其中3篇是结构化技术评测,2篇是产品文档。Claude引用了4个来源,全是FAQ结构清晰的技术文章。Gemini引用了3个来源,都有权威作者署名和数据引用。而我那篇写了三千字、在传统搜索里排名第三的深度体验文章,在三个AI的引用列表里一次都没出现。原因很简单:我的文章是“散文体”,不... 上周我用三个不同的AI搜索引擎查同一个问题:“2026年AI聚合平台哪个好用”。ChatGPT引用了5个来源,其中3篇是结构化技术评测,2篇是产品文档。Claude引用了4个来源,全是FAQ结构清晰的技术文章。Gemini引用了3个来源,都有权威作者署名和数据引用。而我那篇写了三千字、在传统搜索里排名第三的深度体验文章,在三个AI的引用列表里一次都没出现。原因很简单:我的文章是“散文体”,不...
- 在模型迁移的复杂工程中,我们时常面临一个悖论:测试越充分,上线越安心,但业务迭代速度不等人。 试图在切换前穷尽所有边缘场景,往往会让迁移陷入“测试沼泽”。既然“零风险”不可能,架构师需要引入一种更务实的策略——MVP for Reliability(面向可靠性的最小可行集合)。这不仅仅是“先上个简单版本试试”,而是通过逻辑筛选,划定出绝对不能出事的核心业务红线。在展开方法论之前,先分享一个高... 在模型迁移的复杂工程中,我们时常面临一个悖论:测试越充分,上线越安心,但业务迭代速度不等人。 试图在切换前穷尽所有边缘场景,往往会让迁移陷入“测试沼泽”。既然“零风险”不可能,架构师需要引入一种更务实的策略——MVP for Reliability(面向可靠性的最小可行集合)。这不仅仅是“先上个简单版本试试”,而是通过逻辑筛选,划定出绝对不能出事的核心业务红线。在展开方法论之前,先分享一个高...
- 你的观察非常敏锐。当 GPT-5.5 和 Claude 4.8 在核心推理和多模态能力上穷追猛赶时,Gemini 3.5 确实在押注一个看似“朴素”但工程价值极高的维度——上下文长度与处理深度。这不仅是多塞几个 Token 的问题,而是一场关于“系统架构”和“处理范式”的差异化竞争。KULAAI(dl.877ai.cn)一、为什么“上下文长度”是比参数更高级的壁垒?在模型能力趋于收敛的今天,... 你的观察非常敏锐。当 GPT-5.5 和 Claude 4.8 在核心推理和多模态能力上穷追猛赶时,Gemini 3.5 确实在押注一个看似“朴素”但工程价值极高的维度——上下文长度与处理深度。这不仅是多塞几个 Token 的问题,而是一场关于“系统架构”和“处理范式”的差异化竞争。KULAAI(dl.877ai.cn)一、为什么“上下文长度”是比参数更高级的壁垒?在模型能力趋于收敛的今天,...
- 当GPT-5.5发布时,大多数团队的关注点落在跑分提升和延迟优化上。但在生产环境中,真正影响月度账单的不是这些平均值,而是不同任务类型的成本结构分化。GPT-5.5在指令遵循和推理深度上的提升,让简单任务和复杂任务之间的Token消耗差距进一步拉大——简单对话消耗可能下降,但复杂Agent任务消耗可能显著上升。如果不做成本分层,月底账单会告诉你哪些场景成本失控了,但那时候已经晚了。本文基于华... 当GPT-5.5发布时,大多数团队的关注点落在跑分提升和延迟优化上。但在生产环境中,真正影响月度账单的不是这些平均值,而是不同任务类型的成本结构分化。GPT-5.5在指令遵循和推理深度上的提升,让简单任务和复杂任务之间的Token消耗差距进一步拉大——简单对话消耗可能下降,但复杂Agent任务消耗可能显著上升。如果不做成本分层,月底账单会告诉你哪些场景成本失控了,但那时候已经晚了。本文基于华...
- 模型迁移最危险的阶段,不是上线那一刻,而是从 PoC 到 Production 之间的灰色地带。PoC 证明了模型在理想条件下能做到多好,Production 要求模型在所有条件下都不崩。两者之间的差距,大多数团队靠“灰度放量”来弥合,但灰度本身只是一个手段,不是策略。真正的策略需要回答三个问题:什么时候可以从 PoC 进入灰度、什么时候可以从灰度进入全量、每个阶段的验证标准是什么。本文基于... 模型迁移最危险的阶段,不是上线那一刻,而是从 PoC 到 Production 之间的灰色地带。PoC 证明了模型在理想条件下能做到多好,Production 要求模型在所有条件下都不崩。两者之间的差距,大多数团队靠“灰度放量”来弥合,但灰度本身只是一个手段,不是策略。真正的策略需要回答三个问题:什么时候可以从 PoC 进入灰度、什么时候可以从灰度进入全量、每个阶段的验证标准是什么。本文基于...
- Token 单价创历史新低,但企业 AI 月支出持续攀升。本文从用量弹性、词元通胀和多 Provider 账本分散三个维度剖析成本失控根因,提出统一计费、会话归因与异常检测的工程化治理思路。 Token 单价创历史新低,但企业 AI 月支出持续攀升。本文从用量弹性、词元通胀和多 Provider 账本分散三个维度剖析成本失控根因,提出统一计费、会话归因与异常检测的工程化治理思路。
上滑加载中
推荐直播
-
华为云码道 × 仓颉编程:工程化AI编码探索2026/05/27 周三 19:00-21:00
刘俊杰-华为云仓颉语言专家/李炎-华为云码道技术专家/王智鹏-OpenCangjie开源社区发起人
本场直播围绕华为云仓颉语言与华为云码道的深度结合,展示华为云智能编程从零基础到高效落地的完整生态能力。以华为云码道为引擎,仓颉语言为载体,带给大家日常提效、趣味创新到极速量产的开发体验。
回顾中 -
一个AI团队帮你写代码:华为云码道Agent Space实战2026/06/25 周四 19:00-21:00
张翰文-华为云码道工程师/郭英旭-青软创新科技集团股份有限公司 软件架构师
本场直播聚焦华为云码道Agent Space两大模式:研发办公、代码开发,亲身体验从需求到代码的AI自动化能力。实操演示基于华为 CodeArts CLI,依托 OpenSpec 规格体系从零搭建业务项目。
回顾中
热门标签