跳转到正文
莫尔索随笔
返回

Vol.123 当智能体产出快于人:注意力瓶颈、可验证交付与成本边界如何重塑人机协作

预计 18 分钟
AI 周刊 编辑此页

⼤家好,Weekly Gradient第 123 期已送达,本期内容聚焦智能体产出快于人后的注意力瓶颈,讨论数字员工接管协作、可验证交付与评估门槛,拆解多智能体架构与推理成本,并强调人仍需定义问题与标准。

AI 商业

聚焦 AI 行业的商业化路径、市场竞争格局和商业模式创新,包含投资趋势、GTM 策略、SaaS 转型等商业话题。

1.MiniMax M3.1 Flash:重新定义 Agent 的性能与成本(MiniMax 稀宇科技)

MiniMax 把 M3.1 Flash 的智能体、编程和电脑操作能力,连同推理速度和任务成本一起端上来了。官方给出的数字挺直接:智能体任务的综合使用成本比前代低 70%,输入每百万词元 1 元、输出 4 元。真正值得盯的是,更便宜的调用能不能撑住更长、更频繁的实际任务,而不是只把榜单分数抬高。内容里还列了多项基准和产品入口,适合正在比能力和预算的团队拿来当试用起点;性能和降本数据来自官方测试,权重稍后开放。模型选型也因此多了一个很具体的问题:按完整任务付出的成本,能不能跟着能力一起降下来。

2.我们如何打造兼顾用户信任与相关性的 ChatGPT 全新广告系统(OpenAI News)

把搜索框那套广告逻辑直接搬进聊天里,多半会失灵。用户第一句话往往还没想清楚自己要什么,真实意图是在多轮对话里一点点长出来的,太早塞广告既不相关,也会打断思路。OpenAI 的解法是用有状态会话记住上下文,再让经过后训练的模型把检索、排序、相关性判断和竞价串成一条链路,广告选择被放进独立于回答生成的服务里跑,回答本身不被牵扯。这个架构细节本质上是用工程方式画出信任边界:广告系统只看它该看的,也只在该出现的时候出现。对产品与商业团队来说,真正值得琢磨的是怎么在用户目标尚未说清时判断时机,而不是把每一轮交流都当成一次投放机会。先理解不断变化的需求,再决定此刻值不值得出现一次广告,这正是对话广告与搜索广告最根本的分野,也是一个刚打开的商业入口。

3.Anthropic 的用工方式正在如何变化(Anthropic Research)

Anthropic 内部有人认真算过一笔账:Nathan Wilmers 团队把招聘记录、使用遥测、产出指标和 17 次访谈放在一起,观察 AI 深度介入之后,工作到底被改成了什么样。最较明显的数字是初级技术岗位在新招聘中的占比,从 27% 掉到 9%;到 8 月,交互式智能体的工作时长已经是员工的 6 倍。真正反直觉的地方在后面:产出放大之后,限制流程的既不是算力也不是模型,而是人的注意力和阅读能力,于是员工开始自己搭建监控和可见性工具,先把“到底看见了什么”管起来。关心职业路径和组织管理的人值得读一遍。两点提醒:这是前沿公司的内部研究,占比变化并不代表绝对招聘量减少,也别急着把它外推到整个劳动力市场。

4.黄仁勋在柏林,给 AI 工厂按下“快进键”(腾讯科技)

黄仁勋在柏林这场 GTC,真正值得看的不是又发了多少 GPU,而是 AI 工厂怎么落地。李海伦把算力竞争拉回建设、用电、安全和行业交付的整条链路:模块化 DSX POD 把部分集成和测试前移到工厂端,官方说配套条件齐备后,现场部署最快 14 天,但这个数字不包括场地和基础设施准备,别把它当成开箱即用。李海伦还串起企业数据模型、智能体隔离和机器人开发工具,说明英伟达在扩的是系统供给,不只是卖卡。想判断 AI 投资,不能只数 GPU,还得看部署周期、功耗、安全边界和交付能力。部署、功耗与合作规划多来自厂商披露,读的时候要分清已经具备的能力、测试结果和未来计划。

5.以后一定会更糟,所以现在先别慌 |和晓辉博士聊创业和 AI(AI炼金术)

这期是袁晓辉反向访谈任鑫,聊 AI 创业时别只盯着把产品做出来,更要找到谁愿意买单、交付标准怎么讲清楚。任鑫复盘了自己过早从口号出发的创业经历,也提到可以先卖服务,再判断要不要产品化;晓辉则追问测试集、工作边界,以及企业转型里个人到底站在什么位置。对独立开发者和创业者来说,最值得拿来照镜子的是:你究竟在降低制作成本,还是解决了客户愿意付费的问题。当前能读到的主要是节目说明、时间轴和观点整理,不是完整逐字稿;“做东西贬值百倍”这类说法属于嘉宾判断,别当成经过统计验证的结论。

AI 产品

探索 AI 原生产品的设计范式与用户体验革新,强调产品哲学、交互模式、Agent 产品设计等。

1.Claude Duet 正式发布(Claude Blog)

Claude Duet 这次把工作助手的入口往前推了一步:不再只是等人来问,而是主动做简报、持续跟进,还能跨应用执行任务。它会沿用账户里的记忆、技能和已连接应用,用户离开后也继续处理事情;凭据隔离和敏感信息检查则划出它能看见、能发出的边界。对做产品的人来说,真正值得盯的是怎么把需要人插手的琐事压下去,同时把重要决定留给用户。发布时它还是研究预览,先向美国 Pro 与 Max 用户开放候补名单,后台检查也计入共享额度。主动性怎么做到有用、少打扰又负担得起,是这次设计抛给同行的具体难题。

2.天猫数字员工(协作篇)- 研发的暗物质与 AI Native 组织协作(大淘宝技术)

天猫内部有个挺好用的说法:研发里真正拖慢进度的不是代码写不出来,而是等待、信息转述,还有那些没人写下来的隐性知识,他们管这叫暗物质。现在的做法是把数字员工塞进钉钉需求群,让它盯着共同上下文、跟进需求变更,顺手把交付证据留下来。更值得琢磨的是他们拆出的三种协作方式:一种是分工不变、只把信息打通;一种是一个人指挥一整条任务链;还有一种是数字员工先往前推,推到需要人判断的地方再去找对的那个人。三种不是并列的成熟方案,第一种是当下主力,第二种在试点,第三种还在摸索。真正能抄的作业不在给每个岗位配个助手,而在把业务知识、工具、历史判例、谁擅长什么都沉成能查的资产。聊组织改造的条件和代价时拿它当样本挺合适,但别顺手读成全自主交付已经普及。

3.独家对话 Karpo:Personal AI 的终局,是用户意图的「竞争」,但这还不是行业共识(Founder Park)

晚上吃什么、周末去哪、旅行怎么安排——这些时刻用户自己都还没想清楚要什么,一个个人智能体能不能在你开口之前先接住那团模糊的意图?万户和 Karpo 创始人 Leah 就聊了这个,落到主动消息、反馈机制、跨品类服务串联和供给怎么组织这些具体环节上。最有价值的部分,是给产品团队的那个提醒:通用模型越来越强的时候,应用还能靠理解特定人群、把现实服务真正串起来,攒下些什么。采访也问了商业闭环和持续学习,不过经营数字、市场格局和竞争判断都是受访者的自述,别急着当成行业结论,它更适合拿来找需求切口、设计验证问题。

AI 工程

涵盖 AI 工程技术实现与场景化开发的全流程,包含 Agent 工程架构、工具实践、上下文工程等核心技术话题。

1.DeepSeek 开源推理框架:走向真正普惠的未来(DeepSeek)

DeepSeek 这次开源的是内部推理框架 DeepInfer,另外还开源了和官方 API 处理逻辑对齐的编解码组件 deepseek-recipe。模型训完只是开始,算力怎么调度、吞吐和延迟怎么平衡,直接决定服务成本和电费账单——这部分过去基本是各家自己反复调整、不便公开的内部细节,现在有了可研究的真实部署底座。框架里列出分布式推理、推测解码、结构化输出这些能力,还兼容英伟达和华为昇腾两套平台,准备私有化部署或者正想办法优化推理服务的团队,可以省去从零搭建服务栈的功夫。更值得留意的是,开放的链路从模型权重一路延伸到算子和服务框架,社区能针对具体硬件和实际负载继续调优,而不必拿着权重自己重建整套服务,做落地的团队值得跟一跟。

2.NVIDIA Nemotron 3.5 Embed、Rerank 与 Parse:以世界一流的检索模型推动智能体发展(Hugging Face - Blog)

NVIDIA 把 Nemotron 3.5 的嵌入、重排序和文档解析塞进同一条证据检索链路:文档先变得可搜,再挑出真能回答问题的材料,表格和版面信息也被转成可用数据。最值得看的是它的比较方式:智能体模型和任务固定,只换检索配置,看任务效果和总词元消耗怎么变。团队报告,加进重排序后,两种嵌入配置的智能体词元成本分别降了约 14% 和 13%。对知识库团队来说,这比单盯检索榜单更贴近真实业务,但数字只限文中实验设置,别直接当成通用承诺。

3.构建智能体:何时将子智能体整合到主智能体循环中(Claude Blog)

企业项目里堆路由、规划、领域子智能体,很多时候不是能力升级,而是把组织分工照搬进系统:信息来回转述、提示互相打架、等待变长。Diane Sarkis 的经验是,共享上下文的单一循环,加上按需加载的技能和工具,常常能把质量、成本和延迟一起拉回正轨。想从多智能体迁回来,别急着一次性全改,先建端到端评测,再每次合并一个边界。上下文真的膨胀、任务能独立并行、权限必须隔离时,子智能体仍然值得留。拿它检查现有架构挺合适,但别读成单智能体永远更优。

4.通过极致优化,将推理成本降低 68%(The Cloudflare Blog)

Cloudflare 把代码评审的单次推理费用从 2.43 美元砍到 0.77 美元,降幅 68%,中位耗时也从 4 分 09 秒压到 1 分 32 秒。他们是从真实账单里一格一格追浪费的:共享提示前缀的缓存边界原来切错了位置,无效调用白烧了不少钱,还有被取消之后仍在跑的任务,这些都被拎出来处理,模型和推理强度也一项项比过。真正值得看的是后面那段质量复查:有些配置确实降低了噪声,看着更清爽了,但中等推理强度的评审漏掉了更多真实问题。所以这套方法的价值不在于省了多少钱,而在于它把成本和发现能力放在一张表上算——高缓存命中率、更低的账单,都不等于优化成功,规模化用 LLM 的团队特别容易在这里自我感觉良好。

5.为什么一个 AI 智能体不够:Anthropic 工程师详解千智能体编排(AI Engineer)

一个 AI 智能体到底够不够用?Anthropic 的 CJ Avilla 和 Harrison Stall 拿股票扫描、代码评审和解说动画三个 demo 现场拆了这个问题,用的是 Managed Agents 的 Flows。他们的做法不是把任务一股脑丢给一个万能 agent,而是按阶段切开,每个阶段给独立的上下文,再加一层独立检查,专门对付漏查、自我偏爱和目标漂移这几个老毛病。执行环境、会话线程和事件记录分开管,好处是工作流能被外部事件触发,人也能随时插手给反馈。正好可以和本期那份单智能体迁移指南对着看:先想清楚任务在哪儿真的需要独立上下文,再决定要不要拆。也得提个醒,他们自己承认共享文件系统没有目录级权限隔离,所以别被千智能体这个标题带跑,那不是无条件可用的规模保证。

6.为 AI 智能体建立信任:基于 Amazon Bedrock AgentCore 的生产级评估框架 | Amazon Web Services(AWS Artificial Intelligence)

有个数字值得记一下:410.08 美元被销售智能体写成 4.1008 亿美元,监控面板依旧一片绿色,什么都没报。可用性和回答正确性之间的那道缝,就这么赤裸裸地摆在眼前。AWS 团队的做法是围绕生产级多智能体系统搭一条九阶段质量闭环,从实验跑通、发布门禁到上线后的漂移检测,一环扣一环;检查手段也不靠单一模型打分了事,确定性检查、模型评估器,再加一份持续维护的黄金数据集,三层叠着用。准备把智能体接进业务决策链的团队,可以拿它当一份逐项对照的评估清单,看看自己卡在哪一步。不过别急着照抄分数,数据口径和风险边界得按自己的场景重新设计,别人家的合格线不一定是你的安全线。

7.从 LOOP 到图探索 —— 算法模型的 AutoResearch 自进化系统架构演进之路(美团 · 技术团队)

美团把 AutoResearch 搬进企业训练平台,踩到的坑很实在:长任务干等着、状态断了接不回来、错误经验越攒越多。三次重构之后,串行循环换成了图探索——假设拆开跑、实验各自独立、结论集中比较,再用状态文件和代码约束把可信结果锁住。两个项目单任务耗时分别降了大约 85% 和 83%,数字挺漂亮,但真正能抄走的是那几条纪律:评估集冻结、证据可回溯、经验入库前必须人工过一遍。这套东西适合有可量化指标、实验成本扛得住、结果能撤回的研究场景,别指望搬过来就全线开花,两个案例只说明有潜力,还证明不了每个业务都能拿到同样的收益。

8.告别 AI Demo 页面:构建支持淘内货品运营、可 C 端投放的会场 Agent Harness(大淘宝技术)

一张看起来挺漂亮的生成页面,一进入淘内真实会场投放就暴露问题:商品供给没接上,动态字段对不上,渲染协议不认,设计规范也过不去。淘天工程师巷年把这层差距讲得很具体:方舟会场把策划、视觉、数据、构建串成一条工作流,主智能体负责承接确认和验收,独立子任务再按需拆开;一份 page.html 同时承担视觉布局和业务数据绑定,所以哪怕只改一块局部,也得回到完整约束里重新检查一遍。产品、设计和工程团队都能从中看到生成式应用怎么进入已有业务系统。任务级观测和自动反馈这部分还在建设中,但真实投放已经把含糊的地方变成硬约束:生成之后能不能继续编辑、能不能接上供给、能不能稳定渲染,这三个问题答不上来,就还不算真正交付。

9.从工程师到全员,从个体到组织:快手企业 AI 生产力实践(快手技术)

快手王诩复盘了企业 AI 生产力怎么从编码工具走到全员使用,再走到团队协作。非技术员工活动一下收到 4000 多个作品,结果评审本身成了新负担;更扎心的是,个人写得更快,跨部门交付周期未必跟着缩短。团队后来没继续只盯工具使用量,而是补公共知识、共享技能、独立验收和统一企业上下文。对管理者最有用的提醒,是把采用率、个人效率和组织交付拆开看,别拿一个漂亮数字替代真实结果;积分机制和协作链也要配合起来。企业级建设还在路上,工具采购、优秀个体和组织交付之间确实隔着一段活:经验要能复用,上下游得围绕同一个结果协作。

10.教编码智能体证明任务已经完成:Nick Nisi 与 Zack Proser 的 WorkOS 工作坊(AI Engineer)

候补名单应用这个例子很扎心:智能体说完成了,构建也过了,用户刷新页面数据却没了。WorkOS 的 Nick Nisi 与 Zack Proser 在工作坊里把问题拆得很清楚,智能体说完成、构建通过、用户真正拿到结果,是三件不同的事。他们的做法是给应用建立专属验证命令,把目标落到存储检查、页面状态、截图和可重复测试上,再保留执行回执作为回归材料。对正在把编码智能体放进交付流程的团队来说,这能少掉很多逐行人工检查的消耗。检查本身也要跟着软件持续维护,旧截图可能失效,模型评估也有盲区。把怎样算完成写进应用自己的工具里,比要求智能体更自信地汇报有用得多。

其他

行业前沿与开源生态,整合行业深度洞察与开源技术动态的复合型主题,技术哲学、AGI 讨论、领袖观点。

1.Anthropic 研究员 Emmanuel Ameisen:语言模型究竟如何运作(Lenny’s Podcast)

Anthropic 的可解释性研究员 Emmanuel Ameisen 把一件常被忽略的事摆到台面上:能训练出语言模型,不等于理解它如何工作。访谈用提前规划押韵、激活金门大桥概念这些实验,展示研究者怎么从内部激活里找线索,再动手干预,看解释是否站得住。它还解释了能力平滑增长、跨过可靠性门槛后,为什么产品会让人感觉突然变好。对想弄懂模型机制又不想啃论文的人很友好。这些实验回答不了模型有没有意识,但比只看聊天表现扎实得多:先提出解释,再改变内部状态,看结果是否跟着变。

2.更好的 AI 模型救不了工程团队:Nicholas Arcolano 谈真正影响产出的因素(AI Engineer)

Jellyfish 的 Nicholas Arcolano 拿约 5 万名工程师、447 家公司的数据,追问一件事:换个更强的模型,研发产出就会上去吗?他给出的统计分解挺扎心,模型和工具能解释的吞吐量差异不到 1%,人员、技能使用和工作环境占了大头。对管理者来说,真正值得花心思的地方在预算之外:协作方式、使用习惯、工程能力,这些更可能卡住团队。不过别急着把结论放大,这里衡量的只是合并 PR 数,不看代码质量,也不看商业价值,演讲也没公开完整统计模型。更稳妥的用法,是把它当成一次团队瓶颈体检的线索,而不是得出“模型选择不重要”或“个体能力决定一切”的结论。


编辑此页