跳转到正文
莫尔索随笔
返回

Vol.122 从模型能力到真实工作实践:智能体持续运行、验收、产品落地与能力边界

预计 16 分钟
AI 周刊 编辑此页

⼤家好,Weekly Gradient第 122 期已送达,本期内容围绕模型能力走进真实工作,梳理智能体持续运行与状态恢复、专业工具接入、代码交付与验收、失败经验复用、运行经济账、产品交互,以及科学不确定性和安全边界。

AI 商业

聚焦 AI 行业的商业化路径、市场竞争格局和商业模式创新,包含投资趋势、GTM 策略、SaaS 转型等商业话题。

1.SemiAnalysis:AI 基建扩张的需求、回报与风险(Alex Kantrowitz)

AI 任务越能长时间持续跑,算力投入那笔账就越难含糊过去。Dylan Patel 和 Jordan Nanos 把这件事拆成几本账来算:新建设施的资本支出、已有算力带来的收入、还没被满足的需求,以及集群质量和交付能力。对关心行业和商业的人来说,关键不是盯着一个总投资数字就喊繁荣或泡沫,而是把这几组变量分开看。融资安排、合同利润、施工进度和未来需求都各有不确定性,嘉宾的预测也该和已经发生的经营结果分开理解,不然很容易把判断和事实混在一起。

AI 产品

探索 AI 原生产品的设计范式与用户体验革新,强调产品哲学、交互模式、Agent 产品设计等。

1.Alexandr Wang 谈 Muse:个人智能体、产品判断与团队重建(David Senra)

Alexandr Wang 把 Muse 从早期原型推到产品的过程讲得很具体:个人智能体要解决的不只是能力展示,记忆和信任才是用户愿不愿意长期用下去的关键;产品视角得统一,营销带来关注之后,体验上的坑还得一个个补。访谈后半段聊团队重建和管理角色变化,也提醒做产品不能只看 demo,组织条件会直接影响打磨节奏。对产品和创业读者来说,最有价值的是把原型选择、持续迭代和团队协作放在一起看;增长和质量判断主要来自 Wang 本人的经验,适合当当事人观点参考,不是经过独立验证的成功公式。

2.Google Labs:用实验找到值得做的 AI 产品(Lenny’s Podcast)

模型一升级,产品团队手上就多出一堆能试的东西——麻烦在于,能做的事和值得发布的事完全是两码事。Google Labs 的做法是维护一份「几乎可行」清单:能力刚够用、还不成熟的想法先扔进去,用小规模试验持续验证,再把用户反馈和付费意愿带回决策环节,而不是靠内部直觉拍板。访谈里最值得琢磨的一段,是一个原定发布的功能被主动叫停:团队真正要守住的其实是那个待解决的问题,具体方案随时可以放下。对正在搭探索机制的产品和创业团队来说,这里有很具体的东西可抄:实验该用什么节奏跑,什么信号出现就该止损,以及一个新想法到底塞进现有业务里长,还是干脆拆出去做独立产品。

3.对谈 Ambi 创始人莫子皓:个人智能体的需求与交互(42章经)

个人智能体最近很热,但热闹之外更值得追问的是:用户到底要什么,交互够不够自然,软硬件结合又能补上哪块短板。曲凯和 Ambi 创始人莫子皓这期对谈,把这些产品选择摊开聊,也把成本、竞争和经营经验放进来,不是只谈概念。对正在找 AI 应用机会的人,它能给出一组可以带回自己产品里反复问的问题,也会提醒你:技术之外的需求判断才是关键。目前站内材料以节目简介和时间线为主,适合先扫一遍,判断哪些章节值得听;嘉宾的具体观点和论据,还是回到音频里核对更稳妥。

AI 工程

涵盖 AI 工程技术实现与场景化开发的全流程,包含 Agent 工程架构、工具实践、上下文工程等核心技术话题。

1.Gemini 4 Argon:为解决棘手难题而生(Google DeepMind News)

Gemini 4 Argon 这次没有把重点放在榜单成绩上,Google DeepMind 直接把它放进几项具体工作里:维护大型代码库、优化科学计算、辅助安全防御,以及机器人开发。这几个案例比看跑分有意思得多:长程推理究竟能在哪些工作里真正发挥作用、又需要配合什么工具和怎样验证,答案都藏在这些细节里。团队想上手也不难,文章把访问入口和计费方式都交代清楚了,方便先挑一个自己的试验任务试一试。不过要提醒一句,这些成效都来自 Google 内部的实践,环境和数据跟外部团队不一样;真要选型,还是得拿自己的真实任务跑一遍,把完成质量、等待时间和总成本这三项都算清楚再决定。

2.Muse Spark Open:Meta 的开放权重多模态模型(Hugging Face - Blog)

Muse Spark Open 把文本、图像、音频和视频理解塞进同一个开放权重模型,Hugging Face 的说明则把发布往真正部署推了一步:不同推理后端、量化权重、工具调用、微调和浏览器交互,都给出了接入路径。想拿开放模型做产品,别只看能力清单,任务需求、硬件资源和运行方式能不能对上更关键。这里有两个容易踩的坑:每个词元激活的参数量少,不等于显存里只放那一小撮权重;百万词元窗口也不等于长上下文随便用、不要成本。

3.小模型能否在物联网设备上自我复制?Anthropic 的实验与边界(Anthropic Research)

Anthropic 做了个挺有意思的实验:把「AI 自我复制」这个听起来像科幻片的概念拆成一串能逐项验证的工程动作——模型能不能扫到网络里的设备、拿到执行权限、在算力有限的硬件上把推理跑起来、再把这一整套过程接着往下传。结果值得细看:9B 级别的模型在九类硬件里有八类都成功搭起了推理服务,这是实打实的能力信号;但真要端到端完成自我复制,还得靠更强的模型加上被简化过的实验条件。所以读这类研究最忌讳一锅端,单步能力、完整链路和对未来的预测是三件不同的事,混在一起就容易得出夸张结论。对真正在做部署的团队来说,有用的启发其实很具体:盘一遍设备的暴露面、把网络监测做起来、提前留好能切断的传播路径,这些比把实验当成「AI 正在现实中扩散」的新闻标题要有价值得多。

4.MiniMax M3:稀疏注意力与原生多模态训练(AI Engineer)

这场分享值得慢下来听。Olive Song 没停留在「M3 能干什么」,而是把能力背后的设计一层层拆开:注意力机制先检索出真正该关注的内容,不同注意力头的选择被保留下来而不是粗暴合并,再用块级检索去改善 GPU 上的访存效率——这几步连起来看,才明白稀疏注意力省下的算力是怎么抠出来的。多模态部分同样务实,比较了几种把视觉训练接进模型的时机,说明能力上限不只取决于数据规模,还取决于训练过程怎么编排。如果你关心开放模型和推理成本,这些取舍比一句「更快更强」有价值得多。需要提醒的是,演讲里的量化对照比较有限,把它当作设计思路的入门图,性能结论还是回头翻完整报告自己验一遍。

5.让智能体验证自己的代码:测试、约束与差分检查(Elevate)

Addy Osmani 把 AI 编程的关注点从生成代码挪到验证上:让智能体自己跑检查、看懂失败、继续修正;人负责定义成功标准、审视证据、决定是否发布。端到端测试盯用户流程,属性测试盯始终应成立的约束,差分测试拿新旧系统对照。真正容易被忽略的是反馈质量:测试慢、结果飘,智能体可能学会碰运气重试。正在用编程智能体的团队,可以借此检查自己的验收方式,到底能不能区分“看起来合理”和“行为正确”。

6.斯坦福 CS146S:常驻智能体如何持续工作(leerob)

关上电脑以后,智能体怎么继续干活、挂了又从哪里接上,斯坦福 CS146S 这门课给了一张挺硬的架构地图:服务器状态、触发机制、持久工作流,还有可快照的云端计算机,都是把“常驻”落到工程上的关键。缓存、工具发现和分层记忆会直接影响成本和可靠性,界面上的简单交互背后其实有一堆后台复杂度。产品团队尤其值得看,能分清体验和系统承担了什么。课程也没回避长时评测、安全和压缩质量这些硬骨头,所以别把“持续运行”当成“持续正确”。

7.Claude Managed Agents:分离会话、推理与执行(AI Engineer)

Anthropic 团队这回没有急着展示接口,而是先讲了一个失败的设计假设:把智能体、状态和沙箱塞进同一个容器,任务一旦运行时间变长就会出问题,恢复困难,迁移更困难。新方案把事件、推理、执行拆开来,分别保存、组织和操作;沙箱坏了可以直接换掉,会话历史仍然保留,敏感凭证也不必交给执行环境。对做长时任务产品的团队来说,这里真正有价值的是他们对取舍的解释,接口本身倒是次要。还有一个提醒很实在:运行框架会跟着模型能力一起变,该稳住的是部件之间的契约,并非某一版实现。

8.用 Codex App Server 构建自己的智能体界面(AI Engineer)

想给自己的产品做一个智能体界面,绕不开一个问题:哪些执行能力需要自己搭建,哪些直接复用现成的实现。Dominik Kundel 用 Codex App Server 把这件事拆开了演示:会话事件如何从运行框架推给客户端、动态工具怎么按需挂载、开发者指令和权限配置在协议层怎么传递。现场演示的价值在于,协议不再只是文档里的一堆字段,而能看到一条真实的消息流怎么跑起来。对开发团队更关键的是集成边界。一次性脚本和完整交互客户端的诉求完全不同,前者只要能调通就行,后者要处理状态、事件回放和权限粒度;工具可以延迟加载,不用一开始就全部塞进去;另外协议版本和二进制版本必须对得上,版本错配往往是最容易卡住进度的地方。看完这篇,能比较清楚地判断产品应该定制哪一层、哪些执行能力可以直接沿用。

9.Meta GEM:让大模型服务实时广告推荐(Engineering at Meta)

Meta GEM 讲的是一个很现实的难题:广告系统不可能每次展示都把大模型完整跑一遍。它的做法是让中央模型先学跨平台信号,再通过结构化表征、后训练和预计算,把能力传到低延迟的在线推荐里。值得看的是,它不只谈把模型做大,而是把训练、知识迁移和服务预算放在一起算账。对搜索、推荐和大型产品团队来说,这更像一次算力分工的提醒:哪些计算可以提前做,哪些信息必须保持新鲜,边界得重新划。Meta 的业务效果有自身数据和流量条件,别直接照搬。

10.走进 Uber 的 AI 工程基础设施(The Pragmatic Engineer)

Uber 这场访谈把 AI 编程平台的几块拼图摆得很清楚:模型接入只是起点,真正让 Agent 干活的是工具网关、把代码和团队知识连起来的上下文图谱,以及承接执行的云端工作区;结果靠测试和生产流量回放来校验。Minion 能跑起来,吃的是 Uber 多年开发平台的底子,最后合不合代码还是工程师说了算。对正在推 AI 编程的团队,这份材料更像一张平台缺口清单,别当成某个工具的成功案例。约 15% 的生产 PR 经过 Minion,是受访者给出的采用率,不等于效率也涨了 15%。

11.Scion:Anthropic 为智能体编程重建版本管理(Anthropic Engineering)

Anthropic 的日均合并量从 5 月约 2500 次冲到 9 月 3 万多次,版本管理的老默认假设直接被工作负载打穿。Scion 的做法是把更多操作放到服务端,用变更日志和按需获取文件来扛大量长期在线的客户端。这里最值得抄作业的不是“Git 过时了”这种结论,而是从真实负载反推架构的思路;团队也说得很清楚,系统还依赖内部审查、搜索和 CI 工具,外部组织更适合借鉴设计,别整套照搬。

12.如何评测 AI 智能体:从用户任务到回归测试(Google Developers Blog)

回答听起来合理,智能体还是可能反复调用工具、把预算烧光,甚至悄悄弄坏另一条用户流程。Google 这套做法从用户真正要完成的任务出发,先人工读懂执行轨迹,再补确定性检查和明确的通过或失败判断,用固定数据集比较每次改动;答案质量、工具行为、时延和成本要放在一起看,别太迷信模糊的五分制裁判。团队从原型走向持续维护时,这套可重复的评测能替代零散体验,也让线上失败慢慢沉淀成回归测试。

13.把失败写成技能:Browserbase 的智能体改进方法(AI Engineer)

浏览器智能体最烦人的地方,是日期控件、站内导航和访问限制每次都要重新试错。Browserbase 的 Shubhankar Srivastava 把流程拆成执行者和教师:执行者去点、去填、去撞限制,教师盯着操作轨迹和结果,把有效经验写进策略文件,验证过再沉淀成技能。演示里还保留了成功后再次失败的过程,边界反而更清楚。对经常重复处理浏览器任务的团队来说,这套方法值得借鉴,但别只盯着“学会”,还要配好可重放测试、明确的维护责任,以及防止错误经验被反复放大的检查。

14.REA:让智能体调用逆向工具,交付可追溯的分析(腾讯技术工程)

REA 不是再造一个反编译器,而是把成熟的专业逆向工具接成智能体能调用的接口,再把调查步骤和结果证据串成可复核的链路。stevenzuo 的拆解把搜索、交叉引用、反编译放进可追溯工作流这件事讲得很清楚:只有能回看、能复用,分析才更稳。对维护旧系统、研究兼容性或做软件分析的人,这像是给专家工具和智能体搭了一座桥。社区里的效果还是要逐例看,别把一条安装命令当成掌握专业经验,也别把其他 MCP 项目的成绩算到 REA 头上。

15.淘宝 AI 购物助手在线评测落地实践(大淘宝技术)

线上评测最容易翻车的地方,往往不是模型分数不够漂亮,而是数据脏了、工具返回缺了、业务规则还没对齐。盈衣拿淘宝购物助手的购后服务做案例,把四层数据清洗、分层评测规则和异常归因怎么撑起日级运行讲得很具体。真正值得看的是失败之后怎么处理:先把问题拆到数据、提示词、规则和智能体自身,再验证定点修复有没有效。维护客服、搜索或业务智能体的团队,会更能体会这套方法比单报一个通过率有用;离线达标和线上体验之间的那道沟,也别指望换个评估模型就自动填平。

其他

行业前沿与开源生态,整合行业深度洞察与开源技术动态的复合型主题,技术哲学、AGI 讨论、领袖观点。

1.AlphaFold 之后:从蛋白质结构走向动态生命系统(Latent.Space)

AlphaFold 把蛋白质结构预测推到了聚光灯下,但 Pushmeet Kohli 和 Sal Candido 这场对谈提醒我们,预测结构和理解蛋白质怎样变化、怎样参与生命活动,仍然是两件不同的事。讨论落在数据模态、科学直觉和模型设计上,也抛出一个很值得研究者和产品人一起想的问题:在扩大算力之前,先问清楚模型到底在学什么。可测的代理目标不自动等于最终想解决的问题,阅读时更该关注下一步需要什么证据、怎样表达不确定性,而不是用一句标题否定已经发生的突破。


编辑此页