莫尔索随笔

2024-06-03发表会员计划32 分钟读完 (大约4764个字)

大家好，会员计划第 7 期会员通讯已送达！本期分享的内容包括：通过比较不同的 RAG 评估框架（RAGAs、CDQA、RECALL、MedRAG 等），教你如何设计一个合适的 RAG 评估体系；为了提高 RAG 召回率，如何使用非 chunking 方式，对数据预处理阶段进行优化；如何结合大语言模型，从用户或商品评论中生成更精确的用户和商品档案，用于推荐系统；产品方面分享了服装行业与 AI 技术如何结合，在面料设计、产品设计、定向改款和与 ODM 供应商的协作中发挥重要作用；详细盘点了在教育、法律、金融、医疗这类高价值行业做文档处理时，是如何对化学式、数学公式、表格、图表等重要信息做准确识别和处理的，包括开源方案和商业化产品；市场方面看看 a16z 是如何解读 AI 实时语音助手市场的，包括产品及项目调研，更多内容请查看周刊全文。本期共包括 4 篇论文、5 篇工程实践相关文章、5 条 AI 产品相关和 2 条市场方面的洞见，最后在观点部分分享下为什么 Scaling Law 本身代表一个非常悲观的未来？本期内容为会员每周通讯，加入会员可免费阅读所有会员付费内容，会员计划详细信息戳此了解。

2024-05-27发表会员计划33 分钟读完 (大约5022个字)

如何将 AI 模型转化为生产环境中的产品？｜莫尔索随笔 Vol.6

大家好，会员计划第 6 期会员通讯已送达！在本期分享内容包括：如何将 AI 模型转化为生产环境中的产品，包括售前与解决方案的草稿完成、产品或项目启动、数据采集与管理、模型训练与调试等，非常适合本次 AI 浪潮新入场做大模型项目交付的乙方朋友以及甲方决策者阅读；Agent 可观测性项目，用于代理应用执行图分析和调试；LLM 微调和训练平台产品，用于提升训练效率，提高推理速度，减少显存占用；产品方面包括生成式 UI/UX 产品盘点；市场方面分享了 2024 年零售与消费品行业 AI 现状与趋势报告，更多内容请查看周刊全文。本期共包括 4 篇论文、4 篇工程相关文章、4 条产品信息和 3 条市场方面的洞见，最后在观点部分重点分享了从 GPT-3 开始，AI 是如何开始改变企业的游戏规则的。

2024-05-20发表会员计划42 分钟读完 (大约6323个字)

面向企业的大模型应用算一个新赛道吗？｜莫尔索随笔 Vol.5

大家好，会员计划第 5 期会员通讯已送达！在本期分享内容包括：揭秘 OpenAI 发布会现场演示中 GPT-4o 低延迟语音交谈背后采用的实时语音解决方案，IBM 在实践中如何利用三种混合搜索方案（关键字搜索、向量搜索、基于语义的稀疏编码器搜索）提升 RAG 效果，分享 LinkedIn 在客服问答系统中如何结合检索增强生成（RAG）和知识图谱（KG）的，同时介绍一款快速准确地将 PDF 转为 markdown 的开源工具，和一个 OCR 开源项目，提供了完整的 OCR 解决方案所需的所有功能，一款向量数据库厂商 Weaviate 开源出生产级 RAG 框架。国内大模型市场方面，介绍了零一万物开源的 Yi-1.5 模型、腾讯的新产品（智能体平台）腾讯元器、字节豆包系列大模型（原云雀）、Kimi 会员功能（对话唤出打赏功能），最后分享一组关于各个大模型的 TTFT （Time To First Token，token 首次输出时间）以及 TPS（Tokens Per Second，每秒处理 token 数）数据的对比，以及「大模型应用层 To B 并不是一个新赛道」的洞见，本期共包括 4 篇论文、5 篇工程相关文章、6 条产品信息和 3 条市场方面的洞见。

2024-05-16发表LLM 应用开发实践29 分钟读完 (大约4404个字)

GPT-4o 到底有多能打？设计一个报告生成类 AI Agent 测一测

在上一篇文章，分享了使用 DeepSeek-V2+LangGraph 编写了一个编码助手类 AI Agent ，这篇文章使用 OpenAI 最近上新的 GPT-4o，结合 LangGraph 编写一个能够撰写高质量研究报告的多智能体系统，实现机制参考 gpt-researcher，我会首先介绍下 gpt-researcher 这个项目的工作机制，然后使用 LangGraph 逐步进行实现。

2024-05-13发表会员计划1 小时读完 (大约6894个字)

DeepSeek-V2搅动市场，大模型价格战已拉开序幕？｜莫尔索随笔 Vol.4

大家好，会员计划第 4 期会员通讯已送达！上周由于假期原因暂停一周，本期包括的内容如下：在论文部分，我们梳理了在ICLR'24提交的论文中，基于大语言模型的智能体相关的全部98篇论文，探讨了如何在大语言模型驱动的数据分析中发现和探索对话上下文中的洞察力，摩根大通分享了如何利用LLM构建自动化金融工作流程，还有一篇关于RAG在LLMs中应用的综述。在工程部分，介绍了一个开源的构建ChatBI框架，一个提供统一的方式调用任意不同的RAG排序模型的框架，分享了一篇生产环境如何选择LLM推理服务所需要的GPU资源和推理框架的实践，微软亚洲研究院探讨了如何构建一个支持多模态、为向量索引和标量索引扫描提供统一化的数据库设计思路。市场方面，国外市场部分分享了500强企业2024年构建和采购AI服务的变化趋势报告，国内方面提供了2024年第1季度中国大模型季度监测报告，梳理了2024年1～4月国内大模型项目中标数据，腾讯旗下协作SaaS产品全面接入混元大模型、飞书的智能伙伴、钉钉AI助理市场，并从Copilot能力、Workflow能力、Agent能力进行了比较。在产品方面，我们对国内外20余款智能编程助手类产品进行了盘点，深入介绍了自动化平台的演进，探讨了从RPA产品到Agent平台的调研，观察了YC W2024硅谷AI创业的新趋势，讨论了DeepSeek-V2的发布对国内市场营销的影响。最后的观点环节，Zoho中国、实在智能、合思、腾讯云四家代表厂商探讨了在AI时代下企业如何做ToB应用。点击阅读原文，获取更好阅读体验。本期内容为会员每周通讯，会员可免费阅读。

2024-05-11发表15 分钟读完 (大约2310个字)

LangChain 宣布推出 LangChain v0.2 版本（译）

LangChain 宣布推出 LangChain v0.2 预发布版本，这个版本提高了 LangChain 的稳定性和安全性，本篇译自官方博客。

2024-05-06发表LLM 应用开发实践37 分钟读完 (大约5491个字)

DeepSeek-V2 到底有多强？写一个 AI 编码 Agent 测测看

深度求索昨晚宣布开源他们第二代 MoE 模型 DeepSeek-V2，支持 128K 上下文窗口，在主流的大模型能力测试集上都有不俗的表现，特别是知识、数学、推理、编程方面能力处于前列，而且成本直接低出一个数量级，到底表现怎么样，本着务实的态度，这篇文章结合 LangChain 的 LangGraph 组件库，编写一个编码类 AI Agent，来对其能力做下简单验证。
在这篇文章中，我会先介绍下 DeepSeek-V2 如何做到模型性能强的同时推理成本还低的，然后对 LangGraph 组件进行介绍，最后设计一个能够自动编写生产可用的单元测试代码的编码类 Agent 来验证下 DeepSeek-V2 的实际能力。

2024-04-29发表会员计划1 小时读完 (大约7543个字)

LIama 3 是大模型游戏规则改写者吗｜莫尔索随笔 Vol.3

LIama 3 的影响还在持续，仅仅一周，社区已经冒出来超过 100 多个 LIama 3 微调和其他周边项目，Github 上的 AI 领域热门项目已经第一时间支持了 LIama 3，LIama 3 让企业低成本使用高质量模型成为可能。本期包括 3 篇论文分享、5 篇工程实践案例、3 条产品 tips 和两条市场信息，内容包括万字长文带你了解 Llama 模型生态的前世今生，如何提升 RAG 在领域专业知识上的准确性，AI Agent 的最新实现进展盘点，以及在实践中如何评估 LLM 产品，如何提高 AI 产品设计体验；最后对 ChatGPT 跨对话保持长期记忆的新特性进行解读，同时送上一份 Hume.AI 出品的语义空间理论，如何科学的测量和理解情感，做到让 AI 分析你的情绪，并根据你的情绪进行回答。

2024-04-23发表LLM 应用开发实践32 分钟读完 (大约4857个字)

Llama 3 开启规模游戏的下一篇章（译）

目前，文本数据的规模可能已经达到了瓶颈，因为大部分易获取的网络文本数据（如 Common Crawl、Github、Arxiv 等）已经被广泛利用。规模游戏的第一篇章集中在扩展文本数据上，在 GPT-4 达到顶峰，并以 Llama 3 结束。该游戏的第二篇章将是统一的视频-语言生成建模和从 X 个反馈中进行迭代强化学习。

本文译自 Llama 3 Opens the Second Chapter of the Game of Scale

2024-04-22发表LLM 应用开发实践8 分钟读完 (大约1227个字)

利用 Groq 体验 Llama 3 的4种方式，800 tokens/s 的推理速度真的太快了！

北京时间4月19日凌晨，Meta在官网上官宣了Llama-3，作为继Llama1、Llama2和CodeLlama之后的第三代模型，Llama3在多个基准测试中实现了全面领先，性能优于业界同类最先进的模型，你有没有第一时间体验上呢，这篇文章就分享下如何在Groq上以超过 800 tokens/s 的魔鬼推理速度体验Llama3，会同时分享Web端、移动端、API方式以及集成到LangChain中4种体验方案。

链接

链接

分类

follow.it

最新文章

归档

标签