⼤家好，会员计划第 12 期会员通讯已送达！论文部分提到了大模型的归因问题，斯坦福提出了统一归因框架以帮助开发者安全验证大模型。接着，详细讨论了 RAG 技术的最佳实践方法，包括对不同 RAG 模块的优化研究，以及提出的两种 RAG 实施策略。此外，介绍了 LLM 路由原则框架 RouteLLM，以及 Mooncake 等技术报告，这些技术旨在提高资源利用率和系统性能。在工程领域，探讨了构建面向表格智能任务的大语言模型，以及基于知识图谱的 RAG 实现案例。产品部分展示了 Kyutai 等公司发布的实时语音多模态模型，以及 CodeGeeX 第四代模型的发布。市场部分分析了 AI 大模型对营销行业的影响，并提供了对话腾讯汤道生的访谈摘要。最后，观点部分讨论了大模型对程序员和产品经理角色的影响，以及 RAG 在企业应用中面临的挑战，包括数据安全、准确性、可解释性和可扩展性等方面。

⼤家好，会员计划第 11 期会员通讯已送达！本期介绍了 YC 投资的借助 AI 构建第二大脑类产品，如何打通个人笔记、本地文件和在线实时内容，同时还支持私有部署、保障隐私安全（产品已开源）；以 YC 投资的 AI 代码助手为例，看看打造一款 AI 驱动智能开发工具应该包含哪些组件和技术细节（产品已开源）；探讨一种新的 Design-to-Code 框架，将设计稿转代码的有效性大幅提高；RAG 文本分块除了语义分块、段落级、循环分块、HyDE，还有哪些高级方法；最后市场部分分享了两篇深度文章，分别从中美市场现状出发，探讨了当下的 AGI 应用还没有大爆发的原因，

⼤家好，会员计划第 10 期会员通讯已送达！本期 4 篇论文内容主要围绕 LLM 在表格识别方面能力探索、RAG流程优化方案以及提示词自动化优化策略方面，工程方面是关于怎样构建一个 LLM 驱动的自动数据采集应用、如何在本地构建完全免费的语音识别方案、RAG 系统从 Naive RAG 到 Advanced RAG 再到 Modular RAG 的演进。
产品方面梳理了 11 款AI+招聘工具的产品功能、从电子表格与数据库的历史看如何将大模型与智能数据分析相结合。
市场方面总结了做垂直领域 AI 的思路，单点的打深、做透，专业量化测评专家+AI 算法专家的组合，特别是前者，领域专家带来的产品杠杆要远大于技术。
最后的观点部分讨论了为什么现阶段的 Agent 都是噱头（凡是在应用中加入 LLM 作为语义理解组件的都说自己是 Agent）以及这一轮生成式 AI 泡沫下究竟有多少啤酒。

⼤家好，会员计划第 9 期会员通讯已送达！本期内容信息量较大，毕竟 2024 年即将过半，包括一份 OpenAI、微软、 马里兰大学和learnprompting社区联合发布的提示词技术调研报告，一篇总结大语言模型在信息抽取上的各方面应用的综述，看看一线工程师从过去一年构建基于大模型的产品中总结到哪些经验，大模型开源生态中国力量的现状分析， 过去一年的硅谷顶级 AI 初创公司和产品盘点，从字节的 Dreamina、腾讯的 VideoCrafter2 到右脑科技的 Vega AI、爱诗科技的 PixVerse，还有最近大热的快手可灵和 Luma 的 Dream Machine，看看文生视频/图生视频模型的发展现状。

离开模型能力谈API价格都是耍流氓，豆包大模型作为API最便宜的模型之一，最近向个人开发者开放了，花了300元和一些时间对模型的API吞吐、函数调用能力、长上下文能力等进行了深度测试，看看它的能力究竟适合做 AI 应用开发吗？

本期分享的内容包括：如何利用这些多模态模型实现企业工作流程的端到端自动化；英伟达研究团队通过严谨的测试发现大多数商业模型的上下文长度虚标严重，甚至达到 32K 上下文长度的都不多；如何针对 GPT-4o 语音模式的进行越狱攻击；产品方面剖析了 Meta、Slack、Spotify 等 20+顶级科技公司如何将 AI 融入其产品中；a16z 盘点了 AIGC 如何推动营销和销售领域的发展，包括产品及项目调研；OpenAI 分享他们在 RAG 技术的最佳实践；开源社区最流行的 RAG 构建框架 LlamaIndex 团队对 RAG 技术现状总结；以及王铁震老师对中文 LLM 开源生态的观察分享，最后在观点部分分享了人工智能时代如何助推全球新产业革命，以及为什么在大模型开源社区国内贡献度和影响力极不匹配。

本篇文章我将介绍使用智谱 AI 最新开源的 GLM-4-9B 模型和 GenAI 云服务 SiliconCloud 快速构建一个 RAG 应用，首先我会详细介绍下 GLM-4-9B 模型的能力情况和开源限制，以及 SiliconCloud 的使用介绍，最后构建一个编码类智能体应用作为测试。

本期分享的内容包括：通过比较不同的 RAG 评估框架（RAGAs、CDQA、RECALL、MedRAG 等），教你如何设计一个合适的 RAG 评估体系；为了提高 RAG 召回率，如何使用非 chunking 方式，对数据预处理阶段进行优化；如何结合大语言模型，从用户或商品评论中生成更精确的用户和商品档案，用于推荐系统；产品方面分享了服装行业与 AI 技术如何结合，在面料设计、产品设计、定向改款和与 ODM 供应商的协作中发挥重要作用；详细盘点了在教育、法律、金融、医疗这类高价值行业做文档处理时，是如何对化学式、数学公式、表格、图表等重要信息做准确识别和处理的，包括开源方案和商业化产品；市场方面看看 a16z 是如何解读 AI 实时语音助手市场的，包括产品及项目调研。

大家好，会员计划第 6 期会员通讯已送达！在本期分享内容包括：如何将 AI 模型转化为生产环境中的产品，包括售前与解决方案的草稿完成、产品或项目启动、数据采集与管理、模型训练与调试等，非常适合本次 AI 浪潮新入场做大模型项目交付的乙方朋友以及甲方决策者阅读；Agent 可观测性项目，用于代理应用执行图分析和调试；LLM 微调和训练平台产品，用于提升训练效率，提高推理速度，减少显存占用；产品方面包括生成式 UI/UX 产品盘点；市场方面分享了 2024 年零售与消费品行业 AI 现状与趋势 报告，更多内容请查看周刊全文。本期共包括 4 篇论文、4 篇工程相关文章、4 条产品信息和 3 条市场方面的洞见，最后在观点部分重点分享了从 GPT-3 开始，AI 是如何开始改变企业的游戏规则的。

第 5 期会员通讯已送达！在本期分享内容包括：揭秘 OpenAI 发布会现场演示中 GPT-4o 低延迟语音交谈背后采用的实时语音解决方案，IBM 在实践中如何利用三种混合搜索方案（关键字搜索、向量搜索、基于语义的稀疏编码器搜索）提升 RAG 效果， 分享 LinkedIn 在客服问答系统中如何结合检索增强生成（RAG）和知识图谱（KG）的，同时介绍一款快速准确地将 PDF 转为 markdown 的开源工具，和一个 OCR 开源项目，提供了完整的 OCR 解决方案所需的所有功能，一款向量数据库厂商 Weaviate 开源出生产级 RAG 框架。国内大模型市场方面，介绍了零一万物开源的 Yi-1.5 模型、腾讯的新产品（智能体平台）腾讯元器、字节豆包系列大模型（原云雀）、Kimi 会员功能（对话唤出打赏功能），最后分享一组关于各个大模型的 TTFT （Time To First Token，token 首次输出时间）以及 TPS（Tokens Per Second，每秒处理 token 数）数据的对比，以及「大模型应用层 To B 并不是一个新赛道」的洞见，本期共包括 4 篇论文、5 篇工程相关文章、6 条产品信息和 3 条市场方面的洞见。