国内各大厂商的大模型服务纷纷上线，应用密集落地应该是接下来的主旋律，将之前看过的 LLM Bootcamp 系列视频（由 The Full Stack 出品，内容由 11 节 talk 组成，质量很能打，感兴趣可以去看原视频）分享下。本篇主要是 LLMOps 这节讲座的笔记，包括如何选择基础模型、如何评估模型性能、模型的部署、如何管理Prompt的迭代过程、监控和持续改进，以及最后提出的测试驱动 LLM 应用开发的理念，比我的之前这篇更详尽，可以作为每个 LLM 应用开发者的一个 checklist，在应用国内基础语言模型服务时提供参考。

在复杂的 LLM 应用开发中，特别涉及流程编排和多次 LLM 调用时，每次的 Prompt 设计都取决于前一个步骤的大模型输出。如何避免大语言模型的”胡说八道”，以提高大语言模型输出的可靠性和稳定性，成为一个具有挑战性的问题。在开发应用的过程中，我发现了微软推出的开源项目 guidance，能够很好地解决这一繁琐问题，本篇文章对此进行详细说明。

这篇文章是关于智能阅读助手 ReaderGPT 开发过程的记录，尽管本地玩了很多项目 demo，AutoGPT、JARVIS (HuggingGPT) 、知识库之类的，但一直未正式开发一个端到端服务。直到上个月申请到 Azure OpenAI，我想是时候开发一个完整的应用了，可以给朋友直接上手使用，并且确实可以大幅节省时间的工具，所以才有了这个和信息处理相关的智能阅读助手，我将从需求思考，应用架构，功能特性及后续迭代计划四部分来进行说明。

我的从零开始学 LangChain系列还没更完，感觉就要快被策反了 🤣，最近炒的很火的 我为什么放弃了 LangChain？，算是代表社区和广大开发者进行了一次大吐槽。LangChain 确实和 OpenAI 耦合的太紧导致扩展性较差，也存在过度封装以及调试困难的问题，但我的观点是在更成熟的框架出来之前，刚开始接触 LLM 应用开发的同学还是应该看看 Langchain，它运用 Prompt Engineering 的思想很值得借鉴，不过 LLM 应用开发的老司机确实该换工具了 🤡，这篇就给大家介绍下这款号称要替代 LangChain 的 AutoChain。

OpenAI最近发布了一次更新，3.5可以支持16k的token，更新了gpt-3.5-turbo-0613 和 gpt-4-0613两个模型，同时这两个模型在chat completion的api中增加了一个叫 Function Calling 的新功能，本篇文章对其功能进行探究，并分析其作用。

安利一下 ChatGPT API 续费的新渠道 WildCard，注册方便，开卡速度快， 最重要的是它支持支付宝付款，其它平台都需要先去购买稳定币来兑换， 这对普通用户来说门槛太高。还有高昂的手续费， WildCard的开卡费是9.9美元， 没有后续的月费用。

这篇文章总结了 50 条一些适合软件开发的 ChatGPT 提示词。这些提示可以协助完成代码生成、代码完成、错误检测、代码审查、API 文档生成等任务。我将其简单翻译如下，并附上英文对照原文

大模型在 NLP 任务中的出色表现确实为人工智能领域带来了新的发展和探索方向。语言作为思想的符号，是人类交流和表达的主要方式，因此理解和生成自然语言是通往通用人工智能（AGI）之路的一个重要方向。大模型的出现和不断优化，使得计算机能够更好地理解自然语言的含义和上下文，进而提供更准确、更自然的语言交互和信息处理。然而，要实现真正的通用人工智能，还需要解决许多挑战和问题，例如：如何将机器学习模型从“短期记忆”转变为“长期记忆”，如何让机器具备更深入的理解和推理能力，以及如何解决数据隐私和安全等问题。

ChatGPT虽然强大，但在国内的政策下，真要落地数据安全才是最重要的，Meta AI 发布的 LLaMA 让大家看到在相对较小的模型上使用大规模数据集训练并达到较好性能的曙光，笔者也第一时间使用 Docker 和 Alpaca LoRA 对 LLaMA 7B 大模型进行 Fine-Tune，内部使用达到预期效果。下面将该过程使用到的背景资料进行整理，为想私有化落地的朋友作为参考！

OpenAI的接口文档十分详细，包括对话补全，文本补全，代码补全等等信息，也包含了最佳生产实践，最佳安全实践等篇章，通读之后十分受用，推荐大家前往阅读。本文就是在接口文档的基础上，将常见的三种OpenAI 接口套壳应用代码展示出来，以帮助读者实现自己的工具。