如何提高 LLM 可靠性和稳定性?开源项目 guidance 分享

在复杂的 LLM 应用开发中,特别涉及流程编排和多次 LLM 调用时,每次的 Prompt 设计都取决于前一个步骤的大模型输出。如何避免大语言模型的”胡说八道”,以提高大语言模型输出的可靠性和稳定性,成为一个具有挑战性的问题。在开发应用的过程中,我发现了微软推出的开源项目 guidance,能够很好地解决这一繁琐问题,本篇文章对此进行详细说明。

阅读更多

免费的 PaaS 平台汇总

基于大语言模型构建的应用想要进行快速展示,相比自行搭建云服务器环境,使用一个成熟的 PaaS 平台,辅以集成的开发工具,不仅降低部署难度,也让 LLM 应用的开发者脱离底层细节,更能把精力放在创新应用上,加速从原型到上线的过程。本文将探讨几个带有免费计划的 PaaS 平台及其优缺点,为 LLM 应用开发者提供一份参考。

阅读更多

记录智能阅读助手 ReaderGPT 开发过程

这篇文章是关于智能阅读助手 ReaderGPT 开发过程的记录,尽管本地玩了很多项目 demo,AutoGPT、JARVIS (HuggingGPT) 、知识库之类的,但一直未正式开发一个端到端服务。直到上个月申请到 Azure OpenAI,我想是时候开发一个完整的应用了,可以给朋友直接上手使用,并且确实可以大幅节省时间的工具,所以才有了这个和信息处理相关的智能阅读助手,我将从需求思考,应用架构,功能特性及后续迭代计划四部分来进行说明。

阅读更多

AutoChain 与 LangChain 比较

我的从零开始学 LangChain系列还没更完,感觉就要快被策反了 🤣,最近炒的很火的 我为什么放弃了 LangChain?,算是代表社区和广大开发者进行了一次大吐槽。LangChain 确实和 OpenAI 耦合的太紧导致扩展性较差,也存在过度封装以及调试困难的问题,但我的观点是在更成熟的框架出来之前,刚开始接触 LLM 应用开发的同学还是应该看看 Langchain,它运用 Prompt Engineering 的思想很值得借鉴,不过 LLM 应用开发的老司机确实该换工具了 🤡,这篇就给大家介绍下这款号称要替代 LangChain 的 AutoChain

阅读更多

The Connector 周刊#5:找不到工作的应届生

The Connector每周会选取我从信息流里获取的有价值内容,包括但不限于小众产品介绍、AI应用探索、Github开源库推荐以及论坛社区的优质文章等,目标是链接互联网上的优质内容,获得更多的灵感和知识,从而激发彼此的创造力。

阅读更多