The Connector 周刊#9：LLM 的对齐问题和网络安全

The Connector 每周会选取我从信息流里获取的有价值内容，包括 AI 探索专题、Github 开源库推荐、工具介绍和一些文章书籍等，目标是链接互联网上的优质内容，获得更多的灵感和知识，从而激发彼此的创造力。

我的新书《LangChain编程从入门到实践》 已经开售！推荐正在学习AI应用开发的朋友购买阅读！

AI 探索

1. LLM 军备竞赛：关于 Anthropic 创始人 Dario Amodei 2 小时访谈的一些看法：Anthropic 创始人 Dario Amodei 关于大型语言模型的发展、对齐问题和网络安全等话题的看法。
2. 大模型赛道的技术和应用分析
3. Y Combinator 最新一期 AI 项目盘点，一文读懂海外最前沿的 AI 创业方向｜ Hello Tech
4. AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation Framework：宾夕法尼亚州立大学，微软和华盛顿大学提出的一种使用多个可对话智能体构建 LLM 应用的框架。其具体步骤: (1) 定义可自定义、可对话的智能体,集成 LLM、人类角色和工具。(2) 实现智能体之间的对话交流,支持自动聊天。(3) 支持多种对话模式,如交流自主性、智能体数量、拓扑结构等。(4) 构建多个工作系统,覆盖广泛领域和复杂程度,证明 AutoGen 的灵活性。

开源推荐

1. devops-exercises：一个运维相关的知识库，包括 2624 个练习和问题，满足 DevOps 知识的差缺补漏，学习一些这里面的内容挺好的，包括 Linux，Jenkins，AWS，SRE，Prometheus，Docker，Python，Ansible 等知识。
2. ROOP：只需一张照片就可以生成完成逼真的照片和视频，作者发现滥用后，已不再维护，可以看看代码实现
3. OpenLLM：一个自托管开源 LLM 的框架，可以通过 HTTP 或者 gRPC 的方式向外提供接口
4. gorilla：Gorilla 使 LLM 能够通过调用 API 来使用工具。给定一个自然语言查询，Gorilla 会提出语义和语法上正确的 API 来调用。

工程师工具

1. Upscayl：AI 放大工具，而且还是开源，同时支持跨平台，速度快，支持批量放大
2. applite 是一个利用 Homebrew Casks 做 GUI 的 MacOS 应用管理软件，它对于不喜欢使用命令行的小伙伴很友好。
3. Abacus AI：一套整套解决方案，允许用户只需提供文档和评估数据集，就能自动创建出效果最佳的 AI 聊天机器人。
4. VisuAlgo：一个互动式的图形可视化学习数据结构与算法网站。

值得一看

1. 《计算之魂》：作者将人文历史与计算机科学相结合，通过一些具体的例题，分 10 个主题系统地讲解了计算机科学的精髓。自然语言，数学和计算机科学作为三大通用工具，是构建认知世界框架的基础，这本书让我对此更加笃定。