The Connector 周刊#9:LLM 的对齐问题和网络安全

The Connector 每周会选取我从信息流里获取的有价值内容,包括 AI 探索专题、Github 开源库推荐、工具介绍和一些文章书籍等,目标是链接互联网上的优质内容,获得更多的灵感和知识,从而激发彼此的创造力。

我的新书《LangChain编程从入门到实践》 已经开售!推荐正在学习AI应用开发的朋友购买阅读!
LangChain编程从入门到实践

AI 探索

  1. LLM 军备竞赛:关于 Anthropic 创始人 Dario Amodei 2 小时访谈的一些看法:Anthropic 创始人 Dario Amodei 关于大型语言模型的发展、对齐问题和网络安全等话题的看法。
  2. 大模型赛道的技术和应用分析
  3. Y Combinator 最新一期 AI 项目盘点,一文读懂海外最前沿的 AI 创业方向| Hello Tech
  4. AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation Framework:宾夕法尼亚州立大学,微软和华盛顿大学提出的一种使用多个可对话智能体构建 LLM 应用的框架。其具体步骤: (1) 定义可自定义、可对话的智能体,集成 LLM、人类角色和工具。(2) 实现智能体之间的对话交流,支持自动聊天。(3) 支持多种对话模式,如交流自主性、智能体数量、拓扑结构等。(4) 构建多个工作系统,覆盖广泛领域和复杂程度,证明 AutoGen 的灵活性。

开源推荐

  1. devops-exercises:一个运维相关的知识库,包括 2624 个练习和问题,满足 DevOps 知识的差缺补漏,学习一些这里面的内容挺好的,包括 Linux,Jenkins,AWS,SRE,Prometheus,Docker,Python,Ansible 等知识。
  2. ROOP:只需一张照片就可以生成完成逼真的照片和视频,作者发现滥用后,已不再维护,可以看看代码实现
  3. OpenLLM:一个自托管开源 LLM 的框架,可以通过 HTTP 或者 gRPC 的方式向外提供接口
  4. gorilla:Gorilla 使 LLM 能够通过调用 API 来使用工具。给定一个自然语言查询,Gorilla 会提出语义和语法上正确的 API 来调用。

工程师工具

  1. Upscayl:AI 放大工具,而且还是开源,同时支持跨平台,速度快,支持批量放大
  2. applite 是一个利用 Homebrew Casks 做 GUI 的 MacOS 应用管理软件,它对于不喜欢使用命令行的小伙伴很友好。
  3. Abacus AI:一套整套解决方案,允许用户只需提供文档和评估数据集,就能自动创建出效果最佳的 AI 聊天机器人。
  4. VisuAlgo:一个互动式的图形可视化学习数据结构与算法网站。

值得一看

  1. 《计算之魂》:作者将人文历史与计算机科学相结合,通过一些具体的例题,分 10 个主题系统地讲解了计算机科学的精髓。自然语言,数学和计算机科学作为三大通用工具,是构建认知世界框架的基础,这本书让我对此更加笃定。

The Connector 周刊#9:LLM 的对齐问题和网络安全

https://liduos.com/the-connector-weekly-09.html

作者

莫尔索

发布于

2023-08-20

更新于

2024-05-24

许可协议

评论