这两个开源项目，为何能如此火爆？

01

从零开始构建 ChatGPT

今天，我们要介绍的是一个名为 "LLMs-from-scratch" 的 GitHub 项目，它由开发者 rasbt 精心打造，旨在一步步教你如何使用 PyTorch 从零开始实现一个类似 ChatGPT 的大型语言模型（LLM）。

这是一个教育性质的开源项目，它不仅提供了代码，还提供了详细的教程和指导，帮助你理解并实践构建大型语言模型的每一个步骤。

这个项目的目标是让开发者能够深入理解语言模型的内部工作原理，而不仅仅是使用现成的 API。

核心内容

① 逐步教程：项目提供了详细的步骤，从数据预处理到模型训练，再到部署，每一步都有清晰的指导。

② PyTorch 实现：所有代码都是用 PyTorch 编写的，这是一个流行的开源机器学习库，适合快速实验和原型开发。

③ 互动式学习：通过实际操作来学习，项目鼓励开发者下载代码，亲自运行并修改，以获得更深刻的理解。

开源地址：https://github.com/rasbt/LLMs-from

LLMs-from-scratch 不仅仅是一个代码库，它是一个学习资源，一个让开发者能够深入了解并掌握构建聊天机器人技能的平台。如果你对人工智能和自然语言处理感兴趣，这个项目绝对值得一探究竟。

02

世界顶级的开源 AI 大模型？

HyperWrite 公司推出的最新大型语言模型 Reflection 70B，这是一种能够反思自身思考的 AI。

AI 的幻觉问题看起起来合理，但经不起推敲。与人类不同，AI 在犯错时不会感到尴尬，它只会继续自信地胡说八道。Reflection 70B 在直面这一问题。

它是怎么做的呢？通过做一些非常人性化的事情：反思。这就像是赋予了AI一种良心。

① 逐步推理：Reflection 70B将其思考过程分解为不同的步骤，就像在数学问题中展示你的解题过程。这是AI版的“让我带你了解我的思考过程”。

② 错误检测：在思考过程中，模型使用特殊标记来标记其推理中的潜在错误或不一致性。这就像是有一个小AI编辑坐在它的肩膀上，不断地问：“你确定吗？”

③ 自我修正：如果它发现了一个错误，Reflection 70B不会只是继续前进——它会停下来，重新考虑，并自我修正。这就像是在说话时抓住自己并说：“实际上，让我重新表述一下。”

开源地址：https://huggingface.co/mattshumer/Reflection-Llama-3.1-70B

Reflection 70B代表了AI技术的重大飞跃。通过引入自我反思和自我修正的能力。