7
17
两个 YYDS 的 GitHub 项目，哪个你用过？
2025-11-18 10:00:21
0点赞
0收藏
0评论
01AI 智能体打造记忆系统：CogneeCognee 是一个专为 AI 智能体设计的内存管理系统，想解决 AI 应用中的知识管理和记忆持久化问题。该项目采用创新的 ECL 流水线架构，包含提取、认知化、加载三个核心阶段，现在已经 8K 的 Star 了。
在技术实现上，Cognee 通过将文档内容转化为知识图谱和向量表示相结合的方式，构建了一个动态记忆系统。与传统的 RAG 系统相比，这种基于图谱的架构能够更好地捕捉信息之间的关联性，为 AI 智能体提供更丰富的上下文理解能力。项目支持本地化运行，所有数据默认存储在你电脑上，确保了数据隐私和安全。
开源地址：https://github.com/topoteretes/cognee
02突破算力限制：ktransformers突破算力限制，这个开源框架让普通电脑也能运行 6700 亿参数大模型。现在 15K 的 Star 了。
KTransformers 最初是一个集成式框架，现已演进为两个核心模块：kt-kernel 和 KT-SFT，分别专注于推理优化和微调加速。kt-kernel 模块：是一个 CPU 优化的内核操作库，为异构 LLM 推理提供底层支持。它通过智能分配计算任务，实现了计算资源的最优利用。该模块特别针对 Intel CPU 的 AMX 和 AVX512/AVX2 指令集进行了深度优化，在保持精度的同时大幅提升推理速度。
KT-SFT 模块：则解决了大模型微调的资源瓶颈问题。通过与 LLaMA-Factory 的深度集成，只需 70GB GPU 内存和 1.3TB RAM 即可对 671B 参数的 DeepSeek-V3 模型进行 LoRA 微调，这在传统框架中是不可想象的。
开源地址：https://github.com/kvcache-ai/ktransformers
