NVIDIA 发布“Chat with RTX”的工具，Windows用户可自主训练ai

NVIDIA 最近发布了一款名为「Chat with RTX」的免费技术演示工具，首次将基于NVIDIA RTX的生成式AI技术带入本地Windows个人电脑中，让用户能够快速定制聊天机器人体验。

Chat with RTX 工具利用 NVIDIA 的 TensorRT-LLM 软件和 RTX 加速技术，并结合了文档检索增强生成（RAG），使得用户能够在自己的PC上执行生成式AI应用。用户只需拥有一块 GeForce RTX 30系列或更高端的显卡，并确保显卡至少有8GB的显存（VRAM），就可以激活并使用这项功能。

用户能够便捷地将个人电脑中的本地文件作为数据集，连接到开源的大型语言模型（例如Mistral或Llama 2），从而迅速获得相关的答案。例如，当用户提出问题“我的伴侣在拉斯维加斯推荐的餐厅有哪些？”时，Chat with RTX将自动检索指定的本地文件，并给出包含上下文的答复。

支持多种文件格式和视频处理

这款工具支持多种文件格式，包括.txt、.pdf、.doc/.docx和.xml等，用户只需将文件资料夹指向应用程序，便能迅速加载数据。此外，它还支持整合YouTube视频内容，用户只需输入视频网址，就能将视频信息纳入问答内容中，例如根据旅游博主的推荐来规划行程，或者从教育资源中快速获取教学指南。

本地运作安全保障

Chat with RTX 在用户自己的设备上运行，避免了将数据上传到云端，这不仅加快了响应速度，还保护了用户的隐私，特别适合处理敏感信息。此外，该应用无需联网即可使用，进一步提高了使用的便捷性和数据的安全性。