腾讯基于 LLM 的智能数据分析平台 OlaChat 的落地实践

全文概述

腾讯基于大语言模型（LLM）的智能数据分析平台OlaChat，通过自然语言交互简化数据分析流程，降低用户技术门槛。文章探讨了从传统BI到智能BI的转变、LLM对数据智能分析的影响及OlaChat的具体实现与应用。

从传统BI到智能BI

传统BI存在效率低下和沟通成本高的问题，而敏捷分析虽然提高了数据分析的便捷性，但仍有学习成本。随着LLM的发展，智能BI应运而生，通过自然语言处理和逻辑推理能力，使数据分析更加直观和高效。

LLM时代智能BI的新可能

LLM的发展显著提升了自然语言理解和生成能力，使得数据分析变得更加人性化。通过将用户的自然语言指令转化为工具调用或代码生成，LLM不仅降低了技术门槛，还增强了逻辑推理和学习能力，为数据智能分析提供了新的机遇。

腾讯OlaChat智能BI平台落地实践

OlaChat平台利用多任务对话系统、任务编排引擎和AI+BI工具箱等核心技术模块，提供高效的数据分析服务。该平台通过统一LLM调度机制和元数据检索增强功能，解决了结构化数据检索难题，并实现了高质量Text2SQL模型的开发。

问答环节

在问答环节中，分享了关于取数模型大小、归因准确率、SQL纠错和解读等问题的解决方案。例如，取数模型采用8B模型，NL2SQL则使用70B模型进行微调；归因准确率依赖于外部数据和大模型的结合。

Text2SQL之外

除了Text2SQL功能外，OlaChat还支持改写、纠错、优化、解读等多种需求，通过构建多个智能体辅助用户进行数据智能分析，提升整体效率和效果。