阿里大模型"再掀波澜，王炸新品震撼来袭！

阿里大模型又双叒叕开源了：刚刚，Qwen2 宣布开源！

不到一年时间，阿里云通义千问先后开源近 10 款不同尺寸的大语言模型，之前开源的 Qwen 系列 72B、110B 模型就曾多次登顶 HuggingFace 的 Open LLM Leaderboard 开源模型榜单。

今天，Qwen2 更是在发布后两个小时，就被 HuggingFace 联合创始人发推宣布:

Qwen2-72B 冲上 HuggingFace 开源大模型榜单 Open LLM Leaderboard 第一名，全球排名最高！

性能强劲、使用免费，我第一时间就去研究了技术报告，以及如何使用。本文将手把手教你如何在自己电脑本地上跑最新的 Qwen2 模型，Windows、MacOS 系统都支持。

01
这次开源了啥？

Qwen2 开源了多个不同尺寸的模型，包括 Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B

Qwen2-72B 在包括自然语言理解、知识、代码、数学及多语言等多项能力上均显著超越当前领先的模型，比如开源界的国际标杆 Llama-3-70B。

小模型方面，Qwen2 系列模型基本能够超越同等规模的最优开源模型甚至更大规模的模型。

02
手把手教你部署 Qwen2

使用之前推荐过的开源工具：Ollama，这是一个用来本地部署和运行大模型的工具。看到 GitHub 上这么多开源的大模型，不要眼馋。使用 Ollama 就能实现在你的电脑本地上运行大模型。

如下分别是 MacOS 和 Windows 系统的部署最新阿里通义千问大模型的教程。

MacOS 部署 Qwen2 模型教程

1. 官网搜索 Ollama ，然后下载对应你操作系统的版本

2. 安装后运行 Ollama，点击 install 即可

3. 去打开你的终端 terminal ，输入如下命令，就可以下载并部署大模型了

ollama run qwen2:1.5b

注意，1.5b 是模型的尺寸，你可以替换成任何的开源尺寸。比如 qwen2:72b 就是参数量比较大的模型，只不过下载时间比较长。

4. 输入命令后，模型开始下载：

5. 模型下载部署完成：

6. 开始使用大模型：

Windows 操作系统部署 Qwen2 模型教程

1. 前往 Ollama 下载 Windows 版本安装文件

2. 然后运行下载的 OllamaSetup.exe 文件

3. 去下载部署最新的通义千问大模型

你只需要 win键+R 输入 cmd 打开你的命令行，然后输入如下命令。就开始下载这个大模型了

ollama run qwen2:72b

你只需等待下载完成，进行安装部署。

03
测测 Qwen2 模型效果

1️⃣ 请用数学原理、公式、符号等为我创作一首数学情诗。必须包含如下关键词：π、love、996

2️⃣ 将如下翻译成英文：谬赞、桃花源、献丑、发嗲、噱头、嘴替、显眼包、奥里给、躺赢、阴阳怪气、我裂开了

推荐长按图片翻译，对比前后翻译结果。Qwen2 的翻译结果绝了，不仅输出了拼音，而且每一个词都翻译的很好。比如桃花源翻译成乌托邦；奥利给翻译成经常被用来表示赞同或鼓励。

3️⃣ 推理问题

输入事件:医生告诉他不要担心。基本上没有病变严重。

问题:请从下面选择输入事件的原因

选项1:小名在回家的路上遇到了一个奥利里。

选项2:小名的父亲被查出患有视网膜母细胞瘤。

04
开源地址

现在，Qwen2 系列模型均已开源在 Hugging Face 和ModelScope上。后续，阿里云通义千问会把 Qwen2 扩展成多模态模型，融入视觉及语音的理解。期待住了！

开源地址：https://github.com/QwenLM/Qwen2 开源社区：https://huggingface.co/Qwen