“ 在你的电脑上运行一个强大的AI助手，它不仅能力超群，还把所有秘密都藏在你的硬盘里。好奇这是如何实现的吗？动动手，三分钟就可以完成LLaMA-3的本地部署！”
01
—
LLaMA-3
最近在试验检索增强生成（RAG）的项目，想试试换一个强点的模型试试看效果是否有改观，动手试了一下本地搭建一个私有大模型作为基模型，这次试试LLama3，下次搭阿里通义千问的Qwen2模型。
早在4月份，Meta开源了 LLaMA-3（Large Language Model Meta AI 3）， 在多个关键的基准测试中性能优于业界先进同类模型，其在代码生成等任务上实现了全面领先，能够进行复杂的推理，可以更遵循指令，能够可视化想法并解决很多微妙的问题。
主要亮点：
基于超过 15T token 训练，相当于 Llama 2 数据集的 7 倍还多；
支持 8K 长文本，改进的 tokenizer 具有 128K token 的词汇量，可实现更好的性能；
在大量重要基准中均具有最先进性能；
新能力范畴，包括增强的推理和代码能力；
带有 Llama Guard 2、Code Shield 和 CyberSec Eval 2 的新版信任和安全工具。
02
—
安装Ollama
Ollama 是一款在本地环境中运行和管理大型语言模型（LLMs）的开源工具。它为开发者、研究人员和爱好者提供了一个高效、易用的平台，能够快速实验、管理和部署最新的大语言模型。
技术特点与优势：
本地部署：Ollama 允许用户在本地启动并运行各种大型语言模型，如 Llama 2、CodeLLaMA、Falcon 和 Mistral 等。这不仅降低了使用大语言模型的门槛，还提高了数据隐私和安全性。
丰富的模型库：Ollama 提供了一个预构建的模型库，支持多种流行的大语言模型，包括 Qwen2、Llama3、Phi3 和 Gemma2 等。这些模型可以轻松集成到各种应用程序中，满足不同场景的需求。
易于使用的接口：Ollama 提供了类似于 OpenAI 的 API 接口和聊天界面，方便用户进行模型的部署和使用。此外，它还支持基于命令行的方式运行多种大语言模型，并提供了相应的 Python 和 JS SDK，方便实现 Chatbot UI。
可定制性：Ollama 具有高度的可定制性，允许用户创建和运行自定义的语言模型。
跨平台支持：Ollama 支持 macOS、Linux 和 Windows（预览版），并且可以在使用 Docker 快速部署。这大大增强了其适用性和灵活性。
安装环境：普通的联想台式机，无GPU。安装过程不需要科学上网。
Ollama 官方下载地址：https://ollama.com/download。根据自己的操作系统选择不同的版本。
Github 上也有Docker版本：https://github.com/ollama/ollama。
安装完成，查看版本，验证是否安装成功。
ollama -v03
—
下载模型
安装完成后可以直接下载内置的诸多开源模型，下面为内置的部分模型名称。
内存要求：至少8GB可用内存运行7B模型，16GB运行13B模型，32GB运行33B模型。
下载llama3:8b，冒号前面为模型名称，冒号后面型号，也是模型参数大小。
ollama pull llama3:8b运行模型：
ollama run llam3因为国外模型，默认回答英文，指定模型中文回复即可。
使用命令行显然很不方便，咱们使用 Docker 给大模型一个对话的 Web界面，使用下面命令启动 Open WebUI，注意修改 open-webui-data后面本地路径。前提：本地先安装好 Docker 服务。
docker run -p 8080:8080 -e OLLAMA_BASE_URL=http://host.docker.internal:11434 --name open-webui --restart always -v open-webui-data:/DATA/ ghcr.io/open-webui/open-webui:main经过漫长的拉取镜像过程后，显示了启动界面。
在浏览器地址栏输入 http://127.0.0.1:8080，第一次访问时需要注册用户登录后就可以看到类似Chat-GPT的聊天对话界面，对话之前，在左上角选择咱们刚下载好的llama3:latest。
通过web界面用中文询问同样的问题，就不需要向命令行交互那样，指定大模型使用中文回答。
提供对话生成的 API 服务
搭建本地模型目的是为了项目所用，所以我们还需要与 OpenAI 类似的对话生成的 API，使用前先点击设置 - Account，生成一个API Key，就可以用这个 Key 来调用 API了。
命令行的 curl 测试命令：
$ curl -X POST -H "Authorization: Bearer api key" -H "Content-Type: application/json" http://localhost:8080/ollama/api/generate -d '{"model":"llama3-cn:latest","stream":false,"prompt":"你是谁？你能做什么"}'
对话生成速度略显慢一点，实测时能看到一个字一个字往外蹦，开始回答上面的问题大约需要1～2秒，回答完估计在10秒左右。
到这里，我们有了一个无需GPU硬件资源，对话内容、文档数据等等都存储在本地，属于我们私有的大模型。
---
往期推荐：
北大荒寒地作物大模型使用说明
Vector | Graph：蚂蚁首个开源Graph RAG框架设计解读
Agent Hospital | 对话数据合成：清华利用多Agent合成大量医疗对话数据显著提升LLM在医疗场景效果
推荐一个金融分析的开源大模型项目FinGLM
6000字超详细复盘！《AI你·南京》AIGC城市宣传MV全流程制作解析
推荐三个搭建专有知识库+大模型智能助手开源项目
工程落地实践｜国产大模型 ChatGLM2-6B 阿里云上部署成功
教程｜使用免费GPU 资源搭建专属知识库 ChatGLM2-6B + LangChain
总结
本文详细介绍了如何在本地部署并运行一款功能强大的AI助手——LLaMA-3模型，及其通过Ollama工具实现的全过程。内容可概括为以下几点：1. **LLaMA-3 模型介绍**：
- **背景与优势**：介绍了Meta于4月份开源的LLaMA-3大模型，它在多个基准测试中性能卓越，尤其在代码生成、复杂推理和指令遵循等方面有显著优势。
- **主要亮点**：包括基于大规模数据集训练、支持超长文本输入、优越的性能、增强的推理和代码能力以及新的安全措施。
2. **Ollama工具与安装**：
- **功能概述**：Ollama是一个在本地部署和管理大型语言模型（LLMs）的开源工具，提供高效、易用的实验与管理平台。
- **技术特点**：支持本地部署、丰富的预构建模型库、易于使用的接口、高度可定制性以及跨平台支持，降低了使用大语言模型的门槛。
- **安装步骤**：提供了Ollama的安装指南，包括下载地址、安装环境和验证过程，强调无需GPU和特殊网络环境。
3. **下载与运行LLaMA-3模型**：
- **下载模型**：介绍了内存需求并展示了通过Ollama下载LLaMA-3模型（如llama3:8b）的命令。
- **运行模型**：提供了通过命令行运行模型和使用Docker创建Web界面的方法，后者提供了类似Chat-GPT的对话体验并便于集成中文支持。
- **API 服务**：介绍了如何通过设置API Key并使用命令行工具测试对话生成的API服务，虽速度稍慢但能满足基本交互需求。
4. **总结与展望**：
- 强调了在本地部署LLaMA-3模型的优势，如数据安全性和隐私控制，适合对项目有特殊需求的开发者或研究者。
- 推荐了相关的AIGC研究和实践项目链接，方便进一步学习和探索。
通过这篇教程，用户可以轻松完成从安装Ollama工具到部署并运行LLaMA-3模型的全过程，搭建一个属于自己的、功能全面的AI助手。