1.官网.pth格式
去官网(Download Llama (meta.com))申请
具体可以看这个B站视频
Llama2模型申请与本地部署详细教程_哔哩哔哩_bilibili(视频是llama2,下载llama3是另外一个git)
相关代码如下
git clone https://github.com/meta-llama/llama3.git
然后进入文件夹
打开git
输入
./download.sh
然后输入申请到的链接
不出意外的话,会报403错误
具体如下:
Enter the list of models to download without spaces (8B,8B-instruct,70B,70B-instruct), or press Enter for all: 8B-instruct
Downloading LICENSE and Acceptable Usage Policy
--2024-08-21 09:57:00-- https://download6.llamameta.net/LICENSE?Policy=eyJTdGF0ZW1lbnQiOlt7InVuaXF1ZV9oYXNoIjoiN2JqYmFna21vN3ViMXl2M2hoZmdxcWZsIiwiUmVzb3VyY2UiOiJodHRwczpcL1wvZG93bmxvYWQ2LmxsYW1hbWV0YS5uZXRcLyoiLCJDb25kaXRpb24iOnsiRGF0ZUxlc3NUaGFuIjp7IkFXUzpFcG9jaFRpbWUiOjE3MjQyOTE3NjR9fX1dfQ__&Signature=CapUGH9ZrwAC~Stwo4~mb6m0J6NurxMRXcnvt09NEMF~QlcoczvXDCGsM6puvmb1F2WBwcxQbYHx6WOlW3uw8011NepgO6vQZtw425XC7jMX2PpCey6LYB497ZqSbX8yNF5JPJGGKq~fMBPKdM5LKSJGlotg9~wjUjpzeAIJlleaR7WMgjlYQOVPoQa92rG9XulUw21Psbp5cEEihifqDjfezgbpAC5xZ1ZLYnkwddk7Q98PaoabKLYNWoKXu5KhcStCicvB2tee1g~5MJTGCgenJENt6TINLRUk15zdnnP1ZB8zv8-6z5wqhlhrv7DTlcEEoIO0Mm0n9hk~zc1SZw__&Key-Pair-Id=K15QRJLYKIFSLZ&Download-Request-ID=2031245347334530
Resolving download6.llamameta.net (download6.llamameta.net)... 65.8.11.40, 65.8.11.126, 65.8.11.54, ...
Connecting to download6.llamameta.net (download6.llamameta.net)|65.8.11.40|:443... connected.
HTTP request sent, awaiting response... 403 Forbidden
2024-08-21 09:57:01 ERROR 403: Forbidden.
--2024-08-21 09:57:01-- https://download6.llamameta.net/LICENSE?Policy=eyJTdGF0ZW1lbnQiOlt7InVuaXF1ZV9oYXNoIjoiN2JqYmFna21vN3ViMXl2M2hoZmdxcWZsIiwiUmVzb3VyY2UiOiJodHRwczpcL1wvZG93bmxvYWQ2LmxsYW1hbWV0YS5uZXRcLyoiLCJDb25kaXRpb24iOnsiRGF0ZUxlc3NUaGFuIjp7IkFXUzpFcG9jaFRpbWUiOjE3MjQyOTE3NjR9fX1dfQ__&Signature=CapUGH9ZrwAC%7EStwo4%7Emb6m0J6NurxMRXcnvt09NEMF%7EQlcoczvXDCGsM6puvmb1F2WBwcxQbYHx6WOlW3uw8011NepgO6vQZtw425XC7jMX2PpCey6LYB497ZqSbX8yNF5JPJGGKq%7EfMBPKdM5LKSJGlotg9%7EwjUjpzeAIJlleaR7WMgjlYQOVPoQa92rG9XulUw21Psbp5cEEihifqDjfezgbpAC5xZ1ZLYnkwddk7Q98PaoabKLYNWoKXu5KhcStCicvB2tee1g%7E5MJTGCgenJENt6TINLRUk15zdnnP1ZB8zv8-6z5wqhlhrv7DTlcEEoIO0Mm0n9hk%7Ezc1SZw__&Key-Pair-Id=K15QRJLYKIFSLZ&Download-Request-ID=2031245347334530
Reusing existing connection to download6.llamameta.net:443.
HTTP request sent, awaiting response... 403 Forbidden
2024-08-21 09:57:01 ERROR 403: Forbidden.
这是因为对方屏蔽了你的地址(下载llama3出现ERROR 403: Forbidden解决方案_llama3 403-CSDN博客
llama3模型部署时遇到的问题及解决方案_llama3 403-CSDN博客
下载llama3出现ERROR 403: Forbidden解决方案_llama3 403-CSDN博客)
需要不停的更换节点,一直到合适为止
下载后是.pth模型
转换为safetensors格式(hugging face版本)
import torch
from safetensors.torch import save_file
# 1. 加载 .pth 文件
pth_file_path = 'consolidated.00.pth'
model_state_dict = torch.load(pth_file_path)
# 2. 保存为 .safetensors 文件
safetensors_file_path = 'model.safetensors'
save_file(model_state_dict, safetensors_file_path)
2.申请safetensors格式(hugging face版本)
meta-llama/Meta-Llama-3.1-8B-Instruct · Hugging Face
每个账号只能填一次申请表,只要国家填了中国,目前是百分百被拒绝(试了三个号,地址写中国都被拒)。填写之后无法更改。
相关链接(https://huggingface.co/meta-llama/Meta-Llama-3-8B/discussions/124)
有好心人号称上传了GGUF格式
相关链接:https://huggingface.co/JaaackXD
核心方法,切换为别的国家ip地址,然后填写别的国家,申请经过一段较长时间(大概10-30分钟),差不多就能通过。
总结
**文章总结**:本文详细介绍了如何获取并处理Llama 3语言模型的过程,主要分为两部分:官网下载`.pth`格式文件和申请Hugging Face版本的`safetensors`格式文件。
### 1. 官网下载`.pth`格式文件
- **步骤概述**:前往meta.com官网申请,参考B站视频教程进行本地部署。特别注意llama2和llama3模型下载地址可能有差异。
- **技术细节**:
- 克隆GitHub仓库`meta-llama/llama3`。
- 执行`./download.sh`脚本并输入申请到的模型链接。
- 可能遇到的问题是403 Forbidden错误,通常由于IP地址被屏蔽,解决方法是不断更换网络节点直至成功。
- 成功下载后,`.pth`文件需转换为`.safetensors`格式以便与Hugging Face兼容。
- **代码示例**:使用PyTorch和safetensors库进行转换。
### 2. 申请Hugging Face版本的`safetensors`格式文件
- **限制条件**:中国用户填写申请表时,若国籍选择中国,则申请极有可能被拒绝。
- **解决方案**:
- 切换至其他国家IP地址,并在申请时选择其他国家。
- 填表后等待审核,过程可能需要10-30分钟。
- 注意:每个账号仅限提交一次申请,且无法修改已提交的信息。
- **替代方式**:查找已上传的GAAF格式或其他非官方源的模型文件,例如通过Hugging Face上的公共共享链接(如`https://huggingface.co/JaaackXD`)。
**总结**:本文指导用户如何通过官网和Hugging Face获取Llama 3模型文件,同时提供了解决特定问题(如IP屏蔽、国籍限制)的方法和替代方案。