1.‘llamafactory-cli’ 不是内部或外部命令,也不是可运行的程序 或批处理文件。
bash: llamafactory-cli: command not found #3568
解决方法:
cd 你路径下的\LLaMA-Factory
# 重新安装依赖
pip install -e .[metrics]
2. Cannot open data\dataset_info.json due to [Errno 2] No such file or directory: ‘data\dataset_info.json’. Cannot open data\dataset_info.json due to [Errno 2] No such file or directory: ‘data\dataset_info.json’. #2116
解决方法:
# 需要在LLaMA-Factory这个目录下运行webui
cd 你路径下的\LLaMA-Factory
python src/webui.py
3. 微调合并之后,加载模型报错AttributeError: can't set attribute
作者这里用的chatglm2和chatglm3。解决方法:
把原chatglm的模型文件中除了 bin 和 pytorch_model.bin.index.json 以外的文件全部复制到导出模型文件的目录中,并且覆盖
总结
本文总结了在使用LLaMA-Factory(一个基于LLaMA或类似模型的语言模型工厂项目)时可能遇到的三个常见问题及相应的解决方法。### 问题一:'llamafactory-cli' 命令未找到
- **问题描述**:当用户尝试执行 `llamafactory-cli` 命令时,系统提示该命令不存在。
- **解决方法**:
1. 确认当前工作目录是LLaMA-Factory项目的根目录。
2. 重新安装项目所需的依赖,包括可能针对特定功能的额外依赖(如metrics)。使用命令 `pip install -e .[metrics]` 在项目根目录下执行。
### 问题二:无法打开 `data\dataset_info.json` 文件
- **问题描述**:在执行某些操作时,程序尝试访问 `data\dataset_info.json` 但发现该文件不存在。
- **解决方法**:
1. 导航到LLaMA-Factory项目的根目录。
2. 确保在启动的是Web用户界面(webui)时,当前工作目录是正确的。使用命令 `python src/webui.py` 来启动webui界面,并确保此命令在LLaMA-Factory项目的根目录下执行。
### 问题三:微调合并后加载模型时的 `AttributeError`
- **问题描述**:当使用chatglm2或chatglm3模型完成微调合并后,加载模型时遇到 `AttributeError: can't set attribute` 错误。
- **解决方法**:
- 从原始的chatglm模型文件夹中,除了 `bin` 文件和 `pytorch_model.bin.index.json` 之外,将所有的文件复制到微调并导出后的模型文件夹中。执行此操作时,若文件名有重复,确保覆盖原有文件。通过这种方式,可以解决因文件缺失或不一致导致的加载错误。
总结以上内容,解决这三个问题主要依赖于确保操作在当前项目根目录下进行、重新安装必要的依赖项,以及确保文件完整性和一致性。这些问题多由于路径错误、依赖未正确安装或文件不完整引起,通过上述步骤可有效解决。