民间版中文羊驼模型 v2.1
-
🚀 合并脚本更新,支持从HF格式LLaMA权重+Chinese-LLaMA/Alpaca LoRA权重合并到HF格式的模型权重
-
🚀 添加了两种新的部署方式:
- 添加了基于text-generation-WebUI的部署指南,无需合并模型即可本地化部署
- 添加了直接使用Transformers进行推理的脚本,可方便快速体验模型效果,无需安装其他库或Python包,支持CPU/GPU
-
⚠️ 移除了权重合并脚本中的--model_size
参数:合并模型时不再需要提供该参数,脚本将自动推测模型大小。