shibing624
commited on
Commit
•
4d4f85b
1
Parent(s):
e97a9ff
Update README.md
Browse files
README.md
CHANGED
@@ -27,8 +27,9 @@ widget:
|
|
27 |
- 评测结果显示,Alpaca-Plus-7B相比基础版Alpaca-7B效果更优,部分任务接近或超过13B版本
|
28 |
- 这一轮比拼:7B获得65.3分,13B获得70.9分,Plus-7B效果75.3分,具体评测结果请参考[效果评测](https://github.com/ymcui/Chinese-LLaMA-Alpaca/blob/main/examples/README.md)
|
29 |
|
30 |
-
本模型是`原生LLaMA-7B`合并`中文LLaMA LoRA`和`中文Alpaca LoRA
|
31 |
|
|
|
32 |
|
33 |
test case:
|
34 |
|
@@ -140,16 +141,17 @@ chinese-alpaca-plus-7b-hf
|
|
140 |
|
141 |
硬件要求:14G显存
|
142 |
|
143 |
-
###
|
|
|
144 |
|
145 |
1. 50万条中文ChatGPT指令Belle数据集:[BelleGroup/train_0.5M_CN](https://huggingface.co/datasets/BelleGroup/train_0.5M_CN)
|
146 |
2. 100万条中文ChatGPT指令Belle数据集:[BelleGroup/train_1M_CN](https://huggingface.co/datasets/BelleGroup/train_1M_CN)
|
147 |
3. 5万条英文ChatGPT指令Alpaca数据集:[50k English Stanford Alpaca dataset](https://github.com/tatsu-lab/stanford_alpaca#data-release)
|
148 |
-
4.
|
149 |
5. 69万条中文指令Guanaco数据集(Belle50万条+Guanaco19万条):[Chinese-Vicuna/guanaco_belle_merge_v1.0](https://huggingface.co/datasets/Chinese-Vicuna/guanaco_belle_merge_v1.0)
|
150 |
|
151 |
|
152 |
-
如果需要训练
|
153 |
|
154 |
|
155 |
## Citation
|
|
|
27 |
- 评测结果显示,Alpaca-Plus-7B相比基础版Alpaca-7B效果更优,部分任务接近或超过13B版本
|
28 |
- 这一轮比拼:7B获得65.3分,13B获得70.9分,Plus-7B效果75.3分,具体评测结果请参考[效果评测](https://github.com/ymcui/Chinese-LLaMA-Alpaca/blob/main/examples/README.md)
|
29 |
|
30 |
+
本模型是`原生LLaMA-7B`合并`中文LLaMA LoRA`和`中文Alpaca LoRA`后的模型权重`chinese-alpaca-plus-7b-hf`,并转化为HuggingFace版本权重(.bin文件),可以直接使用或者继续训练。
|
31 |
|
32 |
+
13b-hf权重链接:https://huggingface.co/shibing624/chinese-alpaca-plus-13b-hf
|
33 |
|
34 |
test case:
|
35 |
|
|
|
141 |
|
142 |
硬件要求:14G显存
|
143 |
|
144 |
+
### 微调数据集
|
145 |
+
我整理部分公开微调数据集:
|
146 |
|
147 |
1. 50万条中文ChatGPT指令Belle数据集:[BelleGroup/train_0.5M_CN](https://huggingface.co/datasets/BelleGroup/train_0.5M_CN)
|
148 |
2. 100万条中文ChatGPT指令Belle数据集:[BelleGroup/train_1M_CN](https://huggingface.co/datasets/BelleGroup/train_1M_CN)
|
149 |
3. 5万条英文ChatGPT指令Alpaca数据集:[50k English Stanford Alpaca dataset](https://github.com/tatsu-lab/stanford_alpaca#data-release)
|
150 |
+
4. 5万条中文GPT4指令Alpaca数据集:[shibing624/alpaca-zh](https://huggingface.co/datasets/shibing624/alpaca-zh)
|
151 |
5. 69万条中文指令Guanaco数据集(Belle50万条+Guanaco19万条):[Chinese-Vicuna/guanaco_belle_merge_v1.0](https://huggingface.co/datasets/Chinese-Vicuna/guanaco_belle_merge_v1.0)
|
152 |
|
153 |
|
154 |
+
如果需要训练LLaMA模型,请参考[https://github.com/shibing624/textgen](https://github.com/shibing624/textgen)
|
155 |
|
156 |
|
157 |
## Citation
|