File size: 1,094 Bytes
40481cf 9dd4e9f 40481cf b326226 40481cf fd5e313 40481cf 9dd4e9f |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 |
---
license: mit
language:
- zh
---
### 模型说明
#### 基于RWKV6-v2.1-3B基底模型微调的进行pissa微调的chat模型,此模型开箱即用,无需过多准备
#### 使用ChatGLM4基于[优美的中国话](https://huggingface.co/datasets/Seikaijyu/Beautiful-Chinese)语料进行异构,使单轮语料成为多轮语料,并进行了大量清洗后得到了2632条多轮对话数据集后训练的模型
#### 此模型仅微调了Assistant对话,无任何额外数据微调,但是经过测试,语料对其它角色有一定的泛化作用
#### 效果如下:
![image/png](https://cdn-uploads.huggingface.co/production/uploads/6417b108b03817ada6444bb8/KyPxh5yjQszaEgDEc-DXO.png)
![image/png](https://cdn-uploads.huggingface.co/production/uploads/6417b108b03817ada6444bb8/eoLDGEX6xqyWzU2oswLkp.png)
![image/png](https://cdn-uploads.huggingface.co/production/uploads/6417b108b03817ada6444bb8/Q5FmKi3iLK5vZF7ykFZZF.png)
推荐参数如下:
##### Temperature=1-3之间
##### Top_P=0.55-0.65之间
##### Presence Penalty=0.4-0之间
##### Frequency Penalty=0.4-1.2之间 |