Seikaijyu's picture
Update README.md
fd5e313 verified
---
license: mit
language:
- zh
---
### 模型说明
#### 基于RWKV6-v2.1-3B基底模型微调的进行pissa微调的chat模型,此模型开箱即用,无需过多准备
#### 使用ChatGLM4基于[优美的中国话](https://huggingface.co/datasets/Seikaijyu/Beautiful-Chinese)语料进行异构,使单轮语料成为多轮语料,并进行了大量清洗后得到了2632条多轮对话数据集后训练的模型
#### 此模型仅微调了Assistant对话,无任何额外数据微调,但是经过测试,语料对其它角色有一定的泛化作用
#### 效果如下:
![image/png](https://cdn-uploads.huggingface.co/production/uploads/6417b108b03817ada6444bb8/KyPxh5yjQszaEgDEc-DXO.png)
![image/png](https://cdn-uploads.huggingface.co/production/uploads/6417b108b03817ada6444bb8/eoLDGEX6xqyWzU2oswLkp.png)
![image/png](https://cdn-uploads.huggingface.co/production/uploads/6417b108b03817ada6444bb8/Q5FmKi3iLK5vZF7ykFZZF.png)
推荐参数如下:
##### Temperature=1-3之间
##### Top_P=0.55-0.65之间
##### Presence Penalty=0.4-0之间
##### Frequency Penalty=0.4-1.2之间