1、中文问答还是不好,希望增加多点中文训练。2、gguf强烈需要Q5、Q6、Q8,因为目前要么Q4太小,要么f16太大。3、加入视觉小模型后,加载失败。
感谢回馈, 我们会进一步加强模型能力.另外,对于问题三可以详细介绍使用环境和代码吗, 这对我们复现出问题很关键.
· Sign up or log in to comment