有没有fp16的版本，这个是 fp32的是吧。
#4
by
redauzhang
- opened
有没有fp16的版本，这个是 fp32的是吧。 如果要自己转换，可以用transformer转换么，是否有对应的操作教程
另外实际生产环境中如果有13b-fp16和 7b-fp32. 我们一般怎么抉择。
有没有fp16的版本，这个是 fp32的是吧。 如果要自己转换，可以用transformer转换么，是否有对应的操作教程
另外实际生产环境中如果有13b-fp16和 7b-fp32. 我们一般怎么抉择。