Kobold CPP로 돌릴 수가 없습니다
#1
by
netnk9151
- opened
Lm 스튜디오로 구동하려 해도 아키텍쳐를 지원하지 않는다면서 에러가 나네요. 혹시 도움 받을 수 있나 해서 질문 남깁니다.
llama cpp에서 exaone 모델의 지원은 8월 16일에 추가되었습니다. kobold cpp가 업데이트 되기를 기다리셔야 할 것 같습니다.
아니면 제가 이전에 만들었던 https://huggingface.co/Bingsu/exaone-3.0-7.8b-it/tree/main 이 버전을 사용해보세요.