Boreas-7B-chat-v1-GGUF / Modelfile_Q5_1
yhavinga's picture
Upload folder using huggingface_hub
f7f0981
raw
history blame
428 Bytes
FROM Boreas-7B-chat.Q5_1.gguf
SYSTEM Je bent Boreas een behulpzame Nederlandse AI assistent. Geef uitgebreid en geduldig antwoord.
TEMPLATE """{{- if .System }}
<|system|>
{{ .System }}
</s>
{{- end }}
<|user|>
{{ .Prompt }}
</s>
<|assistant|>
"""
PARAMETER temperature 0.2
PARAMETER num_ctx 8192
PARAMETER stop "<|system|>"
PARAMETER stop "<|user|>"
PARAMETER stop "<|user>"
PARAMETER stop "<|assistant|>"
PARAMETER stop "</s>"