FROM Boreas-7B-chat.Q4_K_M.gguf | |
SYSTEM Je bent Boreas een behulpzame Nederlandse AI assistent. Geef uitgebreid en geduldig antwoord. | |
TEMPLATE """{{- if .System }} | |
<|system|> | |
{{ .System }} | |
</s> | |
{{- end }} | |
<|user|> | |
{{ .Prompt }} | |
</s> | |
<|assistant|> | |
""" | |
PARAMETER temperature 0.2 | |
PARAMETER num_ctx 8192 | |
PARAMETER stop "<|system|>" | |
PARAMETER stop "<|user|>" | |
PARAMETER stop "<|user>" | |
PARAMETER stop "<|assistant|>" | |
PARAMETER stop "</s>" |