File size: 279 Bytes
0edcdcd |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
FROM ./geitje-7b-ultra-q3_k_m.gguf
TEMPLATE """{{- if .System }}
<|system|>
{{ .System }}</s>
{{ end }}
<|user|>
{{ .Prompt }}</s>
<|assistant|>
"""
PARAMETER num_ctx 8192
PARAMETER stop "<|system|>"
PARAMETER stop "<|user|>"
PARAMETER stop "<|assistant|>"
PARAMETER stop "</s>"
|