Update Dockerfile
Browse files- Dockerfile +0 -1
Dockerfile
CHANGED
|
@@ -22,5 +22,4 @@ CMD ["-m", "/app/gemma-4-31B-it-IQ4_NL.gguf", \
|
|
| 22 |
"--cache-type-v", "iq4_nl", \
|
| 23 |
"-c", "1024", \
|
| 24 |
"-n", "1024", \
|
| 25 |
-
"--n-parallel", "1", \
|
| 26 |
"--no-kv-offload"]
|
|
|
|
| 22 |
"--cache-type-v", "iq4_nl", \
|
| 23 |
"-c", "1024", \
|
| 24 |
"-n", "1024", \
|
|
|
|
| 25 |
"--no-kv-offload"]
|