Spaces:
Running
on
Zero
Running
on
Zero
tori29umai
commited on
Commit
•
032cf85
1
Parent(s):
aed6edc
Update app.py
Browse files
app.py
CHANGED
@@ -28,7 +28,7 @@ if not os.path.exists("models"):
|
|
28 |
os.makedirs("models")
|
29 |
|
30 |
# 使用するモデルのファイル名を指定
|
31 |
-
model_filename = "EZO-Common-9B-gemma-2-it.
|
32 |
model_path = os.path.join("models", model_filename)
|
33 |
|
34 |
# モデルファイルが存在しない場合はダウンロード
|
@@ -172,8 +172,8 @@ class Settings:
|
|
172 |
"assistant: プロットについてコメントをする前に、まずこの物語の『売り』について簡単に説明してください",
|
173 |
],
|
174 |
'gen_author_description': 'あなたは新進気鋭の和風伝奇ミステリー小説家で、細やかな筆致と巧みな構成で若い世代にとても人気があります。',
|
175 |
-
'DEFAULT_CHAT_MODEL': 'EZO-Common-9B-gemma-2-it.
|
176 |
-
'DEFAULT_GEN_MODEL': 'EZO-Common-9B-gemma-2-it.
|
177 |
'chat_n_gpu_layers': -1,
|
178 |
'chat_temperature': 0.35,
|
179 |
'chat_top_p': 0.9,
|
|
|
28 |
os.makedirs("models")
|
29 |
|
30 |
# 使用するモデルのファイル名を指定
|
31 |
+
model_filename = "EZO-Common-9B-gemma-2-it.Q8_0.gguf"
|
32 |
model_path = os.path.join("models", model_filename)
|
33 |
|
34 |
# モデルファイルが存在しない場合はダウンロード
|
|
|
172 |
"assistant: プロットについてコメントをする前に、まずこの物語の『売り』について簡単に説明してください",
|
173 |
],
|
174 |
'gen_author_description': 'あなたは新進気鋭の和風伝奇ミステリー小説家で、細やかな筆致と巧みな構成で若い世代にとても人気があります。',
|
175 |
+
'DEFAULT_CHAT_MODEL': 'EZO-Common-9B-gemma-2-it.Q8_0.gguf',
|
176 |
+
'DEFAULT_GEN_MODEL': 'EZO-Common-9B-gemma-2-it.Q8_0.gguf',
|
177 |
'chat_n_gpu_layers': -1,
|
178 |
'chat_temperature': 0.35,
|
179 |
'chat_top_p': 0.9,
|