tori29umai commited on
Commit
032cf85
1 Parent(s): aed6edc

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -28,7 +28,7 @@ if not os.path.exists("models"):
28
  os.makedirs("models")
29
 
30
  # 使用するモデルのファイル名を指定
31
- model_filename = "EZO-Common-9B-gemma-2-it.f16.gguf"
32
  model_path = os.path.join("models", model_filename)
33
 
34
  # モデルファイルが存在しない場合はダウンロード
@@ -172,8 +172,8 @@ class Settings:
172
  "assistant: プロットについてコメントをする前に、まずこの物語の『売り』について簡単に説明してください",
173
  ],
174
  'gen_author_description': 'あなたは新進気鋭の和風伝奇ミステリー小説家で、細やかな筆致と巧みな構成で若い世代にとても人気があります。',
175
- 'DEFAULT_CHAT_MODEL': 'EZO-Common-9B-gemma-2-it.f16.gguf',
176
- 'DEFAULT_GEN_MODEL': 'EZO-Common-9B-gemma-2-it.f16.gguf',
177
  'chat_n_gpu_layers': -1,
178
  'chat_temperature': 0.35,
179
  'chat_top_p': 0.9,
 
28
  os.makedirs("models")
29
 
30
  # 使用するモデルのファイル名を指定
31
+ model_filename = "EZO-Common-9B-gemma-2-it.Q8_0.gguf"
32
  model_path = os.path.join("models", model_filename)
33
 
34
  # モデルファイルが存在しない場合はダウンロード
 
172
  "assistant: プロットについてコメントをする前に、まずこの物語の『売り』について簡単に説明してください",
173
  ],
174
  'gen_author_description': 'あなたは新進気鋭の和風伝奇ミステリー小説家で、細やかな筆致と巧みな構成で若い世代にとても人気があります。',
175
+ 'DEFAULT_CHAT_MODEL': 'EZO-Common-9B-gemma-2-it.Q8_0.gguf',
176
+ 'DEFAULT_GEN_MODEL': 'EZO-Common-9B-gemma-2-it.Q8_0.gguf',
177
  'chat_n_gpu_layers': -1,
178
  'chat_temperature': 0.35,
179
  'chat_top_p': 0.9,