Cran-May commited on
Commit
675f790
·
1 Parent(s): 41a0e6e

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +7 -7
app.py CHANGED
@@ -45,8 +45,8 @@ def get_system_tokens(model):
45
  return get_message_tokens(model, **system_message)
46
 
47
 
48
- repo_name = "TheBloke/CausalLM-14B-GGUF"
49
- model_name = "causallm_14b.Q4_1.gguf"
50
  snapshot_download(repo_id=repo_name, local_dir=".", allow_patterns=model_name)
51
 
52
  model = Llama(
@@ -105,10 +105,10 @@ with gr.Blocks(
105
  theme=gr.themes.Soft()
106
  ) as demo:
107
  gr.Markdown(f"""<h1><center>上师附外-安风-人工智能助理</center></h1>""")
108
- gr.Markdown(value="""这儿是一个中文模型的部署。
109
- 这是量化版安风的部署,具有 140亿 个参数,在 CPU 上运行。
110
- Ventipacifier 是一种会话语言模型,在多种类型的语料库上进行训练。
111
- 本节目由上海师范大学附属外国语中学 NLPark 赞助播出""")
112
 
113
  with gr.Row():
114
  with gr.Column(scale=5):
@@ -145,7 +145,7 @@ with gr.Blocks(
145
  temp = gr.Slider(
146
  minimum=0.0,
147
  maximum=2.0,
148
- value=0.2,
149
  step=0.01,
150
  interactive=True,
151
  label="情感温度"
 
45
  return get_message_tokens(model, **system_message)
46
 
47
 
48
+ repo_name = "TheBloke/CausalLM-7B-GGUF"
49
+ model_name = "causallm_7b.Q5_K_M.gguf"
50
  snapshot_download(repo_id=repo_name, local_dir=".", allow_patterns=model_name)
51
 
52
  model = Llama(
 
105
  theme=gr.themes.Soft()
106
  ) as demo:
107
  gr.Markdown(f"""<h1><center>上师附外-安风-人工智能助理</center></h1>""")
108
+ gr.Markdown(value="""欢迎!
109
+ 这里是安风,或者 Ventipacifier。
110
+ Ventipacifier 是一种会话语言模型,由 上师附外 NLPark 团队 在多种类型的语料库上进行训练。
111
+ 本节目由 JWorld & 上海师范大学附属外国语中学 NLPark 赞助播出!""")
112
 
113
  with gr.Row():
114
  with gr.Column(scale=5):
 
145
  temp = gr.Slider(
146
  minimum=0.0,
147
  maximum=2.0,
148
+ value=0.7,
149
  step=0.01,
150
  interactive=True,
151
  label="情感温度"