Yokky009 commited on
Commit
f019e5f
·
verified ·
1 Parent(s): f0a40aa

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +9 -5
app.py CHANGED
@@ -6,18 +6,22 @@ import warnings
6
  warnings.filterwarnings("ignore")
7
 
8
  """
9
- ELYZA(8B)モデルを使用したGradioチャットボット
10
  Hugging Face Transformersライブラリを使用してローカルでモデルを実行
11
  """
12
 
13
  # モデルとトークナイザーの初期化
14
- # MODEL_NAME = "sbintuitions/sarashina2.2-3b-instruct-v0.1" # Sarashina2 3B
15
  # MODEL_NAME = "sbintuitions/sarashina2-7b" # Sarashina2 7B
16
  # MODEL_NAME = "sbintuitions/sarashina2-13b" # Sarashina2 13B
17
  # MODEL_NAME = "sbintuitions/sarashina2-70b" # Sarashina2 70B
18
  # MODEL_NAME = "sbintuitions/sarashina1-65b" # Sarashina1 65B
19
- MODEL_NAME = "elyza/Llama-3-ELYZA-JP-8B" # ELYZA-JP-8B
20
  # MODEL_NAME = "lightblue/ao-karasu-72B" # ao-karasu-72B
 
 
 
 
21
 
22
  print("モデルを読み込み中〜...")
23
  tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, trust_remote_code=True)
@@ -123,8 +127,8 @@ Gradio ChatInterfaceを使用したシンプルなチャットボット
123
  """
124
  demo = gr.ChatInterface(
125
  respond,
126
- title="🤖 ELYZA Chatbot",
127
- description="ELYZA-JP-8B モデルを使用した日本語チャットボットです。",
128
  additional_inputs=[
129
  gr.Textbox(
130
  value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。",
 
6
  warnings.filterwarnings("ignore")
7
 
8
  """
9
+ LLM-JP(13B)モデルを使用したGradioチャットボット
10
  Hugging Face Transformersライブラリを使用してローカルでモデルを実行
11
  """
12
 
13
  # モデルとトークナイザーの初期化
14
+ # MODEL_NAME = "sbintuitions/sarashina2.2-3b-instruct-v0.1" # Sarashina2 3B instruceted
15
  # MODEL_NAME = "sbintuitions/sarashina2-7b" # Sarashina2 7B
16
  # MODEL_NAME = "sbintuitions/sarashina2-13b" # Sarashina2 13B
17
  # MODEL_NAME = "sbintuitions/sarashina2-70b" # Sarashina2 70B
18
  # MODEL_NAME = "sbintuitions/sarashina1-65b" # Sarashina1 65B
19
+ # MODEL_NAME = "elyza/Llama-3-ELYZA-JP-8B" # ELYZA-JP-8B
20
  # MODEL_NAME = "lightblue/ao-karasu-72B" # ao-karasu-72B
21
+ MODEL_NAME = "llm-jp/llm-jp-3-13b-instruct" # llm-jp-3-13b-instruct
22
+ # MODEL_NAME = "llm-jp/llm-jp-3-172b-instruct3" # llm-jp-3-172b-instruct3
23
+ # MODEL_NAME = "shisa-ai/shisa-v2-unphi4-14b" # shisa-v2-unphi4-14b
24
+ # MODEL_NAME = "shisa-ai/shisa-v2-qwen2.5-32b" # shisa-v2-qwen2.5-32b
25
 
26
  print("モデルを読み込み中〜...")
27
  tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, trust_remote_code=True)
 
127
  """
128
  demo = gr.ChatInterface(
129
  respond,
130
+ title="🤖 LLM-JP Chatbot",
131
+ description="LLM-JP-13B モデルを使用した日本語チャットボットです。",
132
  additional_inputs=[
133
  gr.Textbox(
134
  value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。",