Update app.py

app.py

@@ -1,144 +1,58 @@
-from huggingface_hub import InferenceClient 
+from huggingface_hub import InferenceClient
 import gradio as gr
 
-# Подключаем клиента для текстовой модели
-client = InferenceClient(
-    "mistralai/Mistral-7B-Instruct-v0.3"
-)
+client = InferenceClient("mistralai/Mistral-7B-Instruct-v0.3")
 
-# Подключаем клиента для генерации изображений
-image_client = InferenceClient(
-    "stabilityai/stable-diffusion-2"
-)
+# Шаблоны промптов для каждого жанра
+GENRE_PROMPTS = {
+    "Investigation": "Ты находишься в жанре игры Investigation...",
+    # Остальные жанры остаются неизменными
+}
 
-# Форматируем текстовый запрос
-def format_prompt(message, history, genre):
-    prompt = f"Ты — персонаж в текстовой игре, тебя зовут Рассказчик, взаимодействующий с игроком на русском языке. " \
-             f"Ты находишься в жанре игры: {genre}. Каждый твой ответ должен продолжать сюжет игры, принимая во внимание прошлые действия игрока и текущую ситуацию. " \
-             f"Твой стиль общения должен быть интересным и поддерживать атмосферу игры. Ты должен поддерживать динамичность сюжета и постоянно добавлять элементы интерактивности и новых вызовов. " \
-             f"В начале игры игроку предоставляется информация о мире, его текущем положении и доступных действиях. Он может выбирать из предложенных вариантов или описывать свои действия свободно. " \
-             f"Важно, чтобы ты адаптировал ответы в зависимости от решений игрока и развивал сюжет на основе их выбора. Каждый ответ должен быть логичным продолжением событий, с описанием последствий выбранных действий." \
-             f"В жанре Horror нужно вызвать у игрока эффект зловещей долины, и иногда ломать четвёртую стену." \
-             f"Стиль повествования меняется в зависимости от жанра"
-    
+def format_prompt(message, history, genre, players):
+    genre_prompt = GENRE_PROMPTS.get(genre, "Жанр игры неизвестен.")
+    prompt = f"Ты — персонаж в текстовой игре, тебя зовут Рассказчик, взаимодействующий с игроками на русском языке. " \
+             f"{genre_prompt} Учитывай, что в игре участвуют несколько игроков: {', '.join(players)}. " \
+             f"Каждый твой ответ должен учитывать действия всех игроков, их взаимодействие и текущую ситуацию. " \
+             f"Добавляй элементы кооперации: совместное решение задач, голосование за действия и влияние выборов одного игрока на другого."
     for user_prompt, bot_response in history:
         prompt += f"[INST] {user_prompt} [/INST]"
         prompt += f" {bot_response}</s> "
     prompt += f"[INST] {message} [/INST]"
     return prompt
 
-# Генерация текста
 def generate(
-    prompt, history, system_prompt, genre, temperature=0.9, max_new_tokens=256, top_p=0.95, repetition_penalty=1.0,
+    prompt, history, system_prompt, genre, players, temperature=0.9, max_new_tokens=256, top_p=0.95, repetition_penalty=1.0,
 ):
-    temperature = float(temperature)
-    if temperature < 1e-2:
-        temperature = 1e-2
-    top_p = float(top_p)
-
-    generate_kwargs = dict(
-        temperature=temperature,
-        max_new_tokens=max_new_tokens,
-        top_p=top_p,
-        repetition_penalty=repetition_penalty,
-        do_sample=True,
-        seed=42,
-    )
-
-    formatted_prompt = format_prompt(f"{system_prompt}, {prompt}", history, genre)
-    stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=True)
+    formatted_prompt = format_prompt(f"{system_prompt}, {prompt}", history, genre, players)
+    stream = client.text_generation(formatted_prompt, stream=True, details=True, return_full_text=True)
     output = ""
-
     for response in stream:
         output += response.token.text
         yield output
     return output
 
-# Генер��ция изображений
-def generate_image(description):
-    image = image_client.text_to_image(description, width=512, height=512)
-    return image.url
-
-# Дополнительные настройки для Gradio
 additional_inputs = [
-    gr.Textbox(
-        label="System Prompt",
-        max_lines=1,
-        interactive=True,
-        visible=False  # Скрыть поле ввода системного запроса
-    ),
-    gr.Radio(
-        label="Game Genre",
-        choices=["Investigation", "Fantasy", "Sci-Fi", "Horror", "Adventure", "Mystery"],
-        value="Horror",  # Жанр по умолчанию
-        interactive=True,
-        info="Select the genre of the game",
-        visible=True  # Отображение выбора жанра
-    ),
-    gr.Slider(
-        label="Temperature",
-        value=0.1,
-        minimum=0.0,
-        maximum=1.0,
-        step=0.05,
-        interactive=True,
-        info="Higher values produce more diverse outputs",
-        visible=False  # Скрыть слайдер температуры
-    ),
-    gr.Slider(
-        label="Max new tokens",
-        value=1024,
-        minimum=128,
-        maximum=8192,
-        step=64,
-        interactive=True,
-        info="The maximum numbers of new tokens",
-        visible=False  # Скрыть слайдер максимального числа токенов
-    ),
-    gr.Slider(
-        label="Top-p (nucleus sampling)",
-        value=0.90,
-        minimum=0.0,
-        maximum=1,
-        step=0.05,
-        interactive=True,
-        info="Higher values sample more low-probability tokens",
-        visible=False  # Скрыть слайдер top-p
-    ),
-    gr.Slider(
-        label="Repetition penalty",
-        value=1.2,
-        minimum=1.0,
-        maximum=2.0,
-        step=0.05,
-        interactive=True,
-        info="Penalize repeated tokens",
-        visible=False  # Скрыть слайдер штрафа за повторения
-    ),
-    gr.Textbox(
-        label="Image Description",
-        placeholder="Describe the scene or character you want to generate.",
-        interactive=True
-    )
+    gr.Textbox(label="System Prompt", max_lines=1, interactive=True, visible=False),
+    gr.Radio(label="Game Genre", choices=list(GENRE_PROMPTS.keys()), value="Horror", interactive=True),
+    gr.Textbox(label="Players (comma-separated)", interactive=True, placeholder="Player1, Player2", visible=True),
+    gr.Slider(label="Temperature", value=0.1, minimum=0.0, maximum=1.0, step=0.05, interactive=True, visible=False),
+    gr.Slider(label="Max new tokens", value=1024, minimum=128, maximum=8192, step=64, interactive=True, visible=False),
+    gr.Slider(label="Top-p (nucleus sampling)", value=0.90, minimum=0.0, maximum=1, step=0.05, interactive=True, visible=False),
+    gr.Slider(label="Repetition penalty", value=1.2, minimum=1.0, maximum=2.0, step=0.05, interactive=True, visible=False),
 ]
 
-# Пример выбора
-examples = [["Подробнее"], ["Варианты"]]
+examples = [["Подробнее"], ["Обстановка"]]
+
+def wrapped_generate(prompt, history, system_prompt, genre, temperature, max_new_tokens, top_p, repetition_penalty, players):
+    player_list = [p.strip() for p in players.split(",") if p.strip()]
+    return generate(prompt, history, system_prompt, genre, player_list, temperature, max_new_tokens, top_p, repetition_penalty)
 
-# Интерфейс Gradio
 gr.ChatInterface(
-    fn=generate,
-    chatbot=gr.Chatbot(show_label=False, show_share_button=True, show_copy_button=True, likeable=True, layout="panel"),
+    fn=wrapped_generate,
+    chatbot=gr.Chatbot(show_label=False),
     additional_inputs=additional_inputs,
-    title="theGame",
+    title="theGame with Co-op",
     examples=examples,
     concurrency_limit=20,
 ).launch(show_api=False)
-
-# Интерфейс для генерации картинок
-gr.Interface(
-    fn=generate_image,
-    inputs="text",
-    outputs="image",
-    title="Image Generator"
-).launch()