app.py

import gradio as gr

# Загрузите модель
model = gr.load("models/Qwen/Qwen2.5-Coder-32B-Instruct")

# Функция для обработки сообщений
def code_assistant(system_message, chat_history, user_input):
    # Добавляем системное сообщение в начало истории, если история пуста
    if not chat_history:
        chat_history.append(("Системное сообщение", system_message))
    
    # Получаем ответ от модели
    response = model(user_input)
    # Добавляем пользовательский ввод и ответ модели в историю чата
    chat_history.append((user_input, response))
    return chat_history

# Создаем интерфейс
with gr.Blocks() as demo:
    gr.Markdown("## Чат-бот для помощи в кодировании")

    # Поле для системного сообщения
    system_message = gr.Textbox(placeholder="Введите системное сообщение...", label="Системное сообщение")

    # Компонент чата
    chatbot = gr.Chatbot(label="Чат с ботом")

    # Поле ввода текста
    user_input = gr.Textbox(placeholder="Введите ваш вопрос или код здесь...", label="Ваш ввод")

    # Кнопка для отправки запроса
    submit_btn = gr.Button("Отправить")

    # Связываем кнопку с функцией обработки и обновления чата
    submit_btn.click(code_assistant, inputs=[system_message, chatbot, user_input], outputs=chatbot)

# Запуск интерфейса
demo.launch()