app.py

import os
import gradio as gr
import requests

# Замените на свои значения
base_url = os.getenv("BASE_URL")
api_key = os.getenv("API_KEY")

# URL для запроса к GPT-3.5-turbo
gpt_url = f'{base_url}'

# Функция для генерации ответа от GPT-3.5-turbo
def generate_response(prompt):
    headers = {
        "Content-Type": "application/json",
        "Authorization": f"Bearer {api_key}",
    }

    data = {
        "prompt": prompt,
        "max_tokens": 150,
    }

    response = requests.post(gpt_url, json=data, headers=headers)
    return response.json()["choices"][0]["text"].strip()

# Создание интерфейса чата с использованием Gradio
def chat_interface(messages):
    # Собираем все сообщения в одну строку, чтобы использовать как контекст для GPT-3.5-turbo
    conversation_history = "\n".join(messages)

    # Генерируем ответ от GPT-3.5-turbo
    response = generate_response(conversation_history)

    # Добавляем сгенерированный ответ к списку сообщений
    messages.append(response)

    # Создаем интерфейс Gradio с возможностью удаления или изменения каждого сообщения
    iface = gr.Interface(
        fn=chat_interface,
        inputs=["text"],
        outputs="text",
        live=True,
        examples=[[conversation_history]],
        title="Chat with GPT-3.5-turbo",
        description="Type a message and see GPT-3.5-turbo's response.",
    )

    return iface

# Запуск интерфейса Gradio
if __name__ == "__main__":
    chat_interface([]).launch()