app.py

import os
import requests
import gradio as gr

# Указываем URL для модели на Hugging Face, используя inference API
API_URL = "https://api-inference.huggingface.co/models/deepseek-ai/DeepSeek-VL2-Small"

# Токен API, убедись, что ты правильно установил переменную окружения
API_TOKEN = os.getenv("My_token").strip()

# Заголовки для запроса
headers = {
    "Authorization": f"Bearer {API_TOKEN}"
}

# Функция для отправки запроса к API
def query(image):
    buffered = image.convert("RGB")
    buffered.save("temp.jpg", format="JPEG")

    with open("temp.jpg", "rb") as f:
        data = f.read()

    # Отправка запроса на сервер Hugging Face для инференса
    response = requests.post(API_URL, headers=headers, files={"file": data})

    # Проверяем ответ от сервера
    if response.status_code == 200:
        output = response.json()
        if isinstance(output, list) and "generated_text" in output[0]:
            return output[0]["generated_text"]
        else:
            return "Ошибка: Неверный формат ответа от модели."
    else:
        return f"Ошибка запроса: {response.status_code} - {response.text}"

# Интерфейс Gradio
iface = gr.Interface(
    fn=query,
    inputs=gr.Image(type="pil"),
    outputs="text",
    title="DeepSeek Image Captioning",
    description="Генерация описания изображения через DeepSeek VL2"
)

# Запуск приложения
if __name__ == "__main__":
    iface.launch()