Spaces:
Sleeping
Sleeping
File size: 825 Bytes
31935ef 3f78b1e 2989cb8 9209419 e9031f8 9f7751a d393f74 1e6d64e d393f74 1e6d64e 7304b9c 5c6ce6b 31935ef 3d76423 2c2ec58 3d76423 31935ef 3d76423 31935ef 2989cb8 563226d 31935ef |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 |
import gradio as gr
import spaces
import time
import os
key = (os.getenv('API_KEY'))
# Utiliser le jeton d'accès API pour charger le modèle
from transformers import pipeline
messages = [
{"role": "user", "content": "Who are you?"},
]
pipe = pipeline("text-generation", model="meta-llama/Meta-Llama-3-8B-Instruct", token=key)
pipe(messages)
@spaces.GPU(duration=240)
# Fonction de génération de texte
def generate_text(prompt):
inputs = tokenizer(prompt, return_tensors="pt")
response_ids = model.generate(inputs.input_ids)
response_text = tokenizer.decode(response_ids[0], skip_special_tokens=True)
return response_text
# Définir une fonction pour l'interface de chat
def chatbot(message, history):
return generate_text(message)
gr.ChatInterface(chatbot).launch()
|