alex-abb commited on
Commit
5c6ce6b
·
verified ·
1 Parent(s): cb6b0fb

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +5 -3
app.py CHANGED
@@ -2,13 +2,15 @@ import gradio as gr
2
  from transformers import BlenderbotTokenizer, BlenderbotForConditionalGeneration
3
  import spaces
4
 
5
- tokenizer = BlenderbotTokenizer.from_pretrained('meta-llama/Meta-Llama-3-8B-Instruct')
6
- model = BlenderbotForConditionalGeneration.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct")
 
7
 
8
  # Initialiser le générateur de texte avec GPT-2
9
 
10
  # Optionnel : Fixer une graine aléatoire pour la reproductibilit
11
- @spaces.GPU
 
12
  # Fonction de génération de texte
13
  def generate_text(prompt):
14
 
 
2
  from transformers import BlenderbotTokenizer, BlenderbotForConditionalGeneration
3
  import spaces
4
 
5
+
6
+ tokenizer = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct")
7
+ model = AutoModelForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct", device_map="auto")
8
 
9
  # Initialiser le générateur de texte avec GPT-2
10
 
11
  # Optionnel : Fixer une graine aléatoire pour la reproductibilit
12
+ @spaces.GPU(duration=120)
13
+
14
  # Fonction de génération de texte
15
  def generate_text(prompt):
16