alex-abb commited on
Commit
d393f74
·
verified ·
1 Parent(s): 7304b9c

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +6 -3
app.py CHANGED
@@ -2,13 +2,16 @@ import gradio as gr
2
  import spaces
3
  import time
4
  import os
5
- from transformers import AutoTokenizer, AutoModelForCausalLM
6
  key = (os.getenv('API_KEY'))
7
 
8
  # Utiliser le jeton d'accès API pour charger le modèle
9
- tokenizer = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct", token=key)
10
- model = AutoModelForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct", token=key)
11
 
 
 
 
 
 
12
 
13
 
14
 
 
2
  import spaces
3
  import time
4
  import os
 
5
  key = (os.getenv('API_KEY'))
6
 
7
  # Utiliser le jeton d'accès API pour charger le modèle
8
+ from transformers import pipeline
 
9
 
10
+ messages = [
11
+ {"role": "user", "content": "Who are you?"},
12
+ ]
13
+ pipe = pipeline("text-generation", model="meta-llama/Meta-Llama-3-8B-Instruct", token=key)
14
+ pipe(messages)
15
 
16
 
17