alex-abb commited on
Commit
9209419
·
verified ·
1 Parent(s): c82e028

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +5 -8
app.py CHANGED
@@ -1,18 +1,15 @@
1
  import gradio as gr
2
  import spaces
3
  ## Load model directly
4
- # Load model directly
5
  from transformers import AutoTokenizer, AutoModelForCausalLM
6
- from huggingface_hub import HfApi
7
 
8
- # Récupérer le jeton d'accès API depuis Hugging Face Secrets
9
- api = HfApi()
10
- secret_name ="API_KEY"
11
- secret = hf_hub_api.get_secret(secret_name)
12
 
13
  # Utiliser le jeton d'accès API pour charger le modèle
14
- tokenizer = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct", token=secret["value"])
15
- model = AutoModelForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct", token=secret["value"])
16
 
17
 
18
 
 
1
  import gradio as gr
2
  import spaces
3
  ## Load model directly
4
+ import os
5
  from transformers import AutoTokenizer, AutoModelForCausalLM
 
6
 
7
+ import os
8
+ key = (os.getenv('API_KEY'))
 
 
9
 
10
  # Utiliser le jeton d'accès API pour charger le modèle
11
+ tokenizer = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct", token=key)
12
+ model = AutoModelForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B-Instruct", token=key)
13
 
14
 
15