gleisonnanet commited on
Commit
d7ec351
·
1 Parent(s): 25bcada
Files changed (1) hide show
  1. main.py +3 -3
main.py CHANGED
@@ -19,10 +19,10 @@ class TranslationRequest(BaseModel):
19
  target_lang: str
20
 
21
 
22
- def load_model(pretrained_model: str = "facebook/m2m100_1.2B", cache_dir: str = "models/"):
23
  model_dir = os.path.join(os.getcwd(), cache_dir)
24
- tokenizer = M2M100Tokenizer.from_pretrained(pretrained_model, cache_dir=model_dir)
25
- model = M2M100ForConditionalGeneration.from_pretrained(pretrained_model, cache_dir=model_dir).to(device)
26
  model.eval()
27
  return tokenizer, model
28
  # aparentemente temos um problema ao carregar o modelo então vou tentar carregar no start da aplicação para não dar time-out na request
 
19
  target_lang: str
20
 
21
 
22
+ def load_model(model: str = "facebook/m2m100_1.2B", cache_dir: str = "models/"):
23
  model_dir = os.path.join(os.getcwd(), cache_dir)
24
+ tokenizer = M2M100Tokenizer.from_pretrained(model, cache_dir=model_dir)
25
+ model = M2M100ForConditionalGeneration.from_pretrained(model, cache_dir=model_dir).to(device)
26
  model.eval()
27
  return tokenizer, model
28
  # aparentemente temos um problema ao carregar o modelo então vou tentar carregar no start da aplicação para não dar time-out na request