gleisonnanet commited on
Commit
953ee36
·
1 Parent(s): 8d7b928
Files changed (1) hide show
  1. main.py +2 -1
main.py CHANGED
@@ -24,7 +24,8 @@ def load_model(pretrained_model: str = "facebook/m2m100_1.2B", cache_dir: str =
24
  model = M2M100ForConditionalGeneration.from_pretrained(pretrained_model, cache_dir=model_dir).to(device)
25
  model.eval()
26
  return tokenizer, model
27
-
 
28
 
29
  @app.post("/translate")
30
  async def translate(request: TranslationRequest):
 
24
  model = M2M100ForConditionalGeneration.from_pretrained(pretrained_model, cache_dir=model_dir).to(device)
25
  model.eval()
26
  return tokenizer, model
27
+ # aparentemente temos um problema ao carregar o modelo então vou tentar carregar no start da aplicação para não dar time-out na request
28
+ load_model()
29
 
30
  @app.post("/translate")
31
  async def translate(request: TranslationRequest):