Spaces:
Running
Running
Commit
·
953ee36
1
Parent(s):
8d7b928
load app
Browse files
main.py
CHANGED
@@ -24,7 +24,8 @@ def load_model(pretrained_model: str = "facebook/m2m100_1.2B", cache_dir: str =
|
|
24 |
model = M2M100ForConditionalGeneration.from_pretrained(pretrained_model, cache_dir=model_dir).to(device)
|
25 |
model.eval()
|
26 |
return tokenizer, model
|
27 |
-
|
|
|
28 |
|
29 |
@app.post("/translate")
|
30 |
async def translate(request: TranslationRequest):
|
|
|
24 |
model = M2M100ForConditionalGeneration.from_pretrained(pretrained_model, cache_dir=model_dir).to(device)
|
25 |
model.eval()
|
26 |
return tokenizer, model
|
27 |
+
# aparentemente temos um problema ao carregar o modelo então vou tentar carregar no start da aplicação para não dar time-out na request
|
28 |
+
load_model()
|
29 |
|
30 |
@app.post("/translate")
|
31 |
async def translate(request: TranslationRequest):
|