Spaces:
Running
Running
Commit
·
d7ec351
1
Parent(s):
25bcada
rename
Browse files
main.py
CHANGED
@@ -19,10 +19,10 @@ class TranslationRequest(BaseModel):
|
|
19 |
target_lang: str
|
20 |
|
21 |
|
22 |
-
def load_model(
|
23 |
model_dir = os.path.join(os.getcwd(), cache_dir)
|
24 |
-
tokenizer = M2M100Tokenizer.from_pretrained(
|
25 |
-
model = M2M100ForConditionalGeneration.from_pretrained(
|
26 |
model.eval()
|
27 |
return tokenizer, model
|
28 |
# aparentemente temos um problema ao carregar o modelo então vou tentar carregar no start da aplicação para não dar time-out na request
|
|
|
19 |
target_lang: str
|
20 |
|
21 |
|
22 |
+
def load_model(model: str = "facebook/m2m100_1.2B", cache_dir: str = "models/"):
|
23 |
model_dir = os.path.join(os.getcwd(), cache_dir)
|
24 |
+
tokenizer = M2M100Tokenizer.from_pretrained(model, cache_dir=model_dir)
|
25 |
+
model = M2M100ForConditionalGeneration.from_pretrained(model, cache_dir=model_dir).to(device)
|
26 |
model.eval()
|
27 |
return tokenizer, model
|
28 |
# aparentemente temos um problema ao carregar o modelo então vou tentar carregar no start da aplicação para não dar time-out na request
|