Update app.py

app.py

@@ -11,7 +11,7 @@ logger = logging.getLogger(__name__)
 
 # Загрузка переменных окружения
 load_dotenv()
-MODEL_NAME = os.getenv("MODEL_NAME", "Mixtral-8x7B-Instruct-v0-1")
+MODEL_NAME = os.getenv("MODEL_NAME", "mistralai/Mixtral-8x7B-Instruct-v0.1")  # Убедитесь, что идентификатор правильный
 HF_TOKEN = os.getenv("HF_TOKEN")
 
 # Проверка доступности токена
@@ -20,12 +20,16 @@ if not HF_TOKEN:
     raise EnvironmentError("Отсутствует токен доступа Hugging Face.")
 
 try:
-    # Инициализация пайплайна для работы с моделью
+    # Загрузка токенизатора и модели вручную
     logger.info(f"Попытка загрузить модель: {MODEL_NAME}")
+    tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, use_auth_token=HF_TOKEN)
+    model = AutoModelForCausalLM.from_pretrained(MODEL_NAME, use_auth_token=HF_TOKEN)
+
+    # Инициализация пайплайна для работы с моделью
     pipe = pipeline(
         "text-generation",
-        model=MODEL_NAME,
-        use_auth_token=HF_TOKEN,
+        model=model,
+        tokenizer=tokenizer,
         device=0 if torch.cuda.is_available() else -1
     )
     logger.info("Модель успешно загружена.")