Update app.py

app.py

@@ -3,7 +3,7 @@ import pdfplumber
 import docx
 from transformers import AutoTokenizer, AutoModelForCausalLM
 
-st.title("Jogi Dokumentumok AI Válaszgenerálás")
+st.title("Jai")
 
 # Előző beszélgetések tárolása session state-ben
 if "previous_conversations" not in st.session_state:
@@ -23,10 +23,10 @@ model = AutoModelForCausalLM.from_pretrained(generator_name, trust_remote_code=T
 # Definiáljuk a válaszgeneráló függvényt
 def generate_response(input_text, tokenizer, model):
     # Tokenizálás
-    input_ids = tokenizer.encode(input_text, return_tensors="pt", max_length=3012)
+    input_ids = tokenizer.encode(input_text, return_tensors="pt", max_length=512)
 
     # Modell használata a válasz generálásához
-    output = model.generate(input_ids, max_length=3012, num_return_sequences=1, pad_token_id=tokenizer.eos_token_id)
+    output = model.generate(input_ids, max_length=512, num_return_sequences=1, pad_token_id=tokenizer.eos_token_id)
 
     # Decoding és válasz visszaadása
     response = tokenizer.decode(output[0], skip_special_tokens=True)