Spaces:
Sleeping
Sleeping
Update agent.py
Browse files
agent.py
CHANGED
@@ -92,12 +92,12 @@ class GaiaAgent:
|
|
92 |
# max_new_tokens är viktig för att styra svarets längd
|
93 |
generated_text = self.text_generator(
|
94 |
full_prompt,
|
95 |
-
max_new_tokens=
|
96 |
num_return_sequences=1,
|
97 |
pad_token_id=self.tokenizer.eos_token_id, # Viktigt för T5/Gemma
|
98 |
do_sample=True, # Aktivera sampling för mer variation
|
99 |
top_k=50, top_p=0.95, # Typiska samplingparametrar
|
100 |
-
temperature=0.
|
101 |
)[0]['generated_text']
|
102 |
|
103 |
# Extrahera endast den nya delen av texten (modellen genererar hela prompten + nytt svar)
|
|
|
92 |
# max_new_tokens är viktig för att styra svarets längd
|
93 |
generated_text = self.text_generator(
|
94 |
full_prompt,
|
95 |
+
max_new_tokens=1024, # Justera vid behov
|
96 |
num_return_sequences=1,
|
97 |
pad_token_id=self.tokenizer.eos_token_id, # Viktigt för T5/Gemma
|
98 |
do_sample=True, # Aktivera sampling för mer variation
|
99 |
top_k=50, top_p=0.95, # Typiska samplingparametrar
|
100 |
+
temperature=0.8 # Kontrollera kreativitet
|
101 |
)[0]['generated_text']
|
102 |
|
103 |
# Extrahera endast den nya delen av texten (modellen genererar hela prompten + nytt svar)
|