Freddolin commited on
Commit
0b4071e
·
verified ·
1 Parent(s): b6da6a3

Update agent.py

Browse files
Files changed (1) hide show
  1. agent.py +2 -2
agent.py CHANGED
@@ -92,12 +92,12 @@ class GaiaAgent:
92
  # max_new_tokens är viktig för att styra svarets längd
93
  generated_text = self.text_generator(
94
  full_prompt,
95
- max_new_tokens=500, # Justera vid behov
96
  num_return_sequences=1,
97
  pad_token_id=self.tokenizer.eos_token_id, # Viktigt för T5/Gemma
98
  do_sample=True, # Aktivera sampling för mer variation
99
  top_k=50, top_p=0.95, # Typiska samplingparametrar
100
- temperature=0.7 # Kontrollera kreativitet
101
  )[0]['generated_text']
102
 
103
  # Extrahera endast den nya delen av texten (modellen genererar hela prompten + nytt svar)
 
92
  # max_new_tokens är viktig för att styra svarets längd
93
  generated_text = self.text_generator(
94
  full_prompt,
95
+ max_new_tokens=1024, # Justera vid behov
96
  num_return_sequences=1,
97
  pad_token_id=self.tokenizer.eos_token_id, # Viktigt för T5/Gemma
98
  do_sample=True, # Aktivera sampling för mer variation
99
  top_k=50, top_p=0.95, # Typiska samplingparametrar
100
+ temperature=0.8 # Kontrollera kreativitet
101
  )[0]['generated_text']
102
 
103
  # Extrahera endast den nya delen av texten (modellen genererar hela prompten + nytt svar)