Update orpheus-tts/engine_class.py

orpheus-tts/engine_class.py

@@ -100,25 +100,26 @@ class OrpheusModel:
             else:
                 full_prompt = prompt
                 
-            # Kartoffel model token format - direkt die Token-IDs einfügen
-            # Basierend auf der Referenz-Implementierung
-            start_token_id = 128259  # Für Prompt-Start
-            end_token_ids = [128009, 128260]  # Für Prompt-Ende
+            # Kartoffel model format - exakt wie in der Referenz-Implementierung
+            import torch
             
-            # Text tokenisieren
-            input_ids = self.tokenizer(full_prompt, return_tensors="pt").input_ids[0].tolist()
-            print(f"DEBUG KARTOFFEL: input_ids: {input_ids}")
+            start_token = torch.tensor([[128259]], dtype=torch.int64)
+            end_tokens = torch.tensor([[128009, 128260]], dtype=torch.int64)
+            input_ids = self.tokenizer(full_prompt, return_tensors="pt").input_ids
+            
+            print(f"DEBUG KARTOFFEL: Original prompt: '{full_prompt}'")
+            print(f"DEBUG KARTOFFEL: input_ids shape: {input_ids.shape}")
             
             # Token-IDs zusammenfügen
-            all_token_ids = [start_token_id] + input_ids + end_token_ids
-            print(f"DEBUG KARTOFFEL: all_token_ids: {all_token_ids}")
+            modified_input_ids = torch.cat([start_token, input_ids, end_tokens], dim=1)
+            print(f"DEBUG KARTOFFEL: modified_input_ids shape: {modified_input_ids.shape}")
+            print(f"DEBUG KARTOFFEL: modified_input_ids: {modified_input_ids[0].tolist()}")
             
-            # Für Kartoffel-Modell: Direkt die Token-IDs als String zurückgeben
-            # statt sie zu dekodieren, da das Modell numerische Token-IDs erwartet
-            token_string = " ".join(map(str, all_token_ids))
-            print(f"DEBUG KARTOFFEL: token_string: {token_string}")
+            # Zurück zu Text dekodieren - EXAKT wie in der Referenz
+            decoded_text = self.tokenizer.decode(modified_input_ids[0], skip_special_tokens=False)
+            print(f"DEBUG KARTOFFEL: Final decoded prompt: '{decoded_text}'")
             
-            return token_string
+            return decoded_text
         else:
             # Original Orpheus format (für Canopy-Deutsch und English)
             if model_type == "smaller":