Update app.py

app.py

@@ -62,7 +62,7 @@ def predict(system_msg, inputs, top_p, temperature, chat_counter, chatbot=None,
     print(f"System message: {system_msg}")
     
     multi_turn_message = [
-        {"role": "system", "content": "Bir önceki sohbeti unut. Vereceğin ürün bilgisi, bu bilginin içinde yan yana yazmıyorsa veya arada başka bilgiler yazıyor ise, o bilgiyi vermeyeceksin çünkü o bilgi yanlıştır. ... (uzun metin)"}
+        {"role": "system", "content": "Bir önceki sohbeti unut. Vereceğin ürün bilgisi, bu bilginin içinde yan yana yazılmıyorsa veya arada başka bilgiler yazıyor ise, o bilgiyi vermeyeceksin çünkü o bilgi yanlıştır. ... (uzun metin)"}
     ]
     
     messages = multi_turn_message.copy()
@@ -109,42 +109,37 @@ def predict(system_msg, inputs, top_p, temperature, chat_counter, chatbot=None,
         print(f"API hatası: {response.text}")
         return chatbot, history, chat_counter
     
-    partial_words = ""
-    counter = 0
+    assistant_response = ""
     for chunk in response.iter_lines():
-        counter += 1
         if not chunk:
             continue
         chunk_str = chunk.decode('utf-8')
-        print(f"Chunk {counter}: {chunk_str}")
+        print(f"Chunk: {chunk_str}")
         if chunk_str.startswith("data: ") and chunk_str != "data: [DONE]":
             try:
                 chunk_data = json.loads(chunk_str[6:])
                 delta = chunk_data['choices'][0]['delta']
                 if 'content' in delta and delta['content']:
                     content = delta['content']
-                    partial_words += content
-                    print(f"İçerik eklendi: {content}")
-                    print(f"Güncel partial_words: {partial_words}")
+                    assistant_response += content
+                # Parça parça güncelleme yerine, yalnızca akış sonunda sonuç üretiliyor.
             except json.JSONDecodeError as e:
                 print(f"JSON parse hatası: {e} - Chunk: {chunk_str}")
         elif chunk_str == "data: [DONE]":
             print("Akış tamamlandı: [DONE] alındı")
-            if partial_words:
-                history.append(partial_words)
-                chatbot.append({"role": "assistant", "content": partial_words})
-                try:
-                    with open(LOG_FILE, 'a', encoding='utf-8') as f:
-                        f.write(f"Bot: {partial_words}\n")
-                        print(f"Bot yanıtı dosyaya yazıldı: {partial_words}")
-                except Exception as e:
-                    print(f"Dosya yazma hatası (Bot): {e}")
-        chat = chatbot.copy()
-        if partial_words and chat and chat[-1]["role"] == "user":
-            chat.append({"role": "assistant", "content": partial_words})
-        elif partial_words and chat and chat[-1]["role"] == "assistant":
-            chat[-1] = {"role": "assistant", "content": partial_words}
-        yield chat, history, chat_counter
+            break
+
+    if assistant_response:
+        history.append(assistant_response)
+        chatbot.append({"role": "assistant", "content": assistant_response})
+        try:
+            with open(LOG_FILE, 'a', encoding='utf-8') as f:
+                f.write(f"Bot: {assistant_response}\n")
+                print(f"Bot yanıtı dosyaya yazıldı: {assistant_response}")
+        except Exception as e:
+            print(f"Dosya yazma hatası (Bot): {e}")
+    
+    yield chatbot, history, chat_counter
     print(f"Son chatbot durumu: {chatbot}")
     return chatbot, history, chat_counter
 
@@ -275,4 +270,4 @@ with gr.Blocks(css=demo_css, theme=theme) as demo:
         send_button.click(reset_textbox, [], [inputs])
         save_button.click(save_chat_and_upload, [chatbot], [save_status])
 
-demo.queue(max_size=10).launch(debug=True)
+demo.queue(max_size=10).launch(debug=True)