Update app.py

app.py

@@ -48,7 +48,7 @@ if not hfapi:
 
 # Ana Space için repo oluşturuluyor (repo adı "BF")
 create_repo("BF", token=hfapi, repo_type="space", space_sdk="gradio", exist_ok=True)
-# Log commitleri için ayrı bir repo; repo id'sini tam kullanıcı adı ile belirtelim.
+# Log commitleri için ayrı bir repo oluşturuluyor; tam repo id'sini kullanıyoruz.
 REPO_ID_LOGS = "SamiKoen/BF-logs"
 create_repo(REPO_ID_LOGS, token=hfapi, repo_type="model", exist_ok=True)
 
@@ -77,112 +77,110 @@ def upload_logs_to_hf(repo_id: str, hf_token: str, local_log_file: str = "chat_l
 
 def predict(system_msg, inputs, top_p, temperature, chat_counter, chatbot=None, history=None):
     """
-    Her Enter'a basıldığında çalışır. Kullanıcı mesajı dosyaya yazılır,
-    bot yanıtı tamamlandığında log dosyasına eklenir ve predict fonksiyonunun
-    sonlanması sırasında log dosyası HF Hub'daki log deposuna yüklenir.
+    Her Enter tuşuna basıldığında çalışır.
+    Kullanıcı mesajı dosyaya yazılır, bot yanıtı streaming sırasında log dosyasına eklenir.
+    Streaming tamamlandıktan sonra log dosyası HF Hub'daki log deposuna yüklenir.
     """
     if chatbot is None:
         chatbot = []
     if history is None:
         history = []
 
+    headers = {
+        "Content-Type": "application/json",
+        "Authorization": f"Bearer {OPENAI_API_KEY}"
+    }
+    print(f"System message: {system_msg}")
+    
+    multi_turn_message = [
+        {"role": "system", "content": "Bir önceki sohbeti unut. Vereceğin ürün bilgisi, bu bilginin içinde yan yana yazılmıyorsa veya arada başka bilgiler varsa, o bilgiyi vermeyeceksin. ... (uzun metin)"}
+    ]
+    
+    messages = multi_turn_message.copy()
+    input_words = [str(word).lower() for word in inputs.split()]
+    for product_info in products:
+        if product_info[0] in input_words:
+            new_msg = f"{product_info[2]} {product_info[1][0]} ve fiyatı EURO {product_info[1][1]}"
+            print(new_msg)
+            messages.append({"role": "system", "content": new_msg})
+    
+    for data in chatbot:
+        messages.append({"role": data["role"], "content": data["content"]})
+    
+    messages.append({"role": "user", "content": inputs})
+    
+    payload = {
+        "model": "gpt-4o",
+        "messages": messages,
+        "temperature": 0.7,
+        "top_p": 0.9,
+        "n": 1,
+        "stream": True,
+        "presence_penalty": 0,
+        "frequency_penalty": 0,
+    }
+    
+    chat_counter += 1
+    history.append(inputs)
+    print(f"Logging: Payload is - {payload}")
+    
+    # Kullanıcı mesajını log dosyasına yaz
     try:
-        headers = {
-            "Content-Type": "application/json",
-            "Authorization": f"Bearer {OPENAI_API_KEY}"
-        }
-        print(f"System message: {system_msg}")
-        
-        multi_turn_message = [
-            {"role": "system", "content": "Bir önceki sohbeti unut. Vereceğin ürün bilgisi, bu bilginin içinde yan yana yazılmıyorsa veya arada başka bilgiler varsa, o bilgiyi vermeyeceksin. ... (uzun metin)"}
-        ]
-        
-        messages = multi_turn_message.copy()
-        input_words = [str(word).lower() for word in inputs.split()]
-        for product_info in products:
-            if product_info[0] in input_words:
-                new_msg = f"{product_info[2]} {product_info[1][0]} ve fiyatı EURO {product_info[1][1]}"
-                print(new_msg)
-                messages.append({"role": "system", "content": new_msg})
-        
-        for data in chatbot:
-            messages.append({"role": data["role"], "content": data["content"]})
-        
-        messages.append({"role": "user", "content": inputs})
-        
-        payload = {
-            "model": "gpt-4o",
-            "messages": messages,
-            "temperature": 0.7,
-            "top_p": 0.9,
-            "n": 1,
-            "stream": True,
-            "presence_penalty": 0,
-            "frequency_penalty": 0,
-        }
-        
-        chat_counter += 1
-        history.append(inputs)
-        print(f"Logging: Payload is - {payload}")
-        
-        # Kullanıcı mesajını log dosyasına yaz
-        try:
-            with open(LOG_FILE, 'a', encoding='utf-8') as f:
-                f.write(f"User: {inputs}\n")
-                print(f"Kullanıcı mesajı dosyaya yazıldı: {inputs}")
-        except Exception as e:
-            print(f"Dosya yazma hatası (Kullanıcı): {e}")
-        
-        chatbot.append({"role": "user", "content": inputs})
-        response = requests.post(API_URL, headers=headers, json=payload, stream=True)
-        print(f"Logging: Response code - {response.status_code}")
-        if response.status_code != 200:
-            print(f"API hatası: {response.text}")
-            return chatbot, history, chat_counter
-        
-        partial_words = ""
-        counter = 0
-        for chunk in response.iter_lines():
-            counter += 1
-            if not chunk:
-                continue
-            chunk_str = chunk.decode('utf-8')
-            print(f"Chunk {counter}: {chunk_str}")
-            if chunk_str.startswith("data: ") and chunk_str != "data: [DONE]":
-                try:
-                    chunk_data = json.loads(chunk_str[6:])
-                    delta = chunk_data['choices'][0]['delta']
-                    if 'content' in delta and delta['content']:
-                        content = delta['content']
-                        partial_words += content
-                        print(f"İçerik eklendi: {content}")
-                        print(f"Güncel partial_words: {partial_words}")
-                except json.JSONDecodeError as e:
-                    print(f"JSON parse hatası: {e} - Chunk: {chunk_str}")
-            elif chunk_str == "data: [DONE]":
-                print("Akış tamamlandı: [DONE] alındı")
-                if partial_words:
-                    history.append(partial_words)
-                    chatbot.append({"role": "assistant", "content": partial_words})
-                    try:
-                        with open(LOG_FILE, 'a', encoding='utf-8') as f:
-                            f.write(f"Bot: {partial_words}\n")
-                            print(f"Bot yanıtı dosyaya yazıldı: {partial_words}")
-                    except Exception as e:
-                        print(f"Dosya yazma hatası (Bot): {e}")
-            chat = chatbot.copy()
-            if partial_words and chat and chat[-1]["role"] == "user":
-                chat.append({"role": "assistant", "content": partial_words})
-            elif partial_words and chat and chat[-1]["role"] == "assistant":
-                chat[-1] = {"role": "assistant", "content": partial_words}
-            yield chat, history, chat_counter
-    finally:
-        # Predict fonksiyonu kapatıldığında (streaming tamamlandığında veya iptal olduğunda) log dosyasını HF Hub'a yükle.
-        print("Predict fonksiyonu sonlanıyor, log dosyası yüklenecek.")
-        upload_logs_to_hf(REPO_ID_LOGS, hfapi, local_log_file=LOG_FILE, repo_type="model")
+        with open(LOG_FILE, 'a', encoding='utf-8') as f:
+            f.write(f"User: {inputs}\n")
+            print(f"Kullanıcı mesajı dosyaya yazıldı: {inputs}")
+    except Exception as e:
+        print(f"Dosya yazma hatası (Kullanıcı): {e}")
+    
+    chatbot.append({"role": "user", "content": inputs})
+    response = requests.post(API_URL, headers=headers, json=payload, stream=True)
+    print(f"Logging: Response code - {response.status_code}")
+    if response.status_code != 200:
+        print(f"API hatası: {response.text}")
+        return chatbot, history, chat_counter
     
-    print(f"Son chatbot durumu: {chatbot}")
-    return chatbot, history, chat_counter
+    partial_words = ""
+    counter = 0
+    # Streaming döngüsü
+    for chunk in response.iter_lines():
+        counter += 1
+        if not chunk:
+            continue
+        chunk_str = chunk.decode('utf-8')
+        print(f"Chunk {counter}: {chunk_str}")
+        if chunk_str.startswith("data: ") and chunk_str != "data: [DONE]":
+            try:
+                chunk_data = json.loads(chunk_str[6:])
+                delta = chunk_data['choices'][0]['delta']
+                if 'content' in delta and delta['content']:
+                    content = delta['content']
+                    partial_words += content
+                    print(f"İçerik eklendi: {content}")
+                    print(f"Güncel partial_words: {partial_words}")
+            except json.JSONDecodeError as e:
+                print(f"JSON parse hatası: {e} - Chunk: {chunk_str}")
+        elif chunk_str == "data: [DONE]":
+            print("Akış tamamlandı: [DONE] alındı")
+            if partial_words:
+                history.append(partial_words)
+                chatbot.append({"role": "assistant", "content": partial_words})
+                try:
+                    with open(LOG_FILE, 'a', encoding='utf-8') as f:
+                        f.write(f"Bot: {partial_words}\n")
+                        print(f"Bot yanıtı dosyaya yazıldı: {partial_words}")
+                except Exception as e:
+                    print(f"Dosya yazma hatası (Bot): {e}")
+        chat = chatbot.copy()
+        if partial_words and chat and chat[-1]["role"] == "user":
+            chat.append({"role": "assistant", "content": partial_words})
+        elif partial_words and chat and chat[-1]["role"] == "assistant":
+            chat[-1] = {"role": "assistant", "content": partial_words}
+        yield chat, history, chat_counter
+
+    print("Streaming tamamlandı, log dosyası yüklenecek.")
+    upload_logs_to_hf(REPO_ID_LOGS, hfapi, local_log_file=LOG_FILE, repo_type="model")
+    print("Log upload tamamlandı.")
+    yield chatbot, history, chat_counter
 
 def reset_textbox():
     return gr.update(value='')