Update app.py

app.py

@@ -4,14 +4,13 @@ import time
 import os
 from datetime import datetime
 from google import genai
-from google.genai import types
-
-
+from google.genai import types # Explicitly import types
 import uuid
+import json # Import json module
 
 app = Flask(__name__)
 
-# Configubration
+# Configuration
 GOOGLE_API_KEY = "AIzaSyAMYpF67aqFnWDJESWOx1dC-w3sEU29VcM"  # Remplacez par votre clé API
 MODEL_ID = "gemini-2.5-flash-preview-05-20"  # Ou le modèle que vous utilisez
 UPLOAD_FOLDER = 'uploads'
@@ -36,14 +35,10 @@ safety_settings = [
     ),
 ]
 
-
 # Créer les dossiers s'ils n'existent pas
 os.makedirs(UPLOAD_FOLDER, exist_ok=True)
 os.makedirs(RESULTS_FOLDER, exist_ok=True)
 
-# Stockage des tâches en cours
-tasks = {}
-
 class TaskManager:
     def __init__(self):
         self.tasks = {}
@@ -52,8 +47,8 @@ class TaskManager:
         self.tasks[task_id] = {
             'status': 'running',
             'progress': 0,
-            'total': 470,
-            'results_file': f'results_{task_id}.txt',
+            'total': 470, # Nombre total de requêtes
+            'results_file': f'results_{task_id}.json', # Changed to .json
             'start_time': datetime.now(),
             'errors': [],
             'last_update': datetime.now()
@@ -64,9 +59,9 @@ class TaskManager:
             self.tasks[task_id]['progress'] = progress
             self.tasks[task_id]['last_update'] = datetime.now()
     
-    def add_error(self, task_id, error):
+    def add_error(self, task_id, error_details): # error_details can be a dict
         if task_id in self.tasks:
-            self.tasks[task_id]['errors'].append(error)
+            self.tasks[task_id]['errors'].append(error_details)
     
     def complete_task(self, task_id):
         if task_id in self.tasks:
@@ -79,94 +74,101 @@ class TaskManager:
 task_manager = TaskManager()
 
 def generate_synthetic_data(file_path, task_id):
-    """Fonction qui exécute les 470 requêtes en arrière-plan"""
+    """Fonction qui exécute les requêtes en arrière-plan et produit du JSON."""
     try:
-        # Initialiser le client Google AI
         client = genai.Client(api_key=GOOGLE_API_KEY)
-        
-        # Uploader le fichier
         file_ref = client.files.upload(file=file_path)
         
-        # Prompt pour chaque requête
-        prompt = ("J'aimerais générer des nouvelles données synthétiques à partir de ça. "
-                 "Une fang, une français. Je veux 400 phrases longues(respecte strictement cela).\n\n"
-                 "Selon le format : fang :.... / Français :.... reponds directement.")
+        prompt = (
+            "J'aimerais générer des nouvelles données synthétiques à partir de ça. "
+            "Une entrée en fang, une entrée en français. Je veux 400 phrases longues (respecte strictement cela).\n\n"
+            "Réponds directement avec un objet JSON contenant les clés 'fang' et 'francais' pour chaque paire. "
+            "Par exemple: {\"fang\": \"Texte en fang...\", \"francais\": \"Texte en français...\"}"
+        )
         
-        # Fichier de résultats
-        results_file = os.path.join(RESULTS_FOLDER, f'results_{task_id}.txt')
+        results_file_path = os.path.join(RESULTS_FOLDER, task_manager.get_task(task_id)['results_file'])
         
-        with open(results_file, 'w', encoding='utf-8') as f:
-            f.write(f"Génération de données synthétiques - Démarré le {datetime.now()}\n")
-            f.write("="*60 + "\n\n")
-            
-            for i in range(470):
+        all_generated_data = [] # Liste pour stocker tous les objets JSON générés
+
+        for i in range(task_manager.get_task(task_id)['total']):
+            try:
+                print(f"Task {task_id}: Requête {i+1}/{task_manager.get_task(task_id)['total']}...")
+                response = client.models.generate_content(
+                    model=MODEL_ID,
+                    contents=[file_ref, prompt],
+                    generation_config=types.GenerationConfig( # Use GenerationConfig
+                        response_mime_type='application/json',
+                        # Vous pourriez ajouter response_schema ici si vous avez un modèle > 1.5 et une classe TypedDict définie
+                    ),
+                    safety_settings=safety_settings # safety_settings renommé ici aussi
+                )
+                
+                # L'API devrait retourner du texte qui est une chaîne JSON
                 try:
-                    # Faire la requête
-                    response = client.models.generate_content(
-                        model=MODEL_ID,
-                        contents=[file_ref, prompt],
-                                                config=types.GenerateContentConfig(
-        safety_settings=safety_settings,
-                                                )
-                    )
-                    
-                    # Écrire la réponse dans le fichier
-                    f.write(f"--- Requête {i+1}/470 ---\n")
-                    f.write(response.text)
-                    f.write("\n" + "="*60 + "\n\n")
-                    f.flush()  # Forcer l'écriture immédiate
-                    
-                    # Mettre à jour le progrès
-                    task_manager.update_progress(task_id, i + 1)
-                    
-                    print(f"Requête {i+1}/470 complétée")
-                    
-                    # Pause pour éviter de surcharger l'API
-                    time.sleep(40)
-                    
-                except Exception as e:
-                    error_msg = f"Erreur requête {i+1}: {str(e)}"
-                    task_manager.add_error(task_id, error_msg)
-                    f.write(f"ERREUR - Requête {i+1}: {str(e)}\n")
-                    f.write("="*60 + "\n\n")
-                    f.flush()  # Forcer l'écriture même en cas d'erreur
+                    json_response = json.loads(response.text)
+                    all_generated_data.append(json_response)
+                except json.JSONDecodeError as je:
+                    error_msg = f"Erreur de décodage JSON pour requête {i+1}: {str(je)}. Réponse reçue: {response.text[:200]}..."
                     print(error_msg)
+                    task_manager.add_error(task_id, {"request_index": i+1, "error": error_msg, "raw_response": response.text})
+                    # Optionnel: ajouter un placeholder ou l'erreur dans all_generated_data
+                    all_generated_data.append({"error": "JSONDecodeError", "request_index": i+1, "details": response.text})
+
+
+                # Sauvegarder la liste complète des données JSON après chaque ajout
+                with open(results_file_path, 'w', encoding='utf-8') as f:
+                    json.dump(all_generated_data, f, ensure_ascii=False, indent=4)
+                
+                task_manager.update_progress(task_id, i + 1)
+                print(f"Task {task_id}: Requête {i+1} complétée et sauvegardée.")
+                
+                time.sleep(4) # Pause
+                
+            except Exception as e:
+                error_msg = f"Erreur pendant la requête {i+1}: {str(e)}"
+                print(error_msg)
+                task_manager.add_error(task_id, {"request_index": i+1, "error": error_msg})
+                # Optionnel: ajouter un placeholder ou l'erreur dans all_generated_data
+                all_generated_data.append({"error": "RequestException", "request_index": i+1, "details": str(e)})
+                # Sauvegarder même en cas d'erreur pour ne pas perdre les données précédentes
+                with open(results_file_path, 'w', encoding='utf-8') as f:
+                    json.dump(all_generated_data, f, ensure_ascii=False, indent=4)
+                # Continuer avec la prochaine requête si possible, ou décider d'arrêter.
+                # Ici, on continue.
         
         task_manager.complete_task(task_id)
-        print(f"Tâche {task_id} terminée avec succès")
+        print(f"Tâche {task_id} terminée. Résultats JSON dans {results_file_path}")
         
     except Exception as e:
-        error_msg = f"Erreur générale: {str(e)}"
-        task_manager.add_error(task_id, error_msg)
+        error_msg = f"Erreur générale dans la tâche {task_id}: {str(e)}"
         print(error_msg)
+        task_manager.add_error(task_id, {"request_index": "general", "error": error_msg})
+        # Si une erreur générale se produit, marquer la tâche comme échouée ou la compléter avec erreurs
+        if task_manager.get_task(task_id):
+             task_manager.get_task(task_id)['status'] = 'failed_or_completed_with_errors'
+
 
 @app.route('/')
 def index():
-    # Servir directement le HTML depuis le même dossier
     return render_template('index.html')
 
 @app.route('/upload', methods=['POST'])
-def upload_file():
+def upload_file_route(): # Renommé pour éviter conflit avec variable 'file'
     if 'file' not in request.files:
         return jsonify({'error': 'Aucun fichier sélectionné'}), 400
     
-    file = request.files['file']
-    if file.filename == '':
+    file_obj = request.files['file'] # Renommé pour éviter conflit
+    if file_obj.filename == '':
         return jsonify({'error': 'Aucun fichier sélectionné'}), 400
     
-    if file:
-        # Générer un ID unique pour cette tâche
+    if file_obj:
         task_id = str(uuid.uuid4())
-        
-        # Sauvegarder le fichier
-        filename = f"input_{task_id}.txt"
+        filename = f"input_{task_id}{os.path.splitext(file_obj.filename)[1]}" # Conserver l'extension originale pour le fichier d'input
         file_path = os.path.join(UPLOAD_FOLDER, filename)
-        file.save(file_path)
+        file_obj.save(file_path)
         
-        # Créer la tâche
         task_manager.create_task(task_id)
         
-        # Démarrer le traitement en arrière-plan
         thread = threading.Thread(
             target=generate_synthetic_data, 
             args=(file_path, task_id)
@@ -176,7 +178,7 @@ def upload_file():
         
         return jsonify({
             'task_id': task_id,
-            'message': 'Traitement démarré en arrière-plan'
+            'message': 'Traitement démarré. Les résultats seront au format JSON.'
         })
 
 @app.route('/status/<task_id>')
@@ -185,14 +187,20 @@ def get_status(task_id):
     if not task:
         return jsonify({'error': 'Tâche non trouvée'}), 404
     
+    # S'assurer que les datetime sont bien des objets datetime
+    start_time_str = task['start_time'].strftime('%Y-%m-%d %H:%M:%S') if isinstance(task['start_time'], datetime) else str(task['start_time'])
+    last_update_str = task['last_update'].strftime('%Y-%m-%d %H:%M:%S') if isinstance(task['last_update'], datetime) else str(task['last_update'])
+
     return jsonify({
         'status': task['status'],
         'progress': task['progress'],
         'total': task['total'],
-        'percentage': round((task['progress'] / task['total']) * 100, 2),
+        'percentage': round((task['progress'] / task['total']) * 100, 2) if task['total'] > 0 else 0,
         'errors_count': len(task['errors']),
-        'start_time': task['start_time'].strftime('%Y-%m-%d %H:%M:%S'),
-        'last_update': task['last_update'].strftime('%Y-%m-%d %H:%M:%S')
+        'errors_details': task['errors'][-5:], # Afficher les 5 dernières erreurs par exemple
+        'start_time': start_time_str,
+        'last_update': last_update_str,
+        'results_file': task.get('results_file', f'results_{task_id}.json') # S'assurer qu'il y a une valeur par défaut
     })
 
 @app.route('/download/<task_id>')
@@ -201,87 +209,60 @@ def download_results(task_id):
     if not task:
         return jsonify({'error': 'Tâche non trouvée'}), 404
     
-    results_file = os.path.join(RESULTS_FOLDER, f'results_{task_id}.txt')
-    
-    if not os.path.exists(results_file):
-        return jsonify({'error': 'Fichier de résultats non trouvé'}), 404
-    
-    # Vérifier si c'est un téléchargement partiel
-    is_partial = request.args.get('partial', 'false').lower() == 'true'
+    # Le nom du fichier est maintenant stocké dans les détails de la tâche
+    results_filename = task.get('results_file', f'results_{task_id}.json') 
+    results_file_path = os.path.join(RESULTS_FOLDER, results_filename)
     
-    if is_partial and task['status'] == 'running':
-        # Créer un fichier temporaire avec les données actuelles
-        temp_file = os.path.join(RESULTS_FOLDER, f'temp_results_{task_id}.txt')
-        
-        # Copier le contenu actuel vers le fichier temporaire
-        try:
-            with open(results_file, 'r', encoding='utf-8') as original:
-                content = original.read()
-            
-            with open(temp_file, 'w', encoding='utf-8') as temp:
-                temp.write(content)
-                temp.write(f"\n\n--- TÉLÉCHARGEMENT PARTIEL ---\n")
-                temp.write(f"Téléchargé le: {datetime.now().strftime('%Y-%m-%d %H:%M:%S')}\n")
-                temp.write(f"Progrès: {task['progress']}/{task['total']} ({round((task['progress'] / task['total']) * 100, 2)}%)\n")
-                temp.write("Génération en cours... Ce fichier contient les données générées jusqu'à présent.\n")
-            
-            return send_file(
-                temp_file,
-                as_attachment=True,
-                download_name=f'donnees_synthetiques_partiel_{task_id}.txt'
-            )
-        except Exception as e:
-            return jsonify({'error': f'Erreur lors de la création du fichier partiel: {str(e)}'}), 500
+    if not os.path.exists(results_file_path):
+        # Si le fichier n'existe pas encore mais que la tâche est en cours, c'est normal
+        if task['status'] == 'running' and task['progress'] == 0:
+             return jsonify({'message': 'La génération vient de commencer, aucun résultat à télécharger pour le moment.'}), 202 # Accepted
+        return jsonify({'error': f'Fichier de résultats {results_filename} non trouvé. La génération est peut-être encore en cours ou a échoué avant de créer le fichier.'}), 404
     
-    # Téléchargement normal (complet)
-    download_name = f'donnees_synthetiques_{"complet" if task["status"] == "completed" else "actuel"}_{task_id}.txt'
+    # Pour JSON, un "partiel" est juste l'état actuel du fichier JSON.
+    # Le nom du fichier téléchargé indiquera s'il est complet ou partiel.
+    status_indicator = "complet" if task['status'] == 'completed' else "partiel_en_cours"
+    download_name = f'donnees_synthetiques_{status_indicator}_{task_id}.json'
     
     return send_file(
-        results_file,
+        results_file_path,
         as_attachment=True,
-        download_name=download_name
+        download_name=download_name,
+        mimetype='application/json' # Spécifier le mimetype JSON
     )
 
 @app.route('/tasks')
 def list_tasks():
-    """Liste toutes les tâches"""
     task_list = []
     for task_id, task_info in task_manager.tasks.items():
+        start_time_str = task_info['start_time'].strftime('%Y-%m-%d %H:%M:%S') if isinstance(task_info['start_time'], datetime) else str(task_info['start_time'])
+        last_update_str = task_info['last_update'].strftime('%Y-%m-%d %H:%M:%S') if isinstance(task_info['last_update'], datetime) else str(task_info['last_update'])
+        
         task_list.append({
             'id': task_id,
             'status': task_info['status'],
             'progress': task_info['progress'],
             'total': task_info['total'],
-            'percentage': round((task_info['progress'] / task_info['total']) * 100, 2),
-            'start_time': task_info['start_time'].strftime('%Y-%m-%d %H:%M:%S'),
-            'last_update': task_info['last_update'].strftime('%Y-%m-%d %H:%M:%S'),
-            'errors_count': len(task_info['errors'])
+            'percentage': round((task_info['progress'] / task_info['total']) * 100, 2) if task_info['total'] > 0 else 0,
+            'start_time': start_time_str,
+            'last_update': last_update_str,
+            'errors_count': len(task_info['errors']),
+            'results_file': task_info.get('results_file', f'results_{task_id}.json')
         })
     
-    # Trier par heure de début (plus récent en premier)
     task_list.sort(key=lambda x: x['start_time'], reverse=True)
-    
     return jsonify(task_list)
 
 @app.route('/cleanup')
 def cleanup_temp_files():
-    """Nettoyer les fichiers temporaires (optionnel)"""
-    try:
-        temp_files_deleted = 0
-        for filename in os.listdir(RESULTS_FOLDER):
-            if filename.startswith('temp_results_'):
-                file_path = os.path.join(RESULTS_FOLDER, filename)
-                os.remove(file_path)
-                temp_files_deleted += 1
-        
-        return jsonify({
-            'message': f'{temp_files_deleted} fichiers temporaires supprimés'
-        })
-    except Exception as e:
-        return jsonify({'error': f'Erreur lors du nettoyage: {str(e)}'}), 500
+    # Cette fonction n'est plus nécessaire si nous n'utilisons plus de fichiers 'temp_results_*.txt'
+    # Elle pourrait être adaptée pour nettoyer de vieux fichiers de résultats ou d'upload si besoin.
+    # Pour l'instant, on peut la laisser comme no-op ou la supprimer.
+    return jsonify({'message': 'Nettoyage des fichiers temporaires (JSON partiels) non applicable avec la nouvelle stratégie.'})
 
 if __name__ == '__main__':
-    print("🚀 Démarrage du serveur...")
-    print("📂 Dossiers créés:", UPLOAD_FOLDER, RESULTS_FOLDER)
-    print("🌐 Application disponible sur: http://localhost:5000")
-    app.run(debug=True, threaded=True)
+    print("🚀 Démarrage du serveur Flask...")
+    print(f"📂 Dossier d'upload: {os.path.abspath(UPLOAD_FOLDER)}")
+    print(f"📂 Dossier de résultats: {os.path.abspath(RESULTS_FOLDER)}")
+    print("🌐 Application disponible sur: http://localhost:5000 (ou l'IP de votre machine si accessible de l'extérieur)")
+    app.run(debug=True, threaded=True, host='0.0.0.0') # host='0.0.0.0' pour rendre accessible sur le réseau local