Controles

app.py

@@ -11,9 +11,9 @@ HF_TOKEN = os.getenv("HUGGINGFACE_TOKEN")
 login(token=HF_TOKEN)
 client = InferenceClient(token=HF_TOKEN)
 
-system_prompt = '''Voici le contenu d'un article ou d'une conférence scientifique. Je te demande de réaliser un résumé à destination d'experts à des fins de veille scientifique et technologique. Tu dois réaliser une analyse des principaux apports et tu dois les restituer sous la forme d'un paragraphe qui pourrait accompagner une notice sur ces documents. Tu écris en français avec des phrases courtes et précises.'''
+system_prompt_base = '''Voici le contenu d'un article ou d'une conférence scientifique. Je te demande de réaliser un résumé à destination d'experts à des fins de veille scientifique et technologique. Tu dois réaliser une analyse des principaux apports et tu dois les restituer sous la forme d'un paragraphe qui pourrait accompagner une notice sur ces documents. Tu écris en français avec des phrases courtes et précises.'''
 
-def summarizer(text):
+def summarizer(text, system_prompt, max_length):
     model = 'meta-llama/Llama-3.1-70B-Instruct'
 
     messages = [
@@ -24,7 +24,7 @@ def summarizer(text):
         response = client.chat_completion(
             messages=messages,
             model=model,
-            max_tokens=1000,
+            max_tokens=max_length,
         )
 
         return response["choices"][0]["message"]["content"]
@@ -32,7 +32,7 @@ def summarizer(text):
         return f"Erreur : {str(e)}"
 
 # Fonction pour résumer un article arXiv
-def summarize_arxiv(arxiv_id):
+def summarize_arxiv(arxiv_id, system_prompt, max_length):
     try:
         if arxiv_id.startswith('https'):
             url = arxiv_id
@@ -47,13 +47,13 @@ def summarize_arxiv(arxiv_id):
             text += page.extract_text()
         
         
-        summary = summarizer(text)
+        summary = summarizer(text, system_prompt, max_length)
         return summary
     except Exception as e:
         return f"Erreur : {str(e)}"
 
 # Fonction pour résumer une vidéo YouTube
-def summarize_youtube(video_url):
+def summarize_youtube(video_url, system_prompt, max_length):
     try:
         # Extraire l'ID de la vidéo
         if "watch?v=" in video_url:
@@ -65,7 +65,7 @@ def summarize_youtube(video_url):
         text = " ".join([t['text'] for t in transcript])
         
         
-        summary = summarizer(text)
+        summary = summarizer(text, system_prompt, max_length)
         return summary
     except Exception as e:
         return f"Erreur : {str(e)}"
@@ -73,17 +73,28 @@ def summarize_youtube(video_url):
 # Interface Gradio
 with gr.Blocks() as demo:
     gr.Markdown("# Résumé d'articles arXiv et de vidéos YouTube")
+
+    max_length_slider= gr.Slider(
+        minimum=50, maximum=3000, step=50, value=500,
+        label="Longueur maximale du résumé (tokens)"
+    )
+
+    system_prompt = gr.Textbox(label="Le prompt système",
+                    value=system_prompt_base)
     
     with gr.Tab("arXiv"):
         arxiv_id = gr.Textbox(label="Entrez l'ID arXiv (par ex., 2101.00001)")
         arxiv_summary = gr.Textbox(label="Résumé")
         arxiv_button = gr.Button("Résumer")
-        arxiv_button.click(summarize_arxiv, inputs=arxiv_id, outputs=arxiv_summary)
+        arxiv_button.click(summarize_arxiv, inputs=[arxiv_id, system_prompt,
+                                                    max_length_slider], outputs=arxiv_summary)
     
     with gr.Tab("YouTube"):
         youtube_url = gr.Textbox(label="Entrez l'URL de la vidéo YouTube")
         youtube_summary = gr.Textbox(label="Résumé")
         youtube_button = gr.Button("Résumer")
-        youtube_button.click(summarize_youtube, inputs=youtube_url, outputs=youtube_summary)
+        youtube_button.click(summarize_youtube, inputs=[youtube_url,
+                                                        system_prompt,
+                                                        max_length_slider], outputs=youtube_summary)
 
 demo.launch()