Update modules/text_analysis/semantic_analysis.py

modules/text_analysis/semantic_analysis.py

@@ -71,7 +71,100 @@ ENTITY_LABELS = {
     }
 }
 
+CUSTOM_STOPWORDS = {
+    'es': {
+        # Artículos
+        'el', 'la', 'los', 'las', 'un', 'una', 'unos', 'unas',
+        # Preposiciones comunes
+        'a', 'ante', 'bajo', 'con', 'contra', 'de', 'desde', 'en',
+        'entre', 'hacia', 'hasta', 'para', 'por', 'según', 'sin',
+        'sobre', 'tras', 'durante', 'mediante',
+        # Conjunciones
+        'y', 'e', 'ni', 'o', 'u', 'pero', 'sino', 'porque',
+        # Pronombres
+        'yo', 'tú', 'él', 'ella', 'nosotros', 'vosotros', 'ellos',
+        'ellas', 'este', 'esta', 'ese', 'esa', 'aquel', 'aquella',
+        # Verbos auxiliares comunes
+        'ser', 'estar', 'haber', 'tener',
+        # Palabras comunes en textos académicos
+        'además', 'también', 'asimismo', 'sin embargo', 'no obstante',
+        'por lo tanto', 'entonces', 'así', 'luego', 'pues',
+        # Números escritos
+        'uno', 'dos', 'tres', 'primer', 'primera', 'segundo', 'segunda',
+        # Otras palabras comunes
+        'cada', 'todo', 'toda', 'todos', 'todas', 'otro', 'otra',
+        'donde', 'cuando', 'como', 'que', 'cual', 'quien',
+        'cuyo', 'cuya', 'hay', 'solo', 'ver', 'si', 'no',
+        # Símbolos y caracteres especiales
+        '#', '@', '/', '*', '+', '-', '=', '$', '%'
+    },
+    'en': {
+        # Articles
+        'the', 'a', 'an',
+        # Common prepositions
+        'in', 'on', 'at', 'by', 'for', 'with', 'about', 'against',
+        'between', 'into', 'through', 'during', 'before', 'after',
+        'above', 'below', 'to', 'from', 'up', 'down', 'of',
+        # Conjunctions
+        'and', 'or', 'but', 'nor', 'so', 'for', 'yet',
+        # Pronouns
+        'i', 'you', 'he', 'she', 'it', 'we', 'they', 'this',
+        'that', 'these', 'those', 'my', 'your', 'his', 'her',
+        # Auxiliary verbs
+        'be', 'am', 'is', 'are', 'was', 'were', 'been', 'have',
+        'has', 'had', 'do', 'does', 'did',
+        # Common academic words
+        'therefore', 'however', 'thus', 'hence', 'moreover',
+        'furthermore', 'nevertheless',
+        # Numbers written
+        'one', 'two', 'three', 'first', 'second', 'third',
+        # Other common words
+        'where', 'when', 'how', 'what', 'which', 'who',
+        'whom', 'whose', 'there', 'here', 'just', 'only',
+        # Symbols and special characters
+        '#', '@', '/', '*', '+', '-', '=', '$', '%'
+    ],
+    'fr': {
+        # Articles
+        'le', 'la', 'les', 'un', 'une', 'des',
+        # Prepositions
+        'à', 'de', 'dans', 'sur', 'en', 'par', 'pour', 'avec',
+        'sans', 'sous', 'entre', 'derrière', 'chez', 'avant',
+        # Conjunctions
+        'et', 'ou', 'mais', 'donc', 'car', 'ni', 'or',
+        # Pronouns
+        'je', 'tu', 'il', 'elle', 'nous', 'vous', 'ils',
+        'elles', 'ce', 'cette', 'ces', 'celui', 'celle',
+        # Auxiliary verbs
+        'être', 'avoir', 'faire',
+        # Academic words
+        'donc', 'cependant', 'néanmoins', 'ainsi', 'toutefois',
+        'pourtant', 'alors',
+        # Numbers
+        'un', 'deux', 'trois', 'premier', 'première', 'second',
+        # Other common words
+        'où', 'quand', 'comment', 'que', 'qui', 'quoi',
+        'quel', 'quelle', 'plus', 'moins',
+        # Symbols
+        '#', '@', '/', '*', '+', '-', '=', '$', '%'
+    }
+}
+
 ##############################################################################################################
+def get_stopwords(lang_code):
+    """
+    Obtiene el conjunto de stopwords para un idioma específico.
+    Combina las stopwords de spaCy con las personalizadas.
+    """
+    try:
+        nlp = spacy.load(f'{lang_code}_core_news_sm')
+        spacy_stopwords = nlp.Defaults.stop_words
+        custom_stopwords = CUSTOM_STOPWORDS.get(lang_code, set())
+        return spacy_stopwords.union(custom_stopwords)
+    except:
+        return CUSTOM_STOPWORDS.get(lang_code, set())
+
+
 def perform_semantic_analysis(text, nlp, lang_code):
     """
     Realiza el análisis semántico completo del texto.
@@ -125,25 +218,53 @@ def fig_to_html(fig):
 
 
 
-def identify_key_concepts(doc):
-    logger.info("Identifying key concepts")
-    word_freq = Counter([token.lemma_.lower() for token in doc if token.pos_ in ['NOUN', 'VERB'] and not token.is_stop])
-    key_concepts = word_freq.most_common(10)
-    return [(concept, float(freq)) for concept, freq in key_concepts]
+def identify_key_concepts(doc, min_freq=2, min_length=3):
+    """
+    Identifica conceptos clave en el texto, excluyendo stopwords
+    y aplicando criterios de frecuencia y longitud.
+    """
+    stopwords = get_stopwords(doc.lang_)
+    word_freq = Counter()
+    
+    for token in doc:
+        if (token.text.lower() not in stopwords and  # No es stopword
+            token.is_alpha and                       # Es alfabético
+            len(token.text) >= min_length and        # Longitud mínima
+            not token.is_punct and                   # No es puntuación
+            not token.like_num):                     # No es número
+            
+            # Usar el lema en lugar del token para unificar variantes
+            word_freq[token.lemma_] += 1
+    
+    # Filtrar por frecuencia mínima y ordenar por frecuencia
+    key_concepts = [(word, freq) for word, freq in word_freq.items() 
+                   if freq >= min_freq]
+    key_concepts.sort(key=lambda x: x[1], reverse=True)
+    
+    return key_concepts[:10]  # Retornar los 10 conceptos más frecuentes
 
 
 def create_concept_graph(doc, key_concepts):
+    """
+    Crea un grafo de relaciones entre conceptos.
+    """
     G = nx.Graph()
-    for concept, freq in key_concepts:
-        G.add_node(concept, weight=freq)
+    concept_words = {concept[0] for concept in key_concepts}
+    
     for sent in doc.sents:
-        sent_concepts = [token.lemma_.lower() for token in sent if token.lemma_.lower() in dict(key_concepts)]
-        for i, concept1 in enumerate(sent_concepts):
-            for concept2 in sent_concepts[i+1:]:
+        sentence_concepts = []
+        for token in sent:
+            if token.lemma_ in concept_words:
+                sentence_concepts.append(token.lemma_)
+        
+        # Crear conexiones entre conceptos en la misma oración
+        for i, concept1 in enumerate(sentence_concepts):
+            for concept2 in sentence_concepts[i+1:]:
                 if G.has_edge(concept1, concept2):
                     G[concept1][concept2]['weight'] += 1
                 else:
                     G.add_edge(concept1, concept2, weight=1)
+    
     return G
 
 def visualize_concept_graph(G, lang_code):