|
{ |
|
"paper_id": "F13-1015", |
|
"header": { |
|
"generated_with": "S2ORC 1.0.0", |
|
"date_generated": "2023-01-19T09:40:48.385215Z" |
|
}, |
|
"title": "Un mod\u00e8le segmental probabiliste combinant coh\u00e9sion lexicale et rupture lexicale pour la segmentation th\u00e9matique", |
|
"authors": [ |
|
{ |
|
"first": "Anca", |
|
"middle": [], |
|
"last": "Simon", |
|
"suffix": "", |
|
"affiliation": { |
|
"laboratory": "", |
|
"institution": "Universit\u00e9 de Rennes", |
|
"location": {} |
|
}, |
|
"email": "" |
|
}, |
|
{ |
|
"first": "Guillaume", |
|
"middle": [], |
|
"last": "Gravier", |
|
"suffix": "", |
|
"affiliation": {}, |
|
"email": "" |
|
}, |
|
{ |
|
"first": "Pascale", |
|
"middle": [], |
|
"last": "S\u00e9billot", |
|
"suffix": "", |
|
"affiliation": { |
|
"laboratory": "", |
|
"institution": "INSA de Rennes IRISA & INRIA Rennes R\u00c9SUM\u00c9", |
|
"location": {} |
|
}, |
|
"email": "" |
|
} |
|
], |
|
"year": "", |
|
"venue": null, |
|
"identifiers": {}, |
|
"abstract": "L'identification d'une structure th\u00e9matique dans des donn\u00e9es textuelles quelconques est une t\u00e2che difficile. La plupart des techniques existantes reposent soit sur la maximisation d'une mesure de coh\u00e9sion lexicale au sein d'un segment, soit sur la d\u00e9tection de ruptures lexicales. Nous proposons une nouvelle technique combinant ces deux crit\u00e8res de mani\u00e8re \u00e0 obtenir le meilleur compromis entre coh\u00e9sion et rupture. Nous d\u00e9finissons un nouveau mod\u00e8le probabiliste, fond\u00e9 sur l'approche propos\u00e9e par Utiyama et Isahara (2001), en pr\u00e9servant les propri\u00e9t\u00e9s d'ind\u00e9pendance au domaine et de faible a priori de cette derni\u00e8re. Des \u00e9valuations sont men\u00e9es sur des textes \u00e9crits et sur des transcriptions automatiques de la parole \u00e0 la t\u00e9l\u00e9vision, transcriptions qui ne respectent pas les normes des textes \u00e9crits, ce qui accro\u00eet la difficult\u00e9. Les r\u00e9sultats exp\u00e9rimentaux obtenus d\u00e9montrent la pertinence de la combinaison des crit\u00e8res de coh\u00e9sion et de rupture.", |
|
"pdf_parse": { |
|
"paper_id": "F13-1015", |
|
"_pdf_hash": "", |
|
"abstract": [ |
|
{ |
|
"text": "L'identification d'une structure th\u00e9matique dans des donn\u00e9es textuelles quelconques est une t\u00e2che difficile. La plupart des techniques existantes reposent soit sur la maximisation d'une mesure de coh\u00e9sion lexicale au sein d'un segment, soit sur la d\u00e9tection de ruptures lexicales. Nous proposons une nouvelle technique combinant ces deux crit\u00e8res de mani\u00e8re \u00e0 obtenir le meilleur compromis entre coh\u00e9sion et rupture. Nous d\u00e9finissons un nouveau mod\u00e8le probabiliste, fond\u00e9 sur l'approche propos\u00e9e par Utiyama et Isahara (2001), en pr\u00e9servant les propri\u00e9t\u00e9s d'ind\u00e9pendance au domaine et de faible a priori de cette derni\u00e8re. Des \u00e9valuations sont men\u00e9es sur des textes \u00e9crits et sur des transcriptions automatiques de la parole \u00e0 la t\u00e9l\u00e9vision, transcriptions qui ne respectent pas les normes des textes \u00e9crits, ce qui accro\u00eet la difficult\u00e9. Les r\u00e9sultats exp\u00e9rimentaux obtenus d\u00e9montrent la pertinence de la combinaison des crit\u00e8res de coh\u00e9sion et de rupture.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Abstract", |
|
"sec_num": null |
|
} |
|
], |
|
"body_text": [ |
|
{ |
|
"text": "La segmentation th\u00e9matique consiste \u00e0 mettre en \u00e9vidence la structure s\u00e9mantique d'un document et les algorithmes d\u00e9velopp\u00e9s pour cette t\u00e2che visent \u00e0 d\u00e9tecter automatiquement les fronti\u00e8res qui d\u00e9finissent des segments th\u00e9matiquement coh\u00e9rents. Cible de nombreux travaux, la segmentation th\u00e9matique a \u00e9galement des retomb\u00e9es en recherche d'information, r\u00e9sum\u00e9 automatique, syst\u00e8mes de question-r\u00e9ponse... Diverses m\u00e9thodes de segmentation de donn\u00e9es textuelles ont \u00e9t\u00e9 propos\u00e9es dans la litt\u00e9rature (Yamron et al., 1998; Georgescul et al., 2006; Galley et al., 2003; Hearst, 1997; Reynar, 1994; Moens and Busser, 2001; Choi, 2000; Ferret et al., 1998; Utiyama and Isahara, 2001) . Comme indiqu\u00e9 dans (Purver, 2011) , elles peuvent \u00eatre supervis\u00e9es ou non, reposer sur des changements de vocabulaire, des techniques de clustering, sur la d\u00e9tection de fronti\u00e8res discriminantes ou sur des mod\u00e8les probabilistes. D\u00e9terminer les segments th\u00e9matiques \u00e0 l'aide de mod\u00e8les probabiliste consiste la plupart du temps \u00e0 inf\u00e9rer la s\u00e9quence de th\u00e8mes la plus probable \u00e0 partir des mots observ\u00e9s et \u00e0 d\u00e9river les positions des fronti\u00e8res (Yamron et al., 1998; Blei and Moreno, 2001) . Ces mod\u00e8les utilisent un corpus d'apprentissage pour estimer les distributions documents-th\u00e8mes et th\u00e8mes-mots. Des travaux r\u00e9cents ont montr\u00e9 l'int\u00e9r\u00eat de l'int\u00e9gration de ces mod\u00e8les probabilistes dans les algorithmes de segmentation de textes reposant sur la similarit\u00e9 de vocabulaire (Misra and Yvon, 2010; Riedl and Biemann, 2012) . Nos travaux portent sur les m\u00e9thodes non supervis\u00e9es. La plupart d'entre elles repose sur la coh\u00e9sion du vocabulaire pour identifier des segments coh\u00e9rents dans les textes, exploitant les mots qu'ils contiennent et les relations s\u00e9mantiques que ces mots entretiennent. Pour mesurer la coh\u00e9rence dans les (segments de) textes, la coh\u00e9sion lexicale, fond\u00e9e sur la r\u00e9p\u00e9tition de mots ou sur l'exploitation de cha\u00eenes lexicales, est fr\u00e9quemment retenue en privil\u00e9giant l'une ou l'autre des deux strat\u00e9gies suivantes : soit on cherche \u00e0 maximiser la mesure de coh\u00e9sion lexicale des segments, en regroupant les portions de texte lexicalement coh\u00e9rentes, soit on cherche \u00e0 identifier des ruptures entre les segments en pla\u00e7ant des fronti\u00e8res quand survient un changement significatif dans le vocabulaire utilis\u00e9 (Hearst, 1997) . Dans cet article, notre objectif est de proposer une nouvelle solution pour la segmentation th\u00e9matique de documents qui consiste \u00e0 m\u00ealer ces deux approches, c'est-\u00e0-dire \u00e0 combiner les mesures de coh\u00e9sion lexicale et de rupture lexicale afin d'obtenir une segmentation en fragments \u00e0 la fois th\u00e9matiquement coh\u00e9rents et diff\u00e9rents les uns des autres.", |
|
"cite_spans": [ |
|
{ |
|
"start": 500, |
|
"end": 521, |
|
"text": "(Yamron et al., 1998;", |
|
"ref_id": "BIBREF26" |
|
}, |
|
{ |
|
"start": 522, |
|
"end": 546, |
|
"text": "Georgescul et al., 2006;", |
|
"ref_id": "BIBREF10" |
|
}, |
|
{ |
|
"start": 547, |
|
"end": 567, |
|
"text": "Galley et al., 2003;", |
|
"ref_id": "BIBREF9" |
|
}, |
|
{ |
|
"start": 568, |
|
"end": 581, |
|
"text": "Hearst, 1997;", |
|
"ref_id": "BIBREF14" |
|
}, |
|
{ |
|
"start": 582, |
|
"end": 595, |
|
"text": "Reynar, 1994;", |
|
"ref_id": "BIBREF23" |
|
}, |
|
{ |
|
"start": 596, |
|
"end": 619, |
|
"text": "Moens and Busser, 2001;", |
|
"ref_id": "BIBREF20" |
|
}, |
|
{ |
|
"start": 620, |
|
"end": 631, |
|
"text": "Choi, 2000;", |
|
"ref_id": "BIBREF5" |
|
}, |
|
{ |
|
"start": 632, |
|
"end": 652, |
|
"text": "Ferret et al., 1998;", |
|
"ref_id": "BIBREF8" |
|
}, |
|
{ |
|
"start": 653, |
|
"end": 679, |
|
"text": "Utiyama and Isahara, 2001)", |
|
"ref_id": "BIBREF25" |
|
}, |
|
{ |
|
"start": 701, |
|
"end": 715, |
|
"text": "(Purver, 2011)", |
|
"ref_id": "BIBREF22" |
|
}, |
|
{ |
|
"start": 1127, |
|
"end": 1148, |
|
"text": "(Yamron et al., 1998;", |
|
"ref_id": "BIBREF26" |
|
}, |
|
{ |
|
"start": 1149, |
|
"end": 1171, |
|
"text": "Blei and Moreno, 2001)", |
|
"ref_id": "BIBREF2" |
|
}, |
|
{ |
|
"start": 1462, |
|
"end": 1484, |
|
"text": "(Misra and Yvon, 2010;", |
|
"ref_id": "BIBREF19" |
|
}, |
|
{ |
|
"start": 1485, |
|
"end": 1509, |
|
"text": "Riedl and Biemann, 2012)", |
|
"ref_id": "BIBREF24" |
|
}, |
|
{ |
|
"start": 2317, |
|
"end": 2331, |
|
"text": "(Hearst, 1997)", |
|
"ref_id": "BIBREF14" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction", |
|
"sec_num": "1" |
|
}, |
|
{ |
|
"text": "La technique que nous proposons peut s'appliquer \u00e0 tout type de donn\u00e9es textuelles et est ind\u00e9pendante d'un domaine particulier. Notre objectif est cependant de l'appliquer \u00e0 la segmentation de journaux t\u00e9l\u00e9vis\u00e9s afin de permettre \u00e0 des utilisateurs de naviguer dans ce type de donn\u00e9es. De mani\u00e8re \u00e0 rester g\u00e9n\u00e9rique et non supervis\u00e9e, la segmentation th\u00e9matique peut dans ce cas s'appuyer sur la transcription automatique de la parole prononc\u00e9e dans les \u00e9missions. L'analyse des mots de la transcription vise alors \u00e0 trouver un changement significatif de vocabulaire et donc un changement de th\u00e8me (Hearst, 1997) . Cependant, les particularit\u00e9s des transcriptions automatiques accroissent la difficult\u00e9 de la t\u00e2che de segmentation. En effet, ces transcriptions ne contiennent ni casse, ni ponctuation, et ne sont donc pas structur\u00e9es en phrases comme des textes standards mais en groupes de soufle correspondant aux mots prononc\u00e9s par une personne entre deux inspirations. De plus, elles peuvent contenir de nombreux mots mal transcrits. Difficult\u00e9 suppl\u00e9mentaire, les journaux TV peuvent avoir des segments th\u00e9matiques tr\u00e8s courts, contenant peu de mots et donc peu de r\u00e9p\u00e9titions, en particulier quand le pr\u00e9sentateur fait volontairement usage de synonymes. Cela rend l'utilisation du crit\u00e8re de coh\u00e9sion lexicale particuli\u00e8rement ardue. Notre algorithme de segmentation th\u00e9matique ayant un fort potentiel pour traiter ces cas, nous avons souhait\u00e9 le tester sur ces donn\u00e9es difficiles.", |
|
"cite_spans": [ |
|
{ |
|
"start": 599, |
|
"end": 613, |
|
"text": "(Hearst, 1997)", |
|
"ref_id": "BIBREF14" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction", |
|
"sec_num": "1" |
|
}, |
|
{ |
|
"text": "La technique pr\u00e9sent\u00e9e ici repose sur l'algorithme de segmentation de textes propos\u00e9 par Utiyama et Isahara (2001) , algorithme dont les capacti\u00e9s ont \u00e9t\u00e9 attest\u00e9es pour le texte \u00e9crit. C'est un mod\u00e8le probabiliste qui fournit une segmentation non supervis\u00e9e. Dans cette approche, il n'y a donc pas de tentative d'apprentissage de l'ensemble des mod\u00e8les th\u00e9matiques le plus probable \u00e0 partir des donn\u00e9es d'apprentissage, mais au contraire l'ensemble est g\u00e9n\u00e9r\u00e9 par l'algorithme \u00e9tant donn\u00e9s les textes \u00e0 segmenter. Ce mod\u00e8le est ind\u00e9pendant du domaine et permet l'obtention de segments de longueurs tr\u00e8s vari\u00e9es. Il consiste en une repr\u00e9sentation du document \u00e0 segmenter sous forme d'un graphe, o\u00f9 les noeuds repr\u00e9sentent les fronti\u00e8res th\u00e9matiques potentielles et les arcs les segments. La segmentation th\u00e9matique est obtenue en trouvant le meilleur chemin dans le graphe valu\u00e9, dans lequel les poids refl\u00e8tent la valeur de coh\u00e9sion lexicale. Notre contribution consiste \u00e0 d\u00e9finir un mod\u00e8le statistique am\u00e9lior\u00e9 qui permet d'int\u00e9grer la rupture lexicale. Par cons\u00e9quent, notre algorithme se r\u00e9sume en un d\u00e9codage d'un treillis afin d'identifier la meilleure segmentation. Cette repr\u00e9sentation permet de consid\u00e9rer la valeur de rupture lexicale en chaque noeud. La solution propos\u00e9e est test\u00e9e pour la segmentation de journaux TV transcrits mais \u00e9galement de textes \u00e9crits, et les \u00e9valuations montrent une am\u00e9lioration en pr\u00e9cision et rappel par rapport \u00e0 la seule utilisation de la valeur de la coh\u00e9sion lexicale. L'article est organis\u00e9 de la fa\u00e7on suivante : des travaux en segmentation th\u00e9matique existants sont pr\u00e9sent\u00e9s dans la section 2. Dans la section 3, nous d\u00e9taillons notre approche, en d\u00e9crivant d'abord le mod\u00e8le g\u00e9n\u00e9ral d'Utiyama et Isahara puis le nouveau mod\u00e8le statistique propos\u00e9. Dans la section 4, les exp\u00e9riences sont pr\u00e9sent\u00e9es, avec des d\u00e9tails sur les corpus utilis\u00e9s et une analyse des r\u00e9sultats.", |
|
"cite_spans": [ |
|
{ |
|
"start": 89, |
|
"end": 114, |
|
"text": "Utiyama et Isahara (2001)", |
|
"ref_id": "BIBREF25" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction", |
|
"sec_num": "1" |
|
}, |
|
{ |
|
"text": "Dans cette section, nous pr\u00e9sentons rapidement les notions-cl\u00e9s concernant le concept de segmentation th\u00e9matique, ainsi que les techniques existantes et les traits qu'elles exploitent pour r\u00e9aliser cette t\u00e2che.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Techniques de segmentation th\u00e9matique", |
|
"sec_num": "2" |
|
}, |
|
{ |
|
"text": "Le concept de th\u00e8me est difficile \u00e0 d\u00e9finir pr\u00e9cis\u00e9ment et les linguistes qui ont tent\u00e9 de le caract\u00e9riser en offrent de nombreuses d\u00e9finitions. Dans (Brown and Yule, 1983) , la difficult\u00e9 de d\u00e9finir un th\u00e8me est longuement discut\u00e9e et les auteurs soulignent que : \"The notion of 'topic' is clearly an intuitively satisfactory way of describing the unifying principle which makes one stretch of discourse 'about' something and the next stretch 'about' something else, for it is appealed to very frequently in the discourse analysis literature. Yet the basis for the identification of 'topic' is rarely made explicit.\".", |
|
"cite_spans": [ |
|
{ |
|
"start": 150, |
|
"end": 172, |
|
"text": "(Brown and Yule, 1983)", |
|
"ref_id": "BIBREF3" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Le concept de th\u00e8me", |
|
"sec_num": "2.1" |
|
}, |
|
{ |
|
"text": "Souhaitant appliquer la segmentation th\u00e9matique \u00e0 des journaux TV, nous avons cherch\u00e9 \u00e0 voir si la notion de th\u00e8me avait \u00e9t\u00e9 d\u00e9finie dans le contexte d'\u00e9missions t\u00e9l\u00e9vis\u00e9es. Le projet Topic Detection and Tracking (Allan, 2002) s'est par exemple focalis\u00e9 sur le rep\u00e9rage de segments de journaux TV th\u00e9matiquement li\u00e9s. Dans ce cadre, les notions d'\u00e9v\u00e9nement et de th\u00e8me ont \u00e9t\u00e9 d\u00e9finies : un \u00e9v\u00e9nement est quelque chose qui se produit \u00e0 un instant et un endroit sp\u00e9cifique et qui est associ\u00e9 \u00e0 des actions particuli\u00e8res ; un th\u00e8me est, quant \u00e0 lui, l'ensemble form\u00e9 d'un \u00e9v\u00e9nement et de tous les \u00e9v\u00e9nements qui lui sont directement li\u00e9s. Un \u00e9v\u00e9nement est donc relativement court et \u00e9volue dans le temps, tandis qu'un th\u00e8me est plus stable et plus long.", |
|
"cite_spans": [ |
|
{ |
|
"start": 213, |
|
"end": 226, |
|
"text": "(Allan, 2002)", |
|
"ref_id": "BIBREF0" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Le concept de th\u00e8me", |
|
"sec_num": "2.1" |
|
}, |
|
{ |
|
"text": "Dans notre cadre de segmentation de journaux TV, un th\u00e8me correspond \u00e0 un reportage qui forme une unit\u00e9 s\u00e9mantique coh\u00e9rente dans la structure d'un journal. Notre algorithme est \u00e9galement \u00e9valu\u00e9 sur des textes \u00e9crits, form\u00e9s par concat\u00e9nation de parties extraites d'articles s\u00e9lectionn\u00e9s al\u00e9atoirement dans le corpus Brown (Choi, 2000) ; un th\u00e8me est alors associ\u00e9 \u00e0 chaque partie formant le texte final.", |
|
"cite_spans": [ |
|
{ |
|
"start": 323, |
|
"end": 335, |
|
"text": "(Choi, 2000)", |
|
"ref_id": "BIBREF5" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Le concept de th\u00e8me", |
|
"sec_num": "2.1" |
|
}, |
|
{ |
|
"text": "Pour r\u00e9aliser la segmentation th\u00e9matique de textes, diverses caract\u00e9ristiques peuvent \u00eatre exploit\u00e9es afin d'identifier les changements th\u00e9matiques. Elles peuvent reposer sur la coh\u00e9sion lexicale (i.e., prendre en compte les informations de distribution du vocabulaire) ou sur des marqueurs linguistiques tels que des indices prosodiques (Guinaudeau and Hirschberg, 2011) ou des marqueurs du discours (Grosz and Sidner, 1986; Litman and Passonneau, 1995) . Les techniques g\u00e9n\u00e9riques, qui sont celles qui nous int\u00e9ressent ici, exploitent traditionnellement la seule coh\u00e9sion lexicale, ind\u00e9pendante du type de documents consid\u00e9r\u00e9s et ne n\u00e9cessitant pas de phase d'apprentissage. L'id\u00e9e-cl\u00e9 des m\u00e9thodes fond\u00e9es sur la coh\u00e9sion lexicale est de consid\u00e9rer qu'un changement significatif dans le vocabulaire utilis\u00e9 est un signe de changement th\u00e9matique. Ces approches peuvent \u00eatre divis\u00e9es en deux familles :", |
|
"cite_spans": [ |
|
{ |
|
"start": 338, |
|
"end": 371, |
|
"text": "(Guinaudeau and Hirschberg, 2011)", |
|
"ref_id": "BIBREF13" |
|
}, |
|
{ |
|
"start": 401, |
|
"end": 425, |
|
"text": "(Grosz and Sidner, 1986;", |
|
"ref_id": "BIBREF11" |
|
}, |
|
{ |
|
"start": 426, |
|
"end": 454, |
|
"text": "Litman and Passonneau, 1995)", |
|
"ref_id": "BIBREF17" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "M\u00e9thodes pour la segmentation th\u00e9matique", |
|
"sec_num": "2.2" |
|
}, |
|
{ |
|
"text": "\u2022 les m\u00e9thodes locales (Hearst, 1997; Hernandez and Grau, 2002; Ferret et al., 1998; Claveau and Lef\u00e8vre, 2011) qui cherchent \u00e0 rep\u00e9rer localement les ruptures lexicales ; \u2022 les m\u00e9thodes globales (Reynar, 1994; Choi, 2000; Utiyama and Isahara, 2001; Malioutov and Barzilay, 2006; Misra and Yvon, 2010) exploitant une mesure de la coh\u00e9sion lexicale.", |
|
"cite_spans": [ |
|
{ |
|
"start": 23, |
|
"end": 37, |
|
"text": "(Hearst, 1997;", |
|
"ref_id": "BIBREF14" |
|
}, |
|
{ |
|
"start": 38, |
|
"end": 63, |
|
"text": "Hernandez and Grau, 2002;", |
|
"ref_id": "BIBREF15" |
|
}, |
|
{ |
|
"start": 64, |
|
"end": 84, |
|
"text": "Ferret et al., 1998;", |
|
"ref_id": "BIBREF8" |
|
}, |
|
{ |
|
"start": 85, |
|
"end": 92, |
|
"text": "Claveau", |
|
"ref_id": "BIBREF6" |
|
}, |
|
{ |
|
"start": 196, |
|
"end": 210, |
|
"text": "(Reynar, 1994;", |
|
"ref_id": "BIBREF23" |
|
}, |
|
{ |
|
"start": 211, |
|
"end": 222, |
|
"text": "Choi, 2000;", |
|
"ref_id": "BIBREF5" |
|
}, |
|
{ |
|
"start": 223, |
|
"end": 249, |
|
"text": "Utiyama and Isahara, 2001;", |
|
"ref_id": "BIBREF25" |
|
}, |
|
{ |
|
"start": 250, |
|
"end": 279, |
|
"text": "Malioutov and Barzilay, 2006;", |
|
"ref_id": "BIBREF18" |
|
}, |
|
{ |
|
"start": 280, |
|
"end": 301, |
|
"text": "Misra and Yvon, 2010)", |
|
"ref_id": "BIBREF19" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "M\u00e9thodes pour la segmentation th\u00e9matique", |
|
"sec_num": "2.2" |
|
}, |
|
{ |
|
"text": "Une m\u00e9thode locale repose sur la comparaison locale de r\u00e9gions du document et associe un changement th\u00e9matique aux endroits o\u00f9 il y a une similarit\u00e9 faible entre deux r\u00e9gions cons\u00e9cutives (i.e., elles identifient les zones de fortes ruptures lexicales). Par exemple, TextTiling (Hearst, 1997) , qui est consid\u00e9r\u00e9 comme un algorithme de segmentation th\u00e9matique fondamental, analyse le texte \u00e0 l'aide d'une fen\u00eatre glissante qui couvre des blocs adjacents de texte et est centr\u00e9e en un point du texte correspondant \u00e0 une fronti\u00e8re th\u00e9matique potentielle. Les contenus avant et apr\u00e8s chaque fronti\u00e8re possible sont repr\u00e9sent\u00e9s par des vecteurs de mots pond\u00e9r\u00e9s, un poids fort indiquant qu'un mot est particuli\u00e8rement pertinent pour d\u00e9crire un contenu. Une mesure de similarit\u00e9, par exemple cosinus, est calcul\u00e9e entre les deux vecteurs. Plus l'angle entre les deux vecteurs diminue, plus le cosinus approche de 1, indiquant par l\u00e0-m\u00eame la plus grande similarit\u00e9 entre les contenus avant et apr\u00e8s la fronti\u00e8re potentielle. Les valeurs de similarit\u00e9 sont calcul\u00e9es \u00e0 chaque fronti\u00e8re possible et la s\u00e9quence r\u00e9sultante de valeurs de similarit\u00e9 est analys\u00e9e. Les points de scores de similarit\u00e9 les plus bas (i.e., forte rupture) repr\u00e9sentent alors les fronti\u00e8res th\u00e9matiques. Ce type de m\u00e9thode locale pr\u00e9sente certains d\u00e9savantages dont une sensibilit\u00e9 aux variations de tailles des segments dans les textes puisqu'un voisinage de taille fixe est consid\u00e9r\u00e9, ainsi qu'une difficult\u00e9 de choix de la valeur de seuil pour d\u00e9cider qu'une rupture est suffisamment forte pour placer une fronti\u00e8re. Choi (2000) ou Reynar (1994) . Cependant, la limite principale de ce type de m\u00e9thode globale est un risque de sur-segmentation.", |
|
"cite_spans": [ |
|
{ |
|
"start": 278, |
|
"end": 292, |
|
"text": "(Hearst, 1997)", |
|
"ref_id": "BIBREF14" |
|
}, |
|
{ |
|
"start": 1586, |
|
"end": 1597, |
|
"text": "Choi (2000)", |
|
"ref_id": "BIBREF5" |
|
}, |
|
{ |
|
"start": 1601, |
|
"end": 1614, |
|
"text": "Reynar (1994)", |
|
"ref_id": "BIBREF23" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "M\u00e9thodes pour la segmentation th\u00e9matique", |
|
"sec_num": "2.2" |
|
}, |
|
{ |
|
"text": "L'originalit\u00e9 de la solution que nous proposons consiste dans la combinaison des deux types de m\u00e9thodes. Une m\u00e9thode fond\u00e9e sur le m\u00eame principe, visant \u00e0 capturer dans une vue globale des dissimilarit\u00e9s locales, a \u00e9t\u00e9 pr\u00e9sent\u00e9e dans (Malioutov and Barzilay, 2006) , mais, d'une part, le nombre de segments \u00e0 trouver est fix\u00e9 a priori et, d'autre part, la couverture est limit\u00e9e car la dissimilarit\u00e9 entre segments est calcul\u00e9e en utilisant une fen\u00eatre.", |
|
"cite_spans": [ |
|
{ |
|
"start": 234, |
|
"end": 264, |
|
"text": "(Malioutov and Barzilay, 2006)", |
|
"ref_id": "BIBREF18" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "M\u00e9thodes pour la segmentation th\u00e9matique", |
|
"sec_num": "2.2" |
|
}, |
|
{ |
|
"text": "Le point de d\u00e9part de notre m\u00e9thode est le mod\u00e8le statistique propos\u00e9 dans (Utiyama and Isahara, 2001 ), qui est flexible et offre des possibilit\u00e9s d'extension par int\u00e9gration de nouvelles informations. Plusieurs travaux l'ont d\u00e9j\u00e0 utilis\u00e9 avec succ\u00e8s dans le contexte de la segmentation de journaux TV (Huet et al., 2008; Guinaudeau et al., 2012) , le modifiant pour int\u00e9grer des connaissances sp\u00e9cifiques aux \u00e9missions TV. Contrairement \u00e0 ces travaux, nous avons red\u00e9fini le mod\u00e8le de (Utiyama and Isahara, 2001 ) afin qu'il puisse prendre en compte non seulement la coh\u00e9sion mais aussi la rupture lexicale et, par cons\u00e9quent, am\u00e9liorer la segmentation de tout type de donn\u00e9es textuelles. Consid\u00e9rer la rupture est en particulier int\u00e9ressant pour traiter les cas de textes contenant des changements brutaux de vocabulaire. La fa\u00e7on dont nous combinons les deux crit\u00e8res est d\u00e9taill\u00e9e dans la section 3.", |
|
"cite_spans": [ |
|
{ |
|
"start": 75, |
|
"end": 101, |
|
"text": "(Utiyama and Isahara, 2001", |
|
"ref_id": "BIBREF25" |
|
}, |
|
{ |
|
"start": 303, |
|
"end": 322, |
|
"text": "(Huet et al., 2008;", |
|
"ref_id": "BIBREF16" |
|
}, |
|
{ |
|
"start": 323, |
|
"end": 347, |
|
"text": "Guinaudeau et al., 2012)", |
|
"ref_id": "BIBREF12" |
|
}, |
|
{ |
|
"start": 487, |
|
"end": 513, |
|
"text": "(Utiyama and Isahara, 2001", |
|
"ref_id": "BIBREF25" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "M\u00e9thodes pour la segmentation th\u00e9matique", |
|
"sec_num": "2.2" |
|
}, |
|
{ |
|
"text": "Nous rappelons tout d'abord l'algorithme de Utiyama et Isahara, puis expliquons le nouveau mod\u00e8le statistique que nous proposons.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Combinaison de la coh\u00e9sion et de la rupture lexicales", |
|
"sec_num": "3" |
|
}, |
|
{ |
|
"text": "L'algorithme propos\u00e9 par Utiyama et Isahara d\u00e9finit un mod\u00e8le probabiliste et consiste \u00e0 d\u00e9terminer la segmentation qui produit les segments les plus coh\u00e9rents d'un point de vue lexical tout en respectant une distribution a priori de la longueur des segments. L'id\u00e9e principale est de trouver la segmentation la plus probable pour une s\u00e9quence de t unit\u00e9s \u00e9l\u00e9mentaires (i.e., phrases ou \u00e9nonc\u00e9s compos\u00e9s de mots) W = u t 1 parmi toutes les segmentations possibles, i.e., S = arg max", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Le mod\u00e8le statistique", |
|
"sec_num": "3.1" |
|
}, |
|
{ |
|
"text": "EQUATION", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [ |
|
{ |
|
"start": 0, |
|
"end": 8, |
|
"text": "EQUATION", |
|
"ref_id": "EQREF", |
|
"raw_str": "S P[W |S]P[S] .", |
|
"eq_num": "(1)" |
|
} |
|
], |
|
"section": "Le mod\u00e8le statistique", |
|
"sec_num": "3.1" |
|
}, |
|
{ |
|
"text": "En admettant que chaque segment est une unit\u00e9 ind\u00e9pendante du reste du texte et que les mots contenus dans un segment sont eux aussi ind\u00e9pendants, la probabilit\u00e9 du texte W pour une segmentation S = S m 1 est donn\u00e9e par ", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Le mod\u00e8le statistique", |
|
"sec_num": "3.1" |
|
}, |
|
{ |
|
"text": "EQUATION", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [ |
|
{ |
|
"start": 0, |
|
"end": 8, |
|
"text": "EQUATION", |
|
"ref_id": "EQREF", |
|
"raw_str": "P[W |S m 1 ] = m i=1 n i j=1 P[w i j |S i ] ,", |
|
"eq_num": "(2)" |
|
} |
|
], |
|
"section": "Le mod\u00e8le statistique", |
|
"sec_num": "3.1" |
|
}, |
|
{ |
|
"text": "EQUATION", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [ |
|
{ |
|
"start": 0, |
|
"end": 8, |
|
"text": "EQUATION", |
|
"ref_id": "EQREF", |
|
"raw_str": "|S i ] = f i (w i j ) + 1 n i + k ,", |
|
"eq_num": "(3)" |
|
} |
|
], |
|
"section": "Le mod\u00e8le statistique", |
|
"sec_num": "3.1" |
|
}, |
|
{ |
|
"text": "o\u00f9 f i (w i j ) est le nombre d'occurrences de w i j dans S i et k est le nombre total de mots diff\u00e9rents dans le texte W (i.e., la taille du vocabulaire). Cette probabilit\u00e9 va favoriser les segments homog\u00e8nes car elle cro\u00eet quand les mots sont r\u00e9p\u00e9t\u00e9s et d\u00e9cro\u00eet quand ils sont diff\u00e9rents. La distribution a priori des longueurs des segments est donn\u00e9e par P [S m 1 ] = n \u2212m , o\u00f9 n est le nombre total de mots. Elle a une valeur \u00e9lev\u00e9e quand le nombre de segments est faible, tandis que P[W |S] a des valeurs \u00e9lev\u00e9es quand le nombre de segments est grand.", |
|
"cite_spans": [ |
|
{ |
|
"start": 360, |
|
"end": 364, |
|
"text": "[S m", |
|
"ref_id": null |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Le mod\u00e8le statistique", |
|
"sec_num": "3.1" |
|
}, |
|
{ |
|
"text": "Cette approche peut \u00eatre vue comme la recherche du meilleur chemin dans un graphe valu\u00e9, graphe repr\u00e9sentant toutes les segmentations possibles. Chaque noeud correspond \u00e0 une fronti\u00e8re possible et un arc entre les noeuds i et j repr\u00e9sente un segment contenant les unit\u00e9s comprises entre u i+1 et u j . Le poids attribu\u00e9 \u00e0 chaque arc de ce type est", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Le mod\u00e8le statistique", |
|
"sec_num": "3.1" |
|
}, |
|
{ |
|
"text": "EQUATION", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [ |
|
{ |
|
"start": 0, |
|
"end": 8, |
|
"text": "EQUATION", |
|
"ref_id": "EQREF", |
|
"raw_str": "v(i, j) = j k=i+1 ln(P[u k |S i\u2192 j ]) \u2212 \u03b1ln(n) ,", |
|
"eq_num": "(4)" |
|
} |
|
], |
|
"section": "Le mod\u00e8le statistique", |
|
"sec_num": "3.1" |
|
}, |
|
{ |
|
"text": "Le mod\u00e8le d\u00e9fini ci-dessus suppose que chaque segment S i du texte est ind\u00e9pendant des autres, ce qui ne permet pas de combiner la valeur de la coh\u00e9sion lexicale et celle de la rupture lexicale. En effet, lors du calcul du poids associ\u00e9 au segment S i , nous devrions ajouter une p\u00e9nalit\u00e9 marquant \u00e0 quel point le contenu de S i diff\u00e8re de celui du segment pr\u00e9c\u00e9dent S i\u22121 . Pour cette raison, nous proposons une hypoth\u00e8se markovienne entre les segments nous permettant, pour chaque segment, de consid\u00e9rer celui qui le pr\u00e9c\u00e8de. La probabilit\u00e9 d'un texte W pour une segmentation S = S m 1 devient alors", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "EQUATION", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [ |
|
{ |
|
"start": 0, |
|
"end": 8, |
|
"text": "EQUATION", |
|
"ref_id": "EQREF", |
|
"raw_str": "P[W |S m 1 ] = P[W |S 1 ] m i=2 P[W |S i , S i\u22121 ] .", |
|
"eq_num": "(5)" |
|
} |
|
], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "Pour d\u00e9terminer la segmentation de probabilit\u00e9 maximum\u015c, le co\u00fbt associ\u00e9 au segment S i , \u00e9tant donn\u00e9 S i\u22121 , est puisque l'algorithme de segmentation consiste \u00e0 d\u00e9terminer le meilleur chemin dans un graphe pond\u00e9r\u00e9, cela n'a pas d'impact car aucune pr\u00e9supposition de graphe probabiliste n'est faite pour segmenter. Par cons\u00e9quent, la nouvelle d\u00e9finition de la segmentation la plus probable est Les vecteurs contiennent les poids associ\u00e9s aux mots dans les unit\u00e9s. Ces poids sont calcul\u00e9s en utilisant les mesures de TF-IDF et Okapi (Claveau, 2012) , transform\u00e9es en dissimilarit\u00e9s.", |
|
"cite_spans": [ |
|
{ |
|
"start": 532, |
|
"end": 547, |
|
"text": "(Claveau, 2012)", |
|
"ref_id": "BIBREF6" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "EQUATION", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [ |
|
{ |
|
"start": 0, |
|
"end": 8, |
|
"text": "EQUATION", |
|
"ref_id": "EQREF", |
|
"raw_str": "ln(P[W |S i , S i\u22121 ]) = ln(P[W i |S i ]) \u2212 \u03bb( 1 \u2206(W i , W i\u22121 ) ) ,", |
|
"eq_num": "(6)" |
|
} |
|
], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "EQUATION", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [ |
|
{ |
|
"start": 0, |
|
"end": 8, |
|
"text": "EQUATION", |
|
"ref_id": "EQREF", |
|
"raw_str": "S = arg max S m i=1 ln(P[W i |S i ]) \u2212 \u03bb m i=2 ( 1 \u2206(W i , W i\u22121 ) ) \u2212 \u03b1mln(n) .", |
|
"eq_num": "(7)" |
|
} |
|
], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "Pour d\u00e9terminer la meilleure segmentation, nous utilisons un algorithme de programmation dynamique. Lors du d\u00e9codage, on associe \u00e0 chaque noeud le co\u00fbt du meilleur chemin en fonction des arcs entrants. Par exemple dans la figure 1, les calculs au noeud n 3,1 consistent \u00e0 choisir la valeur la plus \u00e9lev\u00e9e entre le poids associ\u00e9 \u00e0 l'arc e 21,31 et \u00e0 l'arc e 22,31 .", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "\u2022 Pour le premier arc, le score est donn\u00e9 par la valeur associ\u00e9e au noeud n 2,1 , la valeur de la coh\u00e9sion lexicale de l'arc e 21,31 et la rupture entre le segment contenant u 2 et le segment contenant u 3 .", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "\u2022 Pour le second, le score est donn\u00e9 par la valeur associ\u00e9e au noeud n 2,2 , la coh\u00e9sion lexicale de l'arc e 22,31 et la rupture lexicale entre le segment contenant \u00e0 la fois u 1 et u 2 et le segment contenant seulement u 3 .", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "Si dans l'exemple donn\u00e9 (cf. FIGURE 1) le score le plus \u00e9lev\u00e9 est obtenu pour le chemin form\u00e9 de e 01,11 e 11,32 e 32,41 , la segmentation de probabilit\u00e9 maximum est", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "[u 1 ][u 2 u 3 ][u 4 ].", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "Utiliser cette repr\u00e9sentation nous permet donc de consid\u00e9rer tous les chemins possibles de longueurs variables, traitant ainsi toutes les combinaisons possibles de segments cons\u00e9cutifs pour le calcul de la coh\u00e9sion lexicale et \u00e9galement de la rupture lexicale. ", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Introduction de la rupture lexicale", |
|
"sec_num": "3.2" |
|
}, |
|
{ |
|
"text": "Nous pr\u00e9sentons ici les exp\u00e9riences r\u00e9alis\u00e9es en fournissant tout d'abord des d\u00e9tails sur les transcriptions de journaux TV et les donn\u00e9es textuelles utilis\u00e9es, puis en analysant les r\u00e9sultats obtenus.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Exp\u00e9riences", |
|
"sec_num": "4" |
|
}, |
|
{ |
|
"text": "Deux corpora sont consid\u00e9r\u00e9s dans notre t\u00e2che de segmentation th\u00e9matique. Le premier est un corpus de journaux TV contenant 56 journaux (\u223c1/2 heure chacun), enregistr\u00e9s de f\u00e9vrier \u00e0 mars 2007 sur la cha\u00eene de TV fran\u00e7aise France 2. Les journaux consistent en une succession de reportages de courte dur\u00e9e (2-3 mn), contenant tr\u00e8s peu de r\u00e9p\u00e9titions de mots par rapport \u00e0 Le second corpus est un jeu de donn\u00e9es artificiel propos\u00e9 par Choi (2000) et utilis\u00e9 par diff\u00e9rents auteurs pour comparer leurs m\u00e9thodes \u00e0 des approches existantes. Il consiste en 700 documents cr\u00e9\u00e9s par concat\u00e9nation de 10 parties de textes correspondant chacune aux z premi\u00e8res phrases d'articles choisis al\u00e9atoirement dans le corpus Brown, z \u00e9tant lui-m\u00eame choisi al\u00e9atoirement dans un intervalle fix\u00e9. Une limite de ce jeu de donn\u00e9es est qu'il comporte donc des changements th\u00e9matiques tr\u00e8s brutaux, ce qui est rarement le cas dans des documents classiques. Cependant, il est int\u00e9ressant car il contient des segments de longueurs variables. Pour l'\u00e9valuation, des mesures de rappel, pr\u00e9cision et F1-mesure ont \u00e9t\u00e9 utilis\u00e9es apr\u00e8s alignement de la r\u00e9f\u00e9rence et des fronti\u00e8res propos\u00e9es. Une tol\u00e9rance de 10 secondes dans le positionnement est autoris\u00e9e dans le cas des transcriptions de journaux TV, et de 2 phrases pour les donn\u00e9es textuelles. Le rappel correspond \u00e0 la part de fronti\u00e8res de r\u00e9f\u00e9rence d\u00e9tect\u00e9es par la m\u00e9thode et la pr\u00e9cision au ratio des fronti\u00e8res produites appartenant \u00e0 la segmentation de r\u00e9f\u00e9rence. La F1mesure combine rappel et pr\u00e9cision en une valeur unique. D'autres mesures ont \u00e9t\u00e9 pr\u00e9c\u00e9demment propos\u00e9es pour \u00e9valuer la segmentation th\u00e9matique de textes. Cependant, contrairement \u00e0 la mesure Pk (Beeferman et al., 1997) , le rappel et la pr\u00e9cision ne sont pas sensibles aux variations de tailles des segments et ces mesures ne favorisent pas les segmentations avec peu de fronti\u00e8res comme la mesure WindowDiff (Pevzner and Hearst, 2002) , ce qui justifie notre choix.", |
|
"cite_spans": [ |
|
{ |
|
"start": 432, |
|
"end": 443, |
|
"text": "Choi (2000)", |
|
"ref_id": "BIBREF5" |
|
}, |
|
{ |
|
"start": 1696, |
|
"end": 1720, |
|
"text": "(Beeferman et al., 1997)", |
|
"ref_id": "BIBREF1" |
|
}, |
|
{ |
|
"start": 1911, |
|
"end": 1937, |
|
"text": "(Pevzner and Hearst, 2002)", |
|
"ref_id": "BIBREF21" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Corpus", |
|
"sec_num": "4.1" |
|
}, |
|
{ |
|
"text": "Les tests effectu\u00e9s ont consist\u00e9 \u00e0 faire varier les param\u00e8tres \u03b1 et \u03bb de l'\u00e9quation 7, \u03b1 permettant diff\u00e9rents compromis entre les valeurs de pr\u00e9cision et de rappel, tandis que \u03bb donne plus ou moins d'importance \u00e0 la rupture.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Corpus", |
|
"sec_num": "4.1" |
|
}, |
|
{ |
|
"text": "Parmi les diverses configurations test\u00e9es dans les exp\u00e9riences, seules quelques-unes sont pr\u00e9sent\u00e9es ici. La figure 2 illustre tout d'abord les r\u00e9sultats obtenus pour la segmentation des journaux TV transcrits par les deux syst\u00e8mes de RAP, en les comparant au syst\u00e8me de r\u00e9f\u00e9rence correspondant \u00e0 l'algorithme d 'Utiyama et Isahara (2001) standard. Les valeurs pr\u00e9sent\u00e9es correspondent \u00e0 des pond\u00e9rations TF-IDF lors de l'\u00e9valuation de la rupture lexicale, les r\u00e9sultats obtenus avec Okapi \u00e9tant similaires. Nous constatons que les pr\u00e9cision et rappel pour le corpus LIMSI sont sup\u00e9rieurs \u00e0 ceux du corpus IRENE, ce qui se justifie par le taux d'erreur de transcription plus \u00e9lev\u00e9 de ce dernier. Notre m\u00e9thode reposant sur la coh\u00e9rence du vocabulaire, l'am\u00e9lioration assez faible obtenue par rapport au syst\u00e8me \u00e9talon s'explique par le fait que les transcriptions sont des donn\u00e9es difficiles, contenant des segments tr\u00e8s courts et peu de r\u00e9p\u00e9titions. Le gain en F1-mesure lors de la segmentation des transcriptions manuelles et automatiques est donn\u00e9 dans le tableau 1. Ces r\u00e9sultats ne concernent toutefois que 6 journaux TV, la F1-mesure retenue correspondant aux segmentations fournissant le nombre de fronti\u00e8res le plus proche de celui de la r\u00e9f\u00e9rence. Le gain est inf\u00e9rieur l\u00e0 encore pour les transcriptions IRENE dont le taux d'erreur est plus \u00e9lev\u00e9. Avoir \u00e0 sa disposition moins de mots potentiellement r\u00e9p\u00e9t\u00e9s accro\u00eet la difficult\u00e9 de discriminer entre des segments appartenant \u00e0 des th\u00e8mes diff\u00e9rents. Cependant notre mod\u00e8le parvient \u00e0 am\u00e9liorer la segmentation m\u00eame pour ces donn\u00e9es bruit\u00e9es.", |
|
"cite_spans": [ |
|
{ |
|
"start": 312, |
|
"end": 338, |
|
"text": "'Utiyama et Isahara (2001)", |
|
"ref_id": "BIBREF25" |
|
} |
|
], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Corpus", |
|
"sec_num": "4.1" |
|
}, |
|
{ |
|
"text": "Notre m\u00e9thode offrant une am\u00e9lioration limit\u00e9e sur la segmentation des transcriptions de FIGURE 2 -Courbe rappel/pr\u00e9cision pour les transcriptions obtenues gr\u00e2ce aux syst\u00e8mes de reconnaissance de la parole LIMSI et IRENE. UI repr\u00e9sente les r\u00e9sultats obtenus gr\u00e2ce \u00e0 la seule coh\u00e9sion lexicale ; \u03bb \u2212 value indique l'importance donn\u00e9e \u00e0 la rupture lexicale dans notre approche journaux TV, nous avons \u00e9galement utilis\u00e9 le corpus de Choi afin de v\u00e9rifier que notre mod\u00e8le fonctionnait bien sur des donn\u00e9es plus classiques. Par ailleurs, le jeu de donn\u00e9es artificiel de Choi nous permet d'observer le comportement de notre approche lorsque les longueurs des segments varient. Les r\u00e9sultats de notre m\u00e9thode sur le corpus de Choi sont pr\u00e9sent\u00e9s sur la figure 3.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Corpus", |
|
"sec_num": "4.1" |
|
}, |
|
{ |
|
"text": "Les nombres mentionn\u00e9s sur chaque figure (par exemple 3-5, 3-11) correspondent \u00e0 l'intervalle de valeurs pour z. Les r\u00e9sultats de diff\u00e9rents \u00e9chantillons du jeu de donn\u00e9es sont fournis. On observe que lorsque notre algorithme traite des textes \u00e9crits, il obtient de meilleures performances, augmentant les valeurs de rappel et de pr\u00e9cision. Plus les segments sont longs en moyenne, plus importante est l'am\u00e9lioration apport\u00e9e par la prise en compte de la rupture. Cependant les param\u00e8tres utilis\u00e9s doivent encore \u00eatre ajust\u00e9s pour que l'importance donn\u00e9e \u00e0 la rupture, pour tout type de donn\u00e9es, soit fix\u00e9e et soit capable d'assigner la p\u00e9nalit\u00e9 n\u00e9cessaire aux poids calcul\u00e9s. Nous avons observ\u00e9 qu'il ne semble pas y avoir de valeur pr\u00e9cise \u00e0 donner \u00e0 l'importance de la rupture ; cependant les valeurs plus \u00e9lev\u00e9es conduisent \u00e0 un rappel plus bas et une pr\u00e9cision plus \u00e9lev\u00e9e, conduisant \u00e0 une sous-segmentation.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Corpus", |
|
"sec_num": "4.1" |
|
}, |
|
{ |
|
"text": "o\u00f9 S i\u2192 j est le segment correspondant \u00e0 l'arc allant du noeud i au noeud j. Pour les petits segments, la probabilit\u00e9 d'estimer les mots contenus dans le segment est plus faible ; le facteur \u03b1 fournit un compromis entre la longueur moyenne des segments retourn\u00e9s et la valeur de la coh\u00e9sion lexicale.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "", |
|
"sec_num": null |
|
}, |
|
{ |
|
"text": "c ATALA", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "", |
|
"sec_num": null |
|
} |
|
], |
|
"back_matter": [ |
|
{ |
|
"text": "FIGURE 3 -Courbes rappel/pr\u00e9cision obtenues sur le corpus de Choi", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "annex", |
|
"sec_num": null |
|
}, |
|
{ |
|
"text": "Nous avons propos\u00e9 une m\u00e9thode originale de segmentation th\u00e9matique qui combine la coh\u00e9sion lexicale et la rupture lexicale, identifiant des zones de continuit\u00e9s et de ruptures dans l'organisation globale des donn\u00e9es. Les r\u00e9sultats obtenus montrent que la combinaison des deux mesures produit des segmentations de meilleure qualit\u00e9 que lors de l'emploi de la seule coh\u00e9sion lexicale. Il reste toutefois encore des possibilit\u00e9s d'am\u00e9liorer notre approche.Nous proposons comme perspectives d'employer d'autres techniques de calcul de la rupture lexicale. Parmi elles, la vectorisation (Claveau and Lef\u00e8vre, 2011) implique une comparaison indirecte entre des segments cons\u00e9cutifs, en proposant un changement dans l'espace de repr\u00e9sentation des segments et l'utilisation de documents pivots pour le calcul de la rupture. Les segments ne partageant pas beaucoup de vocabulaire quoiqu'abordant le m\u00eame th\u00e8me pourraient alors \u00eatre consid\u00e9r\u00e9s comme similaires. Cette m\u00e9thode pourrait donc permettre de pallier le manque de r\u00e9p\u00e9titions de mots qui appara\u00eet particuli\u00e8rement dans le cas de transcriptions de journaux TV. Par ailleurs, une fa\u00e7on de r\u00e9gler finement les param\u00e8tres \u03b1 and \u03bb utilis\u00e9s dans notre mod\u00e8le statistiques doit \u00eatre d\u00e9termin\u00e9e.", |
|
"cite_spans": [], |
|
"ref_spans": [], |
|
"eq_spans": [], |
|
"section": "Conclusions", |
|
"sec_num": "5" |
|
} |
|
], |
|
"bib_entries": { |
|
"BIBREF0": { |
|
"ref_id": "b0", |
|
"title": "Topic Detection and Tracking : event-based information organization", |
|
"authors": [ |
|
{ |
|
"first": "J", |
|
"middle": [], |
|
"last": "Allan", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2002, |
|
"venue": "", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Allan, J., editor (2002). Topic Detection and Tracking : event-based information organization. Kluwer Academic Publishers.", |
|
"links": null |
|
}, |
|
"BIBREF1": { |
|
"ref_id": "b1", |
|
"title": "Text segmentation using exponential models", |
|
"authors": [ |
|
{ |
|
"first": "D", |
|
"middle": [], |
|
"last": "Beeferman", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "A", |
|
"middle": [], |
|
"last": "Berger", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "J", |
|
"middle": [], |
|
"last": "Lafferty", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 1997, |
|
"venue": "Proceedings of the 2nd Conference on Empirical Methods in Natural Language Processing", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "35--46", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Beeferman, D., Berger, A., and Lafferty, J. (1997). Text segmentation using exponential models. In Proceedings of the 2nd Conference on Empirical Methods in Natural Language Processing, pages 35-46.", |
|
"links": null |
|
}, |
|
"BIBREF2": { |
|
"ref_id": "b2", |
|
"title": "Topic segmentation with an aspect hidden Markov model", |
|
"authors": [ |
|
{ |
|
"first": "D", |
|
"middle": [], |
|
"last": "Blei", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "P", |
|
"middle": [], |
|
"last": "Moreno", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2001, |
|
"venue": "Proceedings of the 24th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "343--348", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Blei, D. and Moreno, P. (2001). Topic segmentation with an aspect hidden Markov model. In Proceedings of the 24th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, pages 343-348.", |
|
"links": null |
|
}, |
|
"BIBREF3": { |
|
"ref_id": "b3", |
|
"title": "Discourse analysis", |
|
"authors": [ |
|
{ |
|
"first": "G", |
|
"middle": [], |
|
"last": "Brown", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "G", |
|
"middle": [], |
|
"last": "Yule", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 1983, |
|
"venue": "", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Brown, G. and Yule, G. (1983). Discourse analysis. Cambridge University Press.", |
|
"links": null |
|
}, |
|
"BIBREF5": { |
|
"ref_id": "b5", |
|
"title": "Advances in domain independent linear text segmentation", |
|
"authors": [ |
|
{ |
|
"first": "F", |
|
"middle": [ |
|
"Y Y" |
|
], |
|
"last": "Choi", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2000, |
|
"venue": "Proceedings of the 1st International Conference of the North American Chapter of the Association for Computational Linguistics", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "26--33", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Choi, F. Y. Y. (2000). Advances in domain independent linear text segmentation. In Procee- dings of the 1st International Conference of the North American Chapter of the Association for Computational Linguistics, pages 26-33.", |
|
"links": null |
|
}, |
|
"BIBREF6": { |
|
"ref_id": "b6", |
|
"title": "Vectorisation, Okapi et calcul de similarit\u00e9 pour le TAL : pour oublier enfin le TF-IDF. Actes de la conf\u00e9rence conjointe JEP-TALN-RECITAL", |
|
"authors": [ |
|
{ |
|
"first": "V", |
|
"middle": [], |
|
"last": "Claveau", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2012, |
|
"venue": "", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "85--98", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Claveau, V. (2012). Vectorisation, Okapi et calcul de similarit\u00e9 pour le TAL : pour oublier enfin le TF-IDF. Actes de la conf\u00e9rence conjointe JEP-TALN-RECITAL 2012, pages 85-98.", |
|
"links": null |
|
}, |
|
"BIBREF7": { |
|
"ref_id": "b7", |
|
"title": "Topic segmentation of TV-streams by mathematical morphology and vectorization", |
|
"authors": [ |
|
{ |
|
"first": "V", |
|
"middle": [], |
|
"last": "Claveau", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "S", |
|
"middle": [], |
|
"last": "Lef\u00e8vre", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2011, |
|
"venue": "Proceedings of the 12th International Conference of the International Speech Communication Association, Interspeech'11", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "1105--1108", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Claveau, V. and Lef\u00e8vre, S. (2011). Topic segmentation of TV-streams by mathematical morpho- logy and vectorization. In Proceedings of the 12th International Conference of the International Speech Communication Association, Interspeech'11, pages 1105-1108.", |
|
"links": null |
|
}, |
|
"BIBREF8": { |
|
"ref_id": "b8", |
|
"title": "Thematic segmentation of texts : Two methods for two kinds of texts", |
|
"authors": [ |
|
{ |
|
"first": "O", |
|
"middle": [], |
|
"last": "Ferret", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "B", |
|
"middle": [], |
|
"last": "Grau", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "N", |
|
"middle": [], |
|
"last": "Masson", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 1998, |
|
"venue": "Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "392--396", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Ferret, O., Grau, B., and Masson, N. (1998). Thematic segmentation of texts : Two methods for two kinds of texts. In Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics, pages 392-396.", |
|
"links": null |
|
}, |
|
"BIBREF9": { |
|
"ref_id": "b9", |
|
"title": "Discourse segmentation of multi-party conversation", |
|
"authors": [ |
|
{ |
|
"first": "M", |
|
"middle": [], |
|
"last": "Galley", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "K", |
|
"middle": [], |
|
"last": "Mckeown", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "E", |
|
"middle": [], |
|
"last": "Fosler-Lussier", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "Jing", |
|
"middle": [], |
|
"last": "", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "H", |
|
"middle": [], |
|
"last": "", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2003, |
|
"venue": "Proceedings of the 41st Annual Meeting of the Association for Computational Linguistics, ACL", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "562--569", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Galley, M., McKeown, K., Fosler-Lussier, E., and Jing, H. (2003). Discourse segmentation of multi-party conversation. In Proceedings of the 41st Annual Meeting of the Association for Computational Linguistics, ACL, pages 562-569.", |
|
"links": null |
|
}, |
|
"BIBREF10": { |
|
"ref_id": "b10", |
|
"title": "Word distributions for thematic segmentation in a support vector machine approach", |
|
"authors": [ |
|
{ |
|
"first": "M", |
|
"middle": [], |
|
"last": "Georgescul", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "A", |
|
"middle": [], |
|
"last": "Clark", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "Armstrong", |
|
"middle": [], |
|
"last": "", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "S", |
|
"middle": [], |
|
"last": "", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2006, |
|
"venue": "Proceedings of the 10th Conference on Computational Natural Language Learning", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "101--108", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Georgescul, M., Clark, A., and Armstrong, S. (2006). Word distributions for thematic seg- mentation in a support vector machine approach. In Proceedings of the 10th Conference on Computational Natural Language Learning, CoNLL-X, pages 101-108.", |
|
"links": null |
|
}, |
|
"BIBREF11": { |
|
"ref_id": "b11", |
|
"title": "Attention, intentions, and the structure of discourse", |
|
"authors": [ |
|
{ |
|
"first": "B", |
|
"middle": [ |
|
"J" |
|
], |
|
"last": "Grosz", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "C", |
|
"middle": [ |
|
"L" |
|
], |
|
"last": "Sidner", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 1986, |
|
"venue": "Computational Linguistics", |
|
"volume": "12", |
|
"issue": "3", |
|
"pages": "175--204", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Grosz, B. J. and Sidner, C. L. (1986). Attention, intentions, and the structure of discourse. Computational Linguistics, 12(3) :175-204.", |
|
"links": null |
|
}, |
|
"BIBREF12": { |
|
"ref_id": "b12", |
|
"title": "Enhancing lexical cohesion measure with confidence measures, semantic relations and language model interpolation for multimedia spoken content topic segmentation", |
|
"authors": [ |
|
{ |
|
"first": "C", |
|
"middle": [], |
|
"last": "Guinaudeau", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "G", |
|
"middle": [], |
|
"last": "Gravier", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "P", |
|
"middle": [], |
|
"last": "S\u00e9billot", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2012, |
|
"venue": "Computer Speech and Language", |
|
"volume": "26", |
|
"issue": "2", |
|
"pages": "90--104", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Guinaudeau, C., Gravier, G., and S\u00e9billot, P. (2012). Enhancing lexical cohesion measure with confidence measures, semantic relations and language model interpolation for multimedia spoken content topic segmentation. Computer Speech and Language, 26(2) :90-104.", |
|
"links": null |
|
}, |
|
"BIBREF13": { |
|
"ref_id": "b13", |
|
"title": "Accounting for prosodic information to improve ASR-based topic tracking for TV broadcast news", |
|
"authors": [ |
|
{ |
|
"first": "C", |
|
"middle": [], |
|
"last": "Guinaudeau", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "J", |
|
"middle": [], |
|
"last": "Hirschberg", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2011, |
|
"venue": "12th Annual Conference of the International Speech Communication Association, Interspeech'11", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "1401--1404", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Guinaudeau, C. and Hirschberg, J. (2011). Accounting for prosodic information to improve ASR-based topic tracking for TV broadcast news. In 12th Annual Conference of the International Speech Communication Association, Interspeech'11, pages 1401-1404.", |
|
"links": null |
|
}, |
|
"BIBREF14": { |
|
"ref_id": "b14", |
|
"title": "TextTiling : Segmenting text into multi-paragraph subtopic passages", |
|
"authors": [ |
|
{ |
|
"first": "M", |
|
"middle": [ |
|
"A" |
|
], |
|
"last": "Hearst", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 1997, |
|
"venue": "Computational Linguistics", |
|
"volume": "23", |
|
"issue": "1", |
|
"pages": "33--64", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Hearst, M. A. (1997). TextTiling : Segmenting text into multi-paragraph subtopic passages. Computational Linguistics, 23(1) :33-64.", |
|
"links": null |
|
}, |
|
"BIBREF15": { |
|
"ref_id": "b15", |
|
"title": "Analyse th\u00e9matique du discours : segmentation, structuration, description et repr\u00e9sentation", |
|
"authors": [ |
|
{ |
|
"first": "N", |
|
"middle": [], |
|
"last": "Hernandez", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "B", |
|
"middle": [], |
|
"last": "Grau", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2002, |
|
"venue": "Actes du 5e colloque international sur le document \u00e9lectronique", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "277--285", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Hernandez, N. and Grau, B. (2002). Analyse th\u00e9matique du discours : segmentation, struc- turation, description et repr\u00e9sentation. In Actes du 5e colloque international sur le document \u00e9lectronique, pages 277-285.", |
|
"links": null |
|
}, |
|
"BIBREF16": { |
|
"ref_id": "b16", |
|
"title": "Un mod\u00e8le multi-sources pour la segmentation en sujets de journaux radiophoniques", |
|
"authors": [ |
|
{ |
|
"first": "S", |
|
"middle": [], |
|
"last": "Huet", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "G", |
|
"middle": [], |
|
"last": "Gravier", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "P", |
|
"middle": [], |
|
"last": "S\u00e9billot", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2008, |
|
"venue": "Actes de 15e conf\u00e9rence sur le traitement automatique des langues naturelles, TALN'08", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "49--58", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Huet, S., Gravier, G., and S\u00e9billot, P. (2008). Un mod\u00e8le multi-sources pour la segmentation en sujets de journaux radiophoniques. In Actes de 15e conf\u00e9rence sur le traitement automatique des langues naturelles, TALN'08, pages 49-58.", |
|
"links": null |
|
}, |
|
"BIBREF17": { |
|
"ref_id": "b17", |
|
"title": "Combining multiple knowledge sources for discourse segmentation", |
|
"authors": [ |
|
{ |
|
"first": "D", |
|
"middle": [ |
|
"J" |
|
], |
|
"last": "Litman", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "R", |
|
"middle": [ |
|
"J" |
|
], |
|
"last": "Passonneau", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 1995, |
|
"venue": "Proceedings of the 33rd Annual Meeting of the Association for Computational Linguistics", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "108--115", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Litman, D. J. and Passonneau, R. J. (1995). Combining multiple knowledge sources for discourse segmentation. In Proceedings of the 33rd Annual Meeting of the Association for Computational Linguistics, pages 108-115.", |
|
"links": null |
|
}, |
|
"BIBREF18": { |
|
"ref_id": "b18", |
|
"title": "Minimum cut model for spoken lecture segmentation", |
|
"authors": [ |
|
{ |
|
"first": "I", |
|
"middle": [], |
|
"last": "Malioutov", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "R", |
|
"middle": [], |
|
"last": "Barzilay", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2006, |
|
"venue": "Proceedings of the 21st International Conference on Computational Linguistics and the 44th Annual Meeting of the Association for Computational Linguistics", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "25--32", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Malioutov, I. and Barzilay, R. (2006). Minimum cut model for spoken lecture segmentation. In Proceedings of the 21st International Conference on Computational Linguistics and the 44th Annual Meeting of the Association for Computational Linguistics, pages 25-32.", |
|
"links": null |
|
}, |
|
"BIBREF19": { |
|
"ref_id": "b19", |
|
"title": "Mod\u00e8les th\u00e9matiques pour la segmentation de documents", |
|
"authors": [ |
|
{ |
|
"first": "H", |
|
"middle": [], |
|
"last": "Misra", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "F", |
|
"middle": [], |
|
"last": "Yvon", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2010, |
|
"venue": "Actes des 10e journ\u00e9es internationales d'analyse statistique des donn\u00e9es textuelles", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "203--213", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Misra, H. and Yvon, F. (2010). Mod\u00e8les th\u00e9matiques pour la segmentation de documents. In Actes des 10e journ\u00e9es internationales d'analyse statistique des donn\u00e9es textuelles, pages 203-213.", |
|
"links": null |
|
}, |
|
"BIBREF20": { |
|
"ref_id": "b20", |
|
"title": "Generic topic segmentation of document texts", |
|
"authors": [ |
|
{ |
|
"first": "M.-F", |
|
"middle": [], |
|
"last": "Moens", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "R", |
|
"middle": [ |
|
"D" |
|
], |
|
"last": "Busser", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2001, |
|
"venue": "Proceedings of the 24th International Conference on Research and Developement in Information Retrieval", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "418--419", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Moens, M.-F. and Busser, R. D. (2001). Generic topic segmentation of document texts. In Proceedings of the 24th International Conference on Research and Developement in Information Retrieval, pages 418-419.", |
|
"links": null |
|
}, |
|
"BIBREF21": { |
|
"ref_id": "b21", |
|
"title": "A critique and improvement of an evaluation metric for text segmentation", |
|
"authors": [ |
|
{ |
|
"first": "L", |
|
"middle": [], |
|
"last": "Pevzner", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "M", |
|
"middle": [ |
|
"A" |
|
], |
|
"last": "Hearst", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2002, |
|
"venue": "Computational Linguistics", |
|
"volume": "28", |
|
"issue": "", |
|
"pages": "19--36", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Pevzner, L. and Hearst, M. A. (2002). A critique and improvement of an evaluation metric for text segmentation. Computational Linguistics, 28 :19-36.", |
|
"links": null |
|
}, |
|
"BIBREF22": { |
|
"ref_id": "b22", |
|
"title": "Topic segmentation", |
|
"authors": [ |
|
{ |
|
"first": "M", |
|
"middle": [], |
|
"last": "Purver", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2011, |
|
"venue": "Spoken Language Understanding : Systems for Extracting Semantic Information from Speech", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "291--317", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Purver, M. (2011). Topic segmentation. In Tur, G. and de Mori, R., editors, Spoken Language Understanding : Systems for Extracting Semantic Information from Speech, chapter 11, pages 291-317. Wiley.", |
|
"links": null |
|
}, |
|
"BIBREF23": { |
|
"ref_id": "b23", |
|
"title": "An automatic method of finding topic boundaries", |
|
"authors": [ |
|
{ |
|
"first": "J", |
|
"middle": [ |
|
"C" |
|
], |
|
"last": "Reynar", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 1994, |
|
"venue": "Proceedings of the 32nd Annual Meeting on Association for Computational Linguistics", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "331--333", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Reynar, J. C. (1994). An automatic method of finding topic boundaries. In Proceedings of the 32nd Annual Meeting on Association for Computational Linguistics, pages 331-333.", |
|
"links": null |
|
}, |
|
"BIBREF24": { |
|
"ref_id": "b24", |
|
"title": "How text segmentation algorithms gain from topic models", |
|
"authors": [ |
|
{ |
|
"first": "M", |
|
"middle": [], |
|
"last": "Riedl", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "C", |
|
"middle": [], |
|
"last": "Biemann", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2012, |
|
"venue": "Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics : Human Language Technologies", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "553--557", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Riedl, M. and Biemann, C. (2012). How text segmentation algorithms gain from topic models. In Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics : Human Language Technologies, pages 553-557.", |
|
"links": null |
|
}, |
|
"BIBREF25": { |
|
"ref_id": "b25", |
|
"title": "A statistical model for domain-independent text segmentation", |
|
"authors": [ |
|
{ |
|
"first": "M", |
|
"middle": [], |
|
"last": "Utiyama", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "H", |
|
"middle": [], |
|
"last": "Isahara", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 2001, |
|
"venue": "Proceedings of the 39th Annual Meeting on the Association for Computational Linguistics", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "499--506", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Utiyama, M. and Isahara, H. (2001). A statistical model for domain-independent text segmenta- tion. In Proceedings of the 39th Annual Meeting on the Association for Computational Linguistics, pages 499-506.", |
|
"links": null |
|
}, |
|
"BIBREF26": { |
|
"ref_id": "b26", |
|
"title": "A hidden Markov model approach to text segmentation and event tracking", |
|
"authors": [ |
|
{ |
|
"first": "J", |
|
"middle": [], |
|
"last": "Yamron", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "I", |
|
"middle": [], |
|
"last": "Carp", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "L", |
|
"middle": [], |
|
"last": "Gillick", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "S", |
|
"middle": [], |
|
"last": "Lowe", |
|
"suffix": "" |
|
}, |
|
{ |
|
"first": "P", |
|
"middle": [], |
|
"last": "Van Mulbregt", |
|
"suffix": "" |
|
} |
|
], |
|
"year": 1998, |
|
"venue": "Proceedings of the IEEE International Conference on Acoustics, Speech, and Signal Processing", |
|
"volume": "", |
|
"issue": "", |
|
"pages": "333--336", |
|
"other_ids": {}, |
|
"num": null, |
|
"urls": [], |
|
"raw_text": "Yamron, J., Carp, I., Gillick, L., Lowe, S., and van Mulbregt P. (1998). A hidden Markov model approach to text segmentation and event tracking. In Proceedings of the IEEE International Conference on Acoustics, Speech, and Signal Processing, ICASSP, pages 333-336.", |
|
"links": null |
|
} |
|
}, |
|
"ref_entries": { |
|
"FIGREF0": { |
|
"type_str": "figure", |
|
"num": null, |
|
"text": "Un exemple de treillis de segmentation", |
|
"uris": null |
|
}, |
|
"TABREF0": { |
|
"html": null, |
|
"type_str": "table", |
|
"text": "Une m\u00e9thode globale r\u00e9alise quant \u00e0 elle une comparaison globale entre toutes les r\u00e9gions du document, en cherchant \u00e0 maximiser globalement la valeur de la coh\u00e9sion lexicale. Dans Utiyama et Isahara (2001), la valeur de la coh\u00e9sion lexicale d'un segment S i est vue comme la mesure de 'un mod\u00e8le de langue \u2206 i , appris sur le segment S i , \u00e0 pr\u00e9dire les mots du segment. Le mod\u00e8le de langue \u2206 i doit donc d'abord \u00eatre estim\u00e9, puis la probabilit\u00e9 g\u00e9n\u00e9ralis\u00e9e des mots du segment S i , \u00e9tant donn\u00e9 \u2206 i , doit \u00eatre d\u00e9termin\u00e9e. Apr\u00e8s le calcul de la valeur de coh\u00e9sion lexicale pour chaque segment, la segmentation maximisant globalement cette valeur est choisie. Cet algorithme s'est av\u00e9r\u00e9 performant au regard d'autres algorithmes de segmentation th\u00e9matique de textes tels que ceux de", |
|
"content": "<table><tr><td>TALN-R\u00c9CITAL 2013, 17-21 Juin, Les Sables d'Olonne</td><td/><td/></tr><tr><td>la capacit\u00e9 d</td><td/><td/></tr><tr><td>205</td><td>c</td><td>ATALA</td></tr></table>", |
|
"num": null |
|
}, |
|
"TABREF1": { |
|
"html": null, |
|
"type_str": "table", |
|
"text": "|S i ] est donn\u00e9e par une loi de Laplace dont les param\u00e8tres sont estim\u00e9s sur S i , i.e.,", |
|
"content": "<table><tr><td>TALN-R\u00c9CITAL 2013, 17-21 Juin, Les Sables d'Olonne</td><td/><td/></tr><tr><td colspan=\"3\">o\u00f9 n i est le nombre de mots du segment S i , w i j est le j e mot de S i et m le nombre de segments. La probabilit\u00e9 P[w i j P[w i j</td></tr><tr><td>206</td><td>c</td><td>ATALA</td></tr></table>", |
|
"num": null |
|
}, |
|
"TABREF3": { |
|
"html": null, |
|
"type_str": "table", |
|
"text": "De l'\u00e9quation 6, on peut d\u00e9duire que, pour un noeud donn\u00e9 repr\u00e9sentant une fronti\u00e8re th\u00e9matique, tous les segments de longueurs diff\u00e9rentes arrivant \u00e0 ce noeud sont conserv\u00e9s. Au niveau impl\u00e9mentation, nous d\u00e9finission un treillis dans lequel un arc e ip, jl repr\u00e9sente une prolongation d'un chemin de longueur l du noeud n ip au noeud n jl . Un noeud n ip rassemble donc tous les segments de longueur p unit\u00e9s se terminant apr\u00e8s u i . Ceci signifie qu'en chaque point du texte o\u00f9 une fronti\u00e8re potentielle est consid\u00e9r\u00e9e, nous analysons toutes les combinaisons possibles d'unit\u00e9s cons\u00e9cutives pr\u00e9c\u00e9dant cette fronti\u00e8re. Un arc e ip, jl repr\u00e9sente un segment contenant toutes les unit\u00e9s entre u i+1 et u j , avec j \u2212 i = l. Un co\u00fbt est associ\u00e9 \u00e0 chaque arc en se fondant sur l'\u00e9quation 6. D'une part, ce co\u00fbt consiste en la valeur de la coh\u00e9sion lexicale du segment couvert par l'arc calcul\u00e9 gr\u00e2ce \u00e0 l'\u00e9quation 3 ; d'autre part, une p\u00e9nalit\u00e9 est associ\u00e9e \u00e0 chacune des valeurs de ce type, en fonction de la rupture lexicale entre le segment couvert par l'arc et le segment pr\u00e9c\u00e9dent dans le texte. Selon le noeud dont il provient, le segment pr\u00e9c\u00e9dent peut lui aussi avoir diff\u00e9rentes longueurs. Par cons\u00e9quent, la rupture est calcul\u00e9e entre toutes les paires possibles de segments. Pour obtenir la rupture, une mesure de similarit\u00e9 cosinus est utilis\u00e9e entre les vecteurs repr\u00e9sentant", |
|
"content": "<table><tr><td>\u2022 le segment qui contient les unit\u00e9s couvertes par l'arc (de score le plus \u00e9lev\u00e9) arrivant au noeud n i, j et</td></tr><tr><td>\u2022 le segment qui contient les unit\u00e9s couvertes par l'arc sortant de ce noeud vers n i+k,k .</td></tr></table>", |
|
"num": null |
|
}, |
|
"TABREF5": { |
|
"html": null, |
|
"type_str": "table", |
|
"text": "d'autres types d'\u00e9missions, des synonymes \u00e9tant fr\u00e9quemment pr\u00e9f\u00e9r\u00e9s. Les transcriptions utilis\u00e9es dans les exp\u00e9riences proviennent de deux syst\u00e8mes de transcription : IRENE, le syst\u00e8me de l'IRISA, et LIMSI, le syst\u00e8me du Laboratoire d'Informatique pour la M\u00e9canique et les Sciences de l'Ing\u00e9nieur. IRENE a un taux d'erreurs mots plus \u00e9lev\u00e9 d'environ 7%. La segmentation de r\u00e9f\u00e9rence a \u00e9t\u00e9 cr\u00e9\u00e9e en associant un th\u00e8me \u00e0 chaque reportage. Les fronti\u00e8res th\u00e9matiques sont donc plac\u00e9es au d\u00e9but de l'introduction du reportage et \u00e0 la fin de ses remarques conclusives.", |
|
"content": "<table/>", |
|
"num": null |
|
} |
|
} |
|
} |
|
} |