Create README.md
Browse files
README.md
ADDED
|
@@ -0,0 +1,74 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Extracción de datos de Reddit
|
| 2 |
+
Se descargaron todos los titulos de los hilos de algunas comunidades de Reddit entre marzo del 2017 y enero del 2022:
|
| 3 |
+
|
| 4 |
+
| Comunidad | N° de hilos |
|
| 5 |
+
|----------------------------|-------------|
|
| 6 |
+
|AskRedditespanol | 28072 |
|
| 7 |
+
| BOLIVIA | 4935 |
|
| 8 |
+
| PERU | 20735 |
|
| 9 |
+
| argentina | 214986 |
|
| 10 |
+
| chile | 69077 |
|
| 11 |
+
|espanol | 39376 |
|
| 12 |
+
| mexico | 136984 |
|
| 13 |
+
| preguntaleareddit | 37300 |
|
| 14 |
+
| uruguay | 55693 |
|
| 15 |
+
| vzla | 42909 |
|
| 16 |
+
|
| 17 |
+
# Etiquetas
|
| 18 |
+
Se etiquetaron manualmente algunos de los hilos para marcar AMA vs No AMA:
|
| 19 |
+
Se etiquetaron 757 hilos (AMA: 290, No AMA: 458), siguiendo una estrategia de query by committee.
|
| 20 |
+
En el archivo `etiqueta_ama.csv` se puede revisar esto.
|
| 21 |
+
|
| 22 |
+
Con estos 757 hilos se ejecuto un algoritmo de label spreading para identificar los hilos AMA restantes, esto dío un total de 3519 hilos.
|
| 23 |
+
En el archivo `autoetiquetado_ama.csv` se puede revisar esto.
|
| 24 |
+
|
| 25 |
+
Para identificar las profesiones de las personas que realizaron lo hilos se utilizó la siguiente lista:
|
| 26 |
+
https://raw.githubusercontent.com/davoclavo/adigmatangadijolachanga/master/profesiones.txt
|
| 27 |
+
|
| 28 |
+
Para lograr abarcar todas las posibilidades, se agregaron tanto las versiones que terminaban en "a" como en "o".
|
| 29 |
+
|
| 30 |
+
Luego se agruparon las profesiones similares, para lograr un numero similar de hilos por profesión, para lo que se utilizo el siguiente diccionario:
|
| 31 |
+
|
| 32 |
+
```
|
| 33 |
+
sinonimos = {
|
| 34 |
+
'sexologo': 'psicologo',
|
| 35 |
+
|
| 36 |
+
'enfermero': 'medico',
|
| 37 |
+
'farmaceutico': 'medico',
|
| 38 |
+
'cirujano': 'medico',
|
| 39 |
+
'doctor': 'medico',
|
| 40 |
+
|
| 41 |
+
'radiologo': 'medico',
|
| 42 |
+
|
| 43 |
+
'dentista': 'odontologo',
|
| 44 |
+
'matron': 'medico',
|
| 45 |
+
'patologo': 'medico',
|
| 46 |
+
'educador': 'profesor',
|
| 47 |
+
'maestro': 'profesor',
|
| 48 |
+
'programador': 'ingeniero',
|
| 49 |
+
'informatico': 'ingeniero',
|
| 50 |
+
'juez': 'abogado',
|
| 51 |
+
'fiscal': 'abogado',
|
| 52 |
+
'oficial': 'abogado',
|
| 53 |
+
'astronomo': 'ciencias',
|
| 54 |
+
'fisico': 'ciencias',
|
| 55 |
+
'ecologo': 'ciencias',
|
| 56 |
+
'filosofo': 'ciencias',
|
| 57 |
+
'biologo': 'ciencias',
|
| 58 |
+
'zoologo': 'ciencias',
|
| 59 |
+
'quimico': 'ciencias',
|
| 60 |
+
'matematico': 'ciencias',
|
| 61 |
+
'meteorologo': 'ciencias',
|
| 62 |
+
'periodista': 'humanidades',
|
| 63 |
+
'dibujante': 'humanidades',
|
| 64 |
+
'fotografo': 'humanidades',
|
| 65 |
+
'traductor': 'humanidades',
|
| 66 |
+
'presidente': 'jefe',
|
| 67 |
+
'gerente': 'jefe'
|
| 68 |
+
}
|
| 69 |
+
```
|
| 70 |
+
|
| 71 |
+
Se descargaron todos los comentarios de los hilos AMA que contenian algunas de estas profesiones y luego se agruparon estos comentarios de tal forma que quedaran solamente los comentarios que incluian algún signo de pregunta y que tuviesen una respuesta del autor del hilo, formando un par de pregunta respuesta.
|
| 72 |
+
|
| 73 |
+
Finalmente, se mantuvieron todas las profesiones que contenian más de 200 pares de pregunta respuesta, las que incluyen alrededor de 3000 pares pregunta respuesta.
|
| 74 |
+
En el archivo `qa_corpus_profesion.csv` se puede revisar esto.
|