Update README.md
Browse files
README.md
CHANGED
|
@@ -170,13 +170,17 @@ Para más información sobre cómo rellenar cada sección ver las docs: https://
|
|
| 170 |
Para más información sobre la dataset card metadata ver: https://github.com/huggingface/hub-docs/blob/main/datasetcard.md?plain=1
|
| 171 |
-->
|
| 172 |
|
| 173 |
-
# Dataset Card for
|
| 174 |
|
| 175 |
<!-- Suele haber un nombre corto ("pretty name") para las URLs, tablas y demás y uno largo más descriptivo. Para crear el pretty name podéis utilizar acrónimos. -->
|
| 176 |
|
| 177 |
<!-- Resumen del corpus y motivación del proyecto (inc. los ODS relacionados). Esta sección es como el abstract. También se puede incluir aquí el logo del proyecto. -->
|
| 178 |
|
| 179 |
<!-- Si queréis incluir una versión de la Dataset Card en español, enlazarla aquí al principio (e.g. `README_es.md`).-->
|
|
|
|
|
|
|
|
|
|
|
|
|
| 180 |
|
| 181 |
## Dataset Details
|
| 182 |
|
|
@@ -199,10 +203,12 @@ Para más información sobre la dataset card metadata ver: https://github.com/hu
|
|
| 199 |
## Uses
|
| 200 |
|
| 201 |
<!-- Address questions around how the dataset is intended to be used. -->
|
|
|
|
| 202 |
|
| 203 |
### Direct Use
|
| 204 |
|
| 205 |
<!-- This section describes suitable use cases for the dataset. -->
|
|
|
|
| 206 |
|
| 207 |
[More Information Needed]
|
| 208 |
|
|
@@ -218,7 +224,56 @@ Para más información sobre la dataset card metadata ver: https://github.com/hu
|
|
| 218 |
|
| 219 |
<!-- En esta sección podéis enumerar y explicar cada columna del corpus. Para cada columna que sea de tipo "categoría" podéis indicar el porcentaje de ejemplos. -->
|
| 220 |
|
| 221 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 222 |
|
| 223 |
## Dataset Creation
|
| 224 |
|
|
|
|
| 170 |
Para más información sobre la dataset card metadata ver: https://github.com/huggingface/hub-docs/blob/main/datasetcard.md?plain=1
|
| 171 |
-->
|
| 172 |
|
| 173 |
+
# Dataset Card for Spanish Medical Corpus (SMC)
|
| 174 |
|
| 175 |
<!-- Suele haber un nombre corto ("pretty name") para las URLs, tablas y demás y uno largo más descriptivo. Para crear el pretty name podéis utilizar acrónimos. -->
|
| 176 |
|
| 177 |
<!-- Resumen del corpus y motivación del proyecto (inc. los ODS relacionados). Esta sección es como el abstract. También se puede incluir aquí el logo del proyecto. -->
|
| 178 |
|
| 179 |
<!-- Si queréis incluir una versión de la Dataset Card en español, enlazarla aquí al principio (e.g. `README_es.md`).-->
|
| 180 |
+
This dataset groups and organizes several datasets present in hugginface (e.g.: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer)
|
| 181 |
+
and other public resources created by researchers with different formats (e.g.; MedLexSp ) to allow it to be a source of knowledge of large language models
|
| 182 |
+
in Spanish for the medical domain.
|
| 183 |
+
[**Dataset Card in Spanish**](README_es.md)
|
| 184 |
|
| 185 |
## Dataset Details
|
| 186 |
|
|
|
|
| 203 |
## Uses
|
| 204 |
|
| 205 |
<!-- Address questions around how the dataset is intended to be used. -->
|
| 206 |
+
The use of this dataset is suggested to achieve finetuning and pre-training of LLM for the medical domain with information in Spanish language.
|
| 207 |
|
| 208 |
### Direct Use
|
| 209 |
|
| 210 |
<!-- This section describes suitable use cases for the dataset. -->
|
| 211 |
+
Fine Tuning an LLM instruction in Spanish language with question prompts and answers.
|
| 212 |
|
| 213 |
[More Information Needed]
|
| 214 |
|
|
|
|
| 224 |
|
| 225 |
<!-- En esta sección podéis enumerar y explicar cada columna del corpus. Para cada columna que sea de tipo "categoría" podéis indicar el porcentaje de ejemplos. -->
|
| 226 |
|
| 227 |
+
Por cada entrada o documento en la fuente de información organizarla en un dataset de hugginface de la siguiente forma:
|
| 228 |
+
|
| 229 |
+
- **question (raw_text)**: Texto asociado al documento, pregunta, caso clínico u otro tipo de información.
|
| 230 |
+
- **answer (topic)**: (Texto asociado al tratamiento médico (healthcare_treatment), diagnóstico (healthcare_diagnosis),
|
| 231 |
+
tópico de salud (topic), respuesta de una pregunta (answer), other, o estar vacío p.ej en el texto abierto)
|
| 232 |
+
- **speciality**: (Especialidad médica a la que se relaciona el raw_text p.ej: cardiología, cirugía, otros)
|
| 233 |
+
- **raw_text_type**: (Puede ser clinic_case, open_text, question o vacio)
|
| 234 |
+
- **topic_type**: (Puede ser medical_topic, medical_diagnostic,answer,natural_medicine_topic, other, o vacio)
|
| 235 |
+
- **source**: Identificador de la fuente asociada al documento que aparece en el README y descripción del dataset.
|
| 236 |
+
- **country**: Identificador del país de procedencia de la fuente (p.ej.; ch, es) usando el estándar ISO 3166-1 alfa-2 (Códigos de país de dos letras.).
|
| 237 |
+
- **document_id**: Identificador del documento en el dataset de procedencia, este valor puede estar vacio en caso que no se conozca
|
| 238 |
+
<!-- - **idioma**: (Variedad geográfica) código ISO del idioma -->
|
| 239 |
+
<!--- **registro** (Variedad funcional): Siempre es `medio`. -->
|
| 240 |
+
<!-- - **periodo** (Variedad histórica): Siempre es `actual`. -->
|
| 241 |
+
<!-- - **dominio**: salud (clínico, biomédico, farmacia). -->
|
| 242 |
+
<!-- - **tarea**: `pregunta` | `resumen` | `open_text` | `clinic_case`. -->
|
| 243 |
+
<!-- - **país_origen**: País de origen de los datos. -->
|
| 244 |
+
|
| 245 |
+
Al inicio de este proceso de construcción se debe actualizar en la tabla de la sección [Source Data](#source_data) la
|
| 246 |
+
descripción de la fuente de información con los siguientes datos:
|
| 247 |
+
|
| 248 |
+
- **Id**: Este será un número para que la fuente de información pueda ser referenciada en cada entrada del conjunto de datos.
|
| 249 |
+
- **Nombre**: Nombre de la fuente de donde procede.
|
| 250 |
+
- **Tokens**: Cantidad de tokens que contiene.
|
| 251 |
+
- **Memoria**: Tamaño en memoria del dataset generado para hugginface
|
| 252 |
+
- **Licencia**: En este caso si es solo para investigación o si posee otra licencia como MIT,
|
| 253 |
+
Apache 2 u otras
|
| 254 |
+
- **Dirección**: URL de donde se puede descargar o consultar la información.
|
| 255 |
+
- **País**: País de procedencia de la información usando el [standar ISO 3166-1](https://es.wikipedia.org/wiki/ISO_3166-1) código alfa-2: Código ISO de 2 letras asignado a ese país o territorio.
|
| 256 |
+
|
| 257 |
+
### Source Data
|
| 258 |
+
|
| 259 |
+
<!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
|
| 260 |
+
|
| 261 |
+
| Id | Nombre | Tokens | Memoria | Licencia | Dirección | País |
|
| 262 |
+
| --- | ----------- | ----------- | ----------- | ----------- | ----------- | ----------- |
|
| 263 |
+
| 1 | Cantemist corpus: gold standard of oncology clinical cases annotated with CIE-O 3 terminology | 349287 | 9157 kB | [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) | https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb | es |
|
| 264 |
+
| 2 | MedlinePlus Spanish (National Library of Medicine, NLM) | 7757337 | 35 MB | | https://medlineplus.gov/spanish/ | es |
|
| 265 |
+
| 3 | PharmaCoNER | 275955 | 2 MB | [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) | https://huggingface.co/datasets/PlanTL-GOB-ES/pharmaconer | es |
|
| 266 |
+
| 4 | Spanish Biomedical Crawled Corpus | 1973048 | 264 MB | cc-by-4.0 | https://zenodo.org/records/5513237 | es |
|
| 267 |
+
| 5 | CARES | 322353 | 1828 kB | Afl-3.0 | https://huggingface.co/datasets/chizhikchi/CARES | es |
|
| 268 |
+
| 6 | MEDDOCAN | 364462 | 1639 kB | cc-by-4.0 | https://huggingface.co/datasets/bigbio/meddocan | es |
|
| 269 |
+
| 7 | Alvaro8gb/enfermedades-wiki-marzo-2024 | 1424685 | 9073 kB | [MIT](https://choosealicense.com/licenses/mit/) | https://huggingface.co/datasets/Alvaro8gb/enfermedades-wiki-marzo-2024 | es |
|
| 270 |
+
| 8 | BioMistral/BioInstructQA(**spanish**) | 1072476 | 5963 kB | [Apache 2.0](https://choosealicense.com/licenses/apache-2.0/) | https://huggingface.co/datasets/BioMistral/BioInstructQA | ca |
|
| 271 |
+
| 9 | DisTEMIST | 550203 | 2754 kB | cc-by-4.0 | https://huggingface.co/datasets/bigbio/distemist | es |
|
| 272 |
+
| 10 | The Chilean Waiting List Corpus | 678934 | 3116 kB | cc-by-4.0 | https://zenodo.org/records/5518225 or https://huggingface.co/plncmm | cl |
|
| 273 |
+
| 11 | BARR2 | 1732432 | 8472 kB | cc-by-4.0 | https://temu.bsc.es/BARR2/downloads/background_set.raw_text.tar.bz2 | es |
|
| 274 |
+
| 12 | SPACC | 551849 | 2711 kB | cc-by-4.0 | https://zenodo.org/records/2560316 | es |
|
| 275 |
+
| 13 | MedLexSp | 608374 | 21 MByte | MedLexSp is distributed freely for research or educational purposes. You need to sign an agreement with the authors for other purposes. | https://digital.csic.es/handle/10261/270429 | es |
|
| 276 |
+
|
| 277 |
|
| 278 |
## Dataset Creation
|
| 279 |
|