|
|
--- |
|
|
license: apache-2.0 |
|
|
dataset_info: |
|
|
features: |
|
|
- name: sentences |
|
|
dtype: string |
|
|
- name: words |
|
|
dtype: string |
|
|
- name: bigrams |
|
|
sequence: string |
|
|
splits: |
|
|
- name: train |
|
|
num_bytes: 3213752 |
|
|
num_examples: 82338 |
|
|
download_size: 489637 |
|
|
dataset_size: 3213752 |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: data/train-* |
|
|
task_categories: |
|
|
- text-generation |
|
|
language: |
|
|
- en |
|
|
tags: |
|
|
- code |
|
|
size_categories: |
|
|
- 10K<n<100K |
|
|
--- |
|
|
# Задача 2: Разметка датасета с HF Datasets: статистический анализ и визуализация |
|
|
|
|
|
<!-- Разметка представленного датасета выполнена в рамказ курса по компьютерной лингвистике НИУ ВШЭ (СПб). --> |
|
|
|
|
|
## ПРОВЕДЕННЫЙ АНАЛИЗ |
|
|
|
|
|
** Был пороведен статистический анализ текста, включающий:** |
|
|
** 1. Анализ уникальности данных ** |
|
|
Доля уникальных слов: 0.0032 |
|
|
2. Частотный анализ биграмм и триграмм |
|
|
Топ 10 биграмм: |
|
|
('Title', ':'): 1000 |
|
|
('If', 'you'): 687 |
|
|
(',', 'we'): 681 |
|
|
('in', 'your'): 615 |
|
|
('!', 'Title'): 601 |
|
|
('.', 'We'): 576 |
|
|
('.', 'If'): 547 |
|
|
('how', 'to'): 502 |
|
|
('we', "'ll"): 490 |
|
|
('We', "'ll"): 416 |
|
|
|
|
|
Топ 10 триграмм: |
|
|
('!', 'Title', ':'): 601 |
|
|
('.', 'If', 'you'): 547 |
|
|
(',', 'we', "'ll"): 490 |
|
|
('.', 'We', "'ll"): 416 |
|
|
('in', 'your', 'projects'): 412 |
|
|
('at', 'first', ','): 409 |
|
|
('the', 'additional', 'resources'): 406 |
|
|
('additional', 'resources', 'we'): 406 |
|
|
('resources', 'we', "'ve"): 406 |
|
|
('.', 'Do', "n't"): 406 |
|
|
|
|
|
** 3. Анализ распределений: Длины предложений, слов и n-грамм ** |
|
|
Средняя длина предложения: 15.82 |
|
|
Стандартное отклонение длины предложений: 6.70 |
|
|
Медиана длины предложений: 15.00 |
|
|
Квартиль 25%, 50%, 75% длины предложений: [12. 15. 22.] |
|
|
|
|
|
С частотным анализом слов можно ознакомиться в виде графика: |
|
|
|
|
|
 |
|
|
|
|
|
Помимо этого был выгружен частотный анализ слов в виде облака: |
|
|
|
|
|
 |
|
|
|
|
|
|
