File size: 2,524 Bytes
a1ce49b |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 |
---
license: apache-2.0
dataset_info:
features:
- name: sentences
dtype: string
- name: words
dtype: string
- name: bigrams
sequence: string
splits:
- name: train
num_bytes: 3213752
num_examples: 82338
download_size: 489637
dataset_size: 3213752
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
task_categories:
- text-generation
language:
- en
tags:
- code
size_categories:
- 10K<n<100K
---
# Задача 2: Разметка датасета с HF Datasets: статистический анализ и визуализация
<!-- Разметка представленного датасета выполнена в рамказ курса по компьютерной лингвистике НИУ ВШЭ (СПб). -->
## ПРОВЕДЕННЫЙ АНАЛИЗ
** Был пороведен статистический анализ текста, включающий:**
** 1. Анализ уникальности данных **
Доля уникальных слов: 0.0032
2. Частотный анализ биграмм и триграмм
Топ 10 биграмм:
('Title', ':'): 1000
('If', 'you'): 687
(',', 'we'): 681
('in', 'your'): 615
('!', 'Title'): 601
('.', 'We'): 576
('.', 'If'): 547
('how', 'to'): 502
('we', "'ll"): 490
('We', "'ll"): 416
Топ 10 триграмм:
('!', 'Title', ':'): 601
('.', 'If', 'you'): 547
(',', 'we', "'ll"): 490
('.', 'We', "'ll"): 416
('in', 'your', 'projects'): 412
('at', 'first', ','): 409
('the', 'additional', 'resources'): 406
('additional', 'resources', 'we'): 406
('resources', 'we', "'ve"): 406
('.', 'Do', "n't"): 406
** 3. Анализ распределений: Длины предложений, слов и n-грамм **
Средняя длина предложения: 15.82
Стандартное отклонение длины предложений: 6.70
Медиана длины предложений: 15.00
Квартиль 25%, 50%, 75% длины предложений: [12. 15. 22.]
С частотным анализом слов можно ознакомиться в виде графика:
Помимо этого был выгружен частотный анализ слов в виде облака:
|