license: apache-2.0
dataset_info:
features:
- name: sentences
dtype: string
- name: words
dtype: string
- name: bigrams
sequence: string
splits:
- name: train
num_bytes: 3213752
num_examples: 82338
download_size: 489637
dataset_size: 3213752
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
task_categories:
- text-generation
language:
- en
tags:
- code
size_categories:
- 10K<n<100K
Задача 2: Разметка датасета с HF Datasets: статистический анализ и визуализация
ПРОВЕДЕННЫЙ АНАЛИЗ
** Был пороведен статистический анализ текста, включающий:** ** 1. Анализ уникальности данных ** Доля уникальных слов: 0.0032 2. Частотный анализ биграмм и триграмм Топ 10 биграмм: ('Title', ':'): 1000 ('If', 'you'): 687 (',', 'we'): 681 ('in', 'your'): 615 ('!', 'Title'): 601 ('.', 'We'): 576 ('.', 'If'): 547 ('how', 'to'): 502 ('we', "'ll"): 490 ('We', "'ll"): 416
Топ 10 триграмм: ('!', 'Title', ':'): 601 ('.', 'If', 'you'): 547 (',', 'we', "'ll"): 490 ('.', 'We', "'ll"): 416 ('in', 'your', 'projects'): 412 ('at', 'first', ','): 409 ('the', 'additional', 'resources'): 406 ('additional', 'resources', 'we'): 406 ('resources', 'we', "'ve"): 406 ('.', 'Do', "n't"): 406
** 3. Анализ распределений: Длины предложений, слов и n-грамм ** Средняя длина предложения: 15.82 Стандартное отклонение длины предложений: 6.70 Медиана длины предложений: 15.00 Квартиль 25%, 50%, 75% длины предложений: [12. 15. 22.]
С частотным анализом слов можно ознакомиться в виде графика:
Помимо этого был выгружен частотный анализ слов в виде облака:
