krysyuk/fineweb-2-russian-quality-annotations-26k

FineWeb-2 Russian (rus_Cyrl) quality annotations (Claude Sonnet 5.5) - 26k-document sample

English | Русский

This is a labelled sample: 26,000 documents out of the 699M in rus_Cyrl. For quality scores of every document of rus_Cyrl, see krysyuk/fineweb-2-russian-quality-full.

26,000 documents from FineWeb-2 rus_Cyrl, each labelled by Claude Sonnet 5.5 with a multi-axis rubric for pretraining-data quality: 13 axes on a 1–5 scale with a short written justification each, an overall pretraining value, 9 content flags, topic, format, audience and region. All labels and justifications are in Russian.

All labels and justifications are generated by AI models (Claude Sonnet 5.5, the agreement config also has other models), not by humans.

Made to train data-filtering classifiers for Russian web text and to measure what the Russian part of FineWeb-2 is made of. The classifier trained on it is krysyuk/ruTron-quality-classifier-lite, its scores for all 699M documents of rus_Cyrl are in krysyuk/fineweb-2-russian-quality-full.

from datasets import load_dataset

ds = load_dataset("krysyuk/fineweb-2-russian-quality-annotations-26k")  # train / validation / test
agreement = load_dataset("krysyuk/fineweb-2-russian-quality-annotations-26k", "agreement")

Rating criteria

Every document gets one overall score, 13 quality axes, 9 flags and 5 categories. The axes and flags explain why a document got its overall, and let you build a filter for your own goal instead of relying on one number: an educational corpus, clean conversational language, no ads, and so on. Short definitions are below; the full ones, with a description of every level, are in prompt/annotate_v6.system.md.

overall (1–5)

The final answer to "should this document go into pretraining?", given last, taking all axes and flags into account: 1–2 exclude, 3 keep, 4–5 keep with a higher weight. The scale and its distribution are in What's in the random sample.

Quality axes (1–5)

Criterion	What it measures	1	5	Useful to filter out / select
cleanliness	Share of coherent text vs. extraction junk: menus, footers, "read also", tags, duplicated lines, broken encoding	Over 50% junk, mojibake	Clean whole document, tables, formulas and code intact	Badly extracted pages
language_quality	Spelling, punctuation, grammar, coherence	Word salad, keyword lists	Exemplary edited language	Illiterate or incoherent text
naturalness	Natural human Russian vs. machine translation, synonymizer, rewrite, template generation	Obvious machine translation or synonymizer	Lively authored Russian or a professional translation	Translated, spun and generated text
information_density	Content vs. filler	Generic phrases and keywords	Reference-level density without losing clarity	Filler and SEO "water"
factual_specificity	Checkable names, dates, numbers, terms, definitions	Opinions and platitudes only	Encyclopedic web of facts and links	Fact-rich text
educational_value	How much the text explains rather than reports (difficulty is a separate axis)	Explains nothing	Structured explanation from simple to complex, worked problems	Educational corpora
reasoning_depth	Argumentation, cause and effect, alternatives, proofs	Listing, chronicle or ad	Proof, full analysis of a problem, synthesis of different data	Reasoning-heavy text
expertise_level	Difficulty of the content, not its quality	Understandable to anyone, including a child	Narrow expert text: research paper, thesis	Balancing by difficulty, professional texts
credibility	Epistemic signals, not fact-checking	Pseudoscience, fraud ("cures cancer", "guaranteed income")	Sources, stated uncertainty, encyclopedic culture	Pseudoscience and manipulation
originality	Primary content vs. copies and templates	Doorway, template with substitution, glued fragments	Primary source: research, memoirs, unique data, original prose	Aggregators, reposts, doorways
commercial_neutrality	Reverse scale: 5 = no commercial purpose	Landing page, product card, price list, casino ads	No commercial purpose	Ads and product pages
durability	How long the content stays useful	Days: classified ad, exchange rate, weather, event announcement	Timeless knowledge: mathematics, history, classics	Short-lived content
domain_depth	How deeply the main topic (topic_primary) is covered	Topic only mentioned	Monograph or professional handbook level	Domain-specific corpora

Flags (true / false)

Flag	Meaning
unsafe_content	NSFW and prohibited: pornography, promotion of gambling and casinos, drugs, calls to violence, dangerous medicine ("cured cancer with herbs"), sale of tobacco and vapes. Such a document always gets overall = 1
pii_present	Personal data of private persons: personal contacts or documents, a private person named in a private context (reviews, incidents, court cases, forums)
answer_dump	Ready-made answers: homework solutions, exam and test answers
official_document	Law, decree, court ruling, official document of an agency
suspected_mt	Signs of machine translation
machine_generated	Text produced by a machine: LLM, synonymizer, shuffled words, doorway generators
seo_doorway	Page with almost no content beyond attracting search traffic: keyword lists, templates with a substituted city or query, word salad
truncated_or_fragment	Document is incomplete as a whole: starts or ends mid-sentence, one page of a multi-page text, a teaser without the main text
mixed_language	More than about 20% of the text is not in Russian

Categories

Field	Meaning	Values
topic_primary, topic_secondary	Main topic and up to 2 secondary topics	30 topics: math, physical_sciences, biology_ecology, medicine, it_programming, engineering, history, law_government, economics_business, education, ..., adult, gambling, esoteric, other
format	Kind of document	26 formats: encyclopedia, popular_article, educational_material, scientific_article, instruction, news, forum_qa, fiction_prose, legal_act, product_listing, landing_page, content_feed, ..., other
audience	Who the text is written for	children, schoolchildren, general_adult, enthusiasts, customers, students, specialists
region	Geographic context	russia, cis, world, local, none

The full lists with descriptions are in the prompt.

Filtering examples

train = ds["train"]

# drop junk, unsafe content and personal data
clean = train.filter(lambda r: r["overall"] >= 3 and not r["flag_unsafe_content"] and not r["flag_pii_present"])

# educational subset
edu = train.filter(lambda r: r["educational_value"] >= 4 and r["cleanliness"] >= 3)

# no ads and no machine translation
no_ads = train.filter(lambda r: r["commercial_neutrality"] >= 4 and not r["flag_suspected_mt"])

What's in the random sample

12,500 documents are a uniform random sample of rus_Cyrl (column sample == "random"). On them:

overall	Share	Meaning (from the prompt)
1	23.8%	Exclude: spam, doorways, garbage, machine nonsense, any unsafe_content
2	42.5%	Rather exclude: ads, filler, garbage with a small useful fragment
3	31.3%	Ordinary acceptable web: normal news, forum post, blog
4	2.4%	Include with higher weight: substantive, well-written, explanations or facts
5	0.02%	Reference quality: textbook, encyclopedic article, deep analysis

Flag	Share
seo_doorway	19.7%
truncated_or_fragment	12.3%
machine_generated	12.2%
unsafe_content	9.6%
pii_present	4.7%
suspected_mt	4.7%
mixed_language	1.4%
official_document	0.7%
answer_dump	0.2%

Most frequent formats	Share
news	31.5%
other	16.8%
landing_page	9.3%
popular_article	8.3%
product_listing	6.1%

Samples and splits

sample	Docs	How chosen
random	12,500	Uniform over a 300k-document sample of rus_Cyrl (30 blocks of 10k consecutive documents from 30 randomly chosen source files of 440)
probably_good	12,500	Same pool, 3k–60k characters, ≥ 80% Cyrillic letters, URLs with wiki / edu / gov / science / library / museum ... weighted x5
mined_v1	1,000	Top-1000 of 30k unlabelled documents by a first classifier's predicted overall (train split only)

Use only sample == "random" for corpus statistics, the other two are over-sampled towards good documents so that the classifier sees enough of them.

Splits: validation and test (2,501 each) are stratified by overall and sample and contain no mined_v1, train has the rest (20,998).

Columns

Column	Description
id, url, text, language_score	From FineWeb-2 (full original text)
sample, split	See above
overall	Overall pretraining value, 1–5
cleanliness ... domain_depth	The 13 axes, 1–5
*_reasoning	The annotator's justification for each axis and overall (Russian, ≤ 400 chars)
flag_*	9 boolean flags
topic_primary, topic_secondary (list, 0–2), format, audience, region	Categories
annotator, prompt_version, schema_version	Annotator and versions: anthropic/claude-sonnet-5.5:batch, v6, v5
annotator_input_chars, annotator_input_truncated	The annotator saw the first 10,000 + last 1,700 characters of long documents

Definitions of the axes, flags and categories are in Rating criteria. The JSON schema used for structured output is prompt/annotation.v5.schema.json.

agreement config

200 random documents labelled by several annotators with the previous prompt (v5) and by Sonnet with the final prompt (v6), one row per (document, annotator): Claude Opus 5.5 agents (claude-opus-5-5, the reference), Claude Opus 5.5 and Sonnet 5.5 via batch API, Kimi K3, GPT-6.1 Sol, DeepSeek V4.1 Flash. Use it to estimate label noise: Sonnet (v6) vs the reference agree at mean axis QWK ≈ 0.89.

How it was made

• Annotator: Claude Sonnet 5.5 through the OpenRouter batch API, structured output with a strict JSON schema, prompt v6 (iterated over 6 versions against Claude Opus 5.5 reference labels).
• 6 of 26,006 documents were rejected by the provider's moderation and are not included.
• The FineWeb-2 revision is af9c13333eb981300149d5ca60a8e9d659b276b9.

Caveats

• Labels are one LLM's judgement. Hard cases (borderline 3 vs 4, suspected_mt, truncated_or_fragment, pii_present) are noisy.
• Texts are unfiltered web pages: about 10% are flagged unsafe_content (adult content, gambling, etc.) and ~5% contain personal data (pii_present), as in FineWeb-2 itself.

License

ODC-By 1.0, as FineWeb-2. The texts come from FineWeb-2 and are subject to the Common Crawl terms of use. The labels are outputs of AI models, their providers' terms may restrict how you use them (for example, to train models that compete with the provider).

---

Русский

Это размеченная выборка: 26 000 документов из 699 млн в rus_Cyrl. Оценки качества для каждого документа rus_Cyrl - в krysyuk/fineweb-2-russian-quality-full.

26 000 документов из FineWeb-2 rus_Cyrl, каждый размечен Claude Sonnet 5.5 по многомерной рубрике качества данных для предобучения: 13 осей по шкале 1–5 с коротким обоснованием каждой, общая ценность для предобучения overall, 9 флагов содержания, тема, формат, аудитория и регион. Все метки и обоснования - на русском.

Вся разметка и обоснования сгенерированы ИИ-моделями (Claude Sonnet 5.5, в конфиге agreement есть и другие модели), а не людьми.

Датасет сделан, чтобы обучать классификаторы для фильтрации русского веб-текста и понять, из чего состоит русская часть FineWeb-2. Классификатор, обученный на нём, - krysyuk/ruTron-quality-classifier-lite, его оценки для всех 699 млн документов rus_Cyrl - в krysyuk/fineweb-2-russian-quality-full.

from datasets import load_dataset

ds = load_dataset("krysyuk/fineweb-2-russian-quality-annotations-26k")  # train / validation / test
agreement = load_dataset("krysyuk/fineweb-2-russian-quality-annotations-26k", "agreement")

Критерии оценки

Каждый документ получает одну оценку overall, 13 осей качества, 9 флагов и 5 категорий. Оси и флаги объясняют, почему документ получил свой overall, и позволяют собрать фильтр под свою задачу, а не полагаться на одну цифру: образовательный корпус, чистый разговорный язык, без рекламы и так далее. Ниже краткие определения; полные, с описанием каждого уровня, - в prompt/annotate_v6.system.md.

overall (1–5)

Итоговый ответ на вопрос «брать ли документ в предобучение». Ставится последним, с учётом всех осей и флагов: 1–2 исключить, 3 оставить, 4–5 оставить с повышенным весом. Шкала и распределение - в разделе Что в случайной выборке.

Оси качества (1–5)

Критерий	Что оценивает	1	5	Что удобно отсеять / отобрать
cleanliness	Доля связного текста против мусора извлечения: меню, футеров, «читайте также», тегов, дублей строк, битой кодировки	Больше 50% мусора, кракозябры	Чистый цельный документ, таблицы, формулы и код переданы корректно	Плохо извлечённые страницы
language_quality	Орфография, пунктуация, грамматика, связность	Словесный салат, набор ключевых слов	Образцовый редакторский язык	Безграмотный или бессвязный текст
naturalness	Живой русский против машинного перевода, синонимайзера, рерайта, шаблонной генерации	Явный машинный перевод или синонимайзер	Живой авторский русский или профессиональный перевод	Переводной, синонимайзерный и сгенерированный текст
information_density	Содержание против «воды»	Общие фразы и ключевые слова	Справочная плотность без потери ясности	«Вода» и SEO-тексты
factual_specificity	Проверяемые имена, даты, числа, термины, определения	Только мнения и общие места	Энциклопедическая сеть фактов и связей	Тексты, богатые фактами
educational_value	Насколько текст объясняет, а не просто сообщает (сложность - отдельная ось)	Ничего не объясняет	Выстроенное объяснение от простого к сложному, задачи с решениями	Образовательные корпуса
reasoning_depth	Аргументация, причинно-следственный анализ, альтернативы, доказательства	Перечисление, хроника или реклама	Доказательство, полный разбор задачи, синтез разнородных данных	Тексты с рассуждениями
expertise_level	Сложность содержания, а не его качество	Понятно любому, в том числе ребёнку	Узкоэкспертный текст: научная статья, диссертация	Балансировка по сложности, профессиональные тексты
credibility	Признаки достоверности, а не проверка фактов	Псевдонаука, мошенничество («лечит рак», «гарантированный доход»)	Ссылки на источники, оговорки о неопределённости, энциклопедическая культура	Псевдонаука и манипуляции
originality	Первичный материал против копий и шаблонов	Дорвей, шаблон с подстановкой, склейка обрывков	Первичный источник: исследование, мемуары, уникальные данные, авторская проза	Агрегаторы, перепечатки, дорвеи
commercial_neutrality	Шкала обратная: 5 - коммерческой цели нет	Лендинг, карточка товара, прайс, реклама казино	Коммерческой цели нет	Реклама и страницы товаров
durability	Как долго содержание остаётся полезным	Дни: объявление, курс валют, погода, анонс события	Вечное знание: математика, история, классика	Быстро устаревающий контент
domain_depth	Насколько глубоко раскрыта основная тема (topic_primary)	Тема лишь упомянута	Уровень монографии или профессионального руководства	Предметные корпуса

Флаги (да / нет)

Флаг	Значение
unsafe_content	NSFW и запрещённое: порнография, продвижение азартных игр и казино, наркотики, призывы к насилию, опасная медицина («вылечил рак травами»), продажа табака и вейпов. Такой документ всегда получает overall = 1
pii_present	Персональные данные частных лиц: личные контакты или документы, частное лицо по ФИО в контексте частной жизни (отзывы, происшествия, суды, форумы)
answer_dump	Готовые ответы: ГДЗ, решебники, ответы ЕГЭ, ОГЭ и тестов
official_document	Закон, постановление, судебный акт, официальный документ ведомства
suspected_mt	Признаки машинного перевода
machine_generated	Текст порождён машиной: LLM, синонимайзер, перемешанные слова, генераторы дорвеев
seo_doorway	Страница почти без содержания, кроме привлечения поискового трафика: набор ключевых фраз, шаблон с подстановкой города или запроса, словесный салат
truncated_or_fragment	Документ как целое неполон: начинается или заканчивается на середине фразы, одна страница многостраничного текста, подводка без основного текста
mixed_language	Больше примерно 20% текста не на русском языке

Категории

Поле	Значение	Варианты
topic_primary, topic_secondary	Основная тема и до двух дополнительных	30 тем: math, physical_sciences, biology_ecology, medicine, it_programming, engineering, history, law_government, economics_business, education, ..., adult, gambling, esoteric, other
format	Тип документа	26 форматов: encyclopedia, popular_article, educational_material, scientific_article, instruction, news, forum_qa, fiction_prose, legal_act, product_listing, landing_page, content_feed, ..., other
audience	Для кого написан текст	children, schoolchildren, general_adult, enthusiasts, customers, students, specialists
region	Географическая привязка	russia, cis, world, local, none

Полные списки с описаниями - в промпте.

Примеры фильтрации

train = ds["train"]

# убрать мусор, опасный контент и персональные данные
clean = train.filter(lambda r: r["overall"] >= 3 and not r["flag_unsafe_content"] and not r["flag_pii_present"])

# образовательное подмножество
edu = train.filter(lambda r: r["educational_value"] >= 4 and r["cleanliness"] >= 3)

# без рекламы и машинного перевода
no_ads = train.filter(lambda r: r["commercial_neutrality"] >= 4 and not r["flag_suspected_mt"])

Что в случайной выборке

12 500 документов - равномерная случайная выборка rus_Cyrl (колонка sample == "random"). На ней:

overall	Доля	Смысл (из промпта)
1	23,8%	Исключить: спам, дорвеи, мусор, машинная бессмыслица, любой unsafe_content
2	42,5%	Скорее исключить: реклама, вода, мусор с небольшим полезным фрагментом
3	31,3%	Обычный приемлемый веб: нормальная новость, пост на форуме, блог
4	2,4%	Включить с повышенным весом: содержательный, хорошо написанный текст, объяснения или факты
5	0,02%	Эталонное качество: учебник, энциклопедическая статья, глубокий разбор

Флаг	Доля
seo_doorway	19,7%
truncated_or_fragment	12,3%
machine_generated	12,2%
unsafe_content	9,6%
pii_present	4,7%
suspected_mt	4,7%
mixed_language	1,4%
official_document	0,7%
answer_dump	0,2%

Самые частые форматы	Доля
news - новости	31,5%
other - прочее	16,8%
landing_page - лендинги	9,3%
popular_article - научно-популярные статьи	8,3%
product_listing - карточки товаров	6,1%

Выборки и сплиты

sample	Документов	Как отобраны
random	12 500	Равномерно из выборки 300 тыс. документов rus_Cyrl (30 блоков по 10 тыс. подряд идущих документов из 30 случайных исходных файлов из 440)
probably_good	12 500	Тот же пул, 3–60 тыс. символов, ≥ 80% кириллицы, URL с wiki / edu / gov / science / library / museum ... с весом x5
mined_v1	1 000	Топ-1000 из 30 тыс. неразмеченных документов по overall, предсказанному первым классификатором (только в train)

Для статистики по корпусу берите только sample == "random": две другие выборки смещены к хорошим документам, чтобы классификатору хватало примеров.

Сплиты: validation и test (по 2 501) стратифицированы по overall и sample и не содержат mined_v1, в train остальное (20 998).

Колонки

Колонка	Описание
id, url, text, language_score	Из FineWeb-2 (полный исходный текст)
sample, split	См. выше
overall	Общая ценность для предобучения, 1–5
cleanliness ... domain_depth	13 осей, 1–5
*_reasoning	Обоснование разметчика для каждой оси и overall (на русском, ≤ 400 символов)
flag_*	9 булевых флагов
topic_primary, topic_secondary (список, 0–2), format, audience, region	Категории
annotator, prompt_version, schema_version	Разметчик и версии: anthropic/claude-sonnet-5.5:batch, v6, v5
annotator_input_chars, annotator_input_truncated	У длинных документов разметчик видел первые 10 000 и последние 1 700 символов

Определения осей, флагов и категорий - в разделе Критерии оценки. JSON-схема структурированного вывода - prompt/annotation.v5.schema.json.

Конфиг agreement

200 случайных документов, размеченных несколькими разметчиками по предыдущему промпту (v5) и Sonnet по финальному (v6), по строке на пару (документ, разметчик): агенты Claude Opus 5.5 (claude-opus-5-5, эталон), Claude Opus 5.5 и Sonnet 5.5 через batch API, Kimi K3, GPT-6.1 Sol, DeepSeek V4.1 Flash. По нему можно оценить шум разметки: Sonnet (v6) согласуется с эталоном со средним QWK по осям ≈ 0,89.

Как сделано

• Разметчик: Claude Sonnet 5.5 через batch API OpenRouter, структурированный вывод по строгой JSON-схеме, промпт v6 (6 итераций с проверкой по эталонной разметке Claude Opus 5.5).
• 6 из 26 006 документов отклонила модерация провайдера, их в датасете нет.
• Ревизия FineWeb-2: af9c13333eb981300149d5ca60a8e9d659b276b9.

Ограничения

• Метки - суждение одной LLM. Трудные случаи (граница 3 и 4, suspected_mt, truncated_or_fragment, pii_present) шумные.
• Тексты - неотфильтрованные веб-страницы: около 10% помечены unsafe_content (контент для взрослых, азартные игры и т. п.), ~5% содержат персональные данные (pii_present) - как и в самом FineWeb-2.

Лицензия

ODC-By 1.0, как у FineWeb-2. Тексты взяты из FineWeb-2 и подпадают под условия использования Common Crawl. Метки - выходы ИИ-моделей. Условия их провайдеров могут ограничивать использование (например, для обучения моделей, конкурирующих с провайдером).