Ahbdjbdsh's picture
Update README.md
2e8a21c verified
|
Raw
History Blame Contribute Delete
2.8 kB
metadata
dataset_info:
  features:
    - name: text
      dtype: string
    - name: label
      dtype: int64
    - name: length
      dtype: int64
  splits:
    - name: train
      num_bytes: 2487951
      num_examples: 7720
    - name: validation
      num_bytes: 303071
      num_examples: 966
    - name: test
      num_bytes: 330399
      num_examples: 966
  download_size: 1725100
  dataset_size: 3121421
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: validation
        path: data/validation-*
      - split: test
        path: data/test-*
language:
  - ru
tags:
  - text
  - binary_classification
  - toxic_comments
pretty_name: Датасет бинарного классификатора для определения токсичных комментариев
size_categories:
  - 1K<n<10K

Формат данных (Data Format)

Данные представлены в формате таблиц (splits): train — обучающая выборка (7720 строк) validation — валидационная выборка (966 строк) test — тестовая выборка (966 строк)

Поля в датасете: comment (string): Текст комментария. label (class label): Метка класса (0 — не токсичный / нормальный, 1 — токсичный). length (int): Длина комментария в символах.

Источники данных (Data Sources)

Данные были взяты из материалов домашнего задания курса по машинному обучению (или укажите оригинальный источник, если он вам известен, например: "Russian Language Toxic Comments Dataset с Kaggle").

Назначение (Intent)

Датасет создан исключительно в образовательных целях для отработки навыков:

  1. Предобработки текстовых данных.
  2. Проведения разведочного анализа (EDA).
  3. Разбиения данных с сохранением баланса классов (стратификация).
  4. Публикации и версионирования данных на платформе Hugging Face Hub.

Сбалансированность и качество (Dataset Quality)

В ходе разведочного анализа данных было установлено: Датасет обладает идеальным балансом классов (соотношение 80%, 10%, 10%). Пропорции классов строго сохранены во всех подмножествах (train/val/test) с помощью стратификации.