---
dataset_info:
  features:
  - name: ids
    dtype: int64
  - name: text
    dtype: string
  splits:
  - name: train
    num_bytes: 105663028
    num_examples: 23450
  download_size: 64054045
  dataset_size: 105663028
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
license: odc-by
language:
- ja
size_categories:
- 10K<n<100K
---
kajuma/CC-news-2024-July-October-cleanedを元に、9月、10月のニュースのみを抜き出したデータセット。  
- テキストの前にニュースの日付を追加  
- 継続事前学習用
- outputトークン数を1024と想定。効率よく学習するために約1000tokensに調整（使用tokenizerはllm-jp/llm-jp-3-13b）