Datasets:

ikedachin
/

CC-news-2024-October-cleaned-cpt-set-250127

Modalities:

Formats:

Languages:

Size:

Libraries:

License:

Dataset card Data Studio Files Files and versions

ikedachin commited on Jan 27, 2025

Commit

15e235b

·

verified ·

1 Parent(s): 3c9450f

Update README.md

Files changed (1) hide show

README.md +3 -2

README.md CHANGED Viewed

@@ -23,5 +23,6 @@ size_categories:
 - 10K<n<100K
 ---
 kajuma/CC-news-2024-July-October-cleanedを元に、9月、10月のニュースのみを抜き出したデータセット。
-テキストの前にニュースの日付を追加
-outputトークン数を1024と想定。効率よく学習するために約1000tokensに調整（使用tokenizerはllm-jp/llm-jp-3-13b）

 - 10K<n<100K
 ---
 kajuma/CC-news-2024-July-October-cleanedを元に、9月、10月のニュースのみを抜き出したデータセット。
+- テキストの前にニュースの日付を追加
+- 継続事前学習用
+- outputトークン数を1024と想定。効率よく学習するために約1000tokensに調整（使用tokenizerはllm-jp/llm-jp-3-13b）