smilegeng/ts-arena-weather

Weather (Max Planck Institute, Autoformer) — TsFile 格式

本仓库是 Weather 时间序列数据集转换为 Apache TsFile 格式的版本，源自 TS Arena 基准套件。

• 原始数据集（HuggingFace）：ts-arena/weather
• 原始数据来源：Autoformer Dataset Collection（Max Planck Institute for Biogeochemistry 气象站，2020 年）
• 许可证：MIT

数据集简介

Max Planck 气象站 2020 年的多变量气象时间序列，采样频率 10 分钟，共 52,696 个时间点、21 个气象特征，是长序列时间序列预测（LSTF）的常用基准。数据集物理切分为 train / validation / test 三部分（70% / 10% / 20%）。

文件	split	行数
data/train.tsfile	train	36,887
data/val.tsfile	validation	5,269
data/test.tsfile	test	10,540

⚠️ 数据已标准化

原始数据集中的特征值已经过标准化（zero mean / unit variance，scaler 仅在 train 上拟合）。本仓库原样保留标准化后的值，未做反标准化。如需还原成原始物理量，使用仓库根目录的 scaler_params.json（含每列 mean / std / feature_names）：

original = standardized * std + mean

列含义

列名	含义	类型
Time	时间索引（INT64，来自源 timestamp_idx，0/1/2…；源无真实时间戳）	时间列
p_mbar	气压 p (mbar)	FLOAT
T_degC	气温 T (°C)	FLOAT
Tpot_K	位温 Tpot (K)	FLOAT
Tdew_degC	露点温度 Tdew (°C)	FLOAT
rh_pct	相对湿度 rh (%)	FLOAT
VPmax_mbar	饱和水汽压 VPmax (mbar)	FLOAT
VPact_mbar	实际水汽压 VPact (mbar)	FLOAT
VPdef_mbar	水汽压差 VPdef (mbar)	FLOAT
sh_g_kg	比湿 sh (g/kg)	FLOAT
H2OC_mmol_mol	水汽浓度 H2OC (mmol/mol)	FLOAT
rho_g_m3	空气密度 rho (g/m³)	FLOAT
wv_m_s	风速 wv (m/s)	FLOAT
max_wv_m_s	最大风速 max. wv (m/s)	FLOAT
wd_deg	风向 wd (deg)	FLOAT
rain_mm	降雨量 rain (mm)	FLOAT
raining_s	降雨时长 raining (s)	FLOAT
SWDR_W_m2	短波下行辐射 SWDR (W/m²)	FLOAT
PAR_umol_m2_s	光合有效辐射 PAR (µmol/m²/s)	FLOAT
max_PAR_umol_m2_s	最大 PAR (µmol/m²/s)	FLOAT
Tlog_degC	记录温度 Tlog (°C)	FLOAT
OT	预测目标（Output Target）	FLOAT

仓库结构

ts-arena-weather/
├── README.md           # 本文件
├── scaler_params.json  # 标准化还原参数（mean / std / feature_names）
└── data/
    ├── train.tsfile
    ├── val.tsfile
    └── test.tsfile

转换说明

• **每个 split 单独转成一个 .tsfile**，不合并（保留原始 train/val/test 切分）。
• Time 列：来自源 timestamp_idx（int64，0/1/2…）作为 INT64。源数据没有真实时间戳。
• 标准化值原样保留：未做反标准化；还原参数见 scaler_params.json。
• 字段列：21 个气象特征均保存为单精度 FLOAT，列名清洗为 TsFile 安全标识符（单位保留在名字里）。原数据集列名里的 ²/µ 已损坏为 U+FFFD，按物理含义还原为 W_m2 / umol_m2_s。
• 未丢弃任何数据列：22 列全部保留（21 特征 + timestamp_idx → Time）。
• 无 TAG 列：每个 split 是一条独立的时间序列。

读取示例

from tsfile import TsFileReader

reader = TsFileReader("data/train.tsfile")
schemas = reader.get_all_table_schemas()
tname = next(iter(schemas))
field_cols = [c.get_column_name() for c in schemas[tname].get_columns()]
with reader.query_table(tname, field_cols, batch_size=65536) as rs:
    while (batch := rs.read_arrow_batch()) is not None:
        df = batch.to_pandas()
        print(df.head())
        break

来源与引用

数据来自 Max Planck Institute for Biogeochemistry 气象站，经 Autoformer 数据集合集整理，并由 TS Arena 标准化后发布。

@inproceedings{wu2021autoformer,
  title={Autoformer: Decomposition Transformers with Auto-Correlation for Long-Term Series Forecasting},
  author={Wu, Haixu and Xu, Jiehui and Wang, Jianmin and Long, Mingsheng},
  booktitle={Advances in Neural Information Processing Systems},
  year={2021}
}