---
license: mit
task_categories:
- time-series-forecasting
tags:
- weather
- autoformer
- ts-arena
- forecasting
- long-horizon
- tsfile
- modality:timeseries
pretty_name: Weather (Max Planck, Autoformer) — TsFile format
modality:
- timeseries
size_categories:
- 10K<n<100K
---

# Weather (Max Planck Institute, Autoformer) — TsFile 格式

本仓库是 **Weather** 时间序列数据集转换为 [Apache TsFile](https://tsfile.apache.org/) 格式的版本，源自 TS Arena 基准套件。

- **原始数据集（HuggingFace）**：[ts-arena/weather](https://huggingface.co/datasets/ts-arena/weather)
- **原始数据来源**：[Autoformer Dataset Collection](https://github.com/thuml/Autoformer)（Max Planck Institute for Biogeochemistry 气象站，2020 年）
- **许可证**：MIT

## 数据集简介

Max Planck 气象站 2020 年的多变量气象时间序列，采样频率 **10 分钟**，共 52,696 个时间点、21 个气象特征，是长序列时间序列预测（LSTF）的常用基准。数据集物理切分为 train / validation / test 三部分（70% / 10% / 20%）。

| 文件 | split | 行数 |
|---|---|---|
| `data/train.tsfile` | train | 36,887 |
| `data/val.tsfile` | validation | 5,269 |
| `data/test.tsfile` | test | 10,540 |

### ⚠️ 数据已标准化

原始数据集中的特征值**已经过标准化**（zero mean / unit variance，scaler 仅在 train 上拟合）。本仓库**原样保留标准化后的值**，未做反标准化。如需还原成原始物理量，使用仓库根目录的 `scaler_params.json`（含每列 `mean` / `std` / `feature_names`）：

```python
original = standardized * std + mean
```

### 列含义

| 列名 | 含义 | 类型 |
|---|---|---|
| `Time` | 时间索引（INT64，来自源 `timestamp_idx`，0/1/2…；源无真实时间戳） | 时间列 |
| `p_mbar` | 气压 p (mbar) | FLOAT |
| `T_degC` | 气温 T (°C) | FLOAT |
| `Tpot_K` | 位温 Tpot (K) | FLOAT |
| `Tdew_degC` | 露点温度 Tdew (°C) | FLOAT |
| `rh_pct` | 相对湿度 rh (%) | FLOAT |
| `VPmax_mbar` | 饱和水汽压 VPmax (mbar) | FLOAT |
| `VPact_mbar` | 实际水汽压 VPact (mbar) | FLOAT |
| `VPdef_mbar` | 水汽压差 VPdef (mbar) | FLOAT |
| `sh_g_kg` | 比湿 sh (g/kg) | FLOAT |
| `H2OC_mmol_mol` | 水汽浓度 H2OC (mmol/mol) | FLOAT |
| `rho_g_m3` | 空气密度 rho (g/m³) | FLOAT |
| `wv_m_s` | 风速 wv (m/s) | FLOAT |
| `max_wv_m_s` | 最大风速 max. wv (m/s) | FLOAT |
| `wd_deg` | 风向 wd (deg) | FLOAT |
| `rain_mm` | 降雨量 rain (mm) | FLOAT |
| `raining_s` | 降雨时长 raining (s) | FLOAT |
| `SWDR_W_m2` | 短波下行辐射 SWDR (W/m²) | FLOAT |
| `PAR_umol_m2_s` | 光合有效辐射 PAR (µmol/m²/s) | FLOAT |
| `max_PAR_umol_m2_s` | 最大 PAR (µmol/m²/s) | FLOAT |
| `Tlog_degC` | 记录温度 Tlog (°C) | FLOAT |
| `OT` | 预测目标（Output Target） | FLOAT |

## 仓库结构

```
ts-arena-weather/
├── README.md           # 本文件
├── scaler_params.json  # 标准化还原参数（mean / std / feature_names）
└── data/
    ├── train.tsfile
    ├── val.tsfile
    └── test.tsfile
```

## 转换说明

- **每个 split 单独转成一个 `.tsfile`**，不合并（保留原始 train/val/test 切分）。
- **Time 列**：来自源 `timestamp_idx`（int64，0/1/2…）作为 INT64。源数据没有真实时间戳。
- **标准化值原样保留**：未做反标准化；还原参数见 `scaler_params.json`。
- **字段列**：21 个气象特征均保存为单精度 FLOAT，列名清洗为 TsFile 安全标识符（单位保留在名字里）。原数据集列名里的 `²`/`µ` 已损坏为 U+FFFD，按物理含义还原为 `W_m2` / `umol_m2_s`。
- **未丢弃任何数据列**：22 列全部保留（21 特征 + `timestamp_idx` → `Time`）。
- **无 TAG 列**：每个 split 是一条独立的时间序列。

## 读取示例

```python
from tsfile import TsFileReader

reader = TsFileReader("data/train.tsfile")
schemas = reader.get_all_table_schemas()
tname = next(iter(schemas))
field_cols = [c.get_column_name() for c in schemas[tname].get_columns()]
with reader.query_table(tname, field_cols, batch_size=65536) as rs:
    while (batch := rs.read_arrow_batch()) is not None:
        df = batch.to_pandas()
        print(df.head())
        break
```

## 来源与引用

数据来自 Max Planck Institute for Biogeochemistry 气象站，经 [Autoformer](https://github.com/thuml/Autoformer) 数据集合集整理，并由 [TS Arena](https://huggingface.co/datasets/ts-arena/weather) 标准化后发布。

```bibtex
@inproceedings{wu2021autoformer,
  title={Autoformer: Decomposition Transformers with Auto-Correlation for Long-Term Series Forecasting},
  author={Wu, Haixu and Xu, Jiehui and Wang, Jianmin and Long, Mingsheng},
  booktitle={Advances in Neural Information Processing Systems},
  year={2021}
}
```