{ "schema": "lomonosov_zenit_vision_scheme_ladder_v1", "question": "какой схемой квантовать зрительную башню, чтобы мультимодальность работала", "host": "локальная RTX 5090, окно 32 768, изображение logo.png 1200x842", "ladder": [ { "scheme": "int pack-quantized, группа 16 (в поставке)", "shard": "331 МБ", "result": "FAIL", "detail": "движок падает: cuFuncSetAttribute -> CUDA_ERROR_INVALID_VALUE в humming_gemm; на Blackwell группу 16 берёт только humming, а он там не запускается" }, { "scheme": "NVFP4, группа 16", "shard": "254 МиБ", "result": "GARBAGE", "detail": "движок жив, ответ '!!!!!...'; ошибка восстановления веса 10.78% — это собственная погрешность формата, расчёт масштабов сверен с эталонным" }, { "scheme": "FP8 поканально (выбрано)", "shard": "445 МиБ", "result": "PASS", "detail": "'LOMONOSOV ZENIT logo with a stylized emblem and text on a dark background'" }, { "scheme": "BF16 без квантования", "shard": "879 МиБ", "result": "PASS", "detail": "'LOMONOSOV ZENIT logo with a stylized compass and blue glow on a dark background' — подробнее, чем FP8, но вдвое дороже" } ], "chosen": "FP8 поканально", "why": "работает и вдвое дешевле BF16. NVFP4 закрыт замером: для башни он слишком груб. Групповые int-схемы закрыты устройством ядер на Blackwell", "cost": "шард растёт с ~316 МиБ до 445 МиБ, то есть примерно +129 МБ", "open": "проверить, помещается ли миллион с большим шардом зрения — запас там был 130 МБ", "control_that_was_missing": "до этой лестницы никто не проверял, работает ли зрение на чекпойнте ВООБЩЕ; BF16-прогон и был тем контролем, без которого настройка квантования была бы гаданием" }