Режимы сжатия
Протокол ClickHouse поддерживает сжатие блоков данных с контрольными суммами.
Используйте LZ4, если не уверены, какой режим выбрать.
Узнайте больше о кодеках сжатия столбцов и задавайте их при создании таблиц или позже.
Режимы
| value | name | description |
|---|---|---|
0x02 | None | Без сжатия, только контрольные суммы |
0x82 | LZ4 | Очень быстрое, хорошее сжатие |
0x90 | ZSTD | Zstandard, достаточно быстрое, лучшее сжатие |
И LZ4, и ZSTD разработаны одним и тем же автором, но с разными компромиссами по характеристикам. По результатам бенчмарков Facebook:
| name | ratio | encoding | decoding |
|---|---|---|---|
| zstd 1.4.5 -1 | 2.8 | 500 MB/s | 1660 MB/s |
| lz4 1.9.2 | 2.1 | 740 MB/s | 4530 MB/s |
Блок
| поле | тип | описание |
|---|---|---|
| checksum | uint128 | Хеш от (header + compressed data) |
| raw_size | uint32 | Сырой размер без заголовка |
| data_size | uint32 | Размер несжатых данных |
| mode | byte | Режим сжатия |
| compressed_data | binary | Блок сжатых данных |
Заголовок — это (raw_size + data_size + mode), сырой размер равен длине (header + compressed_data).
Контрольная сумма рассчитывается как hash(header + compressed_data) с использованием ClickHouse CityHash.
Режим None
Если используется режим None, compressed_data совпадает с исходными данными.
Режим без сжатия полезен для обеспечения дополнительной целостности данных с помощью контрольных сумм, так как накладные расходы на хеширование незначительны.
