Перейти к основному содержимому
Перейти к основному содержимому

Параметры таблиц MergeTree

Системная таблица system.merge_tree_settings отображает глобальные настройки MergeTree.

Настройки MergeTree можно задать в секции merge_tree конфигурационного файла сервера или указать для каждой таблицы MergeTree отдельно в секции SETTINGS оператора CREATE TABLE.

Пример настройки параметра max_suspicious_broken_parts:

Настройте значение по умолчанию для всех таблиц MergeTree в конфигурационном файле сервера:

<merge_tree>
    <max_suspicious_broken_parts>5</max_suspicious_broken_parts>
</merge_tree>

Настройки для конкретной таблицы:

CREATE TABLE tab
(
    `A` Int64
)
ENGINE = MergeTree
ORDER BY tuple()
SETTINGS max_suspicious_broken_parts = 500;

Измените настройки конкретной таблицы с помощью ALTER TABLE ... MODIFY SETTING:

ALTER TABLE tab MODIFY SETTING max_suspicious_broken_parts = 100;

-- reset to global default (value from system.merge_tree_settings)
ALTER TABLE tab RESET SETTING max_suspicious_broken_parts;

Настройки MergeTree

adaptive_write_buffer_initial_size

Начальный размер адаптивного буфера записи

add_implicit_sign_column_constraint_for_collapsing_engine

Если значение параметра установлено в true, добавляет неявное ограничение для столбца sign в таблице CollapsingMergeTree или VersionedCollapsingMergeTree, чтобы разрешать только значения (1 и -1).

add_minmax_index_for_numeric_columns

Если параметр включён, для всех числовых столбцов таблицы создаются минимально-максимальные (пропускающие) индексы.

add_minmax_index_for_string_columns

При включении настройки для всех строковых столбцов таблицы добавляются min-max (skipping) индексы.

add_minmax_index_for_temporal_columns

Если настройка включена, для всех столбцов таблицы типов Date, Date32, Time, Time64, DateTime и DateTime64 добавляются min-max (пропускающие) индексы.

allow_coalescing_columns_in_partition_or_order_key

При включении разрешает использовать в таблице CoalescingMergeTree объединяемые столбцы в партиции или ключе сортировки.

allow_experimental_replacing_merge_with_cleanup

Experimental feature. Learn more.

Разрешает экспериментальные слияния CLEANUP для ReplacingMergeTree со столбцом is_deleted. При включении позволяет использовать OPTIMIZE ... FINAL CLEANUP для ручного слияния всех частей в партиции в одну часть и удаления всех помеченных как удалённые строк.

Также позволяет включить автоматическое выполнение таких слияний в фоновом режиме с помощью настроек min_age_to_force_merge_seconds, min_age_to_force_merge_on_partition_only и enable_replacing_merge_with_cleanup_for_min_age_to_force_merge.

allow_experimental_reverse_key

Experimental feature. Learn more.

Включает поддержку убывающего порядка сортировки в ключах сортировки MergeTree. Этот параметр особенно полезен для анализа временных рядов и Top-N запросов, позволяя хранить данные в обратном хронологическом порядке для оптимизации производительности запросов.

При включённом allow_experimental_reverse_key вы можете задавать убывающий порядок сортировки в предложении ORDER BY таблицы MergeTree. Это позволяет использовать более эффективные оптимизации ReadInOrder вместо ReadInReverseOrder для убывающих запросов.

Пример

CREATE TABLE example
(
time DateTime,
key Int32,
value String
) ENGINE = MergeTree
ORDER BY (time DESC, key)  -- Descending order on 'time' field
SETTINGS allow_experimental_reverse_key = 1;

SELECT * FROM example WHERE key = 'xxx' ORDER BY time DESC LIMIT 10;

При использовании ORDER BY time DESC в запросе к нему применяется режим ReadInOrder.

Значение по умолчанию: false

allow_floating_point_partition_key

Позволяет использовать число с плавающей точкой в качестве ключа партиции.

Возможные значения:

  • 0 — Ключ партиции с числом с плавающей точкой не разрешен.
  • 1 — Ключ партиции с числом с плавающей точкой разрешен.

allow_nullable_key

Разрешает использовать типы Nullable в качестве первичных ключей.

allow_part_offset_column_in_projections

Разрешает использование столбца _part_offset в запросах SELECT к проекциям.

allow_reduce_blocking_parts_task

Фоновая задача, сокращающая количество блокирующих частей для таблиц SharedMergeTree. Только в ClickHouse Cloud.

allow_remote_fs_zero_copy_replication

Experimental feature. Learn more.

Не используйте этот параметр в production-среде, так как он ещё не готов.

allow_summing_columns_in_partition_or_order_key

При включении позволяет использовать столбцы для суммирования в таблице SummingMergeTree в качестве ключа партиционирования или сортировки.

allow_suspicious_indices

Отклоняет первичные и вторичные индексы, а также ключи сортировки с идентичными выражениями

allow_vertical_merges_from_compact_to_wide_parts

Разрешает вертикальные слияния из компактных частей в широкие части. Этот параметр должен иметь одинаковое значение на всех репликах.

alter_column_secondary_index_mode

Настраивает, разрешать ли команды ALTER, которые изменяют столбцы, покрытые вторичными индексами, и какое действие выполнять, если разрешено их выполнение. По умолчанию такие команды ALTER разрешены, и индексы перестраиваются.

Возможные значения:

  • rebuild (по умолчанию): Перестраивает все вторичные индексы, на которые влияет столбец в команде ALTER.
  • throw: Запрещает любые ALTER для столбцов, покрытых явными вторичными индексами, выбрасывая исключение. Неявные индексы не подпадают под это ограничение и будут перестроены.
  • drop: Удаляет зависимые вторичные индексы. Новые части не будут содержать индексы, для их воссоздания потребуется MATERIALIZE INDEX.
  • compatibility: Соответствует исходному поведению: throw для ALTER ... MODIFY COLUMN и rebuild для ALTER ... UPDATE/DELETE.
  • ignore: Предназначено для опытных пользователей. Оставляет индексы в несогласованном состоянии, что может приводить к некорректным результатам запросов.

always_fetch_merged_part

Если значение true, эта реплика никогда не выполняет слияние частей и всегда загружает уже слитые части с других реплик.

Возможные значения:

  • true, false

Всегда копировать данные вместо использования жёстких ссылок при мутациях, заменах, отсоединениях и т. д.

apply_patches_on_merge

Если установлено значение true, части‑патчи применяются при слияниях

assign_part_uuids

Если параметр включён, каждой новой части будет присваиваться уникальный идентификатор. Перед включением убедитесь, что все реплики поддерживают UUID версии 4.

async_block_ids_cache_update_wait_ms

Время, в течение которого каждая итерация операции вставки будет ожидать обновления async_block_ids_cache.

async_insert

Если включено, данные из запроса INSERT помещаются в очередь и затем в фоновом режиме записываются в таблицу.

auto_statistics_types

Список типов статистики, разделённых запятыми, которые автоматически вычисляются для всех подходящих столбцов. Поддерживаемые типы статистики: tdigest, countmin, minmax, uniq.

background_task_preferred_step_execution_time_ms

Целевое время выполнения одного шага слияния или мутации. Может быть превышено, если выполнение одного шага занимает больше времени.

cache_populated_by_fetch

Примечание

Этот параметр применяется только в ClickHouse Cloud.

Когда cache_populated_by_fetch отключён (значение по умолчанию), новые части загружаются в файловый кэш только при выполнении запроса, который требует эти части.

Если параметр включён, cache_populated_by_fetch заставит все узлы загружать новые части данных из хранилища в их файловый кэш без необходимости выполнения запроса, чтобы инициировать такое действие.

См. также

cache_populated_by_fetch_filename_regexp

Примечание

Этот параметр применяется только к ClickHouse Cloud.

Если параметр не пуст, только файлы, которые соответствуют этому регулярному выражению, будут предварительно загружены в кэш после операции fetch (если включён cache_populated_by_fetch).

check_delay_period

Устаревшая настройка, не оказывает эффекта.

check_sample_column_is_correct

Включает проверку при создании таблицы того, что тип данных столбца для сэмплирования или выражения сэмплирования задан корректно. Тип данных должен быть одним из беззнаковых целочисленных типов: UInt8, UInt16, UInt32, UInt64.

Возможные значения:

  • true — Проверка включена.
  • false — Проверка отключена при создании таблицы.

Значение по умолчанию: true.

По умолчанию сервер ClickHouse при создании таблицы проверяет тип данных столбца для сэмплирования или выражения сэмплирования. Если у вас уже есть таблицы с некорректным выражением сэмплирования и вы не хотите, чтобы сервер генерировал исключение во время запуска, установите check_sample_column_is_correct в значение false.

clean_deleted_rows

Устаревшая настройка, не оказывает эффекта.

cleanup_delay_period

Минимальный интервал между очисткой старых логов очереди, хэшей блоков и частей.

cleanup_delay_period_random_add

Добавляет к cleanup_delay_period равномерно распределённую случайную величину от 0 до x секунд, чтобы избежать эффекта «thundering herd» и последующей DoS-нагрузки на ZooKeeper при очень большом количестве таблиц.

cleanup_thread_preferred_points_per_iteration

Предпочитаемый размер пакета для фоновой очистки (points — абстрактная метрика, при этом 1 point приблизительно соответствует одному вставленному блоку).

cleanup_threads

Устаревшая настройка, ничего не делает.

clone_replica_zookeeper_create_get_part_batch_size

Размер пакета для запросов multi-create get-part в ZooKeeper при клонировании реплики.

columns_and_secondary_indices_sizes_lazy_calculation

Вычислять размеры столбцов и вторичных индексов отложенно при первом запросе, а не при инициализации таблицы.

columns_to_prewarm_mark_cache

Список столбцов, для которых нужно предварительно прогреть кэш меток (если включено). Пустое значение означает, что будут использованы все столбцы

compact_parts_max_bytes_to_buffer

Доступен только в ClickHouse Cloud. Максимальное количество байт, записываемых в одну полосу данных в компактных частях.

compact_parts_max_granules_to_buffer

Доступно только в ClickHouse Cloud. Максимальное количество гранул, записываемых в одну полосу в компактных частях.

compact_parts_merge_max_bytes_to_prefetch_part

Доступен только в ClickHouse Cloud. Максимальный размер компактной части, которая может быть целиком прочитана в память во время слияния.

compatibility_allow_sampling_expression_not_in_primary_key

Разрешает создавать таблицу с выражением выборки, не включённым в первичный ключ. Это нужно только для временного запуска сервера с некорректными таблицами для обеспечения обратной совместимости.

compress_marks

Метки поддерживают сжатие, уменьшая размер файлов меток и ускоряя их передачу по сети.

compress_primary_key

Поддерживает сжатие первичного ключа, что уменьшает размер файла первичного ключа и ускоряет передачу данных по сети.

concurrent_part_removal_threshold

Включать параллельное удаление частей (см. max_part_removal_threads) только если количество неактивных частей данных не меньше этого значения.

deduplicate_merge_projection_mode

Разрешать ли создание projection для таблицы с неклассическим движком MergeTree, то есть с движком MergeTree, отличным от Replicated или Shared. Опция ignore нужна исключительно для совместимости и может приводить к некорректным результатам. В противном случае, если она разрешена, задаётся действие при слиянии projection: либо drop, либо rebuild. Классический MergeTree будет игнорировать этот параметр. Он также управляет OPTIMIZE DEDUPLICATE, но влияет на всех представителей семейства MergeTree. Аналогично опции lightweight_mutation_projection_mode, действует на уровне part.

Возможные значения:

  • ignore
  • throw
  • drop
  • rebuild

default_compression_codec

Определяет кодек сжатия по умолчанию, который будет использоваться, если для конкретного столбца в объявлении таблицы кодек не задан. Порядок выбора кодека сжатия для столбца:

  1. Кодек сжатия, определённый для столбца в объявлении таблицы
  2. Кодек сжатия, определённый в default_compression_codec (этот параметр)
  3. Кодек сжатия по умолчанию, определённый в настройках compression Значение по умолчанию: пустая строка (не задано).

detach_not_byte_identical_parts

Включает или отключает отсоединение части данных на реплике после слияния или мутации, если она не является побайтово идентичной частям данных на других репликах. Если настройка отключена, часть данных удаляется. Включите эту настройку, если хотите проанализировать такие части позже.

Настройка применима к таблицам MergeTree с включённой репликацией данных.

Возможные значения:

  • 0 — части удаляются.
  • 1 — части отсоединяются.

detach_old_local_parts_when_cloning_replica

Не удалять старые локальные части при восстановлении утерянной реплики.

Возможные значения:

  • true
  • false

disable_detach_partition_for_zero_copy_replication

Отключает запрос DETACH PARTITION при репликации без копирования.

disable_fetch_partition_for_zero_copy_replication

Отключает выполнение запроса FETCH PARTITION при zero copy репликации.

disable_freeze_partition_for_zero_copy_replication

Отключает выполнение запроса FREEZE PARTITION для zero-copy репликации.

disk

Имя диска хранения данных. Может быть указано вместо политики хранения.

distributed_index_analysis_min_indexes_size_to_activate

Минимальные размеры индексов (data skipping и первичного ключа) на диске (в несжатом виде), при которых активируется распределённый анализ индексов

distributed_index_analysis_min_parts_to_activate

Минимальное количество частей, при котором активируется анализ распределённого индекса

dynamic_serialization_version

Версия сериализации для типа данных Dynamic. Необходима для совместимости.

Возможные значения:

  • v1
  • v2
  • v3

enable_block_number_column

Включает сохранение столбца _block_number для каждой строки.

enable_block_offset_column

Сохраняет виртуальный столбец _block_number во время слияний.

enable_index_granularity_compression

Сжимает в памяти значения гранулярности индекса, если это возможно

enable_max_bytes_limit_for_min_age_to_force_merge

Определяет, должны ли настройки min_age_to_force_merge_seconds и min_age_to_force_merge_on_partition_only учитывать настройку max_bytes_to_merge_at_max_space_in_pool.

Возможные значения:

  • true
  • false

enable_mixed_granularity_parts

Включает или отключает переход к контролю размера гранул с помощью параметра index_granularity_bytes. До версии 19.11 существовал только параметр index_granularity для ограничения размера гранул. Параметр index_granularity_bytes повышает производительность ClickHouse при выборке данных из таблиц с большими строками (десятки и сотни мегабайт). Если у вас есть таблицы с большими строками, вы можете включить этот параметр, чтобы повысить эффективность запросов SELECT.

enable_replacing_merge_with_cleanup_for_min_age_to_force_merge

Experimental feature. Learn more.

Флаг, указывающий, следует ли использовать CLEANUP-слияния для ReplacingMergeTree при слиянии партиций в одну часть. Требует включения настроек allow_experimental_replacing_merge_with_cleanup, min_age_to_force_merge_seconds и min_age_to_force_merge_on_partition_only.

Возможные значения:

  • true
  • false

enable_the_endpoint_id_with_zookeeper_name_prefix

Включает использование идентификатора конечной точки с префиксом имени ZooKeeper для реплицируемой таблицы MergeTree.

enable_vertical_merge_algorithm

Включает использование вертикального алгоритма слияния.

enforce_index_structure_match_on_partition_manipulation

Если этот параметр включен для целевой таблицы при выполнении операции с партицией в запросе (ATTACH/MOVE/REPLACE PARTITION), индексы и проекции должны быть идентичны в исходной и целевой таблицах. В противном случае целевая таблица может иметь надмножество индексов и проекций исходной таблицы.

escape_index_filenames

До версии 26.1 мы не экранировали специальные символы в именах файлов, создаваемых для вторичных индексов, что могло приводить к ситуациям, когда некоторые символы в именах индексов приводили к повреждённым частям. Эта возможность добавлена исключительно для целей совместимости. Не следует изменять этот параметр, если только вы не читаете старые части с индексами, использующими не-ASCII-символы в своих именах.

escape_variant_subcolumn_filenames

Экранирует специальные символы в именах файлов, создаваемых для подстолбцов типа данных Variant в широких частях таблиц MergeTree. Требуется для совместимости.

exclude_deleted_rows_for_part_size_in_merge

Если включено, при выборе частей для слияния будет использоваться оценка фактического размера частей данных (то есть без учёта тех строк, которые были удалены с помощью DELETE FROM). Обратите внимание, что это поведение срабатывает только для тех частей данных, которые были затронуты командами DELETE FROM, выполненными после включения этого параметра.

Возможные значения:

  • true
  • false

См. также

exclude_materialize_skip_indexes_on_merge

Исключает указанный список skip-индексов, разделённых запятыми, из построения и сохранения во время слияний. Не действует, если materialize_skip_indexes_on_merge равен false.

Исключённые skip-индексы по-прежнему будут построены и сохранены при помощи явного запроса MATERIALIZE INDEX или во время операций INSERT в зависимости от сеансовой настройки materialize_skip_indexes_on_insert.

Пример:

CREATE TABLE tab
(
a UInt64,
b UInt64,
INDEX idx_a a TYPE minmax,
INDEX idx_b b TYPE set(3)
)
ENGINE = MergeTree ORDER BY tuple() SETTINGS exclude_materialize_skip_indexes_on_merge = 'idx_a';

INSERT INTO tab SELECT number, number / 50 FROM numbers(100); -- setting has no effect on INSERTs

-- idx_a will be excluded from update during background or explicit merge via OPTIMIZE TABLE FINAL

-- can exclude multiple indexes by providing a list
ALTER TABLE tab MODIFY SETTING exclude_materialize_skip_indexes_on_merge = 'idx_a, idx_b';

-- default setting, no indexes excluded from being updated during merge
ALTER TABLE tab MODIFY SETTING exclude_materialize_skip_indexes_on_merge = '';

execute_merges_on_single_replica_time_threshold

Если значение этого параметра больше нуля, только одна реплика немедленно запускает слияние, а другие реплики ожидают в течение этого времени, чтобы загрузить результат вместо локального выполнения слияний. Если выбранная реплика не завершит слияние за это время, происходит возврат к стандартному поведению.

Возможные значения:

  • Любое положительное целое число.

fault_probability_after_part_commit

Для тестирования. Не изменяйте этот параметр.

fault_probability_before_part_commit

Используется для тестирования. Не изменяйте.

finished_mutations_to_keep

Сколько записей о завершённых мутациях сохранять. Если установлено 0 — сохранять все.

force_read_through_cache_for_merges

Experimental feature. Learn more.

Принудительное чтение данных через файловый кэш при слияниях

fsync_after_insert

Выполнять fsync для каждой вставленной части. Существенно снижает производительность операций вставки, не рекомендуется использовать с широкими частями.

fsync_part_directory

Выполнять fsync для каталога парта после выполнения всех операций с ним (запись, переименование и т. д.).

in_memory_parts_enable_wal

Устаревший параметр, ничего не делает.

in_memory_parts_insert_sync

Устаревшая настройка, не оказывает эффекта.

inactive_parts_to_delay_insert

Если количество неактивных частей в одной партиции таблицы превышает значение inactive_parts_to_delay_insert, операция INSERT искусственно замедляется.

Совет

Полезно, когда сервер не успевает достаточно быстро удалять части.

Возможные значения:

  • Любое положительное целое число.

inactive_parts_to_throw_insert

Если количество неактивных частей в одной партиции превышает значение inactive_parts_to_throw_insert, выполнение INSERT прерывается со следующей ошибкой:

"Too many inactive parts (N). Parts cleaning are processing significantly slower than inserts" exception."

Возможные значения:

  • Любое положительное целое число.

index_granularity

Максимальное количество строк между метками индекса. То есть сколько строк приходится на одно значение первичного ключа.

index_granularity_bytes

Максимальный размер гранул данных в байтах.

Чтобы ограничить размер гранулы только числом строк, установите значение 0 (не рекомендуется).

initialization_retry_period

Период между повторными попытками инициализации таблицы, в секундах.

kill_delay_period

Устаревший параметр; не используется.

kill_delay_period_random_add

Устаревший параметр, не имеет эффекта.

kill_threads

Устаревшая настройка, не оказывает никакого эффекта.

lightweight_mutation_projection_mode

По умолчанию легковесное удаление DELETE не работает для таблиц с проекциями. Это связано с тем, что строки в проекции могут затрагиваться операцией DELETE. Поэтому значение по умолчанию — throw. Однако эту настройку можно изменить. При значении drop или rebuild удаления будут работать и для таблиц с проекциями. drop удаляет проекцию, поэтому текущий запрос может выполниться быстрее, так как проекция будет удалена, но будущие запросы могут выполняться медленнее, так как проекция уже не подключена. rebuild перестраивает проекцию, что может ухудшить производительность текущего запроса, но потенциально ускорит будущие запросы. Плюс в том, что эти режимы действуют только на уровне части (part), то есть проекции в частях, которые не были затронуты, останутся без изменений, для них не будут выполняться никакие действия вроде drop или rebuild.

Возможные значения:

  • throw
  • drop
  • rebuild

load_existing_rows_count_for_old_parts

Если этот параметр включён вместе с exclude_deleted_rows_for_part_size_in_merge, количество удалённых строк в существующих частях данных будет вычисляться при запуске таблицы. Учтите, что это может замедлить загрузку таблицы при запуске.

Возможные значения:

  • true
  • false

См. также

lock_acquire_timeout_for_background_operations

Для фоновых операций, таких как объединения (merges), мутации и т. п. Время ожидания в секундах до признания попытки захвата блокировок таблицы неуспешной.

marks_compress_block_size

Размер блока меток при сжатии, фактический размер сжимаемого блока.

marks_compression_codec

Кодек сжатия, используемый для отметок; они достаточно малы и кэшируются, поэтому по умолчанию используется ZSTD(3).

materialize_skip_indexes_on_merge

Когда параметр включён, при слияниях создаются и сохраняются индексы пропуска данных для новых частей. В противном случае они могут быть созданы/сохранены явным выполнением команды MATERIALIZE INDEX или во время операций INSERT.

См. также exclude_materialize_skip_indexes_on_merge для более тонкого управления.

materialize_statistics_on_merge

Если настройка включена, при слияниях будут вычисляться и сохраняться статистики для новых частей. В противном случае они могут быть созданы и сохранены явным вызовом MATERIALIZE STATISTICS или во время INSERT

materialize_ttl_recalculate_only

Пересчитывать сведения о TTL только при выполнении MATERIALIZE TTL

max_avg_part_size_for_too_many_parts

Проверка too many parts в соответствии с parts_to_delay_insert и parts_to_throw_insert будет выполняться только в том случае, если средний размер части (в соответствующей партиции) не превышает указанного порога. Если он превышает указанный порог, операции INSERT не будут ни задерживаться, ни отклоняться. Это позволяет иметь сотни терабайт в одной таблице на одном сервере, если части успешно объединяются в более крупные части. Это не влияет на пороговые значения для неактивных частей или для общего числа частей.

max_bytes_to_merge_at_max_space_in_pool

Максимальный суммарный размер частей (в байтах), которые могут быть объединены в одну часть при наличии достаточных ресурсов. Примерно соответствует максимально возможному размеру части, создаваемой автоматическим фоновым слиянием. (0 означает, что фоновые слияния будут отключены)

Возможные значения:

  • Любое неотрицательное целое число.

Планировщик слияний периодически анализирует размеры и количество частей в партициях и, если в пуле достаточно свободных ресурсов, запускает фоновые слияния. Слияния выполняются до тех пор, пока суммарный размер исходных частей не превысит max_bytes_to_merge_at_max_space_in_pool.

Слияния, инициированные командой OPTIMIZE FINAL, игнорируют max_bytes_to_merge_at_max_space_in_pool (учитывается только свободное дисковое пространство).

max_bytes_to_merge_at_min_space_in_pool

Максимальный общий размер частей (в байтах), которые могут быть объединены в одну часть при минимально доступных ресурсах в фоновом пуле.

Возможные значения:

  • Любое положительное целое число.

max_bytes_to_merge_at_min_space_in_pool определяет максимальный общий размер частей, которые могут быть объединены несмотря на недостаток доступного дискового пространства (в пуле). Это необходимо для уменьшения количества мелких частей и вероятности ошибок Too many parts. Слияния резервируют дисковое пространство, удваивая суммарный размер объединяемых частей. Таким образом, при небольшом количестве свободного дискового пространства может возникнуть ситуация, когда свободное место есть, но оно уже зарезервировано текущими крупными слияниями, поэтому другие слияния не могут запуститься, и количество мелких частей растёт с каждой вставкой.

max_cleanup_delay_period

Максимальный интервал очистки старых журналов очереди, хешей блоков и частей.

max_compress_block_size

Максимальный размер блоков несжатых данных перед их сжатием при записи в таблицу. Это значение можно также задать в глобальных настройках (см. настройку max_compress_block_size). Значение, указанное при создании таблицы, переопределяет глобальное значение этой настройки.

max_concurrent_queries

Максимальное число одновременно выполняемых запросов, относящихся к таблице MergeTree. Запросы по-прежнему будут ограничены другими настройками max_concurrent_queries.

Возможные значения:

  • Положительное целое число.
  • 0 — без ограничений.

Значение по умолчанию: 0 (без ограничений).

Пример

<max_concurrent_queries>50</max_concurrent_queries>

max_delay_to_insert

Значение в секундах, используемое для вычисления задержки операции INSERT, если количество активных частей в одной партиции превышает значение parts_to_delay_insert.

Возможные значения:

  • Любое положительное целое число.

Задержка (в миллисекундах) для INSERT вычисляется по формуле:

max_k = parts_to_throw_insert - parts_to_delay_insert
k = 1 + parts_count_in_partition - parts_to_delay_insert
delay_milliseconds = pow(max_delay_to_insert * 1000, k / max_k)

Например, если в партиции 299 активных частей и parts_to_throw_insert = 300, parts_to_delay_insert = 150, max_delay_to_insert = 1, INSERT задерживается на pow( 1 * 1000, (1 + 299 - 150) / (300 - 150) ) = 1000 миллисекунд.

Начиная с версии 23.1 формула была изменена на:

allowed_parts_over_threshold = parts_to_throw_insert - parts_to_delay_insert
parts_over_threshold = parts_count_in_partition - parts_to_delay_insert + 1
delay_milliseconds = max(min_delay_to_insert_ms, (max_delay_to_insert * 1000)
* parts_over_threshold / allowed_parts_over_threshold)

Например, если партиция имеет 224 активные части и parts_to_throw_insert = 300, parts_to_delay_insert = 150, max_delay_to_insert = 1, min_delay_to_insert_ms = 10, выполнение INSERT будет задержано на max( 10, 1 * 1000 * (224 - 150 + 1) / (300 - 150) ) = 500 миллисекунд.

max_delay_to_mutate_ms

Максимальная задержка выполнения мутаций таблицы MergeTree в миллисекундах при большом количестве незавершённых мутаций

max_digestion_size_per_segment

Устаревшая настройка, не оказывает эффекта.

max_file_name_length

Максимальная длина имени файла, при которой оно сохраняется как есть, без хеширования. Применяется только если включена настройка replace_long_file_name_to_hash. Значение этой настройки не включает длину расширения файла. Поэтому рекомендуется задавать его ниже максимально допустимой длины имени файла (обычно 255 байт) с некоторым запасом, чтобы избежать ошибок файловой системы.

max_files_to_modify_in_alter_columns

Не выполнять ALTER, если число файлов для изменения (удаления, добавления) превышает значение этой настройки.

Возможные значения:

  • Любое положительное целое число.

Значение по умолчанию: 75

max_files_to_remove_in_alter_columns

Не выполнять ALTER, если количество файлов для удаления больше этого параметра настройки.

Возможные значения:

  • Любое положительное целое число.

max_merge_delayed_streams_for_parallel_write

Максимальное количество потоков (столбцов), которые могут быть сброшены на диск параллельно (аналог max_insert_delayed_streams_for_parallel_write для слияний). Работает только для вертикальных слияний.

max_merge_selecting_sleep_ms

Максимальное время ожидания перед повторной попыткой выбрать части для слияния после того, как не было выбрано ни одной части. Меньшее значение параметра приведёт к более частому выбору заданий в background_schedule_pool, что в крупномасштабных кластерах приводит к большому количеству запросов к ZooKeeper.

max_number_of_merges_with_ttl_in_pool

Если в пуле количество слияний с TTL превышает указанное значение, новые слияния с TTL не назначаются. Это позволяет оставить свободные потоки для обычных слияний и тем самым избежать ошибки «Too many parts».

max_number_of_mutations_for_replica

Ограничивает количество мутаций частей на реплику указанным значением. Ноль означает отсутствие ограничения на количество мутаций частей на реплику (выполнение всё равно может быть ограничено другими настройками).

max_part_loading_threads

Устаревший параметр, не используется.

max_part_removal_threads

Устаревший параметр, ни на что не влияет.

max_partitions_to_read

Ограничивает максимальное количество партиций, к которым можно обращаться в одном запросе.

Значение настройки, заданное при создании таблицы, может быть переопределено настройкой на уровне запроса.

Возможные значения:

  • Любое положительное целое число.

Вы также можете задать настройку сложности запроса max_partitions_to_read на уровне запроса / сессии / профиля.

max_parts_in_total

Если общее количество активных частей во всех партициях таблицы превышает значение max_parts_in_total, операция INSERT прерывается с ошибкой Too many parts (N).

Возможные значения:

  • Любое положительное целое число.

Большое количество частей в таблице снижает производительность запросов ClickHouse и увеличивает время запуска ClickHouse. Чаще всего это является следствием некорректного проектирования (ошибки при выборе стратегии партиционирования — слишком мелкие партиции).

max_parts_to_merge_at_once

Максимальное количество частей, которые можно объединить за один раз (0 — отключено). Не влияет на запрос OPTIMIZE FINAL.

max_postpone_time_for_failed_mutations_ms

Максимальное время отсрочки для неудачных мутаций.

max_postpone_time_for_failed_replicated_fetches_ms

Максимальное время, на которое откладываются неудачные операции выборки при репликации.

max_postpone_time_for_failed_replicated_merges_ms

Максимальное время отсрочки выполнения неудачных реплицированных слияний.

max_postpone_time_for_failed_replicated_tasks_ms

Максимальное время, на которое откладывается задание репликации, завершившееся с ошибкой. Значение используется, если задание не является операцией fetch, merge или mutation.

max_projections

Максимальное число проекций в таблицах MergeTree.

max_replicated_fetches_network_bandwidth

Ограничивает максимальную скорость обмена данными по сети в байтах в секунду для реплицируемых выборок. Этот параметр применяется к конкретной таблице, в отличие от настройки max_replicated_fetches_network_bandwidth_for_server, которая применяется к серверу.

Вы можете ограничить как сетевую полосу пропускания сервера, так и полосу пропускания для конкретной таблицы, но для этого значение настройки на уровне таблицы должно быть меньше, чем значение на уровне сервера. В противном случае сервер учитывает только настройку max_replicated_fetches_network_bandwidth_for_server.

Настройка может выполняться с некоторой неточностью.

Возможные значения:

  • Положительное целое число.
  • 0 — без ограничений.

Значение по умолчанию: 0.

Использование

Может использоваться для ограничения скорости при репликации данных при добавлении или замене узлов.

max_replicated_logs_to_keep

Сколько записей может содержать журнал ClickHouse Keeper, если есть неактивная реплика. Неактивная реплика считается потерянной, когда это число превышает заданное значение.

Возможные значения:

  • Любое положительное целое число.

max_replicated_merges_in_queue

Сколько задач по слиянию и мутации частей одновременно допускается в очереди ReplicatedMergeTree.

max_replicated_merges_with_ttl_in_queue

Сколько задач по слиянию частей с TTL могут выполняться одновременно в очереди ReplicatedMergeTree.

max_replicated_mutations_in_queue

Сколько задач по изменению частей может одновременно находиться в очереди ReplicatedMergeTree.

max_replicated_sends_network_bandwidth

Ограничивает максимальную скорость обмена данными по сети в байтах в секунду для отправки данных реплицируемых таблиц. Этот параметр применяется к конкретной таблице, в отличие от параметра max_replicated_sends_network_bandwidth_for_server, который применяется к серверу.

Можно ограничить как сетевые ресурсы сервера, так и пропускную способность сети для конкретной таблицы, но для этого значение настройки на уровне таблицы должно быть меньше значения на уровне сервера. В противном случае сервер учитывает только настройку max_replicated_sends_network_bandwidth_for_server.

Настройка не обеспечивает строгое соблюдение заданного лимита.

Возможные значения:

  • Положительное целое число.
  • 0 — без ограничений.

Использование

Может использоваться для ограничения скорости при репликации данных при добавлении или замене узлов.

max_suspicious_broken_parts

Если количество повреждённых частей в одной партиции превышает значение max_suspicious_broken_parts, автоматическое удаление не выполняется.

Возможные значения:

  • Любое положительное целое число.

max_suspicious_broken_parts_bytes

Максимальный суммарный размер всех повреждённых частей; при превышении — запретить автоматическое удаление.

Возможные значения:

  • Любое положительное целое число.

max_uncompressed_bytes_in_patches

Максимальный объём несжатых данных во всех патч-частях в байтах. Если объём данных во всех патч-частях превышает это значение, легковесные обновления будут отклонены. 0 - без ограничений.

merge_max_block_size

Количество строк, которые считываются из сливаемых частей в память.

Возможные значения:

  • Любое положительное целое число.

Операция слияния считывает строки из частей блоками по merge_max_block_size строк, затем объединяет их и записывает результат в новую часть. Считываемый блок помещается в оперативную память, поэтому merge_max_block_size влияет на объём оперативной памяти, необходимый для слияния. Таким образом, операции слияния могут потреблять большой объём оперативной памяти для таблиц с очень широкими строками (если средний размер строки — 100 КБ, то при слиянии 10 частей (100 КБ * 10 * 8192) ≈ 8 ГБ ОЗУ). Уменьшая merge_max_block_size, вы можете сократить объём оперативной памяти, необходимый для слияния, но замедлите его выполнение.

merge_max_block_size_bytes

Размер блоков в байтах, формируемых при операциях слияния. По умолчанию значение совпадает со значением index_granularity_bytes.

merge_max_bytes_to_prewarm_cache

Доступен только в ClickHouse Cloud. Максимальный размер части (compact или packed) для предварительного прогрева кэша при слиянии.

merge_max_dynamic_subcolumns_in_compact_part

Максимальное количество динамических подстолбцов, которое может быть создано в каждом столбце Compact-части данных после слияния. Настройка позволяет контролировать количество динамических подстолбцов в Compact-части независимо от динамических параметров, указанных в типе данных.

Например, если таблица имеет столбец с типом JSON(max_dynamic_paths=1024) и настройка merge_max_dynamic_subcolumns_in_compact_part равна 128, после слияния в Compact-часть данных количество динамических путей будет уменьшено до 128 в этой части, и только 128 путей будут записаны как динамические подстолбцы.

merge_max_dynamic_subcolumns_in_wide_part

Максимальное количество динамических подстолбцов, которое может быть создано для каждого столбца в Wide-части данных после слияния. Позволяет уменьшить количество файлов, создаваемых в Wide-части данных, независимо от динамических параметров, указанных в типе данных.

Например, если таблица имеет столбец типа JSON(max_dynamic_paths=1024), и настройка merge_max_dynamic_subcolumns_in_wide_part установлена равной 128, после слияния в Wide-часть данных количество динамических путей в этой части будет уменьшено до 128, и только 128 путей будут записаны как динамические подстолбцы.

merge_selecting_sleep_ms

Минимальное время ожидания перед следующей попыткой выбора частей для слияния после того, как части не были выбраны. Более низкое значение приводит к более частому запуску задач выбора в background_schedule_pool, что в крупных кластерах приводит к большому количеству запросов к ZooKeeper.

merge_selecting_sleep_slowdown_factor

Время ожидания задачи выбора слияния (merge selecting) умножается на этот коэффициент, когда нет подходящих частей для слияния, и делится на него, когда операция слияния назначена.

merge_selector_algorithm

Experimental feature. Learn more.

Алгоритм выбора частей при назначении слияний

merge_selector_base

Влияет на усиление записи для назначенных слияний (настройка для экспертов, не изменяйте этот параметр, если не понимаете, что он делает). Применяется к селекторам слияний Simple и StochasticSimple

merge_selector_blurry_base_scale_factor

Управляет моментом, когда начинает применяться логика, в зависимости от количества частей в партиции. Чем больше коэффициент, тем позже она сработает.

merge_selector_enable_heuristic_to_lower_max_parts_to_merge_at_once

Experimental feature. Learn more.

Включает эвристику в простом селекторе слияний, которая снижает верхний предел при выборе слияний. В результате увеличится количество одновременных слияний, что может помочь с ошибками TOO_MANY_PARTS, но при этом возрастёт write amplification (усиление записи).

merge_selector_enable_heuristic_to_remove_small_parts_at_right

Включает эвристику выбора частей для слияния, которая удаляет части с правого края диапазона, если их размер меньше заданной доли (0.01) от sum_size. Работает для селекторов слияния Simple и StochasticSimple.

merge_selector_heuristic_to_lower_max_parts_to_merge_at_once_exponent

Experimental feature. Learn more.

Управляет значением показателя степени, используемым в формулах построения убывающей кривой. Уменьшение показателя степени сократит размеры слияний, что приведёт к увеличению амплификации записи (write amplification). Верно и обратное.

merge_selector_window_size

Сколько частей просматривать за один раз.

merge_total_max_bytes_to_prewarm_cache

Доступна только в ClickHouse Cloud. Максимальный суммарный объём частей данных для предварительной загрузки в кэш во время слияния.

merge_tree_clear_old_broken_detached_parts_ttl_timeout_seconds

Устаревший параметр, не оказывает эффекта.

merge_tree_clear_old_parts_interval_seconds

Устанавливает интервал в секундах, через который ClickHouse выполняет очистку старых частей, журналов WAL и мутаций.

Возможные значения:

  • Любое положительное целое число.

merge_tree_clear_old_temporary_directories_interval_seconds

Задает интервал в секундах между запусками очистки старых временных директорий в ClickHouse.

Возможные значения:

  • Любое положительное целое число.

merge_tree_enable_clear_old_broken_detached

Устаревшая настройка, ни на что не влияет.

merge_with_recompression_ttl_timeout

Минимальная задержка в секундах перед повторным выполнением операции слияния с перекомпрессией TTL.

merge_with_ttl_timeout

Минимальная задержка в секундах перед повторным запуском слияния с TTL удаления.

merge_workload

Используется для регулирования использования и распределения ресурсов между слияниями и другими типами нагрузки. Указанное значение применяется в качестве значения настройки workload для фоновых слияний этой таблицы. Если не указано (пустая строка), вместо этого используется серверная настройка merge_workload.

См. также

min_absolute_delay_to_close

Минимальная абсолютная задержка перед завершением работы, остановкой обработки запросов и прекращением возврата Ok при проверке статуса.

min_age_to_force_merge_on_partition_only

Определяет, следует ли применять min_age_to_force_merge_seconds только ко всей партиции, а не к её части.

По умолчанию игнорирует настройку max_bytes_to_merge_at_max_space_in_pool (см. enable_max_bytes_limit_for_min_age_to_force_merge).

Возможные значения:

  • true, false

min_age_to_force_merge_seconds

Выполнять слияние частей, если каждая часть в диапазоне старше значения min_age_to_force_merge_seconds.

По умолчанию игнорирует настройку max_bytes_to_merge_at_max_space_in_pool (см. enable_max_bytes_limit_for_min_age_to_force_merge).

Возможные значения:

  • Положительное целое число.

min_bytes_for_compact_part

Устаревшая настройка, не оказывает никакого эффекта.

min_bytes_for_full_part_storage

Доступен только в ClickHouse Cloud. Минимальный несжатый размер в байтах для использования широкого формата части данных вместо упакованного

min_bytes_for_wide_part

Минимальное количество байт/строк данных в части, которая может храниться в формате Wide. Вы можете задать одну, обе или ни одной из этих настроек.

min_bytes_to_prewarm_caches

Минимальный объём данных (в несжатых байтах) для предварительного прогрева кэша меток и кэша первичного индекса для новых частей.

min_bytes_to_rebalance_partition_over_jbod

Задаёт минимальное количество байт для включения балансировки при распределении новых больших частей по дискам JBOD-тома (JBOD).

Возможные значения:

  • Положительное целое число.
  • 0 — балансировка отключена.

Использование

Значение настройки min_bytes_to_rebalance_partition_over_jbod не должно быть меньше значения max_bytes_to_merge_at_max_space_in_pool / 1024. В противном случае ClickHouse генерирует исключение.

min_columns_to_activate_adaptive_write_buffer

Позволяет уменьшить использование памяти для таблиц с большим количеством столбцов при использовании адаптивных буферов записи.

Возможные значения:

  • 0 — без ограничений
  • 1 — всегда включено

min_compress_block_size

Минимальный размер блоков несжатых данных, подлежащих сжатию при записи следующей метки. Эту настройку также можно задать в глобальных настройках (см. настройку min_compress_block_size). Значение, указанное при создании таблицы, переопределяет глобальное значение для этой настройки.

min_compressed_bytes_to_fsync_after_fetch

Минимальное количество сжатых байт для выполнения fsync для части после загрузки (0 — отключено)

min_compressed_bytes_to_fsync_after_merge

Минимальное количество сжатых байт, при котором для части после слияния выполняется fsync (0 — отключено)

min_delay_to_insert_ms

Минимальная задержка вставки данных в таблицу MergeTree в миллисекундах, если в одной партиции накопилось много неслитых частей.

min_delay_to_mutate_ms

Минимальная задержка применения мутаций к таблице MergeTree в миллисекундах при большом количестве незавершённых мутаций

min_free_disk_bytes_to_perform_insert

Минимальное количество байт, которое должно быть свободно на диске, чтобы выполнить вставку данных. Если количество доступных свободных байт меньше min_free_disk_bytes_to_perform_insert, генерируется исключение и операция вставки не выполняется. Обратите внимание, что этот параметр:

  • учитывает настройку keep_free_space_bytes.
  • не учитывает объём данных, который будет записан операцией INSERT.
  • проверяется только в том случае, если указано положительное (ненулевое) количество байт.

Возможные значения:

  • Любое положительное целое число.
Примечание

Если заданы оба параметра — min_free_disk_bytes_to_perform_insert и min_free_disk_ratio_to_perform_insert, ClickHouse будет использовать то значение, которое позволит выполнять вставки при большем объёме свободного места.

min_free_disk_ratio_to_perform_insert

Минимальное отношение свободного дискового пространства к его общему объёму для выполнения INSERT. Должно быть числом с плавающей запятой между 0 и 1. Обратите внимание, что этот параметр:

  • учитывает настройку keep_free_space_bytes;
  • не учитывает объём данных, который будет записан операцией INSERT;
  • проверяется только в том случае, если указано положительное (ненулевое) значение отношения.

Возможные значения:

  • Float, 0.0–1.0

Обратите внимание, что если заданы оба параметра min_free_disk_ratio_to_perform_insert и min_free_disk_bytes_to_perform_insert, ClickHouse будет ориентироваться на то значение, которое позволит выполнять вставки при большем объёме свободного дискового пространства.

min_index_granularity_bytes

Минимально допустимый размер гранул данных в байтах.

Обеспечивает защиту от случайного создания таблиц со слишком маленьким значением index_granularity_bytes.

min_level_for_full_part_storage

Настройка доступна только в ClickHouse Cloud. Минимальный уровень части, начиная с которого для части данных используется полный формат хранения вместо упакованного.

min_level_for_wide_part

Минимальный уровень парта, начиная с которого создаётся парт данных в формате Wide вместо Compact.

min_marks_to_honor_max_concurrent_queries

Минимальное количество меток, читаемых запросом, чтобы применить настройку max_concurrent_queries.

Примечание

Запросы по-прежнему будут ограничены другими настройками max_concurrent_queries.

Возможные значения:

  • Положительное целое число.
  • 0 — Отключено (ограничение max_concurrent_queries не применяется ни к одному запросу).

Пример

<min_marks_to_honor_max_concurrent_queries>10</min_marks_to_honor_max_concurrent_queries>

min_merge_bytes_to_use_direct_io

Минимальный объем данных для операции слияния, при котором используется прямой доступ к диску хранения (direct I/O). При слиянии частей данных ClickHouse вычисляет суммарный объем хранимых данных, подлежащих слиянию. Если этот объем превышает min_merge_bytes_to_use_direct_io байт, ClickHouse читает и записывает данные на диск хранения, используя интерфейс прямого ввода-вывода (опция O_DIRECT). Если min_merge_bytes_to_use_direct_io = 0, прямой ввод-вывод отключается.

min_parts_to_merge_at_once

Минимальное количество частей данных, которые селектор слияния может выбрать для слияния за один раз (настройка экспертного уровня, не изменяйте её, если вы не понимаете, что она делает). 0 — отключено. Работает для селекторов слияния Simple и StochasticSimple.

min_relative_delay_to_close

Минимальное отставание от других реплик, при котором реплика закрывается, прекращает обслуживать запросы и перестаёт возвращать Ok при проверке статуса.

min_relative_delay_to_measure

Вычислять относительную задержку реплики только если абсолютная задержка не менее этого значения.

min_relative_delay_to_yield_leadership

Устаревшая настройка, ни на что не влияет.

min_replicated_logs_to_keep

Хранить примерно такое количество последних записей в журнале ZooKeeper, даже если они больше не актуальны. Это не влияет на работу таблиц и используется только для диагностики журнала ZooKeeper перед его очисткой.

Возможные значения:

  • Любое положительное целое число.

min_rows_for_compact_part

Устаревшая настройка, не оказывает никакого эффекта.

min_rows_for_full_part_storage

Доступен только в ClickHouse Cloud. Минимальное количество строк, при котором для части данных используется полноформатный тип хранения вместо упакованного.

min_rows_for_wide_part

Минимальное число строк для создания части данных в формате Wide вместо Compact.

min_rows_to_fsync_after_merge

Минимальное количество строк для выполнения fsync парта после слияния (0 — отключено)

mutation_workload

Используется для регулирования использования и совместного распределения ресурсов между мутациями и другими нагрузками. Указанное значение используется как значение настройки workload для фоновых мутаций этой таблицы. Если значение не задано (пустая строка), вместо него используется серверная настройка mutation_workload.

См. также

non_replicated_deduplication_window

Количество последних вставленных блоков в нереплицируемой таблице MergeTree для которых хранятся хеш-суммы для проверки на дубликаты.

Возможные значения:

  • Любое положительное целое число.
  • 0 (отключить дедупликацию).

Используется механизм дедупликации, аналогичный реплицируемым таблицам (см. настройку replicated_deduplication_window). Хеш-суммы созданных частей записываются в локальный файл на диске.

notify_newest_block_number

Experimental feature. Learn more.

Уведомлять SharedJoin или SharedSet о номере последнего блока. Только в ClickHouse Cloud.

nullable_serialization_version

Определяет метод сериализации, используемый для столбцов Nullable(T).

Возможные значения:

  • basic — использовать стандартную сериализацию для Nullable(T).

  • allow_sparse — позволять Nullable(T) использовать разреженное кодирование.

number_of_free_entries_in_pool_to_execute_mutation

Если количество свободных элементов в пуле меньше указанного значения, мутации частей не выполняются. Это позволяет оставить свободные потоки для обычных слияний и избежать ошибок «Too many parts».

Возможные значения:

  • Любое положительное целое число.

Использование

Значение настройки number_of_free_entries_in_pool_to_execute_mutation должно быть меньше произведения значений настроек background_pool_size

number_of_free_entries_in_pool_to_execute_optimize_entire_partition

Если число свободных элементов в пуле меньше указанного значения, оптимизация всей партиции в фоновом режиме не выполняется (эта задача создаётся, когда заданы min_age_to_force_merge_seconds и включено min_age_to_force_merge_on_partition_only). Это позволяет оставить свободные потоки для обычных слияний и избежать ошибки "Too many parts".

Возможные значения:

  • Положительное целое число.

Значение настройки number_of_free_entries_in_pool_to_execute_optimize_entire_partition должно быть меньше значения background_pool_size

number_of_free_entries_in_pool_to_lower_max_size_of_merge

Когда количество свободных элементов в пуле (или в реплицированной очереди) становится меньше заданного, начинает уменьшаться максимальный размер слияния для обработки (или постановки в очередь). Это позволяет обрабатывать небольшие слияния, не заполняя пул долго выполняющимися слияниями.

Возможные значения:

  • Любое положительное целое число.

number_of_mutations_to_delay

Если в таблице по крайней мере столько незавершённых мутаций, выполнение мутаций для этой таблицы искусственно замедляется. Отключено, если установлено значение 0

number_of_mutations_to_throw

Если в таблице имеется не менее указанного числа незавершённых мутаций, будет выброшено исключение «Too many mutations». Отключается при значении 0.

number_of_partitions_to_consider_for_merge

Доступно только в ClickHouse Cloud. Рассматриваются не более чем N партиций, которые будут учитываться для слияния. Партиции выбираются случайным взвешенным образом, где весом является количество частей данных, которые могут быть слиты в этой партиции.

object_serialization_version

Версия сериализации для типа данных JSON. Требуется для обеспечения совместимости.

Возможные значения:

  • v1
  • v2
  • v3

Только версия v3 поддерживает изменение версии сериализации разделяемых данных.

object_shared_data_buckets_for_compact_part

Количество бакетов для JSON-сериализации общих данных в компактных частях. Применяется с сериализациями общих данных map_with_buckets и advanced.

object_shared_data_buckets_for_wide_part

Количество бакетов, используемых для сериализации общих данных в формате JSON в Wide-частях. Применяется для сериализаций общих данных map_with_buckets и advanced.

object_shared_data_serialization_version

Версия сериализации для общих данных внутри типа данных JSON.

Возможные значения:

  • map — хранить общие данные как Map(String, String)
  • map_with_buckets — хранить общие данные как несколько отдельных столбцов Map(String, String). Использование бакетов (buckets) улучшает чтение отдельных путей из общих данных.
  • advanced — специальная сериализация общих данных, разработанная для значительного улучшения чтения отдельных путей из общих данных.
    Обратите внимание, что такая сериализация увеличивает размер общих данных на диске, поскольку хранится много дополнительной информации.

Количество бакетов для сериализаций map_with_buckets и advanced определяется настройками object_shared_data_buckets_for_compact_part/object_shared_data_buckets_for_wide_part.

object_shared_data_serialization_version_for_zero_level_parts

Эта настройка позволяет задать версию сериализации общих данных типа JSON для частей нулевого уровня, которые создаются при вставках. Рекомендуется не использовать advanced сериализацию общих данных для частей нулевого уровня, так как это может значительно увеличить время вставки.

old_parts_lifetime

Время (в секундах) хранения неактивных частей для защиты от потери данных при непредвиденных перезагрузках сервера.

Возможные значения:

  • Любое положительное целое число.

После слияния нескольких частей в новую часть ClickHouse помечает исходные части как неактивные и удаляет их только по истечении old_parts_lifetime секунд. Неактивные части удаляются, если они не используются текущими запросами, то есть если refcount части равен 1.

Для новых частей не вызывается fsync, поэтому некоторое время новые части существуют только в оперативной памяти сервера (кэше ОС). Если сервер будет непредвиденно перезагружен, новые части могут быть потеряны или повреждены. Для защиты данных неактивные части не удаляются немедленно.

При запуске ClickHouse проверяет целостность частей. Если слитая часть повреждена, ClickHouse возвращает неактивные части в активный список и позже сливает их снова. Затем повреждённая часть переименовывается (добавляется префикс broken_) и перемещается в каталог detached. Если слитая часть не повреждена, исходные неактивные части переименовываются (добавляется префикс ignored_) и перемещаются в каталог detached.

Значение по умолчанию параметра dirty_expire_centisecs (настройка ядра Linux) составляет 30 секунд (максимальное время, в течение которого записанные данные хранятся только в оперативной памяти), но при высокой нагрузке на дисковую подсистему данные могут быть записаны гораздо позже. Экспериментально было выбрано значение 480 секунд для old_parts_lifetime, в течение которых гарантируется запись новой части на диск.

optimize_row_order

Определяет, следует ли оптимизировать порядок строк во время вставки, чтобы улучшить сжимаемость вновь вставляемой части таблицы.

Влияет только на обычные таблицы движка MergeTree. Ничего не делает для специализированных движков MergeTree (например, CollapsingMergeTree).

Таблицы MergeTree (опционально) сжимаются с использованием кодеков сжатия. Универсальные кодеки сжатия, такие как LZ4 и ZSTD, достигают максимальных коэффициентов сжатия, если данные содержат выраженные закономерности. Длинные последовательности одинаковых значений, как правило, сжимаются очень хорошо.

Если этот параметр включен, ClickHouse пытается сохранить данные во вновь вставленных частях в таком порядке строк, который минимизирует число последовательностей одинаковых значений по столбцам новой части таблицы. Другими словами, малое количество последовательностей одинаковых значений означает, что отдельные последовательности длинные и хорошо сжимаются.

Нахождение оптимального порядка строк вычислительно невыполнимо (NP-трудная задача). Поэтому ClickHouse использует эвристику, чтобы быстро найти порядок строк, который всё равно улучшает коэффициент сжатия по сравнению с исходным порядком строк.

Эвристика для поиска порядка строк

В общем случае строки таблицы (или части таблицы) можно произвольно переставлять, так как SQL рассматривает одну и ту же таблицу (часть таблицы) в разном порядке строк как эквивалентную.

Эта свобода перестановки строк ограничивается, когда для таблицы определён первичный ключ. В ClickHouse первичный ключ C1, C2, ..., CN требует, чтобы строки таблицы были отсортированы по столбцам C1, C2, ... Cn (кластерный индекс). В результате строки могут переставляться только внутри «классов эквивалентности» строк, то есть строк, которые имеют одинаковые значения в своих столбцах первичного ключа. Интуитивно, первичные ключи с высокой кардинальностью, например первичные ключи, включающие столбец метки времени типа DateTime64, приводят к множеству небольших классов эквивалентности. Аналогично, таблицы с первичным ключом низкой кардинальности создают немногочисленные, но большие классы эквивалентности. Таблица без первичного ключа представляет собой крайний случай одного класса эквивалентности, который охватывает все строки.

Чем меньше количество классов эквивалентности и чем больше их размер, тем выше степень свободы при перестановке строк.

Эвристика, применяемая для нахождения наилучшего порядка строк внутри каждого класса эквивалентности, предложена D. Lemire, O. Kaser в работе Reordering columns for smaller indexes и основана на сортировке строк внутри каждого класса эквивалентности по возрастанию кардинальности столбцов, не входящих в первичный ключ.

Она выполняет три шага:

  1. Найти все классы эквивалентности на основе значений строк в столбцах первичного ключа.
  2. Для каждого класса эквивалентности вычислить (обычно оценить) кардинальности столбцов, не входящих в первичный ключ.
  3. Для каждого класса эквивалентности отсортировать строки в порядке возрастания кардинальности столбцов, не входящих в первичный ключ.

Если параметр включён, операции вставки требуют дополнительных затрат CPU для анализа и оптимизации порядка строк новых данных. Ожидается, что операции INSERT будут выполняться на 30–50% дольше в зависимости от характеристик данных. Коэффициенты сжатия LZ4 или ZSTD в среднем улучшаются на 20–40%.

Этот параметр лучше всего работает для таблиц без первичного ключа или с первичным ключом низкой кардинальности, то есть таблиц с небольшим числом различных значений первичного ключа. От первичных ключей высокой кардинальности, например включающих столбцы меток времени типа DateTime64, не ожидается выигрыша от этого параметра.

part_moves_between_shards_delay_seconds

Experimental feature. Learn more.

Время ожидания перед и после перемещения частей между сегментами.

part_moves_between_shards_enable

Experimental feature. Learn more.

Экспериментальная/незавершённая возможность перемещения частей между сегментами. Не учитывает выражения сегментирования.

parts_to_delay_insert

Если количество активных частей в одной партиции превышает значение parts_to_delay_insert, выполнение INSERT искусственно замедляется.

Возможные значения:

  • Любое положительное целое число.

ClickHouse намеренно выполняет INSERT дольше (добавляет паузы с помощью «sleep»), чтобы фоновый процесс слияния успевал сливать части быстрее, чем они добавляются.

parts_to_throw_insert

Если количество активных частей в одной партиции превышает значение parts_to_throw_insert, выполнение INSERT прерывается с исключением Too many parts (N). Merges are processing significantly slower than inserts.

Возможные значения:

  • Любое положительное целое число.

Для достижения максимальной производительности запросов SELECT необходимо минимизировать количество обрабатываемых частей, см. Merge Tree.

До версии 23.6 этот параметр был равен 300. Можно задать большее значение — это уменьшит вероятность возникновения ошибки Too many parts, но при этом производительность SELECT может ухудшиться. Кроме того, в случае проблем со слияниями (например, из-за недостаточного дискового пространства) вы заметите их позже, чем при исходном значении 300.

prefer_fetch_merged_part_size_threshold

Если суммарный размер частей превышает этот порог и время, прошедшее с момента создания записи в журнале репликации, больше, чем prefer_fetch_merged_part_time_threshold, то предпочитается загрузка слитой части с реплики вместо выполнения слияния локально. Это делается для ускорения очень длительных слияний.

Возможные значения:

  • Любое положительное целое число.

prefer_fetch_merged_part_time_threshold

Если время, прошедшее с момента создания записи журнала репликации (ClickHouse Keeper или ZooKeeper), превышает этот порог и суммарный размер частей больше, чем prefer_fetch_merged_part_size_threshold, то предпочтительнее получить объединённую часть с реплики вместо выполнения слияния локально. Это позволяет ускорить очень длительные слияния.

Возможные значения:

  • Любое положительное целое число.

prewarm_mark_cache

Если установлено значение true, кэш меток будет предварительно прогреваться: метки будут сохраняться в кэш при вставках, слияниях, выборках и при запуске сервера

prewarm_primary_key_cache

Если установлено значение true, кэш первичного индекса будет предварительно прогреваться путем сохранения меток в кэш меток при вставках, слияниях, выборках и при запуске сервера.

primary_key_compress_block_size

Размер блока первичного сжатия — фактический размер сжимаемого блока.

primary_key_compression_codec

Кодек сжатия, используемый для первичного ключа. Первичный ключ достаточно мал и хранится в кэше, поэтому по умолчанию используется сжатие ZSTD(3).

primary_key_lazy_load

Загружать первичный ключ в память при первом обращении к таблице, а не во время её инициализации. Это может сэкономить память при большом количестве таблиц.

primary_key_ratio_of_unique_prefix_values_to_skip_suffix_columns

Если значение столбца первичного ключа в части данных меняется как минимум в такой доле случаев, последующие столбцы не загружаются в память. Это позволяет сократить использование памяти за счёт того, что бесполезные столбцы первичного ключа не загружаются.

ratio_of_defaults_for_sparse_serialization

Минимальное отношение количества значений по умолчанию к количеству всех значений в столбце. При таком значении столбец хранится с использованием разреженной сериализации.

Если столбец разреженный (содержит в основном нули), ClickHouse может закодировать его в разреженном формате и автоматически оптимизировать вычисления — данные не требуют полной распаковки при выполнении запросов. Чтобы включить эту разреженную сериализацию, задайте настройку ratio_of_defaults_for_sparse_serialization меньше 1.0. Если значение больше либо равно 1.0, столбцы всегда будут записываться с использованием обычной полной сериализации.

Возможные значения:

  • Число с плавающей запятой между 0 и 1 для включения разреженной сериализации
  • 1.0 (или больше), если вы не хотите использовать разреженную сериализацию

Пример

Обратите внимание, что столбец s в следующей таблице содержит пустую строку в 95% строк. В my_regular_table мы не используем разреженную сериализацию, а в my_sparse_table задаём ratio_of_defaults_for_sparse_serialization, равный 0.95:

CREATE TABLE my_regular_table
(
`id` UInt64,
`s` String
)
ENGINE = MergeTree
ORDER BY id;

INSERT INTO my_regular_table
SELECT
number AS id,
number % 20 = 0 ? toString(number): '' AS s
FROM
numbers(10000000);


CREATE TABLE my_sparse_table
(
`id` UInt64,
`s` String
)
ENGINE = MergeTree
ORDER BY id
SETTINGS ratio_of_defaults_for_sparse_serialization = 0.95;

INSERT INTO my_sparse_table
SELECT
number,
number % 20 = 0 ? toString(number): ''
FROM
numbers(10000000);

Обратите внимание, что столбец s в my_sparse_table занимает меньше дискового пространства:

SELECT table, name, data_compressed_bytes, data_uncompressed_bytes FROM system.columns
WHERE table LIKE 'my_%_table';
┌─table────────────┬─name─┬─data_compressed_bytes─┬─data_uncompressed_bytes─┐
│ my_regular_table │ id   │              37790741 │                75488328 │
│ my_regular_table │ s    │               2451377 │                12683106 │
│ my_sparse_table  │ id   │              37790741 │                75488328 │
│ my_sparse_table  │ s    │               2283454 │                 9855751 │
└──────────────────┴──────┴───────────────────────┴─────────────────────────┘

Вы можете проверить, используется ли разрежённое кодирование для столбца по столбцу serialization_kind таблицы system.parts_columns:

SELECT column, serialization_kind FROM system.parts_columns
WHERE table LIKE 'my_sparse_table';

Вы можете увидеть, какие части s были сохранены в разреженном формате сериализации:

┌─column─┬─serialization_kind─┐
│ id     │ Default            │
│ s      │ Default            │
│ id     │ Default            │
│ s      │ Default            │
│ id     │ Default            │
│ s      │ Sparse             │
│ id     │ Default            │
│ s      │ Sparse             │
│ id     │ Default            │
│ s      │ Sparse             │
│ id     │ Default            │
│ s      │ Sparse             │
│ id     │ Default            │
│ s      │ Sparse             │
│ id     │ Default            │
│ s      │ Sparse             │
│ id     │ Default            │
│ s      │ Sparse             │
│ id     │ Default            │
│ s      │ Sparse             │
│ id     │ Default            │
│ s      │ Sparse             │
└────────┴────────────────────┘

reduce_blocking_parts_sleep_ms

Доступен только в ClickHouse Cloud. Минимальное время ожидания перед повторной попыткой уменьшить блокирующие части после того, как ни один диапазон не был удалён или заменён. Меньшее значение приведёт к более частому запуску задач в background_schedule_pool, что приводит к большому количеству запросов к ZooKeeper в кластерах большого масштаба.

refresh_parts_interval

Если значение больше нуля, список частей данных периодически обновляется из базовой файловой системы, чтобы проверить, не были ли данные обновлены в обход ClickHouse. Эту настройку можно задать только в том случае, если таблица находится на дисках только для чтения (то есть это реплика только для чтения, а данные записываются другой репликой).

refresh_statistics_interval

Интервал обновления кэша статистики в секундах. Если значение установлено в ноль, обновление будет отключено.

remote_fs_execute_merges_on_single_replica_time_threshold

Когда для этого параметра установлено значение больше нуля, только одна реплика немедленно запускает слияние, если результирующая часть хранится в общем хранилище.

Примечание

Репликация с нулевым копированием не готова для промышленной эксплуатации. Репликация с нулевым копированием по умолчанию отключена в ClickHouse версии 22.8 и выше.

Не рекомендуется использовать эту функцию в production-средах.

Возможные значения:

  • Любое положительное целое число.

remote_fs_zero_copy_path_compatible_mode

Experimental feature. Learn more.

Запускает zero-copy в совместимом режиме во время конвертации.

remote_fs_zero_copy_zookeeper_path

Experimental feature. Learn more.

Путь в ZooKeeper для информации zero-copy, не зависящей от таблиц.

remove_empty_parts

Удалять пустые части после того, как они были отсечены TTL, мутацией или алгоритмом схлопывающего слияния.

remove_rolled_back_parts_immediately

Experimental feature. Learn more.

Настройка для незавершённой экспериментальной функциональности.

remove_unused_patch_parts

В фоновом режиме удаляет патч-части, которые уже применены ко всем активным частям.

replace_long_file_name_to_hash

Если имя файла для столбца слишком длинное (более чем 'max_file_name_length' байт), оно заменяется на SipHash128

replicated_can_become_leader

Если значение — true, реплики реплицированных таблиц на этом узле будут пытаться стать лидером.

Возможные значения:

  • true
  • false

replicated_deduplication_window

Количество последних вставленных блоков, для которых ClickHouse Keeper хранит хеш-суммы для проверки на дубликаты.

Возможные значения:

  • Любое положительное целое число.
  • 0 (отключить дедупликацию)

Команда Insert создаёт один или несколько блоков (частей). Для дедупликации вставок, при записи в реплицируемые таблицы ClickHouse записывает хеш-суммы созданных частей в ClickHouse Keeper. Хеш-суммы хранятся только для последних replicated_deduplication_window блоков. Самые старые хеш-суммы удаляются из ClickHouse Keeper.

Слишком большое значение replicated_deduplication_window замедляет операции Insert, поскольку нужно сравнивать больше записей. Хеш-сумма вычисляется на основе состава имён и типов полей, а также данных вставленной части (потока байт).

replicated_deduplication_window_for_async_inserts

Количество последних асинхронно вставленных блоков, для которых ClickHouse Keeper хранит хэш-суммы для проверки на наличие дубликатов.

Возможные значения:

  • Любое положительное целое число.
  • 0 (отключить дедупликацию для async_inserts)

Команда Async Insert кэшируется в одном или нескольких блоках (частях). Для дедупликации вставок, при записи в реплицируемые таблицы ClickHouse записывает хэш-суммы каждой вставки в ClickHouse Keeper. Хэш-суммы хранятся только для последних replicated_deduplication_window_for_async_inserts блоков. Самые старые хэш-суммы удаляются из ClickHouse Keeper. Большое значение replicated_deduplication_window_for_async_inserts замедляет Async Inserts, потому что необходимо сравнивать больше записей. Хэш-сумма вычисляется из сочетания имён и типов полей, а также данных вставки (потока байтов).

replicated_deduplication_window_seconds

Количество секунд, по истечении которых хеш‑суммы вставленных блоков удаляются из ClickHouse Keeper.

Возможные значения:

  • Любое положительное целое число.

Аналогично replicated_deduplication_window, replicated_deduplication_window_seconds определяет, как долго хранить хеш‑ суммы блоков для дедупликации вставок. Хеш‑суммы старше replicated_deduplication_window_seconds удаляются из ClickHouse Keeper, даже если их «возраст» меньше replicated_deduplication_window.

Время отсчитывается относительно момента самой последней записи, а не настенных часов. Если это единственная запись, она будет храниться неограниченно долго.

replicated_deduplication_window_seconds_for_async_inserts

Количество секунд, по истечении которых хеш-суммы асинхронных вставок удаляются из ClickHouse Keeper.

Возможные значения:

  • Любое положительное целое число.

Аналогично replicated_deduplication_window_for_async_inserts, replicated_deduplication_window_seconds_for_async_inserts определяет, как долго хранить хеш-суммы блоков для дедупликации асинхронных вставок. Хеш-суммы старше replicated_deduplication_window_seconds_for_async_inserts удаляются из ClickHouse Keeper, даже если они меньше replicated_deduplication_window_for_async_inserts.

Время отсчитывается относительно момента самой последней записи, а не от реального времени. Если это единственная запись, она будет храниться неограниченно долго.

replicated_fetches_http_connection_timeout

Устаревшая настройка, не используется.

replicated_fetches_http_receive_timeout

Устаревшая настройка, не используется.

replicated_fetches_http_send_timeout

Устаревший параметр, не используется.

replicated_max_mutations_in_one_entry

Максимальное количество команд мутации, которые могут быть объединены и выполнены в одной записи MUTATE_PART (0 означает отсутствие ограничений)

replicated_max_parallel_fetches

Устаревшая настройка, ничего не делает.

replicated_max_parallel_fetches_for_host

Устаревшая настройка, сейчас ничего не делает.

replicated_max_parallel_fetches_for_table

Устаревшая настройка, не оказывает эффекта.

replicated_max_parallel_sends

Устаревшая настройка, не используется.

replicated_max_parallel_sends_for_table

Устаревшая настройка, не используется.

replicated_max_ratio_of_wrong_parts

Если отношение некорректных частей к общему числу частей меньше этого значения, запуск разрешается.

Возможные значения:

  • Float, 0.0 - 1.0

search_orphaned_parts_disks

ClickHouse сканирует все диски на наличие осиротевших частей при выполнении любой команды ATTACH или CREATE TABLE, чтобы не допустить потери частей данных на неопределённых (не включённых в политику) дисках. Осиротевшие части возникают в результате потенциально небезопасной переконфигурации хранилища, например, если диск был исключён из политики хранения. Эта настройка ограничивает набор дисков для поиска по характеристикам дисков.

Возможные значения:

  • any — область поиска не ограничена.
  • local — область поиска ограничена локальными дисками.
  • none — область поиска пуста, поиск не выполняется.

serialization_info_version

Версия сведений о сериализации, используемая при записи serialization.json. Эта настройка необходима для обеспечения совместимости во время обновления кластера.

Возможные значения:

  • basic — базовый формат.
  • with_types — формат с дополнительным полем types_serialization_versions, позволяющим задавать версии сериализации для каждого типа. Это делает настройки вроде string_serialization_version применимыми.

Во время поэтапных обновлений установите значение basic, чтобы новые серверы создавали части, совместимые со старыми серверами. После завершения обновления переключите на WITH_TYPES, чтобы включить версии сериализации по типам.

shared_merge_tree_activate_coordinated_merges_tasks

Beta feature. Learn more.

Включает переназначение задач согласованных слияний. Может быть полезно даже при shared_merge_tree_enable_coordinated_merges=0, так как это позволит накапливать статистику координатора слияний и облегчит холодный старт.

shared_merge_tree_create_per_replica_metadata_nodes

Включает создание узлов /metadata и /columns для каждой реплики в ZooKeeper. Доступно только в ClickHouse Cloud.

shared_merge_tree_disable_merges_and_mutations_assignment

Отключает назначение слияний для shared merge tree. Доступно только в ClickHouse Cloud

shared_merge_tree_empty_partition_lifetime

Количество секунд, в течение которых партиция будет храниться в ClickHouse Keeper, если она не содержит частей.

shared_merge_tree_enable_automatic_empty_partitions_cleanup

Включает очистку записей в Keeper для пустых партиций.

shared_merge_tree_enable_coordinated_merges

Beta feature. Learn more.

Включает стратегию координированных слияний

shared_merge_tree_enable_keeper_parts_extra_data

Beta feature. Learn more.

Включает запись атрибутов в виртуальные части и фиксацию блоков в Keeper

shared_merge_tree_enable_outdated_parts_check

Включает проверку устаревших частей. Параметр доступен только в ClickHouse Cloud

shared_merge_tree_idle_parts_update_seconds

Интервал в секундах между обновлениями частей без срабатывания наблюдателя ZooKeeper в общем дереве слияний (shared merge tree). Доступно только в ClickHouse Cloud

shared_merge_tree_initial_parts_update_backoff_ms

Начальный интервал ожидания при обновлении частей. Доступен только в ClickHouse Cloud

shared_merge_tree_interserver_http_connection_timeout_ms

Тайм-ауты для межсерверного HTTP-соединения. Доступен только в ClickHouse Cloud

shared_merge_tree_interserver_http_timeout_ms

Тайм-ауты межсерверного HTTP-взаимодействия. Доступно только в ClickHouse Cloud

shared_merge_tree_leader_update_period_random_add_seconds

Добавляет равномерно распределённое случайное значение от 0 до x секунд к shared_merge_tree_leader_update_period, чтобы избежать эффекта «стада» (thundering herd effect). Доступно только в ClickHouse Cloud.

shared_merge_tree_leader_update_period_seconds

Максимальный интервал между повторными проверками лидерства при обновлении частей. Доступно только в ClickHouse Cloud

shared_merge_tree_max_outdated_parts_to_process_at_once

Максимальное количество устаревших частей, удаление которых лидер попытается подтвердить за один HTTP‑запрос. Доступно только в ClickHouse Cloud.

shared_merge_tree_max_parts_update_backoff_ms

Максимальная задержка повторной попытки при обновлении частей. Эта настройка доступна только в ClickHouse Cloud

shared_merge_tree_max_parts_update_leaders_in_total

Максимальное общее количество лидеров обновления частей. Доступно только в ClickHouse Cloud.

shared_merge_tree_max_parts_update_leaders_per_az

Максимальное число лидеров обновления частей. Доступна только в ClickHouse Cloud.

shared_merge_tree_max_replicas_for_parts_deletion

Максимальное количество реплик, участвующих в удалении частей (killer thread). Доступно только в ClickHouse Cloud

shared_merge_tree_max_replicas_to_merge_parts_for_each_parts_range

Максимальное количество реплик, которые будут пытаться назначать потенциально конфликтующие слияния (что позволяет избежать избыточных конфликтов при назначении слияний). Значение 0 означает, что параметр отключён. Доступно только в ClickHouse Cloud.

shared_merge_tree_max_suspicious_broken_parts

Максимальное число поврежденных частей для SMT; при превышении — запретить автоматическое отсоединение.

shared_merge_tree_max_suspicious_broken_parts_bytes

Максимальный суммарный размер всех повреждённых частей для SMT; при превышении — автоматическое отсоединение запрещается.

shared_merge_tree_memo_ids_remove_timeout_seconds

Время хранения идентификаторов мемоизации вставок, позволяющее избежать некорректных действий при повторных попытках вставки. Параметр доступен только в ClickHouse Cloud

shared_merge_tree_merge_coordinator_election_check_period_ms

Beta feature. Learn more.

Время между запусками потока, выполняющего выбор координатора слияний

shared_merge_tree_merge_coordinator_factor

Beta feature. Learn more.

Коэффициент изменения задержки потока координатора во времени

shared_merge_tree_merge_coordinator_fetch_fresh_metadata_period_ms

Beta feature. Learn more.

Как часто координатор слияний должен синхронизироваться с ZooKeeper для получения актуальных метаданных

shared_merge_tree_merge_coordinator_max_merge_request_size

Beta feature. Learn more.

Число операций слияния, которые координатор может одновременно запросить у MergerMutator

shared_merge_tree_merge_coordinator_max_period_ms

Beta feature. Learn more.

Максимальное время между запусками потока координатора слияния

shared_merge_tree_merge_coordinator_merges_prepare_count

Beta feature. Learn more.

Количество операций слияния, которые координатор должен подготовить и распределить по рабочим узлам

shared_merge_tree_merge_coordinator_min_period_ms

Beta feature. Learn more.

Минимальное время между запусками потока координатора операций слияния

shared_merge_tree_merge_worker_fast_timeout_ms

Beta feature. Learn more.

Тайм-аут, который поток merge worker использует при необходимости обновить своё состояние после выполнения немедленного действия

shared_merge_tree_merge_worker_regular_timeout_ms

Beta feature. Learn more.

Интервал между запусками рабочего потока слияния

shared_merge_tree_outdated_parts_group_size

Сколько реплик будет находиться в одной группе по хешу rendezvous для очистки устаревших частей. Доступно только в ClickHouse Cloud.

shared_merge_tree_partitions_hint_ratio_to_reload_merge_pred_for_mutations

Повторно загружает предикат слияния в задаче выбора для операций merge/mutate, когда отношение <candidate partitions for mutations only (partitions that cannot be merged)>/<candidate partitions for mutations> превышает значение настройки. Доступно только в ClickHouse Cloud

shared_merge_tree_parts_load_batch_size

Количество заданий на выборку метаданных частей, запускаемых одновременно. Доступно только в ClickHouse Cloud.

shared_merge_tree_postpone_next_merge_for_locally_merged_parts_ms

Интервал времени, в течение которого локально слитая часть хранится без запуска нового слияния, включающего эту часть. Даёт другим репликам возможность забрать эту часть и запустить это слияние. Доступно только в ClickHouse Cloud.

shared_merge_tree_postpone_next_merge_for_locally_merged_parts_rows_threshold

Минимальный размер части (в строках), при котором откладывается немедленное назначение следующего слияния после локального слияния. Доступно только в ClickHouse Cloud.

shared_merge_tree_range_for_merge_window_size

Время, в течение которого локально объединённая часть сохраняется без запуска нового слияния, включающего эту часть. Даёт другим репликам возможность забрать эту часть и запустить это слияние. Параметр доступен только в ClickHouse Cloud

shared_merge_tree_read_virtual_parts_from_leader

По возможности читает виртуальные части с лидера. Доступно только в ClickHouse Cloud.

shared_merge_tree_try_fetch_part_in_memory_data_from_replicas

Если включено, все реплики пытаются получить данные частей, находящиеся в памяти (например, первичный ключ, информацию о партиции и т. д.), из других реплик, где они уже существуют.

shared_merge_tree_update_replica_flags_delay_ms

Как часто реплика пытается перезагружать свои флаги по фоновому расписанию.

shared_merge_tree_use_metadata_hints_cache

Разрешает запрашивать подсказки для кеша файловой системы из кеша в памяти на других репликах. Доступно только в ClickHouse Cloud.

shared_merge_tree_use_outdated_parts_compact_format

Использовать компактный формат для устаревших частей: снижает нагрузку на Keeper и улучшает обработку устаревших частей. Доступно только в ClickHouse Cloud.

shared_merge_tree_use_too_many_parts_count_from_virtual_parts

Если параметр включён, счётчик слишком большого числа частей будет опираться на общие данные в Keeper, а не на локальное состояние реплики. Доступно только в ClickHouse Cloud.

shared_merge_tree_virtual_parts_discovery_batch

Experimental feature. Learn more.

Сколько операций обнаружения партиций следует группировать в один пакет

simultaneous_parts_removal_limit

Если есть много устаревших частей, поток очистки попытается удалить до simultaneous_parts_removal_limit частей за одну итерацию. simultaneous_parts_removal_limit, установленный в 0, означает отсутствие ограничений.

sleep_before_commit_local_part_in_replicated_table_ms

Для тестирования. Не изменяйте.

sleep_before_loading_outdated_parts_ms

Используется для тестирования. Не изменяйте этот параметр.

storage_policy

Имя политики дискового хранилища

string_serialization_version

Управляет форматом сериализации для столбцов верхнего уровня String.

Эта настройка действует только когда serialization_info_version установлена в "with_types". Если установлено значение with_size_stream, столбцы верхнего уровня String сериализуются с отдельным подстолбцом .size, в котором хранятся длины строк, а не встроенно в поток данных. Это позволяет использовать реальные подстолбцы .size и может повысить эффективность сжатия.

Вложенные типы String (например, внутри Nullable, LowCardinality, Array или Map) не затрагиваются, за исключением случаев, когда они встречаются в Tuple.

Возможные значения:

  • single_stream — использовать стандартный формат сериализации со встроенными размерами.
  • with_size_stream — использовать отдельный поток размеров для столбцов верхнего уровня String.

table_disk

Это диск таблицы: путь/endpoint должен указывать на данные таблицы, а не на данные базы данных. Может быть задан только для s3_plain, s3_plain_rewritable и web.

temporary_directories_lifetime

Сколько секунд сохранять директории tmp_. Не следует уменьшать это значение, так как слияния и мутации могут не работать при слишком маленьком значении этого SETTING.

try_fetch_recompressed_part_timeout

Таймаут (в секундах) перед началом слияния с перекомпрессией. В течение этого времени ClickHouse пытается получить перекомпрессированную часть с реплики, которой назначено это слияние с перекомпрессией.

Перекомпрессия в большинстве случаев выполняется медленно, поэтому слияние с перекомпрессией не запускается до истечения этого таймаута, а в течение этого времени предпринимаются попытки получить перекомпрессированную часть с реплики, которой назначено это слияние с перекомпрессией.

Возможные значения:

  • Любое положительное целое число.

ttl_only_drop_parts

Определяет, будут ли части данных в таблицах MergeTree полностью удаляться, когда срок действия всех строк в этой части истекает в соответствии с их настройками TTL.

Когда ttl_only_drop_parts отключен (значение по умолчанию), удаляются только строки, срок действия которых истёк согласно их настройкам TTL.

Когда ttl_only_drop_parts включен, вся часть удаляется, если срок действия всех строк в этой части истёк в соответствии с их настройками TTL.

use_adaptive_write_buffer_for_dynamic_subcolumns

Позволяет использовать адаптивные буферы записи при записи динамических подстолбцов для снижения использования памяти

use_async_block_ids_cache

Если установлено значение true, кэшируются хэш-суммы асинхронных вставок.

Возможные значения:

  • true
  • false

Блок, содержащий несколько асинхронных вставок, сгенерирует несколько хэш-сумм. Когда некоторые из вставок дублируются, Keeper вернёт только одну дублированную хэш-сумму в одном RPC, что приведёт к лишним повторным RPC-вызовам. Этот кэш будет отслеживать путь хэш-сумм в Keeper. Если обновления отслеживаются в Keeper, кэш обновится как можно быстрее, чтобы мы могли отфильтровать дублированные вставки в памяти.

use_compact_variant_discriminators_serialization

Включает компактный режим бинарной сериализации дискриминаторов для типа данных Variant. Этот режим позволяет использовать значительно меньше памяти для хранения дискриминаторов в частях таблицы, если в данных преимущественно используется один вариант или много значений NULL.

use_const_adaptive_granularity

Всегда использовать постоянную гранулярность для всей части. Это позволяет сжимать в памяти значения гранулярности индекса. Может быть полезно при очень больших нагрузках с «тонкими» таблицами.

use_metadata_cache

Устаревший параметр, не оказывает эффекта.

use_minimalistic_checksums_in_zookeeper

Использовать компактный формат (десятки байт) для контрольных сумм частей в ZooKeeper вместо обычного (десятки килобайт). Перед включением параметра убедитесь, что все реплики поддерживают новый формат.

use_minimalistic_part_header_in_zookeeper

Способ хранения заголовков частей данных в ZooKeeper. Если настройка включена, ZooKeeper хранит меньше данных. Подробности см. здесь.

use_primary_key_cache

Использовать кэш для первичного индекса вместо хранения всех индексов в памяти. Может быть полезно для очень больших таблиц.

vertical_merge_algorithm_min_bytes_to_activate

Минимальный (приблизительный) несжатый размер данных в байтах в сливаемых частях для активации вертикального алгоритма слияния.

vertical_merge_algorithm_min_columns_to_activate

Минимальное число столбцов, не входящих в первичный ключ, для активации алгоритма вертикального слияния.

vertical_merge_algorithm_min_rows_to_activate

Минимальное (приблизительное) суммарное количество строк в сливаемых частях для активации алгоритма вертикального слияния.

vertical_merge_optimize_lightweight_delete

Если включено, легковесное удаление оптимизируется при выполнении вертикальных слияний.

vertical_merge_remote_filesystem_prefetch

Если имеет значение true, используется предварительная выборка данных из удалённой файловой системы для следующего столбца при слиянии.

wait_for_unique_parts_send_before_shutdown_ms

Перед завершением работы таблица будет ждать заданное время, чтобы уникальные части (существующие только на текущей реплике) успели быть запрошены другими репликами (0 означает, что ожидание отключено).

write_ahead_log_bytes_to_fsync

Устаревший параметр, ничего не делает.

write_ahead_log_interval_ms_to_fsync

Устаревший параметр, ни на что не влияет.

write_ahead_log_max_bytes

Настройка устарела, не оказывает никакого эффекта.

write_final_mark

Эта настройка устарела и ничего не делает.

write_marks_for_substreams_in_compact_parts

Включает запись меток для каждого подпотока вместо каждого столбца в компактных частях. Это позволяет эффективно читать отдельные подстолбцы из части данных.

Например, столбец t Tuple(a String, b UInt32, c Array(Nullable(UInt32))) сериализуется в следующие подпотоки:

  • t.a для данных String элемента кортежа a
  • t.b для данных UInt32 элемента кортежа b
  • t.c.size0 для размеров массива элемента кортежа c
  • t.c.null для карты null-значений вложенных элементов массива элемента кортежа c
  • t.c для данных UInt32 вложенных элементов массива элемента кортежа c

Когда эта настройка включена, мы записываем метку для каждого из этих 5 подпотоков, что означает, что мы сможем при необходимости читать данные каждого отдельного подпотока из гранулы раздельно. Например, если мы хотим прочитать подстолбец t.c, мы будем читать только данные подпотоков t.c.size0, t.c.null и t.c и не будем читать данные из подпотоков t.a и t.b. Когда эта настройка отключена, мы запишем метку только для столбца верхнего уровня t, что означает, что мы всегда будем читать все данные столбца из гранулы, даже если нам нужны только данные некоторых подпотоков.

zero_copy_concurrent_part_removal_max_postpone_ratio

Максимальный процент частей верхнего уровня, удаление которых может быть отложено, чтобы получить более мелкие независимые диапазоны. Рекомендуется не изменять.

zero_copy_concurrent_part_removal_max_split_times

Максимальная глубина рекурсии для разделения независимых диапазонов устаревших частей на более мелкие поддиапазоны. Рекомендуется не изменять это значение.

zero_copy_merge_mutation_min_parts_size_sleep_before_lock

Если включена репликация с нулевым копированием, ожидать случайный промежуток времени перед попыткой получить блокировку в зависимости от размера частей, участвующих в merge или mutation.

zero_copy_merge_mutation_min_parts_size_sleep_no_scale_before_lock

Если включена репликация с zero copy, приостанавливать выполнение на случайный промежуток времени (до 500 мс) перед попыткой захватить блокировку для merge или mutation.

zookeeper_session_expiration_check_period

Период проверки истечения срока действия сессии ZooKeeper, в секундах.

Возможные значения:

  • Любое положительное целое число.