HTTP-интерфейс
Предварительные требования
Для примеров в этой статье вам потребуется:
- запущенный экземпляр сервера ClickHouse
- установленный
curl. В Ubuntu или Debian выполнитеsudo apt install curlили обратитесь к этой документации за инструкциями по установке.
Обзор
HTTP-интерфейс позволяет использовать ClickHouse на любой платформе и на любом языке программирования в виде REST API. HTTP-интерфейс более ограничен, чем нативный интерфейс, но имеет лучшую языковую поддержку.
По умолчанию clickhouse-server прослушивает следующие порты:
- порт 8123 для HTTP
- порт 8443 для HTTPS может быть включен
Если вы сделаете запрос GET / без каких-либо параметров, будет возвращен код ответа 200 вместе со строкой "Ok.":
"Ok." является значением по умолчанию, определенным в http_server_default_response, и может быть изменено при необходимости.
Также см.: Особенности кодов ответа HTTP.
Веб-интерфейс пользователя
ClickHouse включает веб-интерфейс пользователя, доступный по следующему адресу:
Веб-интерфейс поддерживает отображение прогресса во время выполнения запроса, отмену запроса и потоковую передачу результатов. У него есть секретная функция для отображения графиков и диаграмм для конвейеров запросов.
После успешного выполнения запроса появляется кнопка загрузки, которая позволяет загрузить результаты запроса в различных форматах, включая CSV, TSV, JSON, JSONLines, Parquet, Markdown или любой пользовательский формат, поддерживаемый ClickHouse. Функция загрузки использует кэш запросов для эффективного получения результатов без повторного выполнения запроса. Она загрузит полный набор результатов, даже если интерфейс отобразил только одну страницу из многих.
Веб-интерфейс разработан для профессионалов, таких как вы.

В скриптах проверки работоспособности используйте запрос GET /ping. Этот обработчик всегда возвращает "Ok." (с переводом строки в конце). Доступен начиная с версии 18.12.13. См. также /replicas_status для проверки задержки реплики.
Выполнение запросов через HTTP/HTTPS
Для выполнения запросов через HTTP/HTTPS существует три варианта:
- отправить запрос в качестве параметра URL 'query'
- использовать метод POST.
- Отправить начало запроса в параметре 'query', а остальное используя POST
Размер URL по умолчанию ограничен 1 МиБ, это можно изменить с помощью настройки http_max_uri_size.
В случае успеха вы получите код ответа 200 и результат в теле ответа. Если произойдет ошибка, вы получите код ответа 500 и текст описания ошибки в теле ответа.
Запросы с использованием GET являются 'readonly' (только для чтения). Это означает, что для запросов, которые изменяют данные, можно использовать только метод POST. Сам запрос можно отправить либо в теле POST, либо в параметре URL. Рассмотрим несколько примеров.
В примере ниже curl используется для отправки запроса SELECT 1. Обратите внимание на использование URL-кодирования для пробела: %20.
В этом примере используется wget с параметрами -nv (не подробный) и -O- для вывода результата в терминал.
В этом случае не обязательно использовать URL-кодирование для пробела:
В этом примере мы передаем необработанный HTTP-запрос в netcat:
Как видите, команда curl несколько неудобна тем, что пробелы должны быть закодированы в URL.
Хотя wget экранирует все само, мы не рекомендуем его использовать, потому что он плохо работает через HTTP 1.1 при использовании keep-alive и Transfer-Encoding: chunked.
Если часть запроса отправляется в параметре, а часть в POST, между этими двумя частями данных вставляется перевод строки. Например, это не сработает:
По умолчанию данные возвращаются в формате TabSeparated.
Для запроса любого другого формата используется предложение FORMAT. Например:
Вы можете использовать параметр URL default_format или заголовок X-ClickHouse-Format для указания формата по умолчанию, отличного от TabSeparated.
Вы можете использовать метод POST с параметризованными запросами. Параметры указываются с использованием фигурных скобок с именем параметра и типом, например {name:Type}. Значения параметров передаются с помощью param_name:
Запросы вставки через HTTP/HTTPS
Метод передачи данных POST необходим для запросов INSERT. В этом случае вы можете написать начало запроса в параметре URL и использовать POST для передачи данных для вставки. Данные для вставки могут быть, например, дампом, разделенным табуляцией, из MySQL. Таким образом, запрос INSERT заменяет LOAD DATA LOCAL INFILE из MySQL.
Примеры
Чтобы создать таблицу:
Чтобы использовать знакомый запрос INSERT для вставки данных:
Чтобы отправить данные отдельно от запроса:
Можно указать любой формат данных. Например, формат 'Values', тот же формат, что используется при написании INSERT INTO t VALUES, можно указать:
Чтобы вставить данные из дампа, разделенного табуляцией, укажите соответствующий формат:
Чтобы прочитать содержимое таблицы:
Данные выводятся в случайном порядке из-за параллельной обработки запросов
Чтобы удалить таблицу:
Для успешных запросов, которые не возвращают таблицу данных, возвращается пустое тело ответа.
Сжатие
Сжатие можно использовать для уменьшения сетевого трафика при передаче большого объема данных или для создания дампов, которые сразу сжимаются.
Вы можете использовать внутренний формат сжатия ClickHouse при передаче данных. Сжатые данные имеют нестандартный формат, и вам нужна программа clickhouse-compressor для работы с ними. Она устанавливается по умолчанию вместе с пакетом clickhouse-client.
Чтобы повысить эффективность вставки данных, отключите проверку контрольной суммы на стороне сервера, используя настройку http_native_compression_disable_checksumming_on_decompress.
Если вы укажете compress=1 в URL, сервер сожмет данные, которые он отправляет вам. Если вы укажете decompress=1 в URL, сервер распакует данные, которые вы передаете методом POST.
Вы также можете использовать HTTP-сжатие. ClickHouse поддерживает следующие методы сжатия:
gzipbrdeflatexzzstdlz4bz2snappy
Чтобы отправить сжатый запрос POST, добавьте заголовок запроса Content-Encoding: compression_method.
Чтобы ClickHouse сжал ответ, добавьте заголовок Accept-Encoding: compression_method к запросу.
Вы можете настроить уровень сжатия данных с помощью настройки http_zlib_compression_level для всех методов сжатия.
Некоторые HTTP-клиенты могут распаковывать данные с сервера по умолчанию (с gzip и deflate), и вы можете получить распакованные данные, даже если правильно используете настройки сжатия.
Примеры
Чтобы отправить сжатые данные на сервер:
Чтобы получить архив сжатых данных с сервера:
Чтобы получить сжатые данные с сервера, используя gunzip для получения распакованных данных:
База данных по умолчанию
Вы можете использовать параметр URL database или заголовок X-ClickHouse-Database для указания базы данных по умолчанию.
По умолчанию используется база данных, зарегистрированная в настройках сервера. По умолчанию это база данных с именем default. Кроме того, вы всегда можете указать базу данных, используя точку перед именем таблицы.
Аутентификация
Имя пользователя и пароль могут быть указаны одним из трех способов:
- Используя HTTP Basic Authentication.
Например:
- В параметрах URL
userиpassword
Мы не рекомендуем использовать этот метод, так как параметр может быть записан в журнал веб-прокси и кэширован в браузере
Например:
- Используя заголовки 'X-ClickHouse-User' и 'X-ClickHouse-Key'
Например:
Если имя пользователя не указано, то используется имя default. Если пароль не указан, то используется пустой пароль.
Вы также можете использовать параметры URL для указания любых настроек для обработки одного запроса или целых профилей настроек.
Например:
Для получения дополнительной информации см.:
Использование сеансов ClickHouse в протоколе HTTP
Вы также можете использовать сеансы ClickHouse в протоколе HTTP. Для этого вам нужно добавить параметр GET session_id к запросу. В качестве идентификатора сеанса можно использовать любую строку.
По умолчанию сеанс завершается через 60 секунд бездействия. Чтобы изменить этот тайм-аут (в секундах), измените настройку default_session_timeout в конфигурации сервера или добавьте параметр GET session_timeout к запросу.
Чтобы проверить статус сеанса, используйте параметр session_check=1. В рамках одного сеанса одновременно может выполняться только один запрос.
Вы можете получить информацию о прогрессе запроса в заголовках ответа X-ClickHouse-Progress. Для этого включите send_progress_in_http_headers.
Ниже приведен пример последовательности заголовков:
Возможные поля заголовка:
| Поле заголовка | Описание |
|---|---|
read_rows | Количество прочитанных строк. |
read_bytes | Объем данных, прочитанных в байтах. |
total_rows_to_read | Общее количество строк для чтения. |
written_rows | Количество записанных строк. |
written_bytes | Объем данных, записанных в байтах. |
elapsed_ns | Время выполнения запроса в наносекундах. |
memory_usage | Память в байтах, используемая запросом. |
Выполняемые запросы не останавливаются автоматически при потере HTTP-соединения. Разбор и форматирование данных выполняются на стороне сервера, и использование сети может быть неэффективным.
Существуют следующие необязательные параметры:
| Параметры | Описание |
|---|---|
query_id (optional) | Может быть передан как идентификатор запроса (любая строка). replace_running_query |
quota_key (optional) | Может быть передан как ключ квоты (любая строка). "Квоты" |
HTTP-интерфейс позволяет передавать внешние данные (внешние временные таблицы) для запросов. Для получения дополнительной информации см. "Внешние данные для обработки запросов".
Буферизация ответа
Буферизация ответа может быть включена на стороне сервера. Для этой цели предоставляются следующие параметры URL:
buffer_sizewait_end_of_query
Можно использовать следующие настройки:
buffer_size определяет количество байтов в результате для буферизации в памяти сервера. Если тело результата больше этого порога, буфер записывается в HTTP-канал, а остальные данные отправляются непосредственно в HTTP-канал.
Чтобы убедиться, что весь ответ буферизован, установите wait_end_of_query=1. В этом случае данные, которые не хранятся в памяти, будут буферизованы во временном файле сервера.
Например:
Используйте буферизацию, чтобы избежать ситуаций, когда ошибка обработки запроса произошла после того, как код ответа и заголовки HTTP были отправлены клиенту. В этой ситуации сообщение об ошибке записывается в конец тела ответа, и на стороне клиента ошибку можно обнаружить только на этапе синтаксического анализа.
Установка роли с параметрами запроса
Эта функция была добавлена в ClickHouse 24.4.
В определенных сценариях может потребоваться сначала установить предоставленную роль, прежде чем выполнять сам оператор.
Однако невозможно отправить SET ROLE и оператор вместе, так как множественные операторы не разрешены:
Приведенная выше команда приводит к ошибке:
Чтобы преодолеть это ограничение, используйте параметр запроса role вместо этого:
Это эквивалентно выполнению SET ROLE my_role перед оператором.
Кроме того, можно указать несколько параметров запроса role:
В этом случае ?role=my_role&role=my_other_role работает аналогично выполнению SET ROLE my_role, my_other_role перед оператором.
Особенности кодов ответа HTTP
Из-за ограничений протокола HTTP код ответа HTTP 200 не гарантирует, что запрос был успешным.
Вот пример:
Причина такого поведения заключается в природе протокола HTTP. Заголовок HTTP отправляется первым с кодом HTTP 200, затем тело HTTP, а затем ошибка внедряется в тело в виде простого текста.
Это поведение не зависит от используемого формата, будь то Native, TSV или JSON; сообщение об ошибке всегда будет в середине потока ответа.
Вы можете смягчить эту проблему, включив wait_end_of_query=1 (Буферизация ответа). В этом случае отправка заголовка HTTP откладывается до тех пор, пока не будет разрешен весь запрос. Это, однако, не решает проблему полностью, потому что результат все еще должен помещаться в http_response_buffer_size, и другие настройки, такие как send_progress_in_http_headers, могут помешать задержке заголовка.
Единственный способ поймать все ошибки - проанализировать тело HTTP перед его синтаксическим анализом с использованием требуемого формата.
Такие исключения в ClickHouse имеют согласованный формат исключений, как показано ниже, независимо от того, какой формат используется (например, Native, TSV, JSON и т. д.), когда http_write_exception_in_output_format=0 (по умолчанию). Это упрощает анализ и извлечение сообщений об ошибках на стороне клиента.
Где <TAG> - это 16-байтовый случайный тег, который является тем же тегом, отправленным в заголовке ответа X-ClickHouse-Exception-Tag.
<error message> - это фактическое сообщение об исключении (точная длина может быть найдена в <message_length>). Весь блок исключений, описанный выше, может быть до 16 КиБ.
Вот пример в формате JSON
Вот похожий пример, но в формате CSV
Запросы с параметрами
Вы можете создать запрос с параметрами и передать значения для них из соответствующих параметров HTTP-запроса. Для получения дополнительной информации см. Запросы с параметрами для CLI.
Пример
Табуляции в параметрах URL
Параметры запроса разбираются из «экранированного» формата. Это имеет некоторые преимущества, такие как возможность однозначно разбирать нули как \N. Это означает, что символ табуляции должен быть закодирован как \t (или \ и табуляция). Например, следующее содержит фактическую табуляцию между abc и 123, и входная строка разделяется на два значения:
Однако, если вы попытаетесь закодировать фактическую табуляцию, используя %09 в параметре URL, она не будет правильно разобрана:
Если вы используете параметры URL, вам нужно будет закодировать \t как %5C%09. Например:
Предопределенный HTTP-интерфейс
ClickHouse поддерживает определенные запросы через HTTP-интерфейс. Например, вы можете записывать данные в таблицу следующим образом:
ClickHouse также поддерживает предопределенный HTTP-интерфейс, который может помочь вам легче интегрироваться со сторонними инструментами, такими как Prometheus exporter. Рассмотрим пример.
Во-первых, добавьте этот раздел в файл конфигурации вашего сервера.
http_handlers настроен на содержание нескольких rule. ClickHouse будет сопоставлять полученные HTTP-запросы с предопределенным типом в rule, и первое совпадающее правило запускает обработчик. Затем ClickHouse выполнит соответствующий предопределенный запрос, если сопоставление успешно.
Теперь вы можете запросить URL напрямую для данных в формате Prometheus:
Параметры конфигурации для http_handlers работают следующим образом.
rule может настроить следующие параметры:
methodheadersurlfull_urlhandler
Каждый из них обсуждается ниже:
-
methodотвечает за сопоставление части метода HTTP-запроса.methodполностью соответствует определению [method] (https://developer.mozilla.org/en-US/docs/Web/HTTP/Methods) в протоколе HTTP. Это необязательная конфигурация. Если она не определена в файле конфигурации, она не соответствует части метода HTTP-запроса. -
urlотвечает за сопоставление части URL (путь и строка запроса) HTTP-запроса. Еслиurlначинается с префиксаregex:, ожидаются регулярные выражения RE2. Это необязательная конфигурация. Если она не определена в файле конфигурации, она не соответствует части URL HTTP-запроса. -
full_urlто же, что иurl, но включает полный URL, т.е.schema://host:port/path?query_string. Обратите внимание, что ClickHouse не поддерживает «виртуальные хосты», поэтомуhost- это IP-адрес (а не значение заголовкаHost). -
empty_query_string- обеспечивает отсутствие строки запроса (?query_string) в запросе -
headersотвечают за сопоставление части заголовка HTTP-запроса. Совместимо с регулярными выражениями RE2. Это необязательная конфигурация. Если она не определена в файле конфигурации, она не соответствует части заголовка HTTP-запроса. -
handlerсодержит основную часть обработки.Он может иметь следующие
type:И следующие параметры:
query— используется с типомpredefined_query_handler, выполняет запрос при вызове обработчика.query_param_name— используется с типомdynamic_query_handler, извлекает и выполняет значение, соответствующее значениюquery_param_nameв параметрах HTTP-запроса.status— используется с типомstatic, код статуса ответа.content_type— используется с любым типом, ответ content-type.http_response_headers— используется с любым типом, карта заголовков ответа. Может использоваться для установки типа контента также.response_content— используется с типомstatic, содержимое ответа, отправленное клиенту, при использовании префикса 'file://' или 'config://', найти содержимое из файла или конфигурации для отправки клиенту.user- пользователь для выполнения запроса (пользователь по умолчанию -default). Примечание: вам не нужно указывать пароль для этого пользователя.
Методы конфигурации для различных type обсуждаются далее.
predefined_query_handler
predefined_query_handler поддерживает установку значений Settings и query_params. Вы можете настроить query в типе predefined_query_handler.
Значение query - это предопределенный запрос predefined_query_handler, который выполняется ClickHouse при совпадении HTTP-запроса, и возвращается результат запроса. Это обязательная конфигурация.
В следующем примере определяются значения настроек max_threads и max_final_threads, затем запрашивается системная таблица, чтобы проверить, были ли эти настройки установлены успешно.
Чтобы сохранить обработчики по умолчанию, такие как query, play, ping, добавьте правило <defaults/>.
Например:
В одном predefined_query_handler поддерживается только один query.
dynamic_query_handler
В dynamic_query_handler запрос записывается в виде параметра HTTP-запроса. Разница в том, что в predefined_query_handler запрос записывается в файле конфигурации. query_param_name можно настроить в dynamic_query_handler.
ClickHouse извлекает и выполняет значение, соответствующее значению query_param_name в URL HTTP-запроса. Значение по умолчанию query_param_name - /query. Это необязательная конфигурация. Если в файле конфигурации нет определения, параметр не передается.
Чтобы поэкспериментировать с этой функциональностью, в следующем примере определяются значения max_threads и max_final_threads и queries, были ли настройки установлены успешно.
Пример:
static
static может вернуть content_type, status и response_content. response_content может вернуть указанное содержимое.
Например, чтобы вернуть сообщение "Say Hi!":
http_response_headers можно использовать для установки типа контента вместо content_type.
Найти содержимое из конфигурации для отправки клиенту.
Чтобы найти содержимое из файла для отправки клиенту:
redirect
redirect выполнит перенаправление 302 на location
Например, вот как вы можете автоматически добавить набор пользователей в play для ClickHouse play:
Заголовки HTTP-ответа
ClickHouse позволяет настраивать пользовательские заголовки HTTP-ответа, которые могут быть применены к любому виду обработчика, который может быть настроен. Эти заголовки можно установить с помощью настройки http_response_headers, которая принимает пары ключ-значение, представляющие имена заголовков и их значения. Эта функция особенно полезна для реализации пользовательских заголовков безопасности, политик CORS или любых других требований к заголовкам HTTP в интерфейсе HTTP ClickHouse.
Например, вы можете настроить заголовки для:
- Регулярных конечных точек запросов
- Веб-интерфейса
- Проверки работоспособности.
Также можно указать common_http_response_headers. Они будут применены ко всем обработчикам http, определенным в конфигурации.
Заголовки будут включены в HTTP-ответ для каждого настроенного обработчика.
В приведенном ниже примере каждый ответ сервера будет содержать два пользовательских заголовка: X-My-Common-Header и X-My-Custom-Header.
Допустимый JSON/XML ответ при исключении во время потоковой передачи HTTP
Во время выполнения запроса через HTTP исключение может произойти, когда часть данных уже была отправлена. Обычно исключение отправляется клиенту в виде простого текста.
Даже если для вывода данных использовался определенный формат данных, вывод может стать недействительным с точки зрения указанного формата данных.
Чтобы предотвратить это, вы можете использовать настройку http_write_exception_in_output_format (отключена по умолчанию), которая сообщит ClickHouse записать исключение в указанном формате (в настоящее время поддерживается для форматов XML и JSON*).
Примеры: