Руководство по настройке
- Аккаунт Estuary
- Один или несколько capture в Estuary, получающих данные из нужных источников
- Аккаунт ClickHouse Cloud с разрешениями на работу с ClickPipe
1
Создайте materialization в Estuary
Чтобы передавать данные из исходных collection в Estuary в ClickHouse, сначала необходимо создать materialization.
- На панели мониторинга Estuary перейдите на страницу Destinations.
- Нажмите + New Materialization.
- Выберите коннектор ClickHouse Kafka API.
- Заполните сведения в разделах Materialization, Endpoint и Source Collections:
- Сведения о materialization: укажите уникальное имя materialization и выберите data plane (облачного провайдера и регион).
- Конфигурация конечной точки: укажите защищённый Auth Token.
- Исходные collection: свяжите существующий capture или выберите collection данных, которые будут доступны в ClickHouse.
- Нажмите Next, а затем Save and Publish.
- На странице сведений о materialization запишите полное имя materialization для ClickHouse. Оно будет выглядеть примерно так:
your-tenant/your-unique-name/dekaf-clickhouse.
2
Введите сведения о подключении Kafka
Настройте новый Kafka ClickPipe в ClickHouse и укажите сведения о подключении:
- На панели мониторинга ClickHouse Cloud выберите Источники данных.
- Создайте новый ClickPipe.
- Выберите Apache Kafka в качестве источника данных.
- Введите сведения о подключении Kafka, используя информацию о брокере и registry Estuary:
- Укажите имя для ClickPipe.
- В качестве брокера укажите:
dekaf.estuary-data.com:9092. - Оставьте значение аутентификации по умолчанию:
SASL/PLAIN. - В поле пользователя укажите полное имя materialization из Estuary (например,
your-tenant/your-unique-name/dekaf-clickhouse). - В поле пароля укажите токен аутентификации, заданный для materialization.
- Включите параметр реестра схем:
- В качестве URL схемы укажите:
https://dekaf.estuary-data.com. - Ключ схемы совпадает с именем пользователя брокера (именем materialization).
- Секрет совпадает с паролем брокера (вашим токеном аутентификации).
- В качестве URL схемы укажите:
3
Настройте входящие данные
- Выберите один из Kafka топиков (одну из collection данных в Estuary).
- Выберите смещение.
- ClickHouse обнаружит сообщения топика. Затем перейдите в раздел Parse information, чтобы настроить сведения о таблице.
- Выберите создание новой таблицы или загрузку данных в соответствующую существующую таблицу.
- Сопоставьте исходные поля со столбцами таблицы, указав имя столбца, тип и допустимость значения NULL.
- В заключительном разделе Details and settings можно выбрать разрешения для выделенного пользователя базы данных.
Дополнительные ресурсы
- Сведения об интеграции ClickPipes см. в документации Estuary по materialization данных в ClickHouse.
- Estuary передаёт данные в виде сообщений Kafka с помощью Dekaf. Подробнее о Dekaf см. в руководстве Estuary.