Guia de configuração
- Uma conta do Estuary
- Uma ou mais capturas no Estuary que extraem dados das fontes desejadas
- Uma conta do ClickHouse Cloud com permissões para ClickPipe
1
Criar uma materialização no Estuary
Para mover dados das suas coleções de origem no Estuary para o ClickHouse, primeiro você precisará criar uma materialização.
- No dashboard do Estuary, acesse a página Destinations.
- Clique em + New Materialization.
- Selecione o conector ClickHouse.
-
Preencha os detalhes nas seções Materialization, Endpoint e Source Collections:
- Materialization Details: informe um nome exclusivo para sua materialização e escolha um data plane (provedor de Cloud e região)
- Endpoint Config: informe um Auth Token seguro
- Source Collections: vincule uma captura existente ou selecione coleções de dados para expor ao ClickHouse
- Clique em Next e em Save and Publish.
-
Na página de detalhes da materialização, anote o nome completo da sua materialização do ClickHouse. Ele será parecido com
your-tenant/your-unique-name/dekaf-clickhouse.
2
Inserir os detalhes da conexão com o Kafka
Configure um novo ClickPipe do Kafka no ClickHouse e insira os detalhes da conexão:
- No dashboard do ClickHouse Cloud, selecione Data sources.
- Crie um novo ClickPipe.
- Escolha Apache Kafka como fonte de dados.
-
Insira os detalhes da conexão com o Kafka usando as informações de broker e registry do Estuary:
- Informe um nome para o seu ClickPipe
- Para o broker, use:
dekaf.estuary-data.com:9092 - Deixe a autenticação na opção padrão
SASL/PLAIN - Para o usuário, informe o nome completo da sua materialização no Estuary (como
your-tenant/your-unique-name/dekaf-clickhouse) - Para a senha, informe o token de autenticação fornecido para a sua materialização
-
Ative a opção de schema registry
- Para a URL do schema, use:
https://dekaf.estuary-data.com - A chave do schema será a mesma do usuário do broker (o nome da sua materialização)
- O segredo será o mesmo da senha do broker (seu token de autenticação)
- Para a URL do schema, use:
3
Configurar os dados de entrada
- Selecione um dos seus topics do Kafka (uma das suas coleções de dados do Estuary).
- Escolha um offset.
- O ClickHouse detectará as mensagens do topic. Em seguida, você poderá ir para a seção Parse information para configurar as informações da tabela.
- Escolha entre criar uma nova tabela ou carregar os dados em uma tabela existente compatível.
- Mapeie os campos de origem para as colunas da tabela, confirmando o nome da coluna, o tipo e se ela aceita valor nulo.
- Na seção final Details and settings, você pode selecionar as permissões do seu usuário de banco de dados dedicado.
Recursos adicionais
- Consulte a documentação de materialização do ClickHouse do Estuary.
- O Estuary expõe os dados como mensagens do Kafka usando o Dekaf. Você pode saber mais sobre o Dekaf aqui.
- Para ver uma lista de fontes que você pode enviar por streaming para o ClickHouse com o Estuary, confira os conectores de captura do Estuary.