Guia de configuração
- Uma conta no Estuary
- Uma ou mais capturas no Estuary que extraiam dados das fontes desejadas
- Uma conta do ClickHouse Cloud com permissões para ClickPipes
1
Criar uma materialização no Estuary
Para transferir dados das coleções de origem no Estuary para o ClickHouse, primeiro você precisará criar uma materialização.
- No dashboard do Estuary, acesse a página Destinations.
- Clique em + New Materialization.
- Selecione o conector ClickHouse Kafka API.
- Preencha os detalhes nas seções Materialization, Endpoint e Source Collections:
- Detalhes da materialização: forneça um nome exclusivo para sua materialização e escolha um plano de dados (provedor de Cloud e região)
- Configuração do endpoint: forneça um token de autenticação seguro
- Coleções de origem: vincule uma captura existente ou selecione coleções de dados a serem expostas ao ClickHouse
- Clique em Next e em Save and Publish.
- Na página de detalhes da materialização, anote o nome completo da sua materialização do ClickHouse. Ele será semelhante a
your-tenant/your-unique-name/dekaf-clickhouse.
2
Inserir os detalhes de conexão do Kafka
Configure um novo ClickPipe do Kafka no ClickHouse e informe os detalhes de conexão:
- No dashboard do ClickHouse Cloud, selecione Data sources.
- Crie um novo ClickPipe.
- Escolha Apache Kafka como fonte de dados.
- Insira os detalhes de conexão do Kafka usando as informações de broker e registro do Estuary:
- Forneça um nome para seu ClickPipe
- Para o broker, use:
dekaf.estuary-data.com:9092 - Mantenha a autenticação na opção padrão
SASL/PLAIN - Para o usuário, informe o nome completo da materialização no Estuary (por exemplo,
your-tenant/your-unique-name/dekaf-clickhouse) - Para a senha, informe o token de autenticação fornecido para sua materialização
- Ative a opção de registro de esquemas:
- Para a URL do esquema, use:
https://dekaf.estuary-data.com - A chave do esquema será a mesma do usuário do broker (o nome da sua materialização)
- O Secret será o mesmo da senha do broker (seu token de autenticação)
- Para a URL do esquema, use:
3
Configurar os dados recebidos
- Selecione um dos tópicos do Kafka (uma das coleções de dados do Estuary).
- Escolha um offset.
- O ClickHouse detectará as mensagens do tópico. Você poderá continuar para a seção Parse information a fim de configurar as informações da tabela.
- Escolha criar uma nova tabela ou carregar os dados em uma tabela existente correspondente.
- Mapeie os campos de origem para as colunas da tabela, confirmando o nome, o tipo e se a coluna aceita valores nulos.
- Na seção final Details and settings, você poderá selecionar permissões para seu usuário de banco de dados dedicado.
Recursos adicionais
- Consulte a documentação sobre materialização no ClickHouse do Estuary para a integração com o ClickPipes.
- O Estuary expõe dados como mensagens do Kafka usando o Dekaf. Saiba mais sobre o Dekaf no guia do Estuary.