Fontes suportadas
- MySQL/MariaDB/AuroraMySQL
- Oracle
- PostgreSQL/AuroraPostgreSQL
- MongoDB
- Kafka
- PolarDB-MySQL
- OceanBase
- TiDB
1
Baixe e execute o BladePipe
- Faça login no BladePipe Cloud.
- Siga as instruções em Instalar o Worker (Docker) ou Instalar o Worker (Binário) para baixar e instalar um Worker do BladePipe.
Como alternativa, você pode baixar e implantar o BladePipe Enterprise.
2
Adicione o ClickHouse como destino
- O BladePipe oferece suporte ao ClickHouse versão
20.12.3.3ou superior. - Para usar o ClickHouse como destino, verifique se o usuário tem permissões de SELECT, INSERT e DDL comuns.
- No BladePipe, clique em “DataSource” > “Add DataSource”.
-
Selecione
ClickHousee preencha as configurações informando o host e a porta do ClickHouse, além do nome de usuário e da senha. Em seguida, clique em “Test Connection”. - Clique em “Add DataSource” na parte inferior para adicionar uma instância do ClickHouse.
3
Adicionar o MySQL como fonte
Neste tutorial, usamos uma instância do MySQL como fonte e explicamos o processo de carregar dados do MySQL no ClickHouse.
Para usar o MySQL como fonte, certifique-se de que o usuário tenha as permissões necessárias.
- No BladePipe, clique em “DataSource” > “Add DataSource”.
-
Selecione
MySQLe preencha as configurações informando o host e a porta do MySQL, o nome de usuário e a senha, e clique em “Test Connection”. - Clique em “Add DataSource” na parte inferior, e uma instância do MySQL será adicionada.
4
Criar um pipeline
- No BladePipe, clique em “DataJob” > “Create DataJob”.
- Selecione as instâncias adicionadas do MySQL e do ClickHouse e clique em “Test Connection” para garantir que o BladePipe esteja conectado a elas. Em seguida, selecione os bancos de dados que serão movidos.
- Em DataJob Type, selecione “Incremental” junto com a opção “Full Data”.
- Selecione as tabelas a serem replicadas.
- Selecione as colunas a serem replicadas.
- Confirme a criação do DataJob, e ele será executado automaticamente.
5
Verifique os dados
- Interrompa a gravação de dados na instância do MySQL e aguarde o ClickHouse concluir a mesclagem dos dados.
Como o momento em que o ClickHouse executa a mesclagem automática é imprevisível, você pode forçar manualmente uma mesclagem executando o comando
OPTIMIZE TABLE xxx FINAL;. Observe que essa mesclagem manual pode não ser bem-sucedida em todos os casos.Como alternativa, você pode executar o comando CREATE VIEW xxx_v AS SELECT * FROM xxx FINAL; para criar uma view e consultá-la, garantindo que os dados estejam totalmente mesclados.- Crie um DataJob de verificação. Quando o DataJob de verificação for concluído, revise os resultados para confirmar que os dados no ClickHouse são os mesmos do MySQL.