Guide de configuration
- Un compte Estuary
- Une ou plusieurs captures dans Estuary, qui extraient les données des sources souhaitées
- Un compte ClickHouse Cloud avec les autorisations ClickPipe
1
Créer une matérialisation Estuary
Pour transférer des données depuis vos collections source dans Estuary vers ClickHouse, vous devez d’abord créer une matérialisation.
- Dans le tableau de bord d’Estuary, accédez à la page Destinations.
- Cliquez sur + New Materialization.
- Sélectionnez le connecteur ClickHouse.
-
Renseignez les sections Materialization, Endpoint et Source Collections :
- Materialization Details : indiquez un nom unique pour votre matérialisation et choisissez un data plane (fournisseur cloud et région)
- Endpoint Config : indiquez un Auth Token sécurisé
- Source Collections : associez une capture existante ou sélectionnez les collections de données à exposer à ClickHouse
- Cliquez sur Next, puis sur Save and Publish.
-
Sur la page des détails de la matérialisation, notez le nom complet de votre matérialisation ClickHouse. Il ressemblera à ceci :
your-tenant/your-unique-name/dekaf-clickhouse.
2
Saisir les informations de connexion Kafka
Configurez un nouveau Kafka ClickPipe dans ClickHouse et saisissez les informations de connexion :
- Dans votre tableau de bord ClickHouse Cloud, sélectionnez Data sources.
- Créez un nouveau ClickPipe.
- Choisissez Apache Kafka comme source de données.
-
Saisissez les informations de connexion Kafka à l’aide des informations de broker et de registry d’Estuary :
- Indiquez un nom pour votre ClickPipe
- Pour le broker, utilisez :
dekaf.estuary-data.com:9092 - Laissez l’authentification sur l’option par défaut
SASL/PLAIN - Pour l’utilisateur, saisissez le nom complet de votre matérialisation dans Estuary (par exemple
your-tenant/your-unique-name/dekaf-clickhouse) - Pour le mot de passe, saisissez le jeton d’authentification fourni pour votre matérialisation
-
Activez l’option de schema registry
- Pour l’URL du schéma, utilisez :
https://dekaf.estuary-data.com - La clé du schéma sera la même que l’utilisateur du broker (le nom de votre matérialisation)
- Le secret sera le même que le mot de passe du broker (votre jeton d’authentification)
- Pour l’URL du schéma, utilisez :
3
Configurer les données entrantes
- Sélectionnez l’un de vos topics Kafka (l’une de vos collections de données dans Estuary).
- Choisissez un offset.
- ClickHouse détectera les messages du topic. Vous pourrez ensuite passer à la section Parse information pour configurer les informations de votre table.
- Choisissez de créer une nouvelle table ou de charger les données dans une table existante correspondante.
- Associez les champs source aux colonnes de la table, en vérifiant le nom de la colonne, le type et si elle accepte la valeur NULL.
- Dans la dernière section Details and settings, vous pouvez sélectionner les autorisations de votre utilisateur de base de données dédié.
Ressources supplémentaires
- Consultez la documentation d’Estuary sur la matérialisation ClickHouse.
- Estuary expose les données sous forme de messages Kafka à l’aide de Dekaf. Vous pouvez en savoir plus sur Dekaf ici.
- Pour voir la liste des sources que vous pouvez acheminer en streaming vers ClickHouse avec Estuary, consultez les connecteurs de capture d’Estuary.