Guide de configuration
- D’un compte Estuary
- D’une ou plusieurs captures dans Estuary, qui extraient les données des sources de votre choix
- D’un compte ClickHouse Cloud disposant des autorisations ClickPipe
1
Créer une matérialisation Estuary
Pour transférer les données de vos collections sources Estuary vers ClickHouse, vous devez d’abord créer une matérialisation.
- Dans le tableau de bord Estuary, accédez à la page Destinations.
- Cliquez sur + New Materialization.
- Sélectionnez le connecteur ClickHouse Kafka API.
- Renseignez les sections Materialization, Endpoint et Source Collections :
- Materialization Details : indiquez un nom unique pour votre matérialisation et choisissez un plan de données (fournisseur cloud et région)
- Endpoint Config : fournissez un Auth Token sécurisé
- Source Collections : associez une capture existante ou sélectionnez les collections de données à exposer à ClickHouse
- Cliquez sur Next, puis sur Save and Publish.
- Sur la page des détails de la matérialisation, notez le nom complet de votre matérialisation ClickHouse. Il se présentera sous la forme
your-tenant/your-unique-name/dekaf-clickhouse.
2
Saisir les informations de connexion Kafka
Configurez un nouveau Kafka ClickPipe dans ClickHouse et saisissez les informations de connexion :
- Dans votre tableau de bord ClickHouse Cloud, sélectionnez Data sources.
- Créez un nouveau ClickPipe.
- Choisissez Apache Kafka comme source de données.
- Saisissez les informations de connexion Kafka à l’aide des informations relatives au broker et au registre d’Estuary :
- Donnez un nom à votre ClickPipe
- Pour le broker, utilisez :
dekaf.estuary-data.com:9092 - Laissez l’authentification sur l’option par défaut
SASL/PLAIN - Pour l’utilisateur, saisissez le nom complet de votre matérialisation Estuary (par exemple,
your-tenant/your-unique-name/dekaf-clickhouse) - Pour le mot de passe, saisissez le jeton d’authentification fourni pour votre matérialisation
- Activez l’option de registre de schémas :
- Pour l’URL du schéma, utilisez :
https://dekaf.estuary-data.com - La clé de schéma est identique à l’utilisateur du broker (le nom de votre matérialisation)
- Le secret est identique au mot de passe du broker (votre jeton d’authentification)
- Pour l’URL du schéma, utilisez :
3
Configurer les données entrantes
- Sélectionnez l’un de vos topics Kafka (l’une de vos collections de données Estuary).
- Choisissez un offset.
- ClickHouse détectera les messages du topic. Vous pouvez ensuite passer à la section Parse information pour configurer les informations de votre table.
- Choisissez de créer une table ou de charger les données dans une table existante correspondante.
- Associez les champs sources aux colonnes de la table en confirmant le nom de la colonne, le type et si elle accepte les valeurs nulles.
- Dans la dernière section, Details and settings, vous pouvez sélectionner les autorisations de votre utilisateur de base de données dédié.
Ressources supplémentaires
- Consultez la documentation d’Estuary sur la matérialisation ClickHouse pour l’intégration ClickPipes.
- Estuary expose les données sous forme de messages Kafka via Dekaf. Pour en savoir plus sur Dekaf, consultez le guide d’Estuary.