设置指南
- 一个 Estuary 账户
- Estuary 中一个或多个从所需来源拉取数据的 捕获
- 一个具有 ClickPipe 权限的 ClickHouse Cloud 账户
1
创建 Estuary 物化
要将数据从 Estuary 中的源集合传输到 ClickHouse,你首先需要创建一个 物化。
- 在 Estuary 的仪表板中,前往 Destinations 页面。
- 点击 + New Materialization。
- 选择 ClickHouse 连接器。
-
在 Materialization、Endpoint 和 Source Collections 部分填写详细信息:
- Materialization Details: 为你的物化指定一个唯一名称,并选择数据平面 (云提供商和区域)
- Endpoint Config: 提供安全的 Auth Token
- Source Collections: 关联现有的 捕获,或选择要提供给 ClickHouse 的数据集合
- 点击 Next 和 Save and Publish。
-
在物化详情页面,记下你的 ClickHouse 物化的完整名称。它看起来会类似于
your-tenant/your-unique-name/dekaf-clickhouse。
2
输入 Kafka 连接详细信息
在 ClickHouse 中设置一个新的 Kafka ClickPipe,并输入连接详细信息:
- 在 ClickHouse Cloud 仪表板中,选择 数据源。
- 创建一个新的 ClickPipe。
- 选择 Apache Kafka 作为你的数据源。
-
使用 Estuary 的 broker 和 registry 信息输入 Kafka 连接详细信息:
- 为你的 ClickPipe 提供一个名称
- broker 使用:
dekaf.estuary-data.com:9092 - 身份验证保留默认的
SASL/PLAIN选项 - 用户名填写你在 Estuary 中的完整物化名称 (例如
your-tenant/your-unique-name/dekaf-clickhouse) - 密码填写你为该物化提供的身份验证令牌
-
打开 Schema Registry 选项
- schema URL 使用:
https://dekaf.estuary-data.com - schema key 与 broker 用户相同 (即你的物化名称)
- 密钥与 broker 密码相同 (即你的身份验证令牌)
- schema URL 使用:
3
配置传入数据
- 选择你的某个 Kafka topic (即来自 Estuary 的某个数据集合) 。
- 选择一个 偏移量。
- ClickHouse 会检测 topic 消息。然后你可以继续前往 Parse information 部分来配置表信息。
- 选择创建新表,或将数据加载到匹配的现有表中。
- 将源字段映射到表列,并确认列名、类型以及是否可为 NULL。
- 在最后的 Details and settings 部分,你可以为专用数据库用户选择权限。
更多资源
- 请参阅 Estuary 的 ClickHouse 物化 文档。
- Estuary 使用 Dekaf 以 Kafka 消息的形式提供数据。有关 Dekaf 的更多信息,请参阅这里。
- 如需查看可通过 Estuary 流式传输到 ClickHouse 的 source 列表,请参阅 Estuary 的 捕获 connectors。