- 将数据物化到自托管和 ClickHouse Cloud 实例
- 自动处理创建表、schema 演进等任务
- 支持软删除和硬删除
- 对常规合并更新使用
ReplacingMergeTree,对增量更新使用MergeTree - 提供恰好一次交付保障
设置指南
- 一个 Estuary 账户
- Estuary 中一个或多个从所需数据源拉取数据的 捕获
- 自托管的 ClickHouse 实例或 ClickHouse Cloud 账户
- 具有登录凭据的 ClickHouse 数据库用户
1
配置 ClickHouse 集成
要设置 Estuary 的 ClickHouse 连接器,您需要从 ClickHouse 实例获取一些信息,并配置用户权限。随后,您可以前往 Estuary 完成设置。
- 复制数据库的主机端点。 如果启用了 TLS,请使用端口 9440;如果禁用了 TLS,请使用端口 9000。 主机和端口共同构成需要提供给 Estuary 的地址。
-
向 Estuary 要访问的数据库用户授予权限。
为自动创建和管理表,Estuary 需要目标数据库上的
CREATE、SELECT、INSERT等权限,以及元数据发现和分区管理权限。 运行以下 SQL 命令即可授予所有必需权限。请将<database>和<user>替换为您自己的信息: - (可选) 将用户对系统表的访问权限限制为仅限目标数据库。
2
创建 Estuary 物化
- 在 Estuary 控制台中,前往 Destinations 页面。
- 单击 + New Materialization。
- 选择 ClickHouse 连接器。
-
填写 Materialization Details 部分:
- 为物化指定唯一名称
- 选择数据平面 (云提供商和区域)
-
填写 Endpoint Config 信息,使 Estuary 能够连接到您的 ClickHouse 实例:
- **地址:**实例的主机和端口
- **数据库:**目标数据库名称
- **身份验证:**数据库用户的用户名和密码
3
配置源集合
在 Source Collections 部分中,选择要物化到 ClickHouse 的数据源。
- 关联现有的捕获,或添加要物化到 ClickHouse 的单个数据集合。
- 如有需要,从列表中选择数据集合进行进一步配置。可自定义的选项包括:
- 为集合指定其他表名
- 选择集合的合并行为 (是否使用增量更新模式)
- 自定义字段选择行为,以控制要物化的字段
- 确认数据会按预期物化到 ClickHouse 后,单击 Next 和 Save and Publish。
其他资源
- 参阅 Estuary 的 ClickHouse 物化文档。
- 除本指令中提供的基于 UI 的工作流外,您还可以通过命令行客户端使用 Estuary 管理管道配置。要了解如何以编程方式使用 Estuary,请参阅 Estuary 的
flowctl指南。