将 Confluent Cloud 与 ClickHouse 集成
前提条件
我们假设您熟悉:
- ClickHouse Connector Sink
- Confluent Cloud 和 自定义连接器。
ClickHouse 与 Confluent Cloud 的官方 Kafka 连接器
在 Confluent Cloud 上安装
这是一个快速指南,帮助您在 Confluent Cloud 上启动 ClickHouse Sink Connector。 有关更多详细信息,请参考 官方 Confluent 文档。
创建主题
在 Confluent Cloud 上创建主题相当简单,您可以在 这里 找到详细说明。
重要说明
- Kafka 主题名称必须与 ClickHouse 表名称相同。调整此设置的方法是使用转换器(例如
ExtractTopic
)。 - 更多分区并不总意味着更高的性能 - 请参阅我们即将发布的指南以获取更多详细信息和性能建议。
安装连接器
您可以从我们的 仓库 下载连接器 - 也欢迎您在此处提交评论和问题!
导航至 "连接器插件" -> "添加插件",并使用以下设置:
示例:

收集连接详细信息
要通过 HTTP(S) 连接到 ClickHouse,您需要以下信息:
-
HOST 和 PORT:通常情况下,使用 TLS 时端口为 8443,不使用 TLS 时端口为 8123。
-
数据库名称:默认情况下,有一个名为
default
的数据库,请使用您要连接的数据库名称。 -
用户名和密码:默认情况下,用户名为
default
。请使用适合您用例的用户名。
您的 ClickHouse Cloud 服务的详细信息可以在 ClickHouse Cloud 控制台中找到。选择您要连接的服务并点击 Connect:

选择 HTTPS,并且详细信息可以在一个示例 curl
命令中找到。

如果您使用自管理的 ClickHouse,连接详细信息由您的 ClickHouse 管理员设置。
配置连接器
导航至 Connectors
-> Add Connector
并使用以下设置(请注意,这些值仅为示例):
指定连接终端
您需要指定连接器可以访问的允许列表终端。
添加网络 egress 终端时,必须使用完全合格的域名(FQDN)。
示例:u57swl97we.eu-west-1.aws.clickhouse.com:8443
您必须指定 HTTP(S) 端口。连接器尚不支持原生协议。
您应该一切准备就绪!
已知限制
- 自定义连接器必须使用公共互联网终端。静态 IP 地址不受支持。
- 您可以覆盖某些自定义连接器属性。请参阅 官方文档中的完整列表。
- 自定义连接器仅在 某些 AWS 区域 可用。
- 请参阅 官方文档中的自定义连接器限制列表 。