跳到主要内容
跳到主要内容

将 Confluent Cloud 与 ClickHouse 集成

前提条件

我们假设您熟悉:

ClickHouse 与 Confluent Cloud 的官方 Kafka 连接器

在 Confluent Cloud 上安装

这是一个快速指南,帮助您在 Confluent Cloud 上启动 ClickHouse Sink Connector。 有关更多详细信息,请参考 官方 Confluent 文档

创建主题

在 Confluent Cloud 上创建主题相当简单,您可以在 这里 找到详细说明。

重要说明

  • Kafka 主题名称必须与 ClickHouse 表名称相同。调整此设置的方法是使用转换器(例如 ExtractTopic)。
  • 更多分区并不总意味着更高的性能 - 请参阅我们即将发布的指南以获取更多详细信息和性能建议。

安装连接器

您可以从我们的 仓库 下载连接器 - 也欢迎您在此处提交评论和问题!

导航至 "连接器插件" -> "添加插件",并使用以下设置:

示例:

显示添加自定义 ClickHouse 连接器设置的 Confluent 平台 UI

收集连接详细信息

要通过 HTTP(S) 连接到 ClickHouse,您需要以下信息:

  • HOST 和 PORT:通常情况下,使用 TLS 时端口为 8443,不使用 TLS 时端口为 8123。

  • 数据库名称:默认情况下,有一个名为 default 的数据库,请使用您要连接的数据库名称。

  • 用户名和密码:默认情况下,用户名为 default。请使用适合您用例的用户名。

您的 ClickHouse Cloud 服务的详细信息可以在 ClickHouse Cloud 控制台中找到。选择您要连接的服务并点击 Connect

ClickHouse Cloud service connect button

选择 HTTPS,并且详细信息可以在一个示例 curl 命令中找到。

ClickHouse Cloud HTTPS connection details

如果您使用自管理的 ClickHouse,连接详细信息由您的 ClickHouse 管理员设置。

配置连接器

导航至 Connectors -> Add Connector 并使用以下设置(请注意,这些值仅为示例):

指定连接终端

您需要指定连接器可以访问的允许列表终端。 添加网络 egress 终端时,必须使用完全合格的域名(FQDN)。 示例:u57swl97we.eu-west-1.aws.clickhouse.com:8443

备注

您必须指定 HTTP(S) 端口。连接器尚不支持原生协议。

阅读文档。

您应该一切准备就绪!

已知限制