跳转到主内容
跳转到主内容

将 ClickHouse 连接到 PostgreSQL

本页介绍以下几种将 PostgreSQL 与 ClickHouse 集成的方式：

  • 使用 PostgreSQL 表引擎，从 PostgreSQL 表中读取数据
  • 使用试验性的 MaterializedPostgreSQL 数据库引擎，将 PostgreSQL 中的数据库与 ClickHouse 中的数据库进行同步
提示

了解我们的 Managed Postgres 服务。该服务基于与计算节点物理同机部署的 NVMe 存储，与使用 EBS 等网络附加存储的其他方案相比，对于受磁盘限制的工作负载可提供高达 10 倍的性能提升，并且允许你通过 ClickPipes 中的 Postgres CDC（变更数据捕获）连接器将 Postgres 数据复制到 ClickHouse。

使用 PostgreSQL 表引擎​

PostgreSQL 表引擎允许 ClickHouse 对存储在远程 PostgreSQL 服务器上的数据执行 SELECT 和 INSERT 操作。 本文将通过单个表来演示基本的集成方法。

1. 设置 PostgreSQL​

  1. 在 postgresql.conf 中添加以下条目，以便让 PostgreSQL 监听网络接口：
  listen_addresses = '*'
  1. 创建一个供 ClickHouse 连接使用的用户。出于演示目的，本示例授予完整的超级用户权限。
  CREATE ROLE clickhouse_user SUPERUSER LOGIN PASSWORD 'ClickHouse_123';
  1. 在 PostgreSQL 中创建新数据库：
  CREATE DATABASE db_in_psg;
  1. 创建新表：
  CREATE TABLE table1 (
      id         integer primary key,
      column1    varchar(10)
  );
  1. 让我们添加几行测试数据：
  INSERT INTO table1
    (id, column1)
  VALUES
    (1, 'abc'),
    (2, 'def');
  1. 要配置 PostgreSQL 以允许使用新用户连接到新数据库进行复制，请在 pg_hba.conf 文件中添加以下条目。将其中的地址行更新为 PostgreSQL 服务器所在的子网或 IP 地址：
  # TYPE  DATABASE        USER            ADDRESS                 METHOD
  host    db_in_psg             clickhouse_user 192.168.1.0/24          password
  1. 重新加载 pg_hba.conf 配置（根据您的版本调整此命令）：
  /usr/pgsql-12/bin/pg_ctl reload
  1. 验证新的 clickhouse_user 是否可以登录：
  psql -U clickhouse_user -W -d db_in_psg -h <your_postgresql_host>
注意

如果您在 ClickHouse Cloud 中使用此功能，可能需要将 ClickHouse Cloud 的 IP 地址加入允许列表，以便访问您的 PostgreSQL 实例。 有关出站流量的详细信息，请查看 ClickHouse 的 Cloud Endpoints API。

2. 在 ClickHouse 中定义一张表​

  1. 登录 clickhouse-client:
  clickhouse-client --user default --password ClickHouse123!
  1. 创建一个新数据库：
  CREATE DATABASE db_in_ch;
  1. 创建一个使用 PostgreSQL 的表：
  CREATE TABLE db_in_ch.table1
  (
      id UInt64,
      column1 String
  )
  ENGINE = PostgreSQL('postgres-host.domain.com:5432', 'db_in_psg', 'table1', 'clickhouse_user', 'ClickHouse_123');

至少需要以下参数：

parameterDescriptionexample
host:port主机名或 IP 和端口postgres-host.domain.com:5432
databasePostgreSQL 数据库名称db_in_psg
user用于连接 PostgreSQL 的用户名clickhouse_user
password用于连接 PostgreSQL 的密码ClickHouse_123
注意

查看 PostgreSQL 表引擎 文档页面以获取完整的参数列表。

3 测试集成​

  1. 在 ClickHouse 中查看初始数据行：
  SELECT * FROM db_in_ch.table1

ClickHouse 表应会自动填充为包含 PostgreSQL 表中原本已存在的那两行数据：

  Query id: 34193d31-fe21-44ac-a182-36aaefbd78bf

  ┌─id─┬─column1─┐
  │  1 │ abc     │
  │  2 │ def     │
  └────┴─────────┘
  1. 回到 PostgreSQL 中，在该表中再添加几行记录：
  INSERT INTO table1
    (id, column1)
  VALUES
    (3, 'ghi'),
    (4, 'jkl');
  1. 这两行新数据应当出现在 ClickHouse 的表中：
  SELECT * FROM db_in_ch.table1

响应应如下：

  Query id: 86fa2c62-d320-4e47-b564-47ebf3d5d27b

  ┌─id─┬─column1─┐
  │  1 │ abc     │
  │  2 │ def     │
  │  3 │ ghi     │
  │  4 │ jkl     │
  └────┴─────────┘
  1. 我们来看看向 ClickHouse 表中插入数据时会发生什么：
  INSERT INTO db_in_ch.table1
    (id, column1)
  VALUES
    (5, 'mno'),
    (6, 'pqr');
  1. 在 ClickHouse 中新增的行应当出现在 PostgreSQL 的表中：
  db_in_psg=# SELECT * FROM table1;
  id | column1
  ----+---------
    1 | abc
    2 | def
    3 | ghi
    4 | jkl
    5 | mno
    6 | pqr
  (6 rows)

本示例演示了使用 PostrgeSQL 表引擎在 PostgreSQL 和 ClickHouse 之间进行基础集成。

请参阅 PostgreSQL 表引擎的文档页面，了解更多功能，例如指定 schema、仅返回部分列以及连接到多个副本。另请参阅博客文章：ClickHouse and PostgreSQL - a match made in data heaven - part 1。

使用 MaterializedPostgreSQL 数据库引擎​

Not supported in ClickHouse Cloud
Experimental feature. Learn more.

PostgreSQL 数据库引擎利用 PostgreSQL 的复制功能来创建该数据库的副本，副本中可以包含全部或部分 schema 和表。 本文通过一个数据库、一个 schema 和一张表来演示基本的集成方法。

在以下步骤中，将使用 PostgreSQL 命令行客户端 (psql) 和 ClickHouse 命令行客户端 (clickhouse-client)。PostgreSQL 服务器安装在 Linux 上。下面给出的配置是针对全新测试安装的 PostgreSQL 数据库的最小配置。

1. 在 PostgreSQL 中​

  1. 在 postgresql.conf 中，设置基本的监听参数、WAL 复制级别以及复制槽：

添加如下条目：

listen_addresses = '*'
max_replication_slots = 10
wal_level = logical

ClickHouse 至少需要 logical 的 wal 级别，并且至少需要 2 个复制槽

  1. 使用管理员账户创建一个供 ClickHouse 连接使用的用户：
CREATE ROLE clickhouse_user SUPERUSER LOGIN PASSWORD 'ClickHouse_123';

*出于演示目的，已授予完整的超级用户权限。

  1. 创建新数据库：
CREATE DATABASE db1;
  1. 在 psql 中连接到新数据库：
\connect db1
  1. 创建新表：
CREATE TABLE table1 (
    id         integer primary key,
    column1    varchar(10)
);
  1. 添加初始数据行：
INSERT INTO table1
(id, column1)
VALUES
(1, 'abc'),
(2, 'def');
  1. 配置 PostgreSQL，允许使用新用户连接到新数据库以进行复制。下面是在 pg_hba.conf 文件中需要添加的最小必要条目：
# TYPE  DATABASE        USER            ADDRESS                 METHOD
host    db1             clickhouse_user 192.168.1.0/24          password

*出于演示目的，这里使用明文密码认证方式进行身份验证。请根据 PostgreSQL 文档，将该地址行更新为相应的子网或服务器地址。

  1. 使用类似如下的方式重新加载 pg_hba.conf 配置（根据你的版本进行调整）：
/usr/pgsql-12/bin/pg_ctl reload
  1. 使用新的 clickhouse_user 账号测试登录：
 psql -U clickhouse_user -W -d db1 -h <your_postgresql_host>

2. 在 ClickHouse 中​

  1. 登录 ClickHouse CLI
clickhouse-client --user default --password ClickHouse123!
  1. 为数据库引擎启用 PostgreSQL 实验性功能：
SET allow_experimental_database_materialized_postgresql=1
  1. 创建要进行复制的新数据库，并定义初始表：
CREATE DATABASE db1_postgres
ENGINE = MaterializedPostgreSQL('postgres-host.domain.com:5432', 'db1', 'clickhouse_user', 'ClickHouse_123')
SETTINGS materialized_postgresql_tables_list = 'table1';

最小必需选项：

parameterDescriptionexample
host:port主机名或 IP 和端口postgres-host.domain.com:5432
databasePostgreSQL 数据库名称db1
user连接到 PostgreSQL 的用户名clickhouse_user
password连接到 PostgreSQL 的密码ClickHouse_123
settings引擎的额外设置materialized_postgresql_tables_list = 'table1'
信息

有关 PostgreSQL 数据库引擎的完整指南，请参阅 https://clickhouse.com/docs/engines/database-engines/materialized-postgresql/#settings

  1. 验证初始表中是否有数据：
ch_env_2 :) select * from db1_postgres.table1;

SELECT *
FROM db1_postgres.table1

Query id: df2381ac-4e30-4535-b22e-8be3894aaafc

┌─id─┬─column1─┐
│  1 │ abc     │
└────┴─────────┘
┌─id─┬─column1─┐
│  2 │ def     │
└────┴─────────┘

3. 测试基本复制​

  1. 在 PostgreSQL 中添加新行：
INSERT INTO table1
(id, column1)
VALUES
(3, 'ghi'),
(4, 'jkl');
  1. 在 ClickHouse 中检查是否能看到新增的行：
ch_env_2 :) select * from db1_postgres.table1;

SELECT *
FROM db1_postgres.table1

Query id: b0729816-3917-44d3-8d1a-fed912fb59ce

┌─id─┬─column1─┐
│  1 │ abc     │
└────┴─────────┘
┌─id─┬─column1─┐
│  4 │ jkl     │
└────┴─────────┘
┌─id─┬─column1─┐
│  3 │ ghi     │
└────┴─────────┘
┌─id─┬─column1─┐
│  2 │ def     │
└────┴─────────┘

4. 总结​

本集成指南重点通过一个简单示例说明如何复制一个包含单个表的数据库，不过也有更高级的选项，例如复制整个数据库，或在现有复制基础上新增表和模式（schema）。虽然此复制方式不支持 DDL 命令，但可以将引擎配置为在发生结构性变更时检测更改并重新加载表。

信息

有关高级选项可用的更多功能，请参阅参考文档。