pg_clickhouse リファレンスドキュメント

はじめに

オープンソースの PostgreSQL 拡張機能である [pg_clickhouse] は、SQL を書き換えることなく、 PostgreSQL から直接 ClickHouse 上で分析クエリを実行できます。PostgreSQL 13 以降と ClickHouse v23 以降をサポートしています。

ClickPipes によるデータの ClickHouse への同期が始まったら、 pg_clickhouse を使って PostgreSQL のスキーマに[外部テーブルをインポート]できます。その後は、それらのテーブルに対して既存の PostgreSQL クエリをそのまま実行できるため、既存のコードベースを維持したまま、実行処理を ClickHouse にオフロードできます。

はじめに

pg_clickhouse を試す最も簡単な方法は、Docker image を使用することです。これには、 pg_clickhouse と re2 の拡張機能が含まれた標準の PostgreSQL Docker イメージが含まれています。

docker run --name pg_clickhouse -e POSTGRES_PASSWORD=my_pass \
       -d ghcr.io/clickhouse/pg_clickhouse:18
docker exec -it pg_clickhouse psql -U postgres -c 'CREATE EXTENSION pg_clickhouse'

ClickHouseテーブルのインポートやクエリのプッシュダウンを始めるには、 tutorialを参照してください。

テストケース: TPC-H

この表は、通常の PostgreSQL テーブルと、ClickHouse に接続した pg_clickhouse における TPC-H クエリの性能を比較したものです。いずれもスケーリングファクター 1 でデータをロードしています。✔︎ は完全なプッシュダウンを示し、ダッシュは 1 分後にクエリがキャンセルされたことを示します。すべてのテストは、36 GB メモリ搭載の MacBook Pro M4 Max 上で実行しています。

クエリ	PostgreSQL	pg_clickhouse	プッシュダウン
[Query 1]	4693 ms	268 ms	✔︎
[Query 2]	458 ms	3446 ms
[Query 3]	742 ms	111 ms	✔︎
[Query 4]	270 ms	130 ms	✔︎
[Query 5]	337 ms	1460 ms	✔︎
[Query 6]	764 ms	53 ms	✔︎
[Query 7]	619 ms	96 ms	✔︎
[Query 8]	342 ms	156 ms	✔︎
[Query 9]	3094 ms	298 ms	✔︎
[Query 10]	581 ms	197 ms	✔︎
[Query 11]	212 ms	24 ms
[Query 12]	1116 ms	84 ms	✔︎
[Query 13]	958 ms	1368 ms
[Query 14]	181 ms	73 ms	✔︎
[Query 15]	1118 ms	557 ms
[Query 16]	497 ms	1714 ms
[Query 17]	1846 ms	32709 ms
[Query 18]	5823 ms	10649 ms
[Query 19]	53 ms	206 ms	✔︎
[Query 20]	421 ms	-
[Query 21]	1349 ms	4434 ms
[Query 22]	258 ms	1415 ms

ソースコードからコンパイル

一般的な Unix

PostgreSQL と curl の開発パッケージには pg_config と curl-config がパスに含まれているため、通常は make (または gmake) を実行し、続けて make install を実行した後、データベースで CREATE EXTENSION pg_clickhouse を実行するだけで済みます。

Debian / Ubuntu / APT

PostgreSQL Apt リポジトリから取得する方法の詳細は、PostgreSQL Apt を参照してください。

sudo apt install \
  postgresql-server-18 \
  libcurl4-openssl-dev \
  uuid-dev \
  libssl-dev \
  make \
  cmake \
  g++

RedHat / CentOS / Yum

sudo yum install \
  postgresql-server \
  libcurl-devel \
  libuuid-devel \
  openssl-libs \
  automake \
  cmake \
  gcc

PostgreSQL Yum リポジトリから取得する方法の詳細は、PostgreSQL Yum を参照してください。

PGXN からインストール

上記の依存関係を満たしたら、PGXN client (Homebrew、Apt、および pgxnclient という名前の Yum パッケージとして提供) を使用して、pg_clickhouse をダウンロード、コンパイル、インストールします。

pgxn install pg_clickhouse

コンパイルとインストール

ClickHouseライブラリとpg_clickhouseをビルドしてインストールするには、以下を実行します。

make
sudo make install

ホストに PostgreSQL が複数インストールされている場合は、適切なバージョンの pg_config を指定する必要があることがあります。

export PG_CONFIG=/usr/lib/postgresql/18/bin/pg_config
make
sudo make install

ホストで curl-config がパスに含まれていない場合は、パスを明示的に指定できます:

export CURL_CONFIG=/opt/homebrew/opt/curl/bin/curl-config
make
sudo make install

次のようなエラーが発生した場合:

"Makefile", line 8: Need an operator

GNU make を使用する必要があります。システムでは gmake としてインストールされている場合があります。

gmake
gmake install
gmake installcheck

次のようなエラーが表示された場合:

make: pg_config: Command not found

pg_config がインストールされ、パスが通っていることを確認してください。PostgreSQL を RPM などのパッケージ管理システムでインストールした場合は、 -devel パッケージもインストールされていることを確認してください。必要に応じて、ビルド時にその場所を指定してください:

export PG_CONFIG=/path/to/pg_config
make
sudo make install

PostgreSQL 18 以降で拡張機能をカスタムプレフィックスにインストールするには、 install に prefix 引数を渡します (ほかの make ターゲットには渡しません) :

sudo make install prefix=/usr/local/extras

次に、以下の[postgresql.conf パラメータ]にプレフィックスが含まれていることを確認してください。

extension_control_path = '/usr/local/extras/postgresql/share:$system'
dynamic_library_path   = '/usr/local/extras/postgresql/lib:$libdir'

テスト

テストスイートを実行するには、拡張機能のインストール後に、次を実行します

make installcheck

次のようなエラーが発生した場合:

ERROR:  must be owner of database regression

テストスイートは、デフォルトの "postgres" スーパーユーザーなどのスーパーユーザーで実行する必要があります:

make installcheck PGUSER=postgres

読み込み

pg_clickhouse をインストールしたら、スーパーユーザーとして接続し、次を実行してデータベースに追加します。

CREATE EXTENSION pg_clickhouse;

pg_clickhouse とその関連オブジェクトをすべて特定のスキーマにインストールする場合は、SCHEMA 句を使用してスキーマを指定します。次のように指定します。

CREATE SCHEMA env;
CREATE EXTENSION pg_clickhouse SCHEMA env;

依存関係

pg_clickhouse 拡張機能を使用するには、PostgreSQL 13 以降、libcurl、 libuuid が必要です。拡張機能のビルドには、C/C++ コンパイラ、libSSL、GNU make、CMake が必要です。

ロードマップ

現在の最優先事項は、DML 機能を追加する前に、分析ワークロード向けのプッシュダウン対応を完了させることです。ロードマップは次のとおりです。

残り 10 件の未プッシュダウンの TPC-H クエリについて、最適な実行計画を立てられるようにする
ClickBench クエリに対するプッシュダウンをテストし、修正する
PostgreSQL のすべての集約関数の透過的なプッシュダウンをサポートする
PostgreSQL のすべての関数の透過的なプッシュダウンをサポートする
CREATE SERVER と GUCs により、サーバーレベルおよびセッションレベルの ClickHouse 設定を可能にする
すべての ClickHouse データ型をサポートする
論理削除と UPDATE をサポートする
COPY による一括挿入をサポートする
任意の ClickHouse クエリを実行し、その結果をテーブルとして返す関数を追加する
すべてのクエリの対象がリモートデータベースである場合の UNION クエリのプッシュダウンをサポートする

著者

著作権

はじめに​

はじめに​

テストケース: TPC-H​

ソースコードからコンパイル​

一般的な Unix​

Debian / Ubuntu / APT​

RedHat / CentOS / Yum​

PGXN からインストール​

コンパイルとインストール​

テスト​

読み込み​

依存関係​

ロードマップ​

著者​

著作権​

はじめに

はじめに

テストケース: TPC-H

ソースコードからコンパイル

一般的な Unix

Debian / Ubuntu / APT

RedHat / CentOS / Yum

PGXN からインストール

コンパイルとインストール

テスト

読み込み

依存関係

ロードマップ

著者

著作権