跳到主要内容
跳到主要内容

在 ClickHouse 中使用原生和二进制格式

ClickHouse 支持多种二进制格式,这些格式可以提高性能和空间效率。二进制格式在字符编码方面也是安全的,因为数据以二进制形式保存。

我们将使用 some_data 数据 进行演示,欢迎您在自己的 ClickHouse 实例中复现。

导出为 ClickHouse 原生格式

在 ClickHouse 节点之间导入和导出数据的最有效格式是 Native 格式。导出是通过 INTO OUTFILE 子句完成的:

SELECT * FROM some_data
INTO OUTFILE 'data.clickhouse' FORMAT Native

这将创建一个名为 data.clickhouse 的文件,格式为原生格式。

从原生格式导入

要导入数据,我们可以针对较小的文件或探索目的使用 file()

DESCRIBE file('data.clickhouse', Native);
┌─name──┬─type───┬─default_type─┬─default_expression─┬─comment─┬─codec_expression─┬─ttl_expression─┐
│ path  │ String │              │                    │         │                  │                │
│ month │ Date   │              │                    │         │                  │                │
│ hits  │ UInt32 │              │                    │         │                  │                │
└───────┴────────┴──────────────┴────────────────────┴─────────┴──────────────────┴────────────────┘
提示

使用 file() 函数时,使用 ClickHouse Cloud 时需要在文件所在的机器上运行 clickhouse client 中的命令。另一种选择是使用 clickhouse-local 在本地探索文件。

在生产中,我们使用 FROM INFILE 导入数据:

INSERT INTO sometable
FROM INFILE 'data.clickhouse'
FORMAT Native

原生格式压缩

我们还可以在将数据导出为原生格式时启用压缩(同样适用于大多数其他格式),使用 COMPRESSION 子句:

SELECT * FROM some_data
INTO OUTFILE 'data.clickhouse'
COMPRESSION 'lz4'
FORMAT Native

我们使用 LZ4 压缩进行导出。在导入数据时必须指定它:

INSERT INTO sometable
FROM INFILE 'data.clickhouse'
COMPRESSION 'lz4'
FORMAT Native

导出到 RowBinary

另一个支持的二进制格式是 RowBinary,它允许以二进制表示的行导入和导出数据:

SELECT * FROM some_data
INTO OUTFILE 'data.binary' FORMAT RowBinary

这将生成一个名为 data.binary 的文件,格式为二进制行格式。

探索 RowBinary 文件

此格式不支持自动模式推断,因此在加载之前,我们必须显式定义模式:

SELECT *
FROM file('data.binary', RowBinary, 'path String, month Date, hits UInt32')
LIMIT 5
┌─path───────────────────────────┬──────month─┬─hits─┐
│ Bangor_City_Forest             │ 2015-07-01 │   34 │
│ Alireza_Afzal                  │ 2017-02-01 │   24 │
│ Akhaura-Laksam-Chittagong_Line │ 2015-09-01 │   30 │
│ 1973_National_500              │ 2017-10-01 │   80 │
│ Attachment                     │ 2017-09-01 │ 1356 │
└────────────────────────────────┴────────────┴──────┘

考虑使用 RowBinaryWithNames,它还会添加一个带有列列表的标题行。RowBinaryWithNamesAndTypes 还将添加一个带有列类型的额外标题行。

从 RowBinary 文件导入

要从 RowBinary 文件加载数据,我们可以使用 FROM INFILE 子句:

INSERT INTO sometable
FROM INFILE 'data.binary'
FORMAT RowBinary

使用 RawBLOB 导入单个二进制值

假设我们想读取整个二进制文件并将其保存到表中的一个字段中。 此时可以使用 RawBLOB 格式。该格式只能与单列表直接使用:

CREATE TABLE images(data String) ENGINE = Memory

让我们将一个图像文件保存到 images 表中:

cat image.jpg | clickhouse-client -q "INSERT INTO images FORMAT RawBLOB"

我们可以检查 data 字段的长度,它将等于原始文件的大小:

SELECT length(data) FROM images
┌─length(data)─┐
│         6121 │
└──────────────┘

导出 RawBLOB 数据

此格式也可以用来通过 INTO OUTFILE 子句导出数据:

SELECT * FROM images LIMIT 1
INTO OUTFILE 'out.jpg'
FORMAT RawBLOB

注意,我们必须使用 LIMIT 1,因为导出多个值将创建一个损坏的文件。

MessagePack

ClickHouse 支持使用 MsgPack 导入和导出 MessagePack。要导出为 MessagePack 格式:

SELECT *
FROM some_data
INTO OUTFILE 'data.msgpk'
FORMAT MsgPack

要从 MessagePack 文件 导入数据:

INSERT INTO sometable
FROM INFILE 'data.msgpk'
FORMAT MsgPack

Protocol Buffers

Not supported in ClickHouse Cloud

要使用 Protocol Buffers,我们首先需要定义一个 schema file

syntax = "proto3";

message MessageType {
  string path = 1;
  date month = 2;
  uint32 hits = 3;
};

此模式文件 (schema.proto 在我们的例子中) 的路径在 Protobuf 格式的 format_schema 设置选项中指定:

SELECT * FROM some_data
INTO OUTFILE 'proto.bin'
FORMAT Protobuf
SETTINGS format_schema = 'schema:MessageType'

这会将数据保存到 proto.bin 文件中。ClickHouse 还支持导入 Protobuf 数据以及嵌套消息。考虑使用 ProtobufSingle 来处理单个 Protocol Buffer 消息(在这种情况下将省略长度分隔符)。

Cap'n Proto

Not supported in ClickHouse Cloud

ClickHouse 支持的另一种流行二进制序列化格式是 Cap'n Proto。与 Protobuf 格式类似,我们必须在示例中定义一个模式文件 (schema.capnp):

@0xec8ff1a10aa10dbe;

struct PathStats {
  path @0 :Text;
  month @1 :UInt32;
  hits @2 :UInt32;
}

现在我们可以使用 CapnProto 格式和此模式进行导入和导出:

SELECT
    path,
    CAST(month, 'UInt32') AS month,
    hits
FROM some_data
INTO OUTFILE 'capnp.bin'
FORMAT CapnProto
SETTINGS format_schema = 'schema:PathStats'

请注意,我们必须将 Date 列强制转换为 UInt32匹配相应的类型

其他格式

ClickHouse 引入了对多种格式的支持,包括文本和二进制,以涵盖各种场景和平台。请在以下文章中探索更多格式及其使用方法:

同时查看 clickhouse-local - 一款便携式功能齐全的工具,可在不启动 ClickHouse 服务器的情况下处理本地/远程文件。