Arrow
输入 | 输出 | 别名 |
---|---|---|
✔ | ✔ |
描述
Apache Arrow 提供了两种内置的列式存储格式。 ClickHouse 支持这两种格式的读写操作。
Arrow
是 Apache Arrow 的“文件模式”格式,旨在支持内存中的随机访问。
数据类型匹配
下表显示了支持的数据类型以及它们如何对应到 ClickHouse 的 数据类型 中,用于 INSERT
和 SELECT
查询。
Arrow 数据类型 (INSERT ) | ClickHouse 数据类型 | Arrow 数据类型 (SELECT ) |
---|---|---|
BOOL | Bool | BOOL |
UINT8 , BOOL | UInt8 | UINT8 |
INT8 | Int8/Enum8 | INT8 |
UINT16 | UInt16 | UINT16 |
INT16 | Int16/Enum16 | INT16 |
UINT32 | UInt32 | UINT32 |
INT32 | Int32 | INT32 |
UINT64 | UInt64 | UINT64 |
INT64 | Int64 | INT64 |
FLOAT , HALF_FLOAT | Float32 | FLOAT32 |
DOUBLE | Float64 | FLOAT64 |
DATE32 | Date32 | UINT16 |
DATE64 | DateTime | UINT32 |
TIMESTAMP , TIME32 , TIME64 | DateTime64 | TIMESTAMP |
STRING , BINARY | String | BINARY |
STRING , BINARY , FIXED_SIZE_BINARY | FixedString | FIXED_SIZE_BINARY |
DECIMAL | Decimal | DECIMAL |
DECIMAL256 | Decimal256 | DECIMAL256 |
LIST | Array | LIST |
STRUCT | Tuple | STRUCT |
MAP | Map | MAP |
UINT32 | IPv4 | UINT32 |
FIXED_SIZE_BINARY , BINARY | IPv6 | FIXED_SIZE_BINARY |
FIXED_SIZE_BINARY , BINARY | Int128/UInt128/Int256/UInt256 | FIXED_SIZE_BINARY |
数组可以嵌套,并且可以将 Nullable
类型的值作为参数。 Tuple
和 Map
类型也可以嵌套。
DICTIONARY
类型支持用于 INSERT
查询,并且对于 SELECT
查询,有一个 output_format_arrow_low_cardinality_as_dictionary
设置,允许将 LowCardinality 类型输出为 DICTIONARY
类型。
不支持的 Arrow 数据类型:
FIXED_SIZE_BINARY
JSON
UUID
ENUM
。
ClickHouse 表列的数据类型不必与相应的 Arrow 数据字段匹配。在插入数据时,ClickHouse 根据上表解释数据类型,然后将数据 转换 为设置的 ClickHouse 表列的数据类型。
示例用法
插入数据
您可以使用以下命令从文件将 Arrow 数据插入 ClickHouse 表中:
查询数据
您可以从 ClickHouse 表中查询数据,并使用以下命令将其保存到 Arrow 格式的文件中:
格式设置
设置 | 描述 | 默认值 |
---|---|---|
input_format_arrow_allow_missing_columns | 读取 Arrow 输入格式时允许缺失列 | 1 |
input_format_arrow_case_insensitive_column_matching | 匹配 Arrow 列与 CH 列时忽略大小写 | 0 |
input_format_arrow_import_nested | 废弃设置,无任何功能 | 0 |
input_format_arrow_skip_columns_with_unsupported_types_in_schema_inference | 在格式 Arrow 的模式推断中跳过具有不支持类型的列 | 0 |
output_format_arrow_compression_method | Arrow 输出格式的压缩方法。支持的编解码器: lz4_frame, zstd, none (未压缩) | lz4_frame |
output_format_arrow_fixed_string_as_fixed_byte_array | 对于 FixedString 列使用 Arrow FIXED_SIZE_BINARY 类型而不是 Binary | 1 |
output_format_arrow_low_cardinality_as_dictionary | 启用将 LowCardinality 类型输出为字典 Arrow 类型 | 0 |
output_format_arrow_string_as_string | 对于字符串列使用 Arrow String 类型而不是 Binary | 1 |
output_format_arrow_use_64_bit_indexes_for_dictionary | 在 Arrow 格式中始终使用 64 位整数作为字典索引 | 0 |
output_format_arrow_use_signed_indexes_for_dictionary | 在 Arrow 格式中使用有符号整数作为字典索引 | 1 |