S3Queue 表引擎
该引擎提供与 Amazon S3 生态系统的集成,并允许流式导入。该引擎类似于 Kafka 和 RabbitMQ 引擎,但提供了 S3 特定的功能。
重要的是要理解 S3Queue 实现的原始 PR 中的说明:当 MATERIALIZED VIEW
连接到引擎时,S3Queue 表引擎开始在后台收集数据。
创建表
在 24.7
之前,除了 mode
、after_processing
和 keeper_path
外,所有设置都需要使用 s3queue_
前缀。
引擎参数
S3Queue
参数与 S3
表引擎支持的参数相同。有关参数的详细信息,请参见 此处。
示例
使用命名集合:
设置
要获取已为表配置的设置列表,请使用 system.s3_queue_settings
表。从 24.10
开始可用。
模式
可选值:
- unordered — 在无序模式下,所有已处理文件的集合通过 ZooKeeper 中的持久节点进行跟踪。
- ordered — 在有序模式下,文件按字典顺序处理。这意味着如果名为 'BBB' 的文件在某个时刻被处理,而后名为 'AA' 的文件添加到桶中,则该文件将被忽略。只有成功消费的文件的最大名称(按字典顺序)和在不成功加载尝试后将会重试的文件名会被存储在 ZooKeeper 中。
默认值:在 24.6 之前为 ordered
。从 24.6 开始没有默认值,设置成为必需手动指定。对于在早期版本上创建的表,默认值将保持为 Ordered
以保持兼容性。
after_processing
在成功处理后删除或保留文件。 可选值:
- keep.
- delete.
默认值:keep
。
keeper_path
ZooKeeper 中的路径可以作为表引擎设置指定,或者默认路径可以从全局配置提供的路径和表 UUID 生成。 可选值:
- 字符串。
默认值:/
。
s3queue_loading_retries
最多重试指定次数的文件加载。默认情况下,没有重试。 可选值:
- 正整数。
默认值:0
。
s3queue_processing_threads_num
执行处理的线程数。仅适用于 Unordered
模式。
默认值:CPU 数或 16。
s3queue_parallel_inserts
默认情况下,processing_threads_num
将产生一个 INSERT
,因此它只会下载文件并在多个线程中解析。
但这会限制并行性,因此为了更好的吞吐率使用 parallel_inserts=true
,这将允许并行插入数据(但请注意,这将导致生成更多的 MergeTree 家族的数据部分)。
INSERT
s 将根据 max_process*_before_commit
设置生成。
默认值:false
。
s3queue_enable_logging_to_s3queue_log
启用日志记录到 system.s3queue_log
。
默认值:0
。
s3queue_polling_min_timeout_ms
指定 ClickHouse 在进行下一个轮询尝试之前等待的最短时间(以毫秒为单位)。
可选值:
- 正整数。
默认值:1000
。
s3queue_polling_max_timeout_ms
定义 ClickHouse 在启动下一个轮询尝试之前等待的最长时间(以毫秒为单位)。
可选值:
- 正整数。
默认值:10000
。
s3queue_polling_backoff_ms
确定在未找到新文件时,添加到上一个轮询间隔的额外等待时间。下一个轮询在上一个间隔与此退避值的总和,或最大间隔中取较小者后发生。
可选值:
- 正整数。
默认值:0
。
s3queue_tracked_files_limit
如果使用了 'unordered' 模式,可以限制 ZooKeeper 节点的数量,对于 'ordered' 模式则无效。 如果达到限制,将从 ZooKeeper 节点删除最旧的已处理文件并重新处理。
可选值:
- 正整数。
默认值:1000
。
s3queue_tracked_file_ttl_sec
最大以秒为单位在 ZooKeeper 节点中存储已处理文件的时间(默认永久存储)对于 'unordered' 模式无效,对于 'ordered' 模式同样无效。 在指定的秒数之后,文件将被重新导入。
可选值:
- 正整数。
默认值:0
。
s3queue_cleanup_interval_min_ms
对于 'Ordered' 模式。定义后台任务的重新调度间隔的最小边界,该任务负责维护跟踪文件的 TTL 和最大跟踪文件集。
默认值:10000
。
s3queue_cleanup_interval_max_ms
对于 'Ordered' 模式。定义后台任务的重新调度间隔的最大边界,该任务负责维护跟踪文件的 TTL 和最大跟踪文件集。
默认值:30000
。
s3queue_buckets
对于 'Ordered' 模式。从 24.6
开始可用。如果有多个 S3Queue 表的副本,每个副本都在 keeper 中使用相同的元数据目录,则 s3queue_buckets
的值至少需要等于副本的数量。如果同时使用了 s3queue_processing_threads
设置,进一步增加 s3queue_buckets
的值是有意义的,因为它定义了 S3Queue
处理的实际并行性。
use_persistent_processing_nodes
默认情况下,S3Queue 表始终使用临时处理节点,这可能导致数据重复,因为如果 ZooKeeper 会话在 S3Queue 提交已处理文件之前过期,但在开始处理之后则会出现这种情况。此设置强制服务器在会话过期的情况下消除重复的可能性。
persistent_processing_nodes_ttl_seconds
在非正常的服务器终止情况下,如果启用 use_persistent_processing_nodes
,可能会有未删除的处理节点。此设置定义了可以安全清理这些处理节点的时间段。
默认值:3600
(1小时)。
S3 相关设置
引擎支持所有 S3 相关设置。有关 S3 设置的更多信息,请参见 此处。
S3 基于角色的访问
S3 Role-Based Access is available in the Scale and Enterprise plans. To upgrade, visit the Plans page in the cloud console.
s3Queue 表引擎支持基于角色的访问。 有关配置角色以访问您的存储桶的步骤,请参阅文档 此处。
角色配置完成后,可以通过 extra_credentials
参数传递 roleARN
,如下所示:
S3Queue 有序模式
S3Queue
处理模式允许在 ZooKeeper 中存储更少的元数据,但有一个限制,即后添加的文件名称必须在字母数字顺序上大于之前的名称。
S3Queue
ordered
模式和 unordered
一样,支持 (s3queue_)processing_threads_num
设置(s3queue_
前缀为可选),该设置允许控制在服务器上本地处理 S3
文件的线程数。
此外,ordered
模式还引入了名为 (s3queue_)buckets
的另一个设置,表示“逻辑线程”。这意味着在分布式场景下,当有多个服务器与 S3Queue
表的副本时,此设置定义了处理单元的数量。例如,每个 S3Queue
副本上的每个处理线程将尝试锁定某个 bucket
以进行处理,每个 bucket
通过文件名的哈希与特定文件相关联。因此,在分布式场景中,强烈建议将 (s3queue_)buckets
设置至少设置为副本的数量或更大。桶的数量大于副本的数量也是可以的。最优场景是将 (s3queue_)buckets
设置等于 number_of_replicas
和 (s3queue_)processing_threads_num
的乘积。
不建议在 24.6
版本之前使用 (s3queue_)processing_threads_num
设置。
(s3queue_)buckets
设置自 24.6
版本起可用。
描述
SELECT
对于流式导入并不是特别有用(除非用于调试),因为每个文件只能被导入一次。使用 物化视图 创建实时线程更实用。为此:
- 使用引擎创建一个表以从 S3 中指定路径进行消费,并将其视为数据流。
- 创建一个具有所需结构的表。
- 创建一个物化视图,将引擎中的数据转换并放入先前创建的表中。
当 MATERIALIZED VIEW
连接到引擎时,将开始在后台收集数据。
示例:
虚拟列
_path
— 文件路径。_file
— 文件名。_size
— 文件大小。_time
— 文件创建时间。
有关虚拟列的更多信息,请参见 此处。
路径中的通配符
path
参数可以使用类似 bash 的通配符指定多个文件。要进行处理,文件必须存在并与整个路径模式匹配。文件列出在 SELECT
时决定(而不是在 CREATE
时)。
*
— 替代任何数量的任意字符(不包括/
),包括空字符串。**
— 替代任何数量的任意字符(包括/
),包括空字符串。?
— 替代任意单个字符。{some_string,another_string,yet_another_one}
— 替代任意字符串'some_string', 'another_string', 'yet_another_one'
。{N..M}
— 替代范围内的任何数值,从 N 到 M,包括两个边界。N 和 M 可以有前导零,例如000..078
。
带有 {}
的结构类似于 remote 表函数。
限制
- 重复行可能会导致:
-
在文件处理过程中发生解析异常,并且启用了通过
s3queue_loading_retries
的重试; -
S3Queue
在多个服务器上配置,指向 ZooKeeper 中的相同路径,而 Keeper 会话在一台服务器成功提交已处理文件之前过期,这可能导致另一台服务器接管文件处理,该文件可能已被第一台服务器部分或完全处理;然而,自 25.8 版本以来,如果use_persistent_processing_nodes = 1
,则不再存在这种情况。 -
异常的服务器终止。
- 当
S3Queue
在多个服务器上配置并指向 ZooKeeper 中的相同路径,并且使用Ordered
模式时,则s3queue_loading_retries
将无效。这个问题将很快修复。
内省
要进行内省,请使用 system.s3queue
无状态表和 system.s3queue_log
持久表。
system.s3queue
。此表不是持久的,显示S3Queue
的内存状态:当前正在处理的文件、已处理的文件或失败的文件。
示例:
system.s3queue_log
。持久表。具有与system.s3queue
相同的信息,但针对processed
和failed
文件。
该表的结构如下:
为了使用 system.s3queue_log
,请在服务器配置文件中定义其配置:
示例: