s3Cluster 表函数
这是对 s3 表函数的扩展。
允许在指定集群中的多个节点上并行处理来自 Amazon S3 和 Google Cloud Storage Google Cloud Storage 的文件。在发起者处,它会创建与集群中所有节点的连接,披露 S3 文件路径中的星号,并动态分发每个文件。在工作节点上,它会询问发起者下一个要处理的任务并进行处理。这个过程会重复,直到所有任务完成。
语法
参数
参数 | 描述 |
---|---|
cluster_name | 用于构建远程和本地服务器地址及连接参数的集群名称。 |
url | 文件或一组文件的路径。在只读模式下支持以下通配符:* 、** 、? 、{'abc','def'} 和 {N..M} ,其中 N 和 M 是数字,abc 和 def 是字符串。有关更多信息,请参见 路径中的通配符。 |
NOSIGN | 如果在凭证位置提供此关键字,则所有请求将不被签名。 |
access_key_id 和 secret_access_key | 用于指定与给定端点一起使用的凭证的密钥。可选。 |
session_token | 用于给定密钥的会话令牌。在传递密钥时可选。 |
format | 文件的 格式。 |
structure | 表的结构。格式为 'column1_name column1_type, column2_name column2_type, ...' 。 |
compression_method | 参数是可选的。支持的值为:none 、gzip 或 gz 、brotli 或 br 、xz 或 LZMA 、zstd 或 zst 。默认情况下,它会根据文件扩展名自动检测压缩方法。 |
headers | 参数是可选的。允许在 S3 请求中传递头部。格式为 headers(key=value) ,例如 headers('x-amz-request-payer' = 'requester') 。有关用法示例,请参见 这里。 |
extra_credentials | 可选。可以通过此参数传递 roleARN 。有关示例,请参见 这里。 |
参数也可以使用 命名集合 传递。在这种情况下,url
、access_key_id
、secret_access_key
、format
、structure
、compression_method
的工作方式相同,并支持一些额外参数:
参数 | 描述 |
---|---|
filename | 如果指定,则附加到 URL 后面。 |
use_environment_credentials | 默认启用,允许使用环境变量 AWS_CONTAINER_CREDENTIALS_RELATIVE_URI 、AWS_CONTAINER_CREDENTIALS_FULL_URI 、AWS_CONTAINER_AUTHORIZATION_TOKEN 、AWS_EC2_METADATA_DISABLED 传递额外参数。 |
no_sign_request | 默认禁用。 |
expiration_window_seconds | 默认值为 120。 |
返回值
具有指定结构的表,用于读取或写入指定文件中的数据。
示例
选择 /root/data/clickhouse
和 /root/data/database/
文件夹中所有文件的数据,使用 cluster_simple
集群中的所有节点:
计算 cluster_simple
集群中所有文件的总行数:
提示
如果您的文件列表包含带有前导零的数字范围,请分别为每个数字使用带括号的构造或使用 ?
。
对于生产用例,建议使用 命名集合。以下是示例:
访问私有和公共桶
用户可以使用与 s3 函数 这里 相同的方法。
优化性能
有关优化 s3 函数性能的详细信息,请参见 我们的详细指南。