ClickHouse Cloud 不支持基于 XML 的 profile 和配置文件。因此,在 ClickHouse Cloud 中,你不会找到
config.xml 文件。应改用 SQL 命令通过 profile 管理设置。更多详情,请参阅“配置设置”/etc/clickhouse-server/config.xml 作为配置文件,但也可以在服务器启动时使用命令行选项 --config-file 或 -C 手动指定配置文件的位置。
如果这两个选项均未指定,服务器会在当前工作目录中依次查找 config.xml、config.yaml 和 config.yml,并使用找到的第一个文件。
如果这些文件都不存在,服务器将使用内嵌在二进制文件中的配置启动。
通过 --config-file 指定的文件会被原样使用:如果该文件不存在,服务器会直接报错,而不会去查找其他扩展名的同名文件。
clickhouse-keeper 遵循相同的规则,对应的文件为 keeper_config.xml、keeper_config.yaml 和 keeper_config.yml。
其他配置文件可以放在相对于主配置文件的 config.d/ 目录中,例如 /etc/clickhouse-server/config.d/ 目录。
在这些目录中的文件和主配置会在配置应用到 ClickHouse 服务器之前,通过预处理步骤先合并。
配置片段会按其完整路径的词典序合并。对于标准 config.d/ 目录中的文件,这等同于按文件名排序。旧版 conf.d/ 目录也会合并;由于 conf.d 排在 config.d 之前,因此当两个目录都存在时,其中的所有片段会先被处理。
为简化更新并提高模块化程度,最佳实践是保持默认的 config.xml 文件不作修改,并将额外的自定义配置放入 config.d/ 中。
ClickHouse Keeper 的配置位于 /etc/clickhouse-keeper/keeper_config.xml。
同样,Keeper 的其他配置文件需要放在 /etc/clickhouse-keeper/keeper_config.d/ 中。
可以混合使用 XML 和 YAML 配置文件,例如,你可以有一个主配置文件 config.xml,以及其他配置文件 config.d/network.xml、config.d/timezone.yaml 和 config.d/keeper.yaml。
不支持在同一个配置文件中混合使用 XML 和 YAML。
XML 配置文件应使用 <clickhouse>...</clickhouse> 作为顶层标签。
在 YAML 配置文件中,clickhouse: 是可选的;如果省略,解析器会自动插入它。
合并配置
config.d/ 的另一个配置文件) 会按如下方式合并:
- 如果某个节点 (即通向某个元素的 path) 同时出现在两个文件中,且不带有
replace或remove属性,则该节点会包含在合并后的配置文件中,两个节点的子节点也都会被包含并递归合并。 - 如果两个节点中的一个包含
replace属性,则该节点会包含在合并后的配置文件中,但只会包含带有replace属性的那个节点的子节点。 - 如果两个节点中的一个包含
remove属性,则该节点不会包含在合并后的配置文件中 (如果它已存在,则会被删除) 。
config.xml
config.d/other_config.xml
通过环境变量和 ZooKeeper 节点进行替换
from_env。
例如,当环境变量 $MAX_QUERY_SIZE = 150000 时:
from_zk (ZooKeeper 节点) 实现同样的功能:
值的解释方式
from_env 和 from_zk 对替换值的解释方式不同:
- 通过
from_env直接替换的值会被视为字面文本。&、<和>等 XML 特殊字符会自动转义,因此环境变量可以包含任何 XML 可表示的值,例如a&b<c>d,而不会破坏配置 (参见下文关于 XML 非法控制字符的说明) 。直接替换的值绝不会被解释为 XML,即使它看起来像 XML 片段:<a>1</a>替换后仍是字面文本<a>1</a>。将该属性直接放在<profiles from_env="…"/>这样的普通容器元素上时也是如此:现有的 XML 子树替换必须迁移为<profiles><include from_env="…"/></profiles>。为保持向后兼容,<include from_env="…"/>的行为有所不同:它会将环境变量解析为 XML 片段,并将其子元素插入父元素。 - 通过
from_zk替换的值如何解释,取决于它是否以<开头。以<开头的值始终会被解析为 XML 片段:无论是结构性的<include from_zk="…"/>,还是<profiles from_zk="…"/>这样的普通容器元素,都可以通过这种方式将子树插入元素。保留这一行为是为了向后兼容,因为早期版本始终将from_zk的值解释为 XML。不以<开头的值,只有显式使用<include from_zk="…" yaml="true"/>时才会被解析为 YAML 子树;如果 YAML 格式有误,配置将被拒绝。凡是使用通用的<include>形式,yaml="true"属性都会启用 YAML 解析,包括在叶元素内使用时,因此不要将其用于需要保留字面文本的配置项或机密信息。没有yaml="true"时,不以<开头的值会被视为字面文本,即使通过通用的叶元素替换形式<password><include from_zk="/secret"/></password>使用也是如此。这样,即使值恰好包含 YAML 语法或不是有效的 YAML,例如abc # rotated或[1,也能保留。对于这种形式,只有<include>与周围内容紧接、没有空白文本节点时,才能保留原始字节;对于原始字节必须保持不变的机密信息和叶元素配置项,建议使用直接形式<password from_zk="…"/>。在任何其他元素上,无论是<some_setting from_zk="…"/>或<password from_zk="…"/>这样的叶元素替换,还是<profiles from_zk="…"/>这样的普通容器元素,不以<开头的值也会按原始字节保留为字面文本 (XML 特殊字符会像from_env一样自动转义) 。因此,abc: def这样的值仍是字面文本abc: def,而不会变成<abc>def</abc>子元素。若要将子树插入普通元素 (而非结构性的<include>) ,请提供以<开头的 XML 片段。
字面值必须是有效的 XML 1.0 文本对于 XML 1.0 可表示为文本的每个字符,字面值替换 (
from_env,或不以 < 开头的叶元素 from_zk 值) 都会保留该值的原始字节。XML 1.0 中非法的控制字符——0x00–0x08、0x0B、0x0C 和 0x0E–0x1F——完全无法通过 XML 配置传递 (XML 规范甚至禁止以  这样的数字字符引用形式使用它们) ;如果值中包含此类字符,处理替换时就会拒绝该值。制表符 (\t) 、换行符 (\n) 和回车符 (\r) 是合法的,往返读写后可逐字节保持不变。升级后实体编码的叶元素值如何变化早期版本会将每个直接通过
from_env 获取的值重新解析为 XML,因此未经编码的 &、< 或 > 会因不符合 XML 格式要求而被拒绝。要包含这些字符,只能使用 XML 实体编码:环境变量设为 a&b 时会解码为 a&b,<a>1</a> 会解码为 <a>1</a>, 会解码为回车符。现在,直接通过 from_env 获取的值会被视为字面文本,因此上述环境变量值会分别得到原样的 a&b、<a>1</a> 和 。这意味着,只有纯文本值的含义保持不变:如果环境变量值曾为适配旧的 XML 解析方式而使用实体编码,现在必须改为设置未经编码的文本 (例如设置为 a&b;旧版会拒绝该值,新版则会将其作为字面文本 a&b 接受) 。早期版本会将每个通过 from_zk 获取的叶元素值重新解析为 XML,因此未经编码的 &、< 或 > 会因不符合 XML 格式要求而被拒绝。要包含这些字符,只能使用 XML 实体编码:存储为 a&b 的值会解码为 a&b,<a>1</a> 会解码为 <a>1</a>, 会解码为回车符。现在,不以 < 开头的叶元素值会保留其原始字节,因此上述节点值现在会分别得到原样的 a&b、<a>1</a> 和 。这意味着,只有纯文本标量的含义保持不变:如果叶元素值曾为适配旧的 XML 解析方式而使用实体编码,现在必须改为存储未经编码的文本 (例如存储为 a&b;旧版会拒绝该值,新版则会将其作为字面文本 a&b 接受) 。同样的变化也适用于通过叶元素配置项或机密信息中的内联 <include from_zk="…"/> 替换的纯文本标量,例如 <password><include from_zk="/secret"/></password>:此处的标量现在也会保留其原始字节,因此 /secret = a&b (以前会解码为 a&b) 现在会得到原样的 a&b,必须改为存储未经编码的 a&b。使用这种形式时,不要在其周围添加空白字符,因为这些空白字符也会成为最终配置值的一部分;如果需要确保字节完全一致,优先使用直接指定 <password from_zk="…"/> 的形式。 (以 < 开头的 from_zk 值,以及通过 <include from_zk="…" yaml="true"/> 引用的 YAML 子树不受影响——只有未标记且不以 < 开头的值会按原样保留。)默认值
from_env 或 from_zk 属性的元素还可以额外指定 replace="1" 属性 (后者必须出现在 from_env/from_zk 之前) 。
在这种情况下,该元素可以定义默认值。
如果环境变量或 ZooKeeper 节点已设置,该元素将采用其值;否则将采用默认值。
下面重复前面的示例,不过这里假设 MAX_QUERY_SIZE 未设置:
使用文件内容进行替换
- 替换值:如果某个元素带有
incl属性,其值将被替换为所引用文件的内容。包含替换内容的文件路径由 server 配置中的include_from元素指定;没有默认路径,因此只有在指定后才会读取替换内容。替换值在该文件的/clickhouse/substitution_name元素中指定。如果incl中指定的替换项不存在,则会记录到日志中。要防止 ClickHouse 记录缺失的替换项,请指定属性optional="true"(例如,macros 的设置) 。 - 替换元素:如果要用替换内容替换整个元素,请使用
include作为元素名。元素名include可以与属性from_zk = "/path/to/node"结合使用。在这种情况下,元素值会被替换为 ZooKeeper 中/path/to/node节点的内容。如果将整个 XML 子树存储为 Zookeeper 节点,这种方式同样适用,它会被完整插入到源元素中。
在版本 26.8 中更改:在该版本之前,只要文件
/etc/metrika.xml 存在,即使未指定 include_from,也会隐式使用该文件。如果依赖该文件,请在 include_from 中显式指定其路径。请注意,include_from 会从每个配置文件中单独读取:从主 server 配置中单独加载的文件——用户配置 (例如,未包含在主文件中的 users.xml) 和 XML 字典配置——各自都需要自己的 include_from 元素;仅在主 server 配置中指定它不会应用于这些文件。merge="true" 属性。例如:<include from_zk="/some_path" merge="true">。在这种情况下,现有配置会与替换内容合并,且现有配置中的设置会被替换内容中的值覆盖。
加密并隐藏配置
encrypted_by,并将其值设为加密编解码器的名称。
与属性 from_zk、from_env 和 incl 以及元素 include 不同,预处理文件中不会进行替换 (即不会解密加密后的值) 。
解密只会在服务器进程运行时发生。
例如:
from_env 和 from_zk 也可用于 encryption_codecs:
config.xml 示例:
users.xml 示例如下:
encrypt_decrypt:
hide_in_preprocessed。
例如:
用户设置
config.xml 文件可以指定一个单独的配置文件,其中包含用户设置、profile 和 quotas。该配置的相对路径在 users_config 元素中设置。默认值为 users.xml。如果省略 users_config,则用户设置、profile 和 quotas 直接在 config.xml 中指定。
与 config.xml 和 config.d/ 类似,用户配置也可以拆分到多个单独的文件中。
目录名称定义为:将 users_config 设置去掉 .xml 后缀后,再拼接 .d``。 默认使用 users.d目录,因为users_config的默认值为users.xml`。
用户配置片段会按其完整路径的词典序进行合并。对于标准 users.d/ 目录中的文件,这等同于按文件名排序。旧版 conf.d/ 目录也会被合并;由于 conf.d 排在 users.d 之前,当两个目录都存在时,会先处理其中的所有片段。
请注意,配置文件会先在考虑相关设置的情况下进行合并,之后才会处理 include。
XML 示例
YAML 示例
你可以在这里查看用 YAML 编写的默认配置:config.yaml.example。
YAML 和 XML 格式在 ClickHouse 配置上存在一些差异。
下面介绍一些使用 YAML 格式编写配置的技巧。
带有文本值的 XML 标签在 YAML 中可表示为键值对
@ 前缀的属性键。请注意,@ 在 YAML 标准中是保留字符,因此必须用双引号括起来:
#text 属性键来实现:
实现细节
file-preprocessed.xml 文件。这些文件包含所有已完成的替换和覆盖,仅供参考使用。如果配置文件中使用了 ZooKeeper 替换,但在服务器启动时 ZooKeeper 不可用,则服务器会从预处理文件中加载配置。
服务器会跟踪配置文件的变更,以及执行替换和覆盖时所使用的文件和 ZooKeeper 节点,并动态重新加载用户和集群的设置。这意味着你可以在不重启服务器的情况下修改集群、用户及其设置。