GraphiteMergeTree
该引擎旨在稀疏和聚合/平均(汇总)Graphite 数据。它可能对希望将 ClickHouse 作为 Graphite 数据存储的开发人员有所帮助。
如果不需要汇总,您可以使用任何 ClickHouse 表引擎来存储 Graphite 数据,但如果需要汇总,请使用 GraphiteMergeTree
。该引擎减少了存储量,并提高了来自 Graphite 的查询效率。
该引擎继承了 MergeTree 的属性。
创建表
请参阅 CREATE TABLE 查询的详细描述。
Graphite 数据的表应包含以下列,用于以下数据:
-
指标名称(Graphite 传感器)。数据类型:
String
。 -
测量指标的时间。数据类型:
DateTime
。 -
指标的值。数据类型:
Float64
。 -
指标的版本。数据类型:任意数字(ClickHouse 保留具有最高版本的行,或者如果版本相同,则保留最后写入的行。其他行在数据片段合并时会被删除)。
这些列的名称应在汇总配置中设置。
GraphiteMergeTree 参数
config_section
— 配置文件中设置汇总规则的部分名称。
查询子句
创建 GraphiteMergeTree
表时,所需的 子句 与创建 MergeTree
表时相同。
创建表的弃用方法
在新项目中不要使用此方法,并且如果可能,请将旧项目切换到上述描述的方法。
除 config_section
外,所有参数与 MergeTree
中的含义相同。
config_section
— 配置文件中设置汇总规则的部分名称。
汇总配置
汇总的设置由服务器配置中的 graphite_rollup 参数定义。该参数的名称可以是任意的。您可以创建多个配置并将其用于不同的表。
汇总配置结构:
required-columns patterns
必需列
path_column_name
path_column_name
— 存储指标名称(Graphite 传感器)的列名称。默认值: Path
。
time_column_name
time_column_name
— 存储测量指标时间的列名称。默认值: Time
。
value_column_name
value_column_name
— 存储在 time_column_name
中设置的时间点上指标值的列名称。默认值: Value
。
version_column_name
version_column_name
— 存储指标版本的列名称。默认值: Timestamp
。
模式
patterns
部分的结构:
模式必须严格排序:
- 没有
function
或retention
的模式。 - 同时包含
function
和retention
的模式。 - 模式
default
。
在处理行时,ClickHouse 会检查 pattern
部分中的规则。每个 pattern
(包括 default
)部分可以包含用于聚合的 function
参数、retention
参数或二者。如果指标名称与 regexp
匹配,则应用来自 pattern
部分(或部分)的规则;否则,使用 default
部分的规则。
pattern
和 default
部分的字段:
rule_type
- 规则的类型。仅适用于特定指标。该引擎使用它来区分普通和带标签的指标。可选参数。默认值:all
。 在性能不重要或仅使用一种指标类型(例如普通指标)时,它是不必要的。默认只创建一个规则集。否则,如果定义了任何特殊类型,则会创建两个不同的集合。一个用于普通指标(root.branch.leaf),另一个用于带标签的指标(root.branch.leaf;tag1=value1)。 默认规则结束于两个集合中。 有效值:all
(默认) - 通用规则,当rule_type
被省略时使用。plain
- 普通指标的规则。字段regexp
被处理为正则表达式。tagged
- 带标签的指标的规则(指标以someName?tag1=value1&tag2=value2&tag3=value3
的格式存储在 DB 中)。正则表达式必须按标签名称排序,第一个标签必须是__name__
(如果存在)。字段regexp
被处理为正则表达式。tag_list
- 带标签的指标的规则,简单的 DSL 用于在 Graphite 格式中简化指标描述someName;tag1=value1;tag2=value2
,someName
,或tag1=value1;tag2=value2
。字段regexp
转换为tagged
规则。按标签名称排序是不必要的,系统会自动完成。标签的值(但不是名称)可以设置为正则表达式,例如env=(dev|staging)
。
regexp
– 指标名称的模式(正则或 DSL)。age
– 数据的最小年龄,以秒为单位。precision
– 数据年龄的精确定义,以秒为单位。应为86400(每天的秒数)的除数。function
– 应用于数据年龄在[age, age + precision]
范围内的聚合函数的名称。接受的函数: min / max / any / avg。平均值的计算并不精确,就像是平均数的平均数。
不带规则类型的配置示例
带有规则类型的配置示例
数据汇总在合并期间进行。通常,旧分区不会启动合并,因此对于汇总,需要通过 optimize 触发未安排的合并。或者使用其他工具,例如 graphite-ch-optimizer。