跳到主要内容
跳到主要内容

TimeSeries 引擎

Experimental feature. Learn more.
Not supported in ClickHouse Cloud

一个存储时间序列的表引擎,即与时间戳和标签(或标记)相关联的一组值:

metric_name1[tag1=value1, tag2=value2, ...] = {timestamp1: value1, timestamp2: value2, ...}
metric_name2[...] = ...
信息

这是一个实验性功能,未来版本可能会以向后不兼容的方式发生变化。 启用使用 TimeSeries 表引擎的功能请使用 allow_experimental_time_series_table 设置。 输入命令 set allow_experimental_time_series_table = 1

语法

CREATE TABLE name [(columns)] ENGINE=TimeSeries
[SETTINGS var1=value1, ...]
[DATA db.data_table_name | DATA ENGINE data_table_engine(arguments)]
[TAGS db.tags_table_name | TAGS ENGINE tags_table_engine(arguments)]
[METRICS db.metrics_table_name | METRICS ENGINE metrics_table_engine(arguments)]

用法

从默认设置开始较为简单(允许在未指定列列表的情况下创建 TimeSeries 表):

CREATE TABLE my_table ENGINE=TimeSeries

然后此表可以与以下协议一起使用(必须在服务器配置中分配端口):

目标表

TimeSeries 表没有自己的数据,所有内容存储在其目标表中。 这与 物化视图 的工作方式类似, 不同之处在于物化视图只有一个目标表,而 TimeSeries 表有三个目标表,分别命名为 datatagsmetrics

可以在 CREATE TABLE 查询中显式指定目标表, 或者 TimeSeries 表引擎可以自动生成内部目标表。

目标表如下:

数据表

data 表包含与某个标识符相关的时间序列。

data 表必须具有以下列:

名称是否必须默认类型可能的类型描述
id[x]UUID任何标识指标名称和标签的组合
timestamp[x]DateTime64(3)DateTime64(X)时间点
value[x]Float64Float32Float64timestamp 关联的值

标签表

tags 表包含为每个指标名称和标签组合计算的标识符。

tags 表必须具有以下列:

名称是否必须默认类型可能的类型描述
id[x]UUID任何(必须与 data 表中的 id 类型匹配)一个 id 标识指标名称和标签的组合。DEFAULT 表达式指定如何计算该标识符
metric_name[x]LowCardinality(String)StringLowCardinality(String)指标的名称
<tag_value_column>[ ]StringStringLowCardinality(String)LowCardinality(Nullable(String))特定标签的值,标签的名称和相应列的名称在 tags_to_columns 设置中指定
tags[x]Map(LowCardinality(String), String)Map(String, String)Map(LowCardinality(String), String)Map(LowCardinality(String), LowCardinality(String))标签的映射,排除标签 __name__,包含指标的名称,排除在 tags_to_columns 设置中列出的标签
all_tags[ ]Map(String, String)Map(String, String)Map(LowCardinality(String), String)Map(LowCardinality(String), LowCardinality(String))瞬态列,每行是所有标签的映射,仅排除标签 __name__,包含指标的名称。该列的唯一目的是在计算 id 时使用
min_time[ ]Nullable(DateTime64(3))DateTime64(X)Nullable(DateTime64(X))具有该 id 的时间序列的最小时间戳。如果 store_min_time_and_max_timetrue,则创建此列
max_time[ ]Nullable(DateTime64(3))DateTime64(X)Nullable(DateTime64(X))具有该 id 的时间序列的最大时间戳。如果 store_min_time_and_max_timetrue,则创建此列

指标表

metrics 表包含收集的指标的一些信息、这些指标的类型及其描述。

metrics 表必须具有以下列:

名称是否必须默认类型可能的类型描述
metric_family_name[x]StringStringLowCardinality(String)指标系列的名称
type[x]StringStringLowCardinality(String)指标系列的类型,可能的值为 "counter"、"gauge"、"summary"、"stateset"、"histogram" 和 "gaugehistogram"
unit[x]StringStringLowCardinality(String)指标使用的单位
help[x]StringStringLowCardinality(String)指标的描述

插入到 TimeSeries 表中的任何行实际上都会存储在这三张目标表中。 TimeSeries 表包含来自 datatagsmetrics 表的所有列。

创建

有多种方法可以创建 TimeSeries 表引擎的表。 最简单的语句

CREATE TABLE my_table ENGINE=TimeSeries

实际上会创建以下表(可以通过执行 SHOW CREATE TABLE my_table 查看):

CREATE TABLE my_table
(
    `id` UUID DEFAULT reinterpretAsUUID(sipHash128(metric_name, all_tags)),
    `timestamp` DateTime64(3),
    `value` Float64,
    `metric_name` LowCardinality(String),
    `tags` Map(LowCardinality(String), String),
    `all_tags` Map(String, String),
    `min_time` Nullable(DateTime64(3)),
    `max_time` Nullable(DateTime64(3)),
    `metric_family_name` String,
    `type` String,
    `unit` String,
    `help` String
)
ENGINE = TimeSeries
DATA ENGINE = MergeTree ORDER BY (id, timestamp)
DATA INNER UUID '01234567-89ab-cdef-0123-456789abcdef'
TAGS ENGINE = AggregatingMergeTree PRIMARY KEY metric_name ORDER BY (metric_name, id)
TAGS INNER UUID '01234567-89ab-cdef-0123-456789abcdef'
METRICS ENGINE = ReplacingMergeTree ORDER BY metric_family_name
METRICS INNER UUID '01234567-89ab-cdef-0123-456789abcdef'

因此,列是自动生成的,并且在该语句中有三个内部 UUID - 每个内部目标表一个。 (内部 UUID 通常不会显示,直到设置 show_table_uuid_in_table_create_query_if_not_nil 为设置。)

内部目标表的名称类似于 .inner_id.data.xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx, .inner_id.tags.xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx, .inner_id.metrics.xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx 每个目标表的列是主 TimeSeries 表的列子集:

CREATE TABLE default.`.inner_id.data.xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx`
(
    `id` UUID,
    `timestamp` DateTime64(3),
    `value` Float64
)
ENGINE = MergeTree
ORDER BY (id, timestamp)
CREATE TABLE default.`.inner_id.tags.xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx`
(
    `id` UUID DEFAULT reinterpretAsUUID(sipHash128(metric_name, all_tags)),
    `metric_name` LowCardinality(String),
    `tags` Map(LowCardinality(String), String),
    `all_tags` Map(String, String) EPHEMERAL,
    `min_time` SimpleAggregateFunction(min, Nullable(DateTime64(3))),
    `max_time` SimpleAggregateFunction(max, Nullable(DateTime64(3)))
)
ENGINE = AggregatingMergeTree
PRIMARY KEY metric_name
ORDER BY (metric_name, id)
CREATE TABLE default.`.inner_id.metrics.xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx`
(
    `metric_family_name` String,
    `type` String,
    `unit` String,
    `help` String
)
ENGINE = ReplacingMergeTree
ORDER BY metric_family_name

调整列类型

您可以通过在定义主表时显式指定它们来调整内部目标表的几乎任何列的类型。 例如,

CREATE TABLE my_table
(
    timestamp DateTime64(6)
) ENGINE=TimeSeries

将使内部 data 表将时间戳以微秒而不是毫秒存储:

CREATE TABLE default.`.inner_id.data.xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx`
(
    `id` UUID,
    `timestamp` DateTime64(6),
    `value` Float64
)
ENGINE = MergeTree
ORDER BY (id, timestamp)

id

id 列包含标识符,每个标识符都是为指标名称和标签的组合计算的。 id 列的 DEFAULT 表达式是用于计算此类标识符的表达式。 可以通过显式指定它们来调整 id 列的类型和该表达式:

CREATE TABLE my_table
(
  id UInt64 DEFAULT sipHash64(metric_name, all_tags)
)
ENGINE=TimeSeries

tagsall_tags

有两个包含标签映射的列 - tagsall_tags。在这个例子中,它们的意思相同,但如果使用了设置 tags_to_columns,它们可能会不同。此设置允许指定某个特定标签应存储在单独的列中,而不是存储在 tags 列中的映射内:

CREATE TABLE my_table
ENGINE = TimeSeries 
SETTINGS tags_to_columns = {'instance': 'instance', 'job': 'job'}

该语句将添加列:

`instance` String,
`job` String

my_table 和其内部 tags 目标表的定义中。在这种情况下,tags 列将不包含标签 instancejob, 但 all_tags 列将包含它们。all_tags 列是瞬态的,唯一目的是在 id 列的 DEFAULT 表达式中使用。

列的类型可以通过显式指定它们来调整:

CREATE TABLE my_table (
  instance LowCardinality(String),
  job LowCardinality(Nullable(String))
)
ENGINE=TimeSeries
SETTINGS tags_to_columns = {'instance': 'instance', 'job': 'job'}

内部目标表的表引擎

默认情况下,内部目标表使用以下表引擎:

  • data 表使用 MergeTree;
  • tags 表使用 AggregatingMergeTree,因为相同数据经常多次插入此表,因此我们需要一种删除重复项的方法,同时因为需要对列 min_timemax_time 进行聚合;
  • metrics 表使用 ReplacingMergeTree,因为相同数据经常多次插入此表,因此我们需要一种删除重复项的方法。

也可以使用其他表引擎用于内部目标表,如下所示:

CREATE TABLE my_table ENGINE=TimeSeries
DATA ENGINE=ReplicatedMergeTree
TAGS ENGINE=ReplicatedAggregatingMergeTree
METRICS ENGINE=ReplicatedReplacingMergeTree

外部目标表

可以使 TimeSeries 表使用手动创建的表:

CREATE TABLE data_for_my_table
(
    `id` UUID,
    `timestamp` DateTime64(3),
    `value` Float64
)
ENGINE = MergeTree
ORDER BY (id, timestamp);

CREATE TABLE tags_for_my_table ...

CREATE TABLE metrics_for_my_table ...

CREATE TABLE my_table ENGINE=TimeSeries DATA data_for_my_table TAGS tags_for_my_table METRICS metrics_for_my_table;

设置

以下是定义 TimeSeries 表时可以指定的设置列表:

名称类型默认值描述
tags_to_columnsMap映射,指定哪些标签应放入 tags 表的单独列中。语法: {'tag1': 'column1', 'tag2' : column2, ...}
use_all_tags_column_to_generate_idBooltrue在生成计算时间序列标识符的表达式时,此标志启用在该计算中使用 all_tags
store_min_time_and_max_timeBooltrue如果设置为 true,则表将为每个时间序列存储 min_timemax_time
aggregate_min_time_and_max_timeBooltrue在创建内部目标 tags 表时,此标志启用使用 SimpleAggregateFunction(min, Nullable(DateTime64(3))) 而不是仅仅 Nullable(DateTime64(3)) 作为 min_time 列的类型,对于 max_time 列也是如此
filter_by_min_time_and_max_timeBooltrue如果设置为 true,则表将使用 min_timemax_time 列来过滤时间序列

函数

以下是支持 TimeSeries 表作为参数的函数列表: