文档文档

InfluxQL 内部参考文档

了解 InfluxQL 的实现,以理解结果是如何处理的以及如何创建高效的查询

查询生命周期

  1. InfluxQL 查询字符串被标记化,然后解析为抽象语法树 (AST)。这是查询本身的代码表示形式。

  2. AST 被传递给 QueryExecutor,它将查询定向到适当的处理程序。例如,与元数据相关的查询由元服务执行,而 SELECT 语句由分片本身执行。

  3. 然后,查询引擎确定与 SELECT 语句的时间范围匹配的分片。从这些分片中,为语句中的每个字段创建迭代器。

  4. 迭代器被传递给发射器,发射器耗尽它们并连接结果点。发射器的任务是将简单的时间/值点转换为返回给客户端的更复杂的结果对象。

理解迭代器

迭代器提供了一个简单的接口,用于循环遍历一组点。例如,这是一个 Float 点的迭代器

type FloatIterator interface {
    Next() *FloatPoint
}

这些迭代器是通过 IteratorCreator 接口创建的

type IteratorCreator interface {
    CreateIterator(opt *IteratorOptions) (Iterator, error)
}

IteratorOptions 提供了关于字段选择、时间范围和维度的参数,迭代器创建器可以在规划迭代器时使用这些参数。IteratorCreator 接口在多个级别上使用,例如 ShardsShardEngine。这允许在适用时执行优化,例如返回预先计算的 COUNT()

迭代器不仅用于从存储读取原始数据。迭代器可以组合,以便它们围绕输入迭代器提供额外的功能。例如,DistinctIterator 可以计算输入迭代器的每个时间窗口的不同值。或者 FillIterator 可以生成输入迭代器中缺少的额外点。

这种组合也非常适合聚合。例如,像这样的语句

SELECT MEAN(value) FROM cpu GROUP BY time(10m)

在这种情况下,MEAN(value) 是一个 MeanIterator,它包装了来自底层分片的迭代器。但是,如果我们添加一个额外的迭代器来确定平均值的导数,则可以这样做

SELECT DERIVATIVE(MEAN(value), 20m) FROM cpu GROUP BY time(10m)

游标

游标 通过元组 (时间,值) 在单个序列(measurement,标签集和字段)中标识分片中的数据。游标遍历存储为日志结构合并树的数据,并处理跨级别的去重,已删除数据的墓碑以及合并缓存(预写日志)。游标按时间升序或降序排序 (时间,值) 元组。

例如,一个查询评估 1,000 个序列的 1 个字段,跨越 3 个分片,将构建至少 3,000 个游标(每个分片 1,000 个)。

辅助字段

由于 InfluxQL 允许用户使用选择器函数,例如 FIRST()LAST()MIN()MAX(),因此引擎必须提供一种方法,以便在返回所选点的同时返回相关数据。

让我们看一下以下查询

SELECT FIRST(value), host FROM cpu GROUP BY time(1h)

我们每小时选择第一个出现的 value,但我们也想检索与该点关联的 host。由于 Point 类型仅为效率指定单个类型化的 Value,因此我们将 host 推送到点的辅助字段中。这些辅助字段附加到点,直到将其传递给发射器,在发射器中,字段被分离到它们自己的迭代器。

内置迭代器

有许多辅助迭代器可以让我们构建查询

  • 合并迭代器 - 此迭代器将一个或多个迭代器组合成相同类型的单个新迭代器。此迭代器保证在开始下一个窗口之前输出窗口内的所有点,但不提供窗口内的排序保证。这允许快速访问不需要更强排序保证的聚合查询。

  • 排序合并迭代器 - 此迭代器还将一个或多个迭代器组合成相同类型的新迭代器。但是,此迭代器保证每个点的时间顺序。这使其比 MergeIterator 慢,但是对于返回原始数据点的非聚合查询,此排序保证是必需的。

  • 限制迭代器 - 此迭代器限制每个名称/标签组的点数。这是 LIMITOFFSET 语法的实现。

  • 填充迭代器 - 如果输入迭代器中缺少点,则此迭代器注入额外的点。它可以提供 null 点,具有先前值的点或具有特定值的点。

  • 缓冲迭代器 - 此迭代器提供了将点“取消读取”回缓冲区的功能,以便下次可以再次读取它。这广泛用于为窗口化提供前瞻性。

  • Reduce 迭代器 - 此迭代器为窗口中的每个点调用一个 reduce 函数。当窗口完成时,将输出该窗口的所有点。这用于简单的聚合函数,例如 COUNT()

  • Reduce Slice 迭代器 - 此迭代器首先收集窗口的所有点,然后一次将它们全部传递给 reduce 函数。结果从迭代器返回。这用于聚合函数,例如 DERIVATIVE()

  • 转换迭代器 - 此迭代器为来自输入迭代器的每个点调用一个转换函数。这用于执行二进制表达式。

  • 去重迭代器 - 此迭代器仅输出唯一点。它资源密集型,因此仅用于小型查询,例如元查询语句。

调用迭代器

InfluxQL 中的函数调用在两个级别上实现。某些调用可以在多个层中包装以提高效率。例如,COUNT() 可以在分片级别执行,然后可以使用另一个 CountIterator 包装多个 CountIterator 以计算所有分片的计数。这些迭代器可以使用 NewCallIterator() 创建。

某些迭代器更复杂或需要在更高级别上实现。例如,DERIVATIVE() 函数需要先检索窗口的所有点,然后再执行计算。此迭代器由引擎本身创建,并且永远不会被较低级别请求创建。


此页是否对您有帮助?

感谢您的反馈!


Flux 的未来

Flux 即将进入维护模式。您可以继续像现在这样使用它,而无需对代码进行任何更改。

阅读更多

现已全面上市

InfluxDB 3 Core 和 Enterprise

快速启动。更快扩展。

获取更新

InfluxDB 3 Core 是一个开源、高速、最新的数据引擎,可实时收集和处理数据,并将其持久化到本地磁盘或对象存储。InfluxDB 3 Enterprise 构建在 Core 的基础上,增加了高可用性、读取副本、增强的安全性以及数据压缩,从而实现更快的查询和优化的存储。InfluxDB 3 Enterprise 的免费层可供非商业家庭或业余爱好者使用。

有关更多信息,请查看