InfluxQL 内部参考文档
了解 InfluxQL 的实现,以理解结果是如何处理的以及如何创建高效的查询
查询生命周期
InfluxQL 查询字符串被标记化,然后解析为抽象语法树 (AST)。这是查询本身的代码表示形式。
AST 被传递给
QueryExecutor
,它将查询定向到适当的处理程序。例如,与元数据相关的查询由元服务执行,而SELECT
语句由分片本身执行。然后,查询引擎确定与
SELECT
语句的时间范围匹配的分片。从这些分片中,为语句中的每个字段创建迭代器。迭代器被传递给发射器,发射器耗尽它们并连接结果点。发射器的任务是将简单的时间/值点转换为返回给客户端的更复杂的结果对象。
理解迭代器
迭代器提供了一个简单的接口,用于循环遍历一组点。例如,这是一个 Float 点的迭代器
type FloatIterator interface {
Next() *FloatPoint
}
这些迭代器是通过 IteratorCreator
接口创建的
type IteratorCreator interface {
CreateIterator(opt *IteratorOptions) (Iterator, error)
}
IteratorOptions
提供了关于字段选择、时间范围和维度的参数,迭代器创建器可以在规划迭代器时使用这些参数。IteratorCreator
接口在多个级别上使用,例如 Shards
、Shard
和 Engine
。这允许在适用时执行优化,例如返回预先计算的 COUNT()
。
迭代器不仅用于从存储读取原始数据。迭代器可以组合,以便它们围绕输入迭代器提供额外的功能。例如,DistinctIterator
可以计算输入迭代器的每个时间窗口的不同值。或者 FillIterator
可以生成输入迭代器中缺少的额外点。
这种组合也非常适合聚合。例如,像这样的语句
SELECT MEAN(value) FROM cpu GROUP BY time(10m)
在这种情况下,MEAN(value)
是一个 MeanIterator
,它包装了来自底层分片的迭代器。但是,如果我们添加一个额外的迭代器来确定平均值的导数,则可以这样做
SELECT DERIVATIVE(MEAN(value), 20m) FROM cpu GROUP BY time(10m)
游标
游标 通过元组 (时间,值) 在单个序列(measurement,标签集和字段)中标识分片中的数据。游标遍历存储为日志结构合并树的数据,并处理跨级别的去重,已删除数据的墓碑以及合并缓存(预写日志)。游标按时间升序或降序排序 (时间,值)
元组。
例如,一个查询评估 1,000 个序列的 1 个字段,跨越 3 个分片,将构建至少 3,000 个游标(每个分片 1,000 个)。
辅助字段
由于 InfluxQL 允许用户使用选择器函数,例如 FIRST()
,LAST()
,MIN()
和 MAX()
,因此引擎必须提供一种方法,以便在返回所选点的同时返回相关数据。
让我们看一下以下查询
SELECT FIRST(value), host FROM cpu GROUP BY time(1h)
我们每小时选择第一个出现的 value
,但我们也想检索与该点关联的 host
。由于 Point
类型仅为效率指定单个类型化的 Value
,因此我们将 host
推送到点的辅助字段中。这些辅助字段附加到点,直到将其传递给发射器,在发射器中,字段被分离到它们自己的迭代器。
内置迭代器
有许多辅助迭代器可以让我们构建查询
合并迭代器 - 此迭代器将一个或多个迭代器组合成相同类型的单个新迭代器。此迭代器保证在开始下一个窗口之前输出窗口内的所有点,但不提供窗口内的排序保证。这允许快速访问不需要更强排序保证的聚合查询。
排序合并迭代器 - 此迭代器还将一个或多个迭代器组合成相同类型的新迭代器。但是,此迭代器保证每个点的时间顺序。这使其比
MergeIterator
慢,但是对于返回原始数据点的非聚合查询,此排序保证是必需的。限制迭代器 - 此迭代器限制每个名称/标签组的点数。这是
LIMIT
和OFFSET
语法的实现。填充迭代器 - 如果输入迭代器中缺少点,则此迭代器注入额外的点。它可以提供
null
点,具有先前值的点或具有特定值的点。缓冲迭代器 - 此迭代器提供了将点“取消读取”回缓冲区的功能,以便下次可以再次读取它。这广泛用于为窗口化提供前瞻性。
Reduce 迭代器 - 此迭代器为窗口中的每个点调用一个 reduce 函数。当窗口完成时,将输出该窗口的所有点。这用于简单的聚合函数,例如
COUNT()
。Reduce Slice 迭代器 - 此迭代器首先收集窗口的所有点,然后一次将它们全部传递给 reduce 函数。结果从迭代器返回。这用于聚合函数,例如
DERIVATIVE()
。转换迭代器 - 此迭代器为来自输入迭代器的每个点调用一个转换函数。这用于执行二进制表达式。
去重迭代器 - 此迭代器仅输出唯一点。它资源密集型,因此仅用于小型查询,例如元查询语句。
调用迭代器
InfluxQL 中的函数调用在两个级别上实现。某些调用可以在多个层中包装以提高效率。例如,COUNT()
可以在分片级别执行,然后可以使用另一个 CountIterator
包装多个 CountIterator
以计算所有分片的计数。这些迭代器可以使用 NewCallIterator()
创建。
某些迭代器更复杂或需要在更高级别上实现。例如,DERIVATIVE()
函数需要先检索窗口的所有点,然后再执行计算。此迭代器由引擎本身创建,并且永远不会被较低级别请求创建。
此页是否对您有帮助?
感谢您的反馈!