For the complete documentation index, see llms.txt. This page is also available as Markdown.

Apache Doris

简介

flusher_doris flusher插件可以实现将采集到的数据,经过处理后,通过 Stream Load API 发送到 Apache Doris。该插件支持并发刷新、Group Commit、进度监控等特性,适用于高吞吐量数据写入场景。

源代码:flusher_doris.go

事件能力

列含义见 概览 · 事件能力列说明

v1 接口
v2 接口
Log
Metric
Span

v1&v2

透传未知

透传未知

版本

Alpha

版本说明

  • 推荐版本:LoongCollector v3.2.6 及以上

  • Apache Doris:v2.0 及以上

配置参数

参数
类型
是否必选
说明

Type

string

插件类型,固定为flusher_doris

Addresses

String数组

Doris FE (Frontend) 地址列表,格式为 "http://host:port" 或 "https://host:port",必须包含协议前缀

Database

String

目标 Doris 数据库名称

Table

String

目标 Doris 表名称

Authentication

Struct

Doris 连接访问认证配置

Authentication.PlainText.Username

String

Doris 用户名

Authentication.PlainText.Password

String

Doris 密码

Authentication.PlainText.Database

String

数据库名称(可覆盖顶层 Database 参数)

Convert

Struct

LoongCollector 数据转换协议相关配置

Convert.Protocol

String

数据转换协议,可选值:custom_singleotlp_log_v1。默认值:custom_single

Convert.Encoding

String

Flusher 侧数据编码,可选值:jsonnoneprotobuf,默认值:json

Convert.TagFieldsRename

Map

对日志中tags中的json字段重命名

Convert.ProtocolFieldsRename

Map

日志协议字段重命名,可重命名的字段:contentstagstime

LoadProperties

Map

额外的 Stream Load 属性(如 strict_modemax_filter_ratiotimeout 等),将设置在 HTTP 请求头中,参考 Doris Stream Load 文档

LogProgressInterval

Int

进度日志输出间隔(秒),周期性输出总数据量、总行数、加载速度等统计信息,默认值:10,设置为 0 可禁用

GroupCommit

String

Group Commit 模式,用于优化小批量加载。可选值:off(禁用,每次立即提交)、sync(同步提交,等待确认)、async(异步提交,立即返回)。默认值:off

Concurrency

Int

并发刷新的 goroutine 数量。设置为 1 时为同步模式(顺序刷新),大于 1 时为并发模式(多个 worker 并发刷新,显著提升吞吐量)。默认值:1

QueueCapacity

Int

并发模式下的任务队列容量。队列满时会阻塞以确保不丢失数据。建议设置为 Concurrency 的 2-4 倍。默认值:1024

样例

基础配置

采集/home/test-log/路径下的所有文件名匹配*.log规则的文件,并将采集结果发送到 Doris。

配合 Aggregator 攒批

通过配置 aggregator 插件,可以在发送到 flusher 之前对日志进行攒批,减少网络请求次数,提升整体性能。推荐配合 aggregator_baseaggregator_context 使用。

高性能并发配置

对于高吞吐量场景,同时配置 aggregator 攒批和 flusher 并发刷新,可获得最佳性能:

自定义 Stream Load 属性

通过 LoadProperties 自定义 Doris Stream Load 行为:

Last updated