三亩地 三亩地SAN MU DI · CODE DIARY
交流投稿
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天，欢迎挑你感兴趣的翻一翻。

首页/学习日记/日记详情

Vector+VictoriaLogs构建高性能日志采集分析系统

发布时间：2026/8/10 5:07:13 三亩地 编程学习日记
Vector+VictoriaLogs构建高性能日志采集分析系统

1. 项目背景与核心价值

日志采集与分析是现代IT运维和业务监控的基础环节。随着微服务架构和云原生技术的普及，传统的ELK（Elasticsearch+Logstash+Kibana）方案在应对海量日志时逐渐暴露出性能瓶颈和运维复杂度高的问题。Vector作为新一代高性能日志采集工具，凭借其Rust语言带来的内存安全性和卓越性能（单核处理能力可达10MB/s），正在成为越来越多企业的首选方案。

夜莺（Nightingale）作为一款开源的分布式监控系统，在告警管理和可视化方面表现出色。而VictoriaLogs则是VictoriaMetrics团队推出的日志存储方案，与VictoriaMetrics时序数据库共享相同的存储引擎，在压缩率和查询性能上具有显著优势。这套组合方案特别适合需要同时处理指标和日志的企业环境。

2. 环境准备与组件部署

2.1 Vector安装配置

Vector提供多种安装方式，这里推荐使用官方编译的静态二进制文件：

# 下载最新稳定版（当前为v0.34.0） wget https://packages.timber.io/vector/0.34.0/vector-0.34.0-x86_64-unknown-linux-gnu.tar.gz tar xvf vector-*.tar.gz cd vector-*/bin sudo install -D vector /usr/local/bin/vector

验证安装：

vector --version

2.2 VictoriaLogs部署

VictoriaLogs支持单机模式和集群模式。对于中小规模环境，单机部署即可满足需求：

docker run -d --name victorialogs \ -p 9428:9428 \ -v /data/victorialogs:/victoria-logs-data \ victoriametrics/victorialogs:latest \ -storageDataPath=/victoria-logs-data \ -httpListenAddr=:9428

关键参数说明：

  • -storageDataPath：指定数据存储路径
  • -httpListenAddr：HTTP服务监听端口
  • 默认会占用9428（管理接口）和3100（日志接收）端口

2.3 夜莺监控对接准备

确保夜莺监控已安装并正常运行。需要获取以下信息：

  1. 夜莺的API访问地址（如http://nightingale:1234）
  2. 具有写入权限的API Token
  3. 目标业务日志的存储路径（如/var/log/nginx/*.log）

3. Vector配置详解

3.1 核心配置文件结构

Vector采用TOML格式的配置文件，典型结构如下：

[sources.<input>] # 输入源配置 [transforms.<filter>] # 数据处理环节 [sinks.<output>] # 输出目标配置

3.2 夜莺日志采集配置

配置采集/var/log/nightingale目录下的日志：

[sources.nightingale] type = "file" include = ["/var/log/nightingale/*.log"] ignore_older = 86400 # 忽略超过1天的旧文件 fingerprint.strategy = "device_and_inode"

关键参数解析：

  • ignore_older：避免处理历史日志造成重复
  • fingerprint.strategy：确保文件轮转时能正确识别

3.3 日志预处理配置

添加必要的元数据字段并过滤无效日志：

[transforms.add_fields] type = "add_fields" inputs = ["nightingale"] fields.service = "nightingale" fields.environment = "production" [transforms.filter_errors] type = "filter" inputs = ["add_fields"] condition = ''' contains!(.message, "ERROR") || contains!(.message, "WARN") || level == "error" || level == "warn" '''

3.4 VictoriaLogs输出配置

配置日志输出到VictoriaLogs：

[sinks.victorialogs] type = "http" inputs = ["filter_errors"] uri = "http://victorialogs:3100/insert/json" encoding.codec = "json" request.timeout_secs = 30

重要提示：VictoriaLogs的HTTP接口默认不启用认证，生产环境务必配置-httpAuthKey参数启用鉴权

4. 高级配置技巧

4.1 日志采样与限流

应对日志洪峰场景的配置示例：

[transforms.sampling] type = "sample" inputs = ["add_fields"] rate = 10 # 每秒最多10条 pass_list = ["level == "error""] # 错误日志全量保留

4.2 多行日志合并

处理Java等堆栈日志的多行合并：

[sources.java_app] type = "file" include = ["/var/log/java/*.log"] multiline.start_pattern = '^\d{4}-\d{2}-\d{2}' # 以日期开头为新日志 multiline.mode = "halt_before" multiline.condition_pattern = '^(INFO|WARN|ERROR)'

4.3 资源隔离配置

限制Vector的资源使用：

[api] enabled = true address = "127.0.0.1:8686" # 管理接口 [healthchecks] enabled = true [limits] max_bytes = 104857600 # 100MB内存限制

5. 运维监控与排错

5.1 Vector自身监控

通过内置API获取运行指标：

curl http://localhost:8686/metrics | grep vector_

关键指标说明：

  • vector_component_received_events_total：各组件处理事件数
  • vector_component_sent_events_total：各组件输出事件数
  • vector_component_errors_total：错误计数

5.2 VictoriaLogs查询示例

基础查询语法：

# 查询最近5分钟包含"ERROR"的日志 curl -XPOST http://victorialogs:9428/select/logsql/query \ -d 'query=_time:5m AND "ERROR"'

5.3 常见问题排查

问题1：Vector采集但VictoriaLogs无数据

  • 检查网络连通性：telnet victorialogs 3100
  • 查看Vector错误日志：journalctl -u vector -f
  • 验证VictoriaLogs接口：curl -XPOST http://victorialogs:3100/insert/json -d '{"message":"test"}'

问题2：日志延迟严重

  • 调整Vector的batch配置：
    [sinks.victorialogs] batch.timeout_secs = 1 # 默认5秒 batch.max_bytes = 102400 # 100KB触发发送

6. 性能优化实践

6.1 Vector性能调优

关键配置参数：

[global] threads = 4 # 默认等于CPU核心数 [sources.nightingale] max_read_bytes = 102400 # 单次读取大小 [sinks.victorialogs] request.in_flight_limit = 10 # 并发请求数

6.2 VictoriaLogs存储优化

启动参数调整：

docker run ... victoriametrics/victorialogs:latest \ -search.maxQueryDuration=30s \ -search.maxQueueDuration=10s \ -memory.allowedPercent=50 # 限制内存使用比例

6.3 架构扩展方案

当日志量超过单机处理能力时：

  1. Vector部署为DaemonSet模式，每个节点独立采集
  2. VictoriaLogs组成集群：
    # 启动3节点集群 docker run ... -e VM_CLUSTER_NODE_0=vl-1:8401 \ -e VM_CLUSTER_NODE_1=vl-2:8401 \ -e VM_CLUSTER_NODE_2=vl-3:8401

7. 安全加固措施

7.1 传输加密配置

启用HTTPS通信：

[sinks.victorialogs] uri = "https://victorialogs:3100/insert/json" tls.verify_certificate = true tls.verify_hostname = true

7.2 访问控制实现

VictoriaLogs启用基础认证：

docker run ... -httpAuthKey=secretKey123

Vector配置认证：

[sinks.victorialogs] auth.strategy = "basic" auth.user = "vector" auth.password = "password123"

7.3 敏感数据脱敏

使用Vector的remap语言实现：

[transforms.redact] type = "remap" inputs = ["add_fields"] source = ''' if contains!(.message, "password") { .message = replace!(.message, r'password=\w+', 'password=[REDACTED]') } '''
编程学习 学习日记 实战经验
← 返回列表