适用场景
自建日志平台最常见的失败原因:日志量估错、索引未按时间切分、磁盘写满后平台直接不可用。
配置步骤(采集与存储调优)
# 1) 只采集需要的日志级别与路径
# 2) 合并多行日志(Java 堆栈)
# 3) 字段裁剪与丢弃(健康检查、心跳)
# 4) 冷数据归档到对象存储
# 5) 平台自身监控:入队延迟、写入失败率
关键参数与建议
- 先估算日志量(条/秒、字节/天),再选架构与硬件
- 索引按天/周切分,配置生命周期策略(热-温-冷-删)
- 采集端过滤无用日志(debug/健康检查),减少 50% 以上流量
- 磁盘水位告警(80%)与只读模式保护,避免写满崩溃
- 留存周期满足合规(≥6 个月),归档到对象存储
容易踩的坑
- 采集 debug 日志导致成本翻倍
- 多行日志未合并,堆栈被拆成多条
- 无自身监控,采集断了没人发现
验证与巡检
# 指标:日均日志量、写入失败率、索引延迟
- 巡检:日志量稳定、失败率为零、归档正常
小结
日志平台上线后要做两件运维:每周看磁盘与索引健康、每月抽查检索可用性。否则半年后平台会变成"装了但不敢用"。
> 说明:文中命令为通用写法,不同型号/版本可能略有差异,落地前请对照设备实际版本的官方文档;带外管理与安全设备变更建议先在测试设备验证。