CentOS安装filebeat收集日志到kafka，

CentOS安装filebeat收集日志到kafka，

简介

filebeat是日志数据采集器，可代替logstash收集日志，部署起来比较方便。

一般日志量比较大，会先收集到kafka然后再进行消费。

安装

yum -y install https://mirrors.tuna.tsinghua.edu.cn/elasticstack/7.x/yum/7.14.0/filebeat-7.14.0-x86_64.rpm 

配置filebeat

vim /etc/filebeat/filebeat.yml 

filebeat.inputs: 
- type: log 
  paths: 
    - /var/log/*.log 
    - /var/log/messages 
  fields: 
    type: "systemlog" 
    log_topic: "systemlog" 
  fields_under_root: true 
  exclude_lines: ["^DBG"] 
  exclude_files: [".gz$"] 
name: 192.168.122.100 
output.kafka: 
  enabled: true 
  hosts: ["192.168.122.200:9092"] 
  topic: "%{[log_topic]}" 
  partition.round_robin: 
    reachable_only: true 
  worker: 2 
  required_acks: 1 
  compression: gzip 
  max_message_bytes: 10000000 

服务管理

systemctl enable filebeat 
systemctl start filebeat 

总结

filebeat是Go写的，部署起来很方便，没什么依赖，批量部署简单。