docker安装logstash,可以用来同步MySQL和elasticsearch数据,搭配食用更香

要使用Docker安装Logstash并搭配MySQL同步数据到Elasticsearch,你需要编写Logstash的配置文件,并使用Docker Compose来运行Logstash和相关服务。

  1. 创建logstash-mysql.conf配置文件:



input {
  mysql {
    host => "mysql"
    port => "3306"
    user => "your_username"
    password => "your_password"
    database => "your_database"
    tables => ["your_table"]
    schedule => "* * * * *"
    clean_run => true
    track_column_updates => true
    use_column_value => true
    track_remote_server_id => true
    local_infile => true
    bulk_size => 1000
  }
}
 
filter {
  json {
    source => "message"
  }
}
 
output {
  elasticsearch {
    hosts => ["http://elasticsearch:9200"]
    index => "your_index"
    document_type => "your_type"
    document_id => "%{your_id_field}"
  }
}
  1. 创建docker-compose.yml文件:



version: '3'
services:
  logstash:
    image: docker.elastic.co/logstash/logstash:7.16.2
    volumes:
      - ./logstash-mysql.conf:/usr/share/logstash/pipeline/logstash-mysql.conf
    depends_on:
      - mysql
      - elasticsearch
    command: bash -c "sleep 30 && logstash -f /usr/share/logstash/pipeline/logstash-mysql.conf"
 
  mysql:
    image: mysql:5.7
    environment:
      MYSQL_ROOT_PASSWORD: your_password
      MYSQL_DATABASE: your_database
    command: --default-authentication-plugin=mysql_native_password
 
  elasticsearch:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.16.2
    environment:
      - discovery.type=single-node
    volumes:
      - esdata1:/usr/share/elasticsearch/data
 
volumes:
  esdata1:
  1. 运行Docker Compose:



docker-compose up -d

确保替换配置文件中的your_username, your_password, your_database, your_table, your_index, your_type, 和your_id_field为你的MySQL数据库的实际用户名、密码、数据库名、表名、Elasticsearch索引名、文档类型和文档ID。

这个配置文件会在MySQL中检测新的或者更新的数据,并将这些数据作为JSON格式发送到Elasticsearch。务必确保你的MySQL表中有一个可以用作文档ID的字段。

注意:确保Logstash的配置文件中的schedule字段设置为合适的时间间隔,以便Logstash可以定期检查MySQL表中的更改。

评论已关闭

推荐阅读

Vue中使用mind-map实现在线思维导图
2024年08月04日
VUE
Web前端最全Vue实现免密登录跳转的方式_vue怎么样不登录返回首页,最强技术实现
2024年08月04日
VUE
vue3 项目搭建教程(基于create-vue,vite,Vite + Vue)
2024年08月04日
VUE
Vue-颜色选择器实现方案——>Vue-Color( 实战*1+ Demo*7)
2024年08月04日
VUE
Vue项目卡顿慢加载?这些优化技巧告诉你!_vue数据多渲染卡顿
2024年08月04日
VUE
vue中的keep-alive详解与应用场景
2024年08月04日
VUE
Vue、React实现excel导出功能(三种实现方式保姆级讲解)
2024年08月04日
vue-office/docx插件实现docx文件预览
2024年08月04日
VUE
java调用js文件的两种方法(支持V8引擎)
2024年08月04日
JavaScript:解决计算精度问题/mathjs/bignumber.js/big.js/decimal.js
2024年08月04日
两周从爬虫小白变大神 _yjs_js_security_passport
2024年08月04日
JS笔记(对象、函数、数组)
2024年08月04日
Markdown.js:强大的纯JavaScript Markdown解析器
2024年08月04日
Vue项目:js模拟点击a标签下载文件并重命名,URL文件地址下载方法、请求接口下载文件方法总结。
2024年08月04日
vue 父组件怎么获取子组件里面的data数据
2024年08月04日
VUE
个人开发实现AI套壳网站快速搭建(Vue+elementUI+SpringBoot)
2024年08月04日
el-table 表格封装并改造实现单元格可编辑
2024年08月04日
none
nodejs环境下创建vue项目、SSH密钥登陆!!!
2024年08月04日
vue+quill+element-ui实现视频、图片上传及缩放保姆级教程,轻松使用富文本
2024年08月04日
【three.js】22. Imported Models导入模型
2024年08月04日