博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
ElasticSearch + Canal搭建搜索系统(整理中)
阅读量:4042 次
发布时间:2019-05-24

本文共 1596 字,大约阅读时间需要 5 分钟。

一、Canal安装

1.Canal下载地址:

二、Zookeeper集群安装

主要是zoo.cfg中修改如下配置,从sample赋值过来配置后修改;以及创建data,dataLog目录;data文件夹下面创建myid文件,指定server的id值1或者2等。

dataDir=/home/centos/es/zookeeper-3.4.11_1/datadataLogDir=/home/centos/es/zookeeper-3.4.11_1/dataLogclientPort=2181server.1=10.144.130.183:2888:3888server.2=10.144.130.183:2889:3889server.3=10.144.130.185:2890:3890
#server.A=B:C:D  其中A是一个数字,代表这是第几号服务器;B是服务器的IP地址;C表示服务器与群集中的“领导者”交换信息的端口;当领导者失效后,D表示用来执行选举时服务器相互通信的端口。

如果开了防火墙,需要加入2888,3888,2889,3889,2890,3890各个服务器之间的tcp端口准入。

参考地址:

三、kafka集群安装

主要修改config下的server.properties 文件中的配置

#broker.id=0  每台服务器的broker.id都不能相同#hostnamehost.name=192.168.7.100#在log.retention.hours=168 下面新增下面三项message.max.byte=5242880default.replication.factor=2replica.fetch.max.bytes=5242880#设置zookeeper的连接端口zookeeper.connect=192.168.7.100:12181,192.168.7.101:12181,192.168.7.107:12181

启动服务

#从后台启动Kafka集群(3台都需要启动)cd /opt/kafka/kafka_2.11-0.9.0.1//bin #进入到kafka的bin目录 ./kafka-server-start.sh -daemon ../config/server.properties检查服务是否启动#执行命令jps20348 Jps4233 QuorumPeerMain18991 Kafka

解析:

        1、使用默认配置就好,注意五个个选项,brokerid、num.partitions、default.replication.factor、zookeeper.connect、zookeeper.connection.timeout.ms

        2、brokerid,当前节点的id号,唯一标识,建议给顺序数字,方便管理

        3、num.partitions,控制设定几个分区,default.replication.factor,控制设定几个备份。

        这里博主有三个节点,所以各给了3。同学们也可根据自身实际情况以及自身需求给定

        4、zookeeper.connect指定外部zk源的各个节点。若无特殊指定,外部zk集群默认端口2181

        5、zookeeper.connection.timeout.ms根据自身网络情况设定,通常默认就好

参考地址:

                  

四、canal.kafka安装

1.1canal原生支持kafka消息,仅安装这个包就可以,阿里有安装的详细步骤,以及mysql的设置,详细见下面连接

MySQL中的canal需要赋权限

grant all privileges on *.* to canal@'%'identified by "canal" with grant option;

五、es安装

参考地址:

转载地址:http://aradi.baihongyu.com/

你可能感兴趣的文章
Matlab与CUDA C的混合编程配置出现的问题及解决方案
查看>>
PaperDownloader——文献命名6起来
查看>>
如何将PaperDownloader下载的文献存放到任意位置
查看>>
C/C++中关于动态生成一维数组和二维数组的学习
查看>>
JVM最简生存指南
查看>>
Java的对象驻留
查看>>
logback高级特性使用(二) 自定义Pattern模板
查看>>
JVM并发机制探讨—内存模型、内存可见性和指令重排序
查看>>
可扩展、高可用服务网络设计方案
查看>>
如何构建高扩展性网站
查看>>
微服务架构的设计模式
查看>>
持续可用与CAP理论 – 一个系统开发者的观点
查看>>
nginx+tomcat+memcached (msm)实现 session同步复制
查看>>
c++字符数组和字符指针区别以及str***函数
查看>>
c++类的操作符重载注意事项
查看>>
c++模板与泛型编程
查看>>
WAV文件解析
查看>>
WPF中PATH使用AI导出SVG的方法
查看>>
WPF UI&控件免费开源库
查看>>
QT打开项目提示no valid settings file could be found
查看>>