博客
关于我
NIFI大数据进阶_内嵌ZK模式集群2_实际操作搭建NIFI内嵌模式集群---大数据之Nifi工作笔记0016
阅读量:793 次
发布时间:2023-02-16

本文共 1930 字,大约阅读时间需要 6 分钟。

搭建Nifi集群:从解压到运行的完整步骤

在实际操作中,搭建Nifi集群需要对配置文件进行详细设置,以下将详细介绍从解压到运行的完整流程,帮助您顺利完成Nifi集群的配置。

1. 解压Nifi安装包

首先,将Nifi安装包解压到指定目录,例如:

# 解压到/export/soft目录tar -xzf nifi-1.9.2-18001.tar.gz /export/soft/nifi-1.9.2-18001

解压完成后,进入解压目录,准备进行Nifi集群配置。

2. 配置Zookeeper

进入Nifi的conf目录,找到并修改zookeeper.properties文件:

cd /export/soft/nifi-1.9.2-18001/confvim zookeeper.properties

zookeeper.properties中:

  • 配置clientPort:设置Zookeeper客户端连接端口,例如:

    clientPort=12181
  • 配置集群端口:如果是多台服务器,需要配置以下端口:

    server.1=12888server.2=13888server.3=12182

    注意:上述配置根据实际服务器数量和IP地址进行调整。

  • 3. 修改Nifi配置文件

    进入Nifi的conf目录,修改nifi.properties文件:

    cd /export/soft/nifi-1.9.2-18001/confvim nifi.properties

    nifi.properties中:

  • 启用集群模式:将nifi.state.management.embedded.zookeeper.start设置为true

    nifi.state.management.embedded.zookeeper.start=true
  • 配置集群信息

    • 节点协议端口:将nifi.cluster.load.balance.port设置为集群内通信端口,例如:

      nifi.cluster.load.balance.port=16342
    • Zookeeper连接字符串:设置Zookeeper的连接地址,例如:

      nifi.zookeeper.connect.string=192.168.52.150:12181,192.168.52.150:12182,192.168.52.150:12183
  • 其他配置

    • 等待时间:将nifi.cluster.flow.election.max.wait.time设置为1,允许集群快速选举。

    • 候选节点数量:将nifi.cluster.flow.election.max.candidates设置为1,确保至少有一个节点可用。

  • 4. 配置状态管理文件

    进入conf/state-management.xml文件,修改cluster配置部分:

    cd /export/soft/nifi-1.9.2-18001/conf/state-management.xmlvim state-management.xml

    <cluster>标签下,配置ConnectString为Zookeeper的连接地址,例如:

    192.168.52.150:12181,192.168.52.150:12182,192.168.52.150:12183

    5. 启动Nifi节点

    根据需要启动多个Nifi节点,例如:

    # 启动第一个Nifi节点(端口18001)./nifi-1.9.2-18001/bin/nifi-app.sh start# 启动第二个Nifi节点(端口18002)./nifi-1.9.2-18001/bin/nifi-app.sh start# 启动第三个Nifi节点(端口18003)./nifi-1.9.2-18001/bin/nifi-app.sh start

    启动完成后,检查Nifi日志文件:

    tail -f ./nifi-1.9.2-18001/logs/nifi-app.log

    6. 验证集群状态

    在NifiWeb界面中,点击“集群”选项卡,查看当前有多少节点连接。预期应显示3个节点已加入集群。

    7. 注意事项

    • 端口配置:确保所有节点的协议端口(如28001)和负载均衡端口(如16342)一致。

    • Zookeeper配置:检查Zookeeper的配置是否正确,避免配置错误导致集群无法正常运行。

    • 日志监控:定期查看Nifi日志,及时发现并解决问题。

    • 高可用性:如果需要更高的可用性,可以考虑部署Nifi的高可用性集群配置。

    通过以上步骤,您可以成功搭建一个Nifi集群,实现数据流的高效处理和管理。

    转载地址:http://mbjfk.baihongyu.com/

    你可能感兴趣的文章
    NIFI大数据进阶_离线同步MySql数据到HDFS_02_实际操作_splitjson处理器_puthdfs处理器_querydatabasetable处理器---大数据之Nifi工作笔记0030
    查看>>
    NIFI大数据进阶_离线同步MySql数据到HDFS_说明操作步骤---大数据之Nifi工作笔记0028
    查看>>
    NIFI大数据进阶_连接与关系_设置数据流负载均衡_设置背压_设置展现弯曲_介绍以及实际操作---大数据之Nifi工作笔记0027
    查看>>
    NIFI数据库同步_多表_特定表同时同步_实际操作_MySqlToMysql_可推广到其他数据库_Postgresql_Hbase_SqlServer等----大数据之Nifi工作笔记0053
    查看>>
    NIFI汉化_替换logo_二次开发_Idea编译NIFI最新源码_详细过程记录_全解析_Maven编译NIFI避坑指南001---大数据之Nifi工作笔记0068
    查看>>
    NIFI汉化_替换logo_二次开发_Idea编译NIFI最新源码_详细过程记录_全解析_Maven编译NIFI避坑指南002---大数据之Nifi工作笔记0069
    查看>>
    NIFI集群_内存溢出_CPU占用100%修复_GC overhead limit exceeded_NIFI: out of memory error ---大数据之Nifi工作笔记0017
    查看>>
    NIFI集群_队列Queue中数据无法清空_清除队列数据报错_无法删除queue_解决_集群中机器交替重启删除---大数据之Nifi工作笔记0061
    查看>>
    NIH发布包含10600张CT图像数据库 为AI算法测试铺路
    查看>>
    Nim教程【十二】
    查看>>
    Nim游戏
    查看>>
    NIO ByteBuffer实现原理
    查看>>