博客
关于我
NIFI大数据进阶_内嵌ZK模式集群2_实际操作搭建NIFI内嵌模式集群---大数据之Nifi工作笔记0016
阅读量:796 次
发布时间:2023-02-16

本文共 1930 字,大约阅读时间需要 6 分钟。

搭建Nifi集群:从解压到运行的完整步骤

在实际操作中,搭建Nifi集群需要对配置文件进行详细设置,以下将详细介绍从解压到运行的完整流程,帮助您顺利完成Nifi集群的配置。

1. 解压Nifi安装包

首先,将Nifi安装包解压到指定目录,例如:

# 解压到/export/soft目录tar -xzf nifi-1.9.2-18001.tar.gz /export/soft/nifi-1.9.2-18001

解压完成后,进入解压目录,准备进行Nifi集群配置。

2. 配置Zookeeper

进入Nifi的conf目录,找到并修改zookeeper.properties文件:

cd /export/soft/nifi-1.9.2-18001/confvim zookeeper.properties

zookeeper.properties中:

  • 配置clientPort:设置Zookeeper客户端连接端口,例如:

    clientPort=12181
  • 配置集群端口:如果是多台服务器,需要配置以下端口:

    server.1=12888server.2=13888server.3=12182

    注意:上述配置根据实际服务器数量和IP地址进行调整。

  • 3. 修改Nifi配置文件

    进入Nifi的conf目录,修改nifi.properties文件:

    cd /export/soft/nifi-1.9.2-18001/confvim nifi.properties

    nifi.properties中:

  • 启用集群模式:将nifi.state.management.embedded.zookeeper.start设置为true

    nifi.state.management.embedded.zookeeper.start=true
  • 配置集群信息

    • 节点协议端口:将nifi.cluster.load.balance.port设置为集群内通信端口,例如:

      nifi.cluster.load.balance.port=16342
    • Zookeeper连接字符串:设置Zookeeper的连接地址,例如:

      nifi.zookeeper.connect.string=192.168.52.150:12181,192.168.52.150:12182,192.168.52.150:12183
  • 其他配置

    • 等待时间:将nifi.cluster.flow.election.max.wait.time设置为1,允许集群快速选举。

    • 候选节点数量:将nifi.cluster.flow.election.max.candidates设置为1,确保至少有一个节点可用。

  • 4. 配置状态管理文件

    进入conf/state-management.xml文件,修改cluster配置部分:

    cd /export/soft/nifi-1.9.2-18001/conf/state-management.xmlvim state-management.xml

    <cluster>标签下,配置ConnectString为Zookeeper的连接地址,例如:

    192.168.52.150:12181,192.168.52.150:12182,192.168.52.150:12183

    5. 启动Nifi节点

    根据需要启动多个Nifi节点,例如:

    # 启动第一个Nifi节点(端口18001)./nifi-1.9.2-18001/bin/nifi-app.sh start# 启动第二个Nifi节点(端口18002)./nifi-1.9.2-18001/bin/nifi-app.sh start# 启动第三个Nifi节点(端口18003)./nifi-1.9.2-18001/bin/nifi-app.sh start

    启动完成后,检查Nifi日志文件:

    tail -f ./nifi-1.9.2-18001/logs/nifi-app.log

    6. 验证集群状态

    在NifiWeb界面中,点击“集群”选项卡,查看当前有多少节点连接。预期应显示3个节点已加入集群。

    7. 注意事项

    • 端口配置:确保所有节点的协议端口(如28001)和负载均衡端口(如16342)一致。

    • Zookeeper配置:检查Zookeeper的配置是否正确,避免配置错误导致集群无法正常运行。

    • 日志监控:定期查看Nifi日志,及时发现并解决问题。

    • 高可用性:如果需要更高的可用性,可以考虑部署Nifi的高可用性集群配置。

    通过以上步骤,您可以成功搭建一个Nifi集群,实现数据流的高效处理和管理。

    转载地址:http://mbjfk.baihongyu.com/

    你可能感兴趣的文章
    NIFI分页获取Postgresql数据到Hbase中_实际操作---大数据之Nifi工作笔记0049
    查看>>
    NIFI同步MySql数据_到SqlServer_错误_驱动程序无法通过使用安全套接字层(SSL)加密与SQL Server_Navicat连接SqlServer---大数据之Nifi工作笔记0047
    查看>>
    NIFI同步MySql数据源数据_到原始库hbase_同时对数据进行实时分析处理_同步到清洗库_实际操作06---大数据之Nifi工作笔记0046
    查看>>
    Nifi同步过程中报错create_time字段找不到_实际目标表和源表中没有这个字段---大数据之Nifi工作笔记0066
    查看>>
    NIFI大数据进阶_FlowFile拓扑_对FlowFile内容和属性的修改删除添加_介绍和描述_以及实际操作---大数据之Nifi工作笔记0023
    查看>>
    NIFI大数据进阶_FlowFile生成器_GenerateFlowFile处理器_ReplaceText处理器_处理器介绍_处理过程说明---大数据之Nifi工作笔记0019
    查看>>
    NIFI大数据进阶_FlowFile生成器_GenerateFlowFile处理器_ReplaceText处理器_实际操作---大数据之Nifi工作笔记0020
    查看>>
    NIFI大数据进阶_Json内容转换为Hive支持的文本格式_实际操作_02---大数据之Nifi工作笔记0032
    查看>>
    NIFI大数据进阶_Json内容转换为Hive支持的文本格式_操作方法说明_01_EvaluteJsonPath处理器---大数据之Nifi工作笔记0031
    查看>>
    NIFI大数据进阶_Kafka使用相关说明_实际操作Kafka消费者处理器_来消费kafka数据---大数据之Nifi工作笔记0037
    查看>>
    NIFI大数据进阶_Kafka使用相关说明_实际操作Kafka生产者---大数据之Nifi工作笔记0036
    查看>>
    NIFI大数据进阶_NIFI的模板和组的使用-介绍和实际操作_创建组_嵌套组_模板创建下载_导入---大数据之Nifi工作笔记0022
    查看>>
    NIFI大数据进阶_NIFI监控功能实际操作_Summary查看系统和处理器运行情况_viewDataProvenance查看_---大数据之Nifi工作笔记0026
    查看>>
    NIFI大数据进阶_NIFI监控的强大功能介绍_处理器面板_进程组面板_summary监控_data_provenance事件源---大数据之Nifi工作笔记0025
    查看>>
    NIFI大数据进阶_NIFI集群知识点_认识NIFI集群以及集群的组成部分---大数据之Nifi工作笔记0014
    查看>>
    NIFI大数据进阶_NIFI集群知识点_集群的断开_重连_退役_卸载_总结---大数据之Nifi工作笔记0018
    查看>>
    NIFI大数据进阶_使用NIFI表达式语言_来获取自定义属性中的数据_NIFI表达式使用体验---大数据之Nifi工作笔记0024
    查看>>
    NIFI大数据进阶_内嵌ZK模式集群1_搭建过程说明---大数据之Nifi工作笔记0015
    查看>>
    NIFI大数据进阶_内嵌ZK模式集群2_实际操作搭建NIFI内嵌模式集群---大数据之Nifi工作笔记0016
    查看>>
    NIFI大数据进阶_外部ZK模式集群1_实际操作搭建NIFI外部ZK模式集群---大数据之Nifi工作笔记0017
    查看>>