重庆分公司,新征程启航

为企业提供网站建设、域名注册、服务器等服务

Kafka中怎么实现跨网络访问

本篇文章给大家分享的是有关Kafka中怎么实现跨网络访问,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。

创新互联欢迎来电:18980820575,为您提供成都网站建设网页设计及定制高端网站建设服务,创新互联网页制作领域10余年,包括木制凉亭等多个方面拥有丰富设计经验,选择创新互联,为网站锦上添花!

通信方式如下图:

Kafka中怎么实现跨网络访问

测试条件:

  • CDH和CM为6.3.3

  • Kafka版本为2.2.1

  • 集群和Kafka均已启用Kerberos

  • 内网IP格式为192.168.1.*

  • 外网IP格式为192.168.0.*

  • Kafka集群三台机器cdh[1-3].hadoop.com,外网客户端cdh02.hadoop.com

配置步骤    

   

   

   

2.1 配置hosts

1.在集群内节点配置主机名和内网ip的映射如下:

Kafka中怎么实现跨网络访问

2.在集群外节点配置主机名和外网ip的映射如下:

Kafka中怎么实现跨网络访问

3.在此处对内外网环境做验证

Kafka中怎么实现跨网络访问

Kafka中怎么实现跨网络访问


由上图可以看到,外网的客户端节点只能访问192.168.0.*,而无法访问192.168.1.*,并且telnet内网的9092端口也是不通的。

2.2 配置Kafka相关的参数

1.进入CM的Kafka配置页面,搜索kafka.properties

Kafka中怎么实现跨网络访问

2.根据三个不同的角色组,分别对Broker进行配置

Kafka中怎么实现跨网络访问

至此配置完成。

注:advertised_listeners 是对外暴露的服务端口,真正建立连接用的是 listeners,listeners中配置的监听,如果不发布到advertised_listeners中是无法直接访问的,并且advertised_listeners中的配置必须要在listeners中已经配置过。

验证Kafka使用    

   

   

   

1.在集群内节点创建topic,名称为faysonTopic,并生产一些消息。

Kafka中怎么实现跨网络访问

2.在集群内节点通过非安全的方式对topic进行消费,使用9092端口

Kafka中怎么实现跨网络访问

3.在集群外节点通过安全的方式使用外网环境消费topic,使用9797端口

export KAFKA_OPTS="-Djava.security.auth.login.config=./jaas-keytab.conf"
kafka-console-consumer --topic faysonTopic --from-beginning --bootstrap-server cdh2.hadoop.com:9797,cdh3.hadoop.com:9797,cdh4.hadoop.com:9797 --consumer.config client.properties

Kafka中怎么实现跨网络访问

Kafka中怎么实现跨网络访问

使用到的配置文件截图如下:

Kafka中怎么实现跨网络访问

1.针对listeners=PLAINTEXT://ip:9092,SASL_PLAINTEXT://:9797配置,让安全访问使用的9092端口只绑定在内网ip上,9797端口绑定在所有ip上,让外网环境只能够通过安全的协议来访问Kafka,如下:

Kafka中怎么实现跨网络访问

2.针对advertised.listeners= SASL_PLAINTEXT://hostname:9797配置,主要是通过域名映射的方式,通过客户端配置的外网IP与域名的hosts映射,保证外网的客户端能够访问Kafka集群。

以上就是Kafka中怎么实现跨网络访问,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注创新互联行业资讯频道。


标题名称:Kafka中怎么实现跨网络访问
文章出自:http://cqcxhl.com/article/josjpd.html

其他资讯

在线咨询
服务热线
服务热线:028-86922220
TOP