Kafka费者群组示例

作者：--     发布时间：2019-11-20     评论：0     阅读：0

消费者群组是来自kafka主题的多线程或多机器消费。

消费者群组

消费者可以通过使用samegroup.id加入一个组。

• 一个组的最大并行度是该组中的消费者的数量 ← 分区的数量。
• kafka将一个主题的分区分配给组中的使用者，以便每个分区仅由组中的一位消费者使用。
• kafka保证只有群组中的单个消费者阅读消息。
• 消费者可以按照存储在日志中的顺序查看消息。

重新平衡消费者

添加更多流程/线程将导致kafka重新平衡。 如果任何消费者或经纪商未能向zookeeper发送心跳，则可以通过kafka集群重新配置它。 在这种重新平衡期间，kafka会将可用分区分配给可用线程，可能会将分区移至另一个进程。

import java.util.properties;
import java.util.arrays;
import org.apache.kafka.clients.consumer.kafkaconsumer;
import org.apache.kafka.clients.consumer.consumerrecords;
import org.apache.kafka.clients.consumer.consumerrecord;

public class consumergroup {
   public static void main(string[] args) throws exception {
      if(args.length < 2){
         system.out.println("usage: consumer <topic> <groupname>");
         return;
      }

      string topic = args[0].tostring();
      string group = args[1].tostring();
      properties props = new properties();
      props.put("bootstrap.servers", "localhost:9092");
      props.put("group.id", group);
      props.put("enable.auto.commit", "true");
      props.put("auto.commit.interval.ms", "1000");
      props.put("session.timeout.ms", "30000");
      props.put("key.deserializer",          
         "org.apache.kafka.common.serializa-tion.stringdeserializer");
      props.put("value.deserializer", 
         "org.apache.kafka.common.serializa-tion.stringdeserializer");
      kafkaconsumer<string, string> consumer = new kafkaconsumer<string, string>(props);

      consumer.subscribe(arrays.aslist(topic));
      system.out.println("subscribed to topic " + topic);
      int i = 0;

      while (true) {
         consumerrecords<string, string> records = con-sumer.poll(100);
            for (consumerrecord<string, string> record : records)
               system.out.printf("offset = %d, key = %s, value = %s\n", 
               record.offset(), record.key(), record.value());
      }     
   }  
}

编译

javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" consumergroup.java

执行代码

>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. 
consumergroup <topic-name> my-group
>>java -cp "/home/bala/workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. 
consumergroup <topic-name> my-group

在这里，创建了一个样本组名称作为my-group与两个消费者。 同样，可以在组中创建组和消费者数量。

输入

打开生产者cli并发送一些消息，如 -

test consumer group 01
test consumer group 02

第一个过程的输出 -

subscribed to topic hello-kafka
offset = 3, key = null, value = test consumer group 01

第二个过程的输出 -

subscribed to topic hello-kafka
offset = 3, key = null, value = test consumer group 02

现在希望能通过使用java客户端演示了解simpleconsumer和consumegroup。 现在已经了解了如何使用java客户端发送和接收消息。 在下一章继续 kafka 与一些大数据技术的整合。