2021年大数据Kafka(十二):❤️Kafka配额限速机制❤️

闲聊 闲聊 1578 人阅读 | 0 人回复

<
  齐网最具体的年夜数据Kafka文章系列,激烈倡议珍藏减存眷! 
  新文章皆曾经列出汗青文章目录,协助各人回忆前里的常识重面。
目录
系列汗青文章
Kafka配额限速机造
限定producer真个速度
限定consumer真个速度
打消kafka的Quota设置

系列汗青文章

2021年年夜数据Kafka(十两):❤️Kafka配额限速机造❤️
2021年年夜数据Kafka(十一):❤️Kafka的消耗者背载平衡机造战数据积压成绩❤️
2021年年夜数据Kafka(十):kafka消费者数据分收计策
2021年年夜数据Kafka(九):kafka动静存储及查询机造道理
2021年年夜数据Kafka(八):Kafka怎样保证数据没有丧失
2021年年夜数据Kafka(七):Kafka的分片战副本机造
2021年年夜数据Kafka(六):❤️装置Kafka-Eagle❤️
2021年年夜数据Kafka(五):❤️Kafka的java API编写❤️
2021年年夜数据Kafka(四):❤️kafka的shell号令操纵❤️
2021年年夜数据Kafka(三):❤️Kafka的散群拆建和shell启动号令剧本编写❤️
2021年年夜数据Kafka(两):❤️Kafka特性总结战架构❤️
2021年年夜数据Kafka(一):❤️动静行列战Kafka的根本引见❤️

Kafka配额限速机造

消费者战消耗者以极下的速率消费/消耗大批数据或发生恳求,从而占用broker上的局部资本,形成收集IO饱战。有了配额(Quotas)就能够制止那些成绩。Kafka撑持配额办理,从而能够对Producer战Consumer的produce&fetch操纵举办流量限定,避免个体营业压爆效劳器。
限定producer真个速度

为一切client id设置默许值,以下为一切producer法式设置其TPS没有超出跨越1MB/s,即1048576/s,号令以下:
  1. bin/kafka-configs.sh --zookeeper node1:2181 --alter --add-config &#39;producer_byte_rate=1048576&#39; --entity-type clients --entity-default
复造代码
运转基准测试,察看消费动静的速度
  1. bin/kafka-producer-perf-test.sh --topic test --num-records 50000 --throughput -1 --record-size 1000 --producer-props bootstrap.servers=node1:9092,node2:9092,node3:9092 acks=1
复造代码
限定前:
145922hm50hz1v00mbvvo4.png

限定后:
145922mfjijyfjkl1i1ffz.jpg

成果:      
50000 records sent, 1120.222252 records/sec (1.07 MB/sec)

限定consumer真个速度

对consumer限速取producer相似,只不外参数名纷歧样。      
为指定的topic举办限速,以下为一切consumer法式设置topic速度没有超出跨越1MB/s,即1048576/s。号令以下:
  1. bin/kafka-configs.sh --zookeeper node1:2181 --alter --add-config &#39;consumer_byte_rate=1048576&#39; --entity-type clients --entity-default
复造代码
运转基准测试,察看动静消耗的速度
  1. bin/kafka-consumer-perf-test.sh --broker-list node1:9092,node2:9092,node3:9092 --topic test --fetch-size 1048576 --messages 50000
复造代码
限定前:
145922gr2xpxmjenn29o2w.png

限定后:
145923v1i1ig13bx3li1xs.jpg

成果:
MB.sec: 0.9308

打消kafka的Quota设置

  1. bin/kafka-configs.sh --zookeeper node1:2181 --alter --delete-config &#39;producer_byte_rate&#39; --entity-type clients --entity-default
  2. bin/kafka-configs.sh --zookeeper node1:2181 --alter --delete-config &#39;consumer_byte_rate&#39; --entity-type clients --entity-default
复造代码

<ul>
免责声明:假如进犯了您的权益,请联络站少,我们会实时删除侵权内乱容,感谢协作!
1、本网站属于个人的非赢利性网站,转载的文章遵循原作者的版权声明,如果原文没有版权声明,按照目前互联网开放的原则,我们将在不通知作者的情况下,转载文章;如果原文明确注明“禁止转载”,我们一定不会转载。如果我们转载的文章不符合作者的版权声明或者作者不想让我们转载您的文章的话,请发帖留言提供原创证明,我们将积极配合您!
2、本网站转载文章仅为传播更多信息之目的,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证信息的正确性和完整性,且不对因信息的不正确或遗漏导致的任何损失或损害承担责任。
3、任何透过本网站网页而链接及得到的资讯、产品及服务,本网站概不负责,亦不负任何法律责任。
4、本网站所刊发、转载的文章,其版权均归原作者所有,如其他媒体、网站或个人从本网下载使用,请在转载有关文章时务必尊重该文章的著作权,保留本网注明的“稿件来源”,并自负版权等法律责任。
回复

使用道具 举报

 
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则