51
Dev开发社区
首页
文章
问答
工具
搜索
登录
注册
#Kafka
Exactly-once Spark Streaming from Apache Kafka
这篇文章我已经看过两遍了。收获颇多,抽个时间翻译下,先贴个原文链接吧。也给自己留个任务http://blog.cloudera.com/blog/2015/03/exactly-once-spark-streaming-from-apache-kafka/...
代码星球
·
2020-04-06
Exactly-once
Spark
Streaming
from
Apache
Kafka的面试题
1.Kafka的设计是什么样的呢?Kafka将消息以topic为单位进行归纳将向Kafkatopic发布消息的程序成为producers.将预订topics并消费消息的程序成为consumer.Kafka以集群的方式运行,可以由一个或多个服务组成,每个服务叫做一个broker.producers通过网络将消息发送到Ka...
代码星球
·
2020-04-05
Kafka
试题
kafka 安装出现的几个问题
1.安装kafka的过程出现两个问题 1)错误:找不到或无法加载主类kafka.Kafka 原因: 下载的是源码包,需要编译。可以下载Binarydownloads: 2) ERRORInvalidconfig,exiti...
代码星球
·
2020-04-05
kafka
安装
出现
几个问题
大数据架构开发 挖掘分析 Hadoop HBase Hive Flume ZooKeeper Storm Kafka Redis MongoDB Scala Spark 机器学习 Docker 虚拟化
第一阶段Java基础Linux基础第二阶段Hadoop第三阶段HBaseHiveSqoopFlumeZooKeeperStormKafkaRedisMongoDB第四阶段ScalaSpark机器学习第五阶段DockerKVM虚拟化OpenStack搜索引擎与爬虫第六阶段综合项目演练...
代码星球
·
2020-04-05
数据
架构
开发
挖掘
分析
在Windows环境中安装并使用kafka
1.安装部署Java下载需要安装的软件,下载地址:http://www.oracle.com/technetwork/java/javase/downloads/jre8-downloads-2133155.html双节安装,并配置环境变量使用下面的命令验证Java是否安装成功java-version至于怎么windo...
代码星球
·
2020-04-05
Windows
环境
安装
使用
kafka
start & stop kafka cluster shell script
kafka_start_cluster.sh#!/bin/bashbrokers="kafka-server-1kafka-server-2kafka-server-3"KAFKAHOME="/usr/local/software/kafka/kafka2.11-2.1.0"echo"INFO:Begintostart...
代码星球
·
2020-04-05
start
stop
kafka
cluster
shell
kafka与Rocketmq的区别
https://www.cnblogs.com/ynyhl/p/11320797.html...
代码星球
·
2020-04-05
kafka
Rocketmq
区别
kafka中的配额管理(限速)机制
kafka支持配额管理,从而可以对Producer和Consumer的produce&fetch操作进行流量限制,防止个别业务压爆服务器。本文主要介绍如何使用kafka的配额管理功能。Kafka配额管理所能配置的对象(或者说粒度)有3种:user+clientiduserclientid这3种都是对接入的cli...
代码星球
·
2020-04-05
kafka
中的
配额
管理
限速
Kafka限流
如果kafka客户端是认证的,那么可以使用userId和clientId两种认证方式。如果没有认证只能使用clientId限流。bin/kafka-configs.sh--zookeeperlocalhost:2181--alter--add-config'producer_byte_rate=1048576,cons...
代码星球
·
2020-04-05
Kafka
限流
KAFKA:如何做到1秒发布百万级条消息
http://rdcqii.hundsun.com/portal/article/709.htmlKAFKA是分布式发布-订阅消息系统,是一个分布式的,可划分的,冗余备份的持久性的日志服务。它主要用于处理活跃的流式数据。现在被广泛地应用于构建实时数据管道和流应用的场景中,具有横向扩展,容错,快等优点,并已经运行在众多大...
代码星球
·
2020-04-05
KAFKA
如何
做到
1秒
发布
Kafka生产者性能优化之吞吐量VS延迟
WhenwearetalkingaboutperformanceofKafkaProducer,wearereallytalkingabouttwodifferentthings:latency:howmuchtimepassesfromthetimeKafkaProducer.send()wascalleduntil...
代码星球
·
2020-04-05
Kafka
生产者
性能
优化
吞吐量
Debugging Kafka connect
1.setupdebugconfigurationmainClass:org.apache.kafka.connect.cli.ConnectDistributedVMOption:-Dkafka.logs.dir=/home/lenmom/workspace/software/kafka_2.11-2.1.0/bin...
代码星球
·
2020-04-05
Debugging
Kafka
connect
kafka shell file
1.startkafkaandschema_registry #!/bin/shexportKAFKA_HOME=/home/lenmom/workspace/software/confluent-community-5.1.0-2.11exportKAFKA_PROCESS_ID=$(jps|grepSup...
代码星球
·
2020-04-05
kafka
shell
file
confluent kafka connect remote debugging
Tobeginwith,let'stakealookathowkafkaconnectstart.1.1 startcommand#backgroundrunningmodecd/home/lenmom/workspace/software/confluent-community-5.1.0-2.11/&am...
代码星球
·
2020-04-05
confluent
kafka
connect
remote
debugging
Kafka Connect REST Interface
SinceKafkaConnectisintendedtoberunasaservice,italsosupportsaRESTAPIformanagingconnectors.Bydefaultthisservicerunsonport 8083.Whenexecutedindistributedmode,...
代码星球
·
2020-04-05
Kafka
Connect
REST
Interface
首页
上一页
...
9
10
11
12
13
下一页
尾页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他