• 近期在搞kafka,在Windows环境搭建的过程中遇到一些问题,把具体的流程几下来防止后面忘了。
  • 准备工作:
一、安装jdk环境
http://www.oracle.com/technetwork/java/javase/downloads/index.html

二、下载kafka的程序安装包: 下载二进制文件
http://kafka.apache.org/downloads
解压文件提取出里面的文件
在cmd命令行打开至根目录下,内容如下:

(1).bin目录下存放的是程序运行时使用的脚本文件,window平台是一个独立的文件夹里面存放着 .bat 文件,bin的目录下存放的是 Linux 平台使用的 .sh 的shell脚本,在window平台上用不到,嫌麻烦可以删了。
(2).config目录下存放的是一些程序运行的配置文件,在后期自定义使用kafka的时候需要修改里面的文件内容。
(3).libs目录是打包好的jar包,这个版本自带了zookeeper的jar包,所以在安装的过程中不需要再在本地安装zookeeper了。

三、启动kafka服务并测试生产与消费
1、 启动zookeeper服务:
  1. 在正常启动zoopkeeper之前需要修改zookeeper.properties的文件内容,将其data的输出目录指定一下,可自行创建一个文件夹如下:

    然后启动:
bin\windows\zookeeper-server-start.bat config\zookeeper.properties
  • 正常启动后他的状态是这样的:


我在启动时报了个错误:
错误: 找不到或无法加载主类 Files\Java\jdk1.8.0_144\lib\dt.jar;C:\Program

我下载的版本是:kafka_2.11-1.0.0

解决方法很简单。

打开路径kafka_2.11-1.0.0\bin\windows 下的文件kafka-run-class.bat

修改第179行

set COMMAND=%JAVA% %KAFKA_HEAP_OPTS% %KAFKA_JVM_PERFORMANCE_OPTS% %KAFKA_JMX_OPTS% %KAFKA_LOG4J_OPTS% -cp "%CLAsspATH%" %KAFKA_OPTS% %*

%CLAsspATH%加上双引号即可。其他版本若遇到此问题,也是修改这一句代码,但不一定在这一行。

2. 启动kfaka服务:
在启动前,任然需要修改server.properties中log.dir的配置目录,

修改后,启动服务:
bin\windows\kafka-server-start.bat config\server.properties



3. 创建一个主题:
bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic kjTest

可以使用如下命令查看创建的主题列表:

bin\windows\kafka-topics.bat --list --zookeeper localhost:2181

4. 启动生产者:
bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic kjTest

此时可以从控制台输入信息,待消费者启动后可接收到生产者发布的消息。



5. 启动消费者:
bin\windows\kafka-console-consumer.bat --zookeeper localhost:2181 --topic kjTest --from-beginning
  • 此时便能看到发布出去的消息了


上述过程总结:
一、四个命令行窗口

第一个命令窗口->启动zookeeper服务:

bin\windows\zookeeper-server-start.bat config\zookeeper.properties

第二个命令窗口->启动kfaka服务:

bin\windows\kafka-server-start.bat config\server.properties

第三个命令窗口->启动启produce:

创建一个主题:

bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic ydc1Test

使用如下命令查看创建的主题列表:

bin\windows\kafka-topics.bat --list --zookeeper localhost:2181

启动生产者:

bin\windows\kafka-console-producer.bat --broker-list 192.168.51.41:9092 --topic ydc1Test

第四个命令窗口->启动consumer

bin\windows\kafka-console-consumer.bat --zookeeper localhost:2181 --topic ydc1Test --from-beginning

二、Java:测试kafka生产和消费

参考网址:http://blog.csdn.net/honglei915/article/details/37563647

三、心得总结:
1.produce启动的时候,参数使用的是kafka的端口(默认:9092);consumer启动的时候使用的是zookeeper(默认:2181的端口;
2.必须先创建topic才能使用;
3.topic本质是以文件的形式储存在zookeeper上的。

四、 在后期还可以启动多个集群服务,同时进行操作,修改server.properties中的内容:便可启动,与上相似。
config/server-1.properties:
        broker.id=<new id>
        listeners=PLAINTEXT://:<new port>
        log.dir=<you log dir>

操作步骤:
  • 1).分别启动需要的kafka服务

2). 创建主题,设置分区数目


可以使用下面的命令查看是否创建成功,和具体的分区


3). 分别启动生产者消费者


4). 可以查看下当前工作状态


查看得当前服务使用的是broker编号为2的服务,但我们将其down掉后


再次执行消息发送任务:


消息仍能发送成功,命令行中会提示一个服务已关闭。
就查看当前状态:

此时的leader换成了broker 0

参考资料:http://kafka.apache.org/quickstart

Windows平台下kafka环境的搭建的更多相关文章

  1. cocoapods – 命令/ bin / sh失败,退出代码23

    适用于所有豆荚,无需豆荚但仍然是同样的错误.有任何想法吗?

  2. 当Xcode 4.6打开故事板时,ios – Xcode 5崩溃

    我从2个月前开始使用Xcode4.6的项目,现在我想发送给我的应用程序一切都可以,但是当我尝试在iOS7上运行应用程序时,我看到一些错误;所以我已经下载了新的Xcode5以查看错误在哪里,但是发生了什么事情是当我尝试打开与IBXcode崩溃的故事板.我试图在互联网上看到如何解决这个问题,但我没有找到任何关于这一点.此外,当我尝试使用iOS7在设备上运行应用程序时,Xcode给我的错误是:解决方法问

  3. Xcode 8.2,Swift编译器错误:错误:意外的输入文件

    从Xcode8.1更新到8.2后,我在项目中面临Swift编译器错误.我使用最新的Swift版本和Carthage进行依赖管理.它与Xcode8.1完美搭配,现在我已经尝试了几个小时来修复它,方法是清理DerivedData和Simulator数据,在Xcode中清理并删除Build文件夹,但似乎没有任何帮助.我只安装了一个Xcode版本.我得到以下编译错误:它所指的文件夹如下所示:它实际上在那里,所以我不知道发生了什么……如发现本站有涉嫌侵权/违法违规的内容,请发送邮件至dio@foxmail.com举

  4. phonegap运行android – create命令失败,退出代码8 – linux

    我做了一些googleing但没有发现任何相关内容.任何帮助赞赏.请务必使用裸体vm进行尝试没有nodejs安装或依赖问题.基督教解决方法我刚刚面临同样的问题,问题是没有正确设置sdk工具的路径:请尝试以下方法:

  5. 无法为Android教程构建GStreamer

    我在尝试构建GStreamerAndroid教程时遇到了很多问题.我的环境是:>MacOSX7>AndroidSDK版本17>AndroidNDK8d我能够在Eclipse和命令行中构建和运行NDK示例.我已经下载了http://cdn.gstreamer.com/android/arm/gstreamer-sdk-android-arm-debug-2012.11.tar.bz2并将GSTREA

  6. android – 无法摆脱错误“/usr/bin/ld:找不到-lncurses”

    有人能指出我错过了什么吗?解决方法然后重新运行命令

  7. 如何将Android App用作Kafka的“制作客户”?

    使用Android应用作为ApacheKafka的“制作客户端”是否可行/是否有意义?

  8. android – 无法更改默认输出文件夹

    所有我无法在Eclipse中更改默认输出文件夹.当我打开“属性”–>“Java构建路径”–>“Source”,默认输出文件夹是我改成了保存并清理–构建此项目.它变回了这是在我将ADT插件更新到15.0.1之后发生的一些配置:任何建议表示赞赏.谢谢,约翰尼解决方法从AndroidChangesinRevision14开始:Changetothebinoutputfolder.WhiletheAntb

  9. Android ICS编译问题

    我成功下载了Android4.0.3的源代码.但我无法在我的机器上编译它.我的机器配置是UBUNTU11.1064位,4GBRAM当我运行午餐命令时收到以下错误.JDK已经在路径中.当我运行命令java-version时,我正在关注OutPut任何人都可以帮助继续吗?解决方法如果检查脚本build/core/find-jdk-tools-jar.sh,则可以看到它首先检查名为ANDROID_JAVA_HOME的环境变量.如果将ANDROID_JAVA_HOME环境变量设置为JDK路径,则应修复此错误.

  10. Android模拟器错误消息:“PANIC:”x86“CPUS缺少仿真器引擎程序.

    我试图通过使用AVD管理器运行一个Android模拟器.这是我的avd:http://image-upload.de/image/fnx79V/52b0d050ee.png这是通过开始发生的事情:http://image-upload.de/image/vGpQfa/e912d83939.png我有一个MacbookPro视网膜从intel页面直接安装Haxm驱动程序.没有模拟器正在工作.所有得到

随机推荐

  1. static – 在页面之间共享数据的最佳实践

    我想知道在UWP的页面之间发送像’selectedItem’等变量的最佳做法是什么?创建一个每个页面都知道的静态全局变量类是一个好主意吗?

  2. .net – 为Windows窗体控件提供百分比宽度/高度

    WindowsForm开发的新手,但在Web开发方面经验丰富.有没有办法为Windows窗体控件指定百分比宽度/高度,以便在用户调整窗口大小时扩展/缩小?当窗口调整大小时,可以编写代码来改变控件的宽度/高度,但我希望有更好的方法,比如在HTML/CSS中.在那儿?

  3. 使用Windows Azure查询表存储数据

    我需要使用特定帐户吗?>将应用程序部署到Azure服务后,如何查询数据?GoogleAppEngine有一个数据查看器/查询工具,Azure有类似的东西吗?>您可以看到的sqlExpressintance仅在开发结构中,并且一旦您表示没有等效,所以请小心使用它.>您可以尝试使用Linqpad查询表格.看看JamieThomson的thispost.

  4. windows – SetupDiGetClassDevs是否与文档中的设备实例ID一起使用?

    有没有更好的方法可以使用DBT_DEVICEARRIVAL事件中的数据获取设备的更多信息?您似乎必须指定DIGCF_ALLCLASSES标志以查找与给定设备实例ID匹配的所有类,或者指定ClassGuid并使用DIGCF_DEFAULT标志.这对我有用:带输出:

  5. Windows Live ID是OpenID提供商吗?

    不,WindowsLiveID不是OpenID提供商.他们使用专有协议.自从他们的“测试版”期结束以来,他们从未宣布计划继续它.

  6. 如果我在代码中进行了更改,是否需要重新安装Windows服务?

    我写了一个Windows服务并安装它.现在我对代码进行了一些更改并重新构建了解决方案.我还应该重新安装服务吗?不,只需停止它,替换文件,然后重新启动它.

  7. 带有双引号的字符串回显使用Windows批处理输出文件

    我正在尝试使用Windows批处理文件重写配置文件.我循环遍历文件的行并查找我想要用指定的新行替换的行.我有一个’函数’将行写入文件问题是%Text%是一个嵌入双引号的字符串.然后失败了.可能还有其他角色也会导致失败.如何才能使用配置文件中的所有文本?尝试将所有“在文本中替换为^”.^是转义字符,因此“将被视为常规字符你可以尝试以下方法:其他可能导致错误的字符是:

  8. .net – 将控制台应用程序转换为服务?

    我正在寻找不同的优势/劣势,将我们长期使用的控制台应用程序转换为Windows服务.我们为ActiveMQ使用了一个叫做java服务包装器的东西,我相信人们告诉我你可以用它包装任何东西.这并不是说你应该用它包装任何东西;我们遇到了这个问题.控制台应用程序是一个.NET控制台应用程序,默认情况下会将大量信息记录到控制台,尽管这是可配置的.任何推荐?我们应该在VisualStudio中将其重建为服务吗?我使用“-install”/“-uninstall”开关执行此操作.例如,seehere.

  9. windows – 捕获外部程序的STDOUT和STDERR *同时*它正在执行(Ruby)

    哦,我在Windows上:-(实际上,它比我想象的要简单,这看起来很完美:…是的,它适用于Windows!

  10. windows – 当我试图批量打印变量时,为什么我得到“Echo is on”

    我想要执行一个简单的批处理文件脚本:当我在XP中运行时,它给了我预期的输出,但是当我在Vista或Windows7中运行它时,我在尝试打印值时得到“EchoisOn”.以下是程序的输出:摆脱集合表达式中的空格.等号(=)的两侧可以并且应该没有空格BTW:我通常在@echo关闭的情况下启动所有批处理文件,并以@echo结束它们,所以我可以避免将代码与批处理文件的输出混合.它只是使您的批处理文件输出更好,更清洁.

返回
顶部