IDEA上運(yùn)行Flink任務(wù)的實(shí)戰(zhàn)教程

更新時間：2020年10月28日 08:30:05 作者：zq2599

這篇文章主要介紹了IDEA上運(yùn)行Flink任務(wù)的實(shí)戰(zhàn)教程，本文通過圖文并茂的形式給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下

歡迎訪問我的GitHub

https://github.com/zq2599/blog_demos

內(nèi)容：所有原創(chuàng)文章分類匯總及配套源碼，涉及Java、Docker、Kubernetes、DevOPS等；

IDEA是常用的IDE，我們編寫的flink任務(wù)代碼如果能直接在IDEA運(yùn)行，會給學(xué)習(xí)和開發(fā)帶來很大便利，例如改完代碼立即運(yùn)行不用部署、斷點(diǎn)、單步調(diào)試等；

環(huán)境信息

電腦：2019版13寸MacBook Pro，2.3 GHz 四核Intel Core i5，8 GB 2133 MHz LPDDR3
操作系統(tǒng)：macOS Catalina 10.15.3
JDK：1.8.0_211
Maven：3.6.0
IDEA：2018.3.5 (Ultimate Edition)
Flink版本：1.9.2

關(guān)于正版IDEA

如何免費(fèi)使用正版IDEA，可以參考《免費(fèi)申請和使用IntelliJ IDEA商業(yè)版License指南》

開發(fā)

首先確保您電腦上maven已裝好；
創(chuàng)建一個flink任務(wù)的maven工程，找個干凈目錄執(zhí)行以下命令：

mvn \
archetype:generate \
-DarchetypeGroupId=org.apache.flink \
-DarchetypeArtifactId=flink-quickstart-java \
-DarchetypeVersion=1.9.2

按提示輸入groupId、artifactId、version、package等內(nèi)容：

4. 現(xiàn)在maven工程已生成，用IDEA導(dǎo)入這個工程，如下圖：

5. 以maven的類型導(dǎo)入：

6. 導(dǎo)入成功后的樣子：

7. 修改StreamingJob.java，加入功能是監(jiān)聽本地18081端口，得到的字符串做word count操作，完整代碼在此下載：https://raw.githubusercontent.com/zq2599/blog_demos/master/files/StreamingJob.java

8. 現(xiàn)在的代碼已經(jīng)能運(yùn)行，但flink網(wǎng)頁卻還不能訪問，會顯示以下錯誤信息，需要繼續(xù)做些設(shè)置：

9. 下載flink-1.9.2安裝包，這里面有flink網(wǎng)頁服務(wù)用到的一個jar，地址是：https://www-eu.apache.org/dist/flink/flink-1.9.2/flink-1.9.2-bin-scala_2.11.tgz
10. flink-1.9.2-bin-scala_2.11.tgz下載后解壓，在lib目錄下有個flink-dist_2.11-1.9.2.jar文件，記住此文件的位置，稍后會用到；
11. 回到IDEA，在項(xiàng)目上點(diǎn)擊右鍵，點(diǎn)擊菜單Open Module Settings：

12. 在彈出的窗口做如下操作，目的是給項(xiàng)目中增加jar：

13. 彈出選擇文件的窗口，請選擇剛才準(zhǔn)備好的文件flink-dist_2.11-1.9.2.jar：

14. 設(shè)置工作已經(jīng)完成，由于StreamingJob的工作是讀取本機(jī)18081端口的數(shù)據(jù)，所以我們要把18081端口的服務(wù)啟動起來，不然StreamingJob運(yùn)行時是連不上端口的，打開一個控制臺，執(zhí)行命令：nc -l 18081
15. 現(xiàn)在可以將StreamingJob運(yùn)行起來，如下圖，右鍵點(diǎn)擊StreamingJob，選擇Run 'StreamingJob.main()'：即可啟動flink任務(wù)，如果想打斷點(diǎn)調(diào)試，請選擇Debug 'StreamingJob.main()'