Flume監(jiān)聽(tīng)oracle表增量的步驟詳解
需求:獲取oracle表增量信息,發(fā)送至udp514端口,支持ip配置
步驟:
(1)需要的jar oracle的 odbc5.jar(oracle安裝目錄 /jdbc/lib下查找)
(2)flume的開(kāi)源包flume-ng-sql-source-1.4.3.jar 最新的好像是1.5的 小版本記不住了 這個(gè)下載地址直接csdn上就有
這兩個(gè)jar 都拷貝到flume的lib下
(3)flume配置文件
a1.sources = r1 a1.sinks = k1 a1.channels = c1 #接收syslog配置 #a1.sources.r1.type = syslogudp #a1.sources.r1.port = 514 #a1.sources.r1.host = 0.0.0.0 ###########sql source################# a1.sources.r1.type = org.keedio.flume.source.SQLSource a1.sources.r1.hibernate.connection.url = jdbc:oracle:thin:@10.9.224.36:1521/soc # Hibernate Database connection properties a1.sources.r1.hibernate.connection.user = soc_app a1.sources.r1.hibernate.connection.password = soc_app a1.sources.r1.hibernate.connection.autocommit = true a1.sources.r1.hibernate.dialect = org.hibernate.dialect.Oracle10gDialect a1.sources.r1.hibernate.connection.driver_class = oracle.jdbc.driver.OracleDriver a1.sources.r1.run.query.delay=1 a1.sources.r1.status.file.path = /usr/local/flume a1.sources.r1.status.file.name = a1.sqlSource.status # Custom query a1.sources.r1.start.from = '2017-07-31 07:06:20' a1.sources.r1.custom.query = SELECT CHR(39)||TO_CHAR(CREATETIME,'YYYY-MM-DD HH24:MI:SS')||CHR(39),MSG FROM FLUME_NG_SQL_SOURCE WHERE CREATETIME > TO_DATE($@$,'YYYY-MM-DD HH24:MI:SS') ORDER BY CREATETIME ASC a1.sources.r1.batch.size = 6000 a1.sources.r1.max.rows = 1000 a1.sources.r1.hibernate.connection.provider_class = org.hibernate.connection.C3P0ConnectionProvider a1.sources.r1.hibernate.c3p0.min_size=1 a1.sources.r1.hibernate.c3p0.max_size=10 ###########sql source################# #自定義類(lèi)型 a1.sinks.k1.type = com.neusoft.utils.SyslogSink #配置發(fā)送ip a1.sinks.k1.destination = 10.9.224.36 a1.channels.c1.type = memory a1.channels.c1.capacity = 10000 a1.channels.c1.transactionCapacity = 10000 a1.sources.r1.channels = c1 a1.sinks.k1.channel = c1 #啟動(dòng)命令 ./flume-ng agent -c ../conf -f ../conf/flume-sql.conf -n a1 -Dflume.root.logger=INFO,console &
由于是自己定義的sink 在我的博客中也有提到,所以配置了自定義的sink。
總結(jié)
以上所述是小編給大家介紹的Flume監(jiān)聽(tīng)oracle表增量的步驟詳解,希望對(duì)大家有所幫助,如果大家有任何疑問(wèn)請(qǐng)給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)腳本之家網(wǎng)站的支持!
相關(guān)文章
Oracle 監(jiān)聽(tīng)器密碼設(shè)置方法(LISTENER)
在缺省的情況下,任意用戶(hù)不需要使用任何密碼即通過(guò)lsnrctl 工具對(duì)Oracle Listener進(jìn)行操作或關(guān)閉,從而造成任意新的會(huì)話(huà)都將無(wú)法建立連接2016-09-09ORACLE應(yīng)用經(jīng)驗(yàn)(1)
ORACLE應(yīng)用經(jīng)驗(yàn)(1)...2007-03-03oracle中日期與字符串的相互轉(zhuǎn)化的方法詳解
Oracle數(shù)據(jù)庫(kù)系統(tǒng)是世界上最廣泛使用的數(shù)據(jù)庫(kù)管理系統(tǒng)之一,尤其在企業(yè)級(jí)應(yīng)用中占據(jù)主導(dǎo)地位,其中,日期函數(shù)是Oracle SQL中非常重要的組成部分,它們用于處理和操作日期和時(shí)間數(shù)據(jù),本文將給大家介紹oracle中日期與字符串的相互轉(zhuǎn)化的方法,需要的朋友可以參考下2024-09-09