Mysql元數(shù)據(jù)如何生成Hive建表語句注釋腳本詳解
前言
本文主要給大家介紹了關(guān)于Mysql元數(shù)據(jù)生成Hive建表語句注釋腳本的相關(guān)內(nèi)容,分享出來供大家參考學(xué)習(xí),下面話不多說了,來一起看看詳細(xì)的介紹:
最近在將數(shù)據(jù)從Mysql 等其他關(guān)系型數(shù)據(jù)庫 抽取到Hive 表中時(shí),需要同步mysql表中的注釋,以下腳本可以生成hive表字段注釋修改語句。
注:其他關(guān)系型數(shù)據(jù)庫如:oracle 可以通過相同的思路,讀取元數(shù)據(jù),修改腳本語法實(shí)現(xiàn)。
使用:
在mysql元數(shù)據(jù)庫:information_schema 中執(zhí)行以下語句
SELECT CONCAT('alter table ', TABLE_NAME, ' CHANGE COLUMN ', COLUMN_NAME, ' ', COLUMN_NAME, ' ', DATA_TYPE, ' comment ', '"', COLUMN_COMMENT, '"', ';')
FROM (SELECT TABLE_NAME, COLUMN_NAME, CASE WHEN DATA_TYPE = 'varchar' THEN 'string' WHEN DATA_TYPE = 'int' THEN 'int' WHEN DATA_TYPE = 'tinyint' THEN 'tinyint' WHEN DATA_TYPE = 'decimal' THEN 'double' WHEN DATA_TYPE = 'datetime' THEN 'string' WHEN DATA_TYPE = 'timestamp' THEN 'string' WHEN DATA_TYPE = 'float' THEN 'double' WHEN DATA_TYPE = 'double' THEN 'double' WHEN DATA_TYPE = 'bigint' THEN 'bigint' END AS DATA_TYPE, COLUMN_COMMENT
FROM COLUMNS
WHERE TABLE_NAME = 'o_oms_statistic_profit'
) t;
在將數(shù)據(jù)從Mysql 等其他關(guān)系型數(shù)據(jù)庫 抽取到Hive 表中時(shí),需要同步mysql表中的注釋,以下腳本可以生成hive創(chuàng)建表語句。只是生成了hive表主要的字段信息,其他信息需要手工添加。
在mysql元數(shù)據(jù)庫:information_schema 中執(zhí)行以下語句
SELECT CONCAT('create table ', TABLE_NAME, '(', substring(column_info, 1, length(column_info) - 1), ')', ' comment ', '"', TABLE_COMMENT, '"', ';')
FROM (SELECT TABLE_NAME, TABLE_COMMENT, group_concat(CONCAT(COLUMN_NAME, ' ', DATA_TYPE, ' comment ', '"', COLUMN_COMMENT, '"')) AS column_info
FROM (SELECT t1.TABLE_NAME, CASE WHEN t2.TABLE_COMMENT = NULL THEN t1.TABLE_NAME ELSE t2.TABLE_COMMENT END AS TABLE_COMMENT, COLUMN_NAME, CASE WHEN DATA_TYPE = 'varchar' THEN 'string' WHEN DATA_TYPE = 'int' THEN 'int' WHEN DATA_TYPE = 'tinyint' THEN 'tinyint' WHEN DATA_TYPE = 'decimal' THEN 'double' WHEN DATA_TYPE = 'datetime' THEN 'string' WHEN DATA_TYPE = 'timestamp' THEN 'string' WHEN DATA_TYPE = 'float' THEN 'double' WHEN DATA_TYPE = 'double' THEN 'double' WHEN DATA_TYPE = 'bigint' THEN 'bigint' END AS DATA_TYPE, CASE WHEN COLUMN_COMMENT = NULL THEN COLUMN_NAME ELSE COLUMN_COMMENT END AS COLUMN_COMMENT
FROM COLUMNS t1 JOIN TABLES t2 ON t1.TABLE_NAME = t2.TABLE_NAME
WHERE t1.TABLE_NAME = 'o_oms_statistic_profit'
) t3
GROUP BY TABLE_NAME, TABLE_COMMENT
) t4;
總結(jié)
以上就是這篇文章的全部?jī)?nèi)容了,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來一定的幫助,如果有疑問大家可以留言交流,謝謝大家對(duì)腳本之家的支持。
相關(guān)文章
MySQL優(yōu)化全攻略-相關(guān)數(shù)據(jù)庫命令
MySQL優(yōu)化全攻略-相關(guān)數(shù)據(jù)庫命令...2006-11-11
MySql 5.7.20安裝及data和my.ini文件的配置
本文通過圖文并茂的形式給大家介紹了MySql 5.7.20安裝及data和my.ini文件的配置方法,本文給大家介紹的非常詳細(xì),需要的朋友參考下吧2017-11-11
MySQL查詢優(yōu)化的5個(gè)實(shí)用技巧
這篇文章主要介紹了MySQL查詢優(yōu)化的5個(gè)實(shí)用技巧,從數(shù)據(jù)類型、字符集、子查詢等角度分析了MySQL查詢優(yōu)化的相關(guān)技巧,具有一定參考借鑒價(jià)值,需要的朋友可以參考下2015-12-12
Windows平臺(tái)配置5.7版本+MySQL數(shù)據(jù)庫服務(wù)
這篇文章主要介紹了Windows平臺(tái)配置5.7版本+MySQL數(shù)據(jù)庫服務(wù)的方法,包括初始化root用戶密碼password的過程以及兩個(gè)常見問題的解決方法,需要的朋友參考下吧2017-06-06
PHP定時(shí)備份MySQL與mysqldump語法參數(shù)詳解
本文為大家介紹了PHP利用mysqldump命令定時(shí)備份MySQL與mysqldump語法參數(shù)大全以及定時(shí)備份的PHP實(shí)例代碼2018-10-10

