Classloader隔離技術(shù)在業(yè)務(wù)監(jiān)控中的應(yīng)用詳解
1. 背景&簡介
業(yè)務(wù)監(jiān)控平臺是得物自研的一款用于數(shù)據(jù)和狀態(tài)驗證的平臺。能快速便捷發(fā)現(xiàn)線上業(yè)務(wù)臟數(shù)據(jù)和錯誤邏輯,有效防止資產(chǎn)損失和保證系統(tǒng)穩(wěn)定性。
數(shù)據(jù)流向:

上圖的過濾和校驗步驟的實際工作就是執(zhí)行一個用戶自定義的Groovy核對腳本。業(yè)務(wù)監(jiān)控內(nèi)部通過一個執(zhí)行腳本的模塊來實現(xiàn)。
本篇以腳本執(zhí)行模塊的一個技術(shù)問題為切入點,給大家分享利用ClassLoader隔離技術(shù)實現(xiàn)腳本執(zhí)行隔離的經(jīng)驗。
2. 業(yè)務(wù)監(jiān)控平臺腳本調(diào)試流程
業(yè)務(wù)監(jiān)控核心執(zhí)行邏輯是數(shù)據(jù)校驗核對。不同域會有不同的數(shù)據(jù)校驗核對規(guī)則。最初版本用戶編寫一個腳本進行調(diào)試的步驟如下:
1.編寫數(shù)據(jù)校驗?zāi)_本(在業(yè)務(wù)監(jiān)控平臺規(guī)則下),腳本demo:
@Service
public class DubboDemoScript implements DemoScript {
@Resource
private DemoService demoService;
@Override
public boolean filter(JSONObject jsonObject) {
// 這里省略數(shù)據(jù)過濾邏輯 由業(yè)務(wù)使用方實現(xiàn)
return true;
}
@Override
public String check(JSONObject jsonObject) {
Long id = jsonObject.getLong("id");
// 數(shù)據(jù)校驗,由業(yè)務(wù)使用方實現(xiàn)
Response responseResult = demoService.queryById(id);
log.info("[DubboClassloaderTestDemo]返回結(jié)果={}", JsonUtils.serialize(responseResult));
return JsonUtils.serialize(responseResult);
}
}
其中DemoScript是業(yè)務(wù)監(jiān)控平臺定義的一個模板interface, 不同腳本實現(xiàn)此接口并重寫 filter和check兩個方法。filter方法是用來進行數(shù)據(jù)過濾的,check方法是進行數(shù)據(jù)核對校驗的-用戶主要編寫這兩個方法中的邏輯。
2.在業(yè)務(wù)監(jiān)控平臺腳本調(diào)試頁面進行調(diào)試腳本,當腳本中有第三方團隊Maven依賴時候,業(yè)務(wù)監(jiān)控平臺需要在pom.xml中添加Maven依賴并進行發(fā)布,之后通知用戶再此進行調(diào)試。
3.點擊腳本調(diào)試,查看腳本調(diào)試結(jié)果。
4.保存并上線腳本。
2.1 業(yè)務(wù)監(jiān)控的腳本開發(fā)調(diào)試流程圖

用戶想要調(diào)試一個腳本需要告知平臺開發(fā),平臺開發(fā)手動將Maven依賴添加到project中并去發(fā)布平臺進行發(fā)布。中間不僅特別耗時,效率低,而且還要頻繁發(fā)布,嚴重影響了業(yè)務(wù)監(jiān)控平臺的用戶使用體驗且增加平臺開發(fā)的維護成本。
為此,業(yè)務(wù)監(jiān)控平臺在新版本中使用了Classloader隔離技術(shù)來動態(tài)加載腳本中依賴的業(yè)務(wù)方服務(wù)。業(yè)務(wù)監(jiān)控不需要再進行特殊處理(添加Maven依賴再進行發(fā)布),用戶在管控后臺直接上傳腳本以來的JAR文件就可以完成調(diào)試,大大降低了使用和維護成本,提高用戶體驗。
3. 自定義Classloder | 打破雙親委派
3.1 什么是Classloader
ClassLoader是一個抽象類,我們用它的實例對象來裝載類 ,它負責將Java字節(jié)碼裝載到JVM中 , 并使其成為JVM一部分。JVM的類動態(tài)加載技術(shù)能夠在運行時刻動態(tài)地加載或者替換系統(tǒng)的某些功能模塊,而不影響系統(tǒng)其他功能模塊的正常運行。一般是通過類名讀入一個class文件來裝載這個類。
類裝載就是尋找一個類或是一個接口的字節(jié)碼文件并通過解析該字節(jié)碼來構(gòu)造代表這個類或是這個接口的class對象的過程 。在Java中,類裝載器把一個類裝入Java虛擬機中,要經(jīng)過三個步驟來完成:裝載、鏈接和初始化。
3.2 Classloader動態(tài)加載依賴文件
利用Classloader實現(xiàn)類URLClassloader來實現(xiàn)依賴文件的動態(tài)加載。示例代碼:
public class CustomClassLoader extends URLClassLoader {
/**
* @param jarPath jar文件目錄地址
* @return
*/
private CustomClassLoader createCustomClassloader(String jarPath) throws MalformedURLException {
File file = new File(jarPath);
URL url = file.toURI().toURL();
List<URL> urlList = Lists.newArrayList(url);
URL[] urls = new URL[urlList.size()];
urls = urlList.toArray(urls);
return new CustomJarClassLoader(urls, classLoader.getParent());
}
public CustomClassLoader(URL[] urls, ClassLoader parent) {
super(urls, parent);
}
在新增依賴文件的時候,使用Classloader的addURL方法動態(tài)添加來進行實現(xiàn)。
如果所有腳本使用同一個類加載器,來進行加載,就會出現(xiàn)問題,原因:同一個類(全限定名一樣)只會被類加載器加載一次(雙親委派)。但是不同腳本存在兩個全限定名一樣的情況,但是方法或者屬性不相同,因此加載一次就會導(dǎo)致其中一個腳本核對邏輯出錯。
在理解了上面的情況下,我們就需要打破Java雙親委派機制,這里要知道一個知識點:一個類的全限定名以及加載該類的加載器兩者共同形成了這個類在JVM中的唯一標識,因此就需要自定義類加載器,讓腳本和Classloader一一對應(yīng)且各不相同。話不多說,直接上干貨:
3.3 自定義類加載器
public class CustomClassLoader extends URLClassLoader {
public JarFile jarFile;
public ClassLoader parent;
public CustomClassLoader(URL[] urls, JarFile jarFile, ClassLoader parent) {
super(urls, parent);
this.jarFile = jarFile;
this.parent = parent;
}
public CustomClassLoader(URL[] urls, ClassLoader parent) {
super(urls, parent);
}
private static String classNameToJarEntry(String name) {
String classPath = name.replaceAll("\\.", "\\/");
return new StringBuilder(classPath).append(".class").toString();
}
/**
* 重寫loadClass方法,按照類包路徑規(guī)則拉進行加載Class到j(luò)vm
* @param name 類全限定名
* @return
* @throws ClassNotFoundException
*/
@Override
protected Class<?> loadClass(String name, boolean resolve) throws ClassNotFoundException {
// 這里定義類加載規(guī)則,和findClass方法一起組合打破雙親
if (name.startsWith("com.xx") || name.startsWith("com.yyy")) {
return this.findClass(name);
}
return super.loadClass(name, resolve);
}
@Override
protected Class<?> findClass(String name) throws ClassNotFoundException {
Class clazz = null;
try {
String jarEntryName = classNameToJarEntry(name);
if (jarFile == null) {
return clazz;
}
JarEntry jarEntry = jarFile.getJarEntry(jarEntryName);
if (jarEntry != null) {
InputStream inputStream = jarFile.getInputStream(jarEntry);
byte[] bytes = IOUtils.toByteArray(inputStream);
clazz = defineClass(name, bytes, 0, bytes.length);
}
} catch (IOException e) {
log.info("Custom classloader load calss {} failed", name)
}
return clazz;
}
}
說明:上述自定義類加載器的loadClass和findClass方法一起達到破壞雙親委派機制的關(guān)鍵。其中super.loadClass(name, resolve)方法是不符合自定義類加載器規(guī)則的情況下,讓其父加載器(這里的父加載器就是LanuchUrlClassloader)進行類加載,自定義類加載器只關(guān)注自己要加載的類,并按照腳本維度進行緩存對應(yīng)的Classloader。
3.4 業(yè)務(wù)監(jiān)控使用CustomClassloader
腳本或者調(diào)試腳本過程中和Classloader之間的創(chuàng)建關(guān)系:

一個腳本對應(yīng)多個依賴的JAR文件(JAR文件在腳本調(diào)試頁面上傳到HDFS),一個腳本對應(yīng)一個classloader(并進行本地緩存)(完全相同的兩個類在不同的classloader中加載后兩個Class對象是不相等的)。
3.5 業(yè)務(wù)監(jiān)控動態(tài)加載JAR和腳本的實現(xiàn)
在上述的操作中,相信大家對JAR怎么實現(xiàn)腳本加載的,和腳本中@Resource注解標記的屬性DemoService類如何創(chuàng)建Bean和注入到Spring容器比較關(guān)注。貼張流程圖來講解:

流程圖中生成FeignClient對象的創(chuàng)建源碼:
/**
*
* @param serverName 服務(wù)名 (@FeignClient主鍵中的name值)
* eg:@FeignClient("demo-interfaces")
* @param beanName feign對象名稱 eg: DemoFeignClient
* @param targetClass feign的Class對象
* @param <T> FeignClient主鍵標記的Object
* @return
*/
public static <T> T build(String serverName, String beanName, Class<T> targetClass) {
return buildClient(serverName, beanName, targetClass);
}
private static <T> T buildClient(String serverName, String beanName, Class<T> targetClass) {
T t = (T) BEAN_CACHE.get(serverName + "-" + beanName);
if (Objects.isNull(t)) {
FeignClientBuilder.Builder<T> builder = new FeignClientBuilder(applicationContext).forType(targetClass, serverName);
t = builder.build();
BEAN_CACHE.put(serverName + "-" + beanName, t);
}
return t;
}
流程圖中生成注冊Dubbo consumer的源碼:
public void registerDubboBean(Class clazz, String beanName) {
// 當前應(yīng)用配置
ApplicationConfig application = new ApplicationConfig();
application.setName("demo-service");
// 連接注冊中心配置
RegistryConfig registry = new RegistryConfig();
registry.setAddress(registryAddress);
// ReferenceConfig為重對象,內(nèi)部封裝了與注冊中心的連接,以及與服務(wù)提供方的連接
ReferenceConfig reference = new ReferenceConfig<>(); // 此實例很重,封裝了與注冊中心的連接以及與提供者的連接,請自行緩存,否則可能造成內(nèi)存和連接泄漏
reference.setApplication(application);
reference.setRegistry(registry); // 多個注冊中心可以用setRegistries()
reference.setInterface(clazz);
reference.setVersion("1.0");
// 注意:此代理對象內(nèi)部封裝了所有通訊細節(jié),這里用dubbo2.4版本以后提供的緩存類ReferenceConfigCache
ReferenceConfigCache cache = ReferenceConfigCache.getCache();
Object dubboBean = cache.get(reference);
dubboBeanMap.put(beanName, dubboBean);
// 注冊bean
SpringContextUtils.registerBean(beanName, dubboBean);
// 注入bean
SpringContextUtils.autowireBean(dubboBean);
}
以上就是Classloader隔離技術(shù)在業(yè)務(wù)監(jiān)控平臺的實際運用,當然在開發(fā)中也遇到一些問題,下面列舉2個例子。
4. 問題&原因&方案
問題一: 多個團隊的Check腳本運行在一起,單個應(yīng)用的Metaspace空間占用會不會過大?
答:隨著業(yè)務(wù)的發(fā)展,JAR文件的不斷增多,確實會出現(xiàn)元數(shù)據(jù)區(qū)占用過大的情況,這也是做Classloader隔離的原因。在做了這一步之后,為后面進行腳本拆分做了鋪墊,比如按照應(yīng)用、團隊等維度單獨部署應(yīng)用來運行其對應(yīng)check腳本。這樣腳本和業(yè)務(wù)監(jiān)控邏輯上也進行了拆分,也會降低主應(yīng)用的發(fā)布頻率帶來的噪音。
問題二:Classloader隔離實現(xiàn)上有沒有遇到什么難題?
答:中間遇到了一些問題,就是同一個全限定名的類,出現(xiàn)了CastException異常,此類問題是最容易出現(xiàn)的,也最容易想到的。
原因:同一個類被2個不同的Classloader對象加載了2次。解決也很簡單,使用同一個類加載器。
5. 總結(jié)
該篇文章講解了自定義Classloader的實現(xiàn)和如何做到隔離,如何動態(tài)加載JAR文件,如何手動注冊入Dubbo和Feign服務(wù)。類加載器動態(tài)加載腳本技術(shù),在業(yè)務(wù)監(jiān)控平臺運用再適合不過了。當然一些業(yè)務(wù)場景也是可以參考此項技術(shù),來解決一些技術(shù)問題。
以上就是Classloader隔離技術(shù)在業(yè)務(wù)監(jiān)控中的應(yīng)用詳解的詳細內(nèi)容,更多關(guān)于Classloader業(yè)務(wù)監(jiān)控隔離技術(shù)的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
關(guān)于SpringMVC中控制器如何處理文件上傳的問題
這篇文章主要介紹了關(guān)于SpringMVC中控制器如何處理文件上傳的問題,在 Web 應(yīng)用程序中,文件上傳是一個常見的需求,例如用戶上傳頭像、上傳文檔等,本文將介紹 Spring MVC 中的控制器如何處理文件上傳,并提供示例代碼,需要的朋友可以參考下2023-07-07
SpringCloud筆記(Hoxton)Netflix之Ribbon負載均衡示例代碼
這篇文章主要介紹了SpringCloud筆記HoxtonNetflix之Ribbon負載均衡,Ribbon是管理HTTP和TCP服務(wù)客戶端的負載均衡器,Ribbon具有一系列帶有名稱的客戶端(Named?Client),對SpringCloud?Ribbon負載均衡相關(guān)知識感興趣的朋友一起看看吧2022-06-06
Java中數(shù)組與集合的相互轉(zhuǎn)換實現(xiàn)解析
這篇文章主要介紹了Java中數(shù)組與集合的相互轉(zhuǎn)換實現(xiàn)解析,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2019-08-08

