Java 使用maven實現(xiàn)Jsoup簡單爬蟲案例詳解
一、Jsoup的簡介
jsoup 是一款Java 的HTML解析器,可直接解析某個URL地址、HTML文本內容。它提供了一套非常省力的API,可通過DOM,CSS以及類似于jQuery的操作方法來取出和操作數(shù)據(jù)
二、我們可以利用Jsoup做什么
2.1從URL,文件或字符串中刮取并解析HTML查找和提取數(shù)據(jù),
2.2使用DOM遍歷或CSS選擇器操縱HTML元素,屬性和文本
2.3從而使我們輸出我們想要的整潔文本
三、利用Jsoup爬取某東示例
可以從圖中看到,成功爬取某東的女裝熱門銷量從高到低的標題,從而可以分析到銷量高(或者是綜合排序)在前列的標題名稱。從而可以剖析出熱門商品的命名規(guī)范。
四、Jsoup用法
4.1先創(chuàng)建maven工程,在maven工程上注入依賴
4.2 注入依賴后需要導入依賴,否則在程序中使用Jsoup會全部報錯。
4.3利用JSP的知識找出目標元素
如在某東界面我們發(fā)現(xiàn), 控制目標頁面的ID為"plist",則我們使用
getElementById("plist");方法去獲取到他的ID
接著獲取目標標題,可以由上圖分析得,標題是由<em>標簽所控制,因此我們需要用到
getElementsByTag("em");去捕捉到em的部分
最后循環(huán)輸出他的部分即可。
五、總結
Jsoup只能應用于簡單的頁面捕捉,在實際開發(fā)中許多網站采用Ajax技術等使得模塊在動態(tài)變化抑或是有反爬蟲技術,因此本技術有局限性。熟悉前端jsp技術的同學應該會游刃有余。
最后附上所有代碼
到此這篇關于Java 使用maven實現(xiàn)Jsoup簡單爬蟲案例詳解的文章就介紹到這了,更多相關Java 使用maven實現(xiàn)Jsoup簡單爬蟲內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!