全面解讀Java?NIO(看這篇就夠了)
很多技術框架都使用NIO技術,學習和掌握Java NIO技術對于高性能、高并發(fā)網(wǎng)絡的應用是非常關鍵的@mikechen
NIO簡介
NIO 中的 N 可以理解為 Non-blocking,不單純是 New,是解決高并發(fā)、I/O高性能的有效方式。
Java NIO是Java1.4之后推出來的一套IO接口,NIO提供了一種完全不同的操作方式, NIO支持面向緩沖區(qū)的、基于通道的IO操作。
新增了許多用于處理輸入輸出的類,這些類都被放在java.nio包及子包下,并且對原java.io包中的很多類進行改寫,新增了滿足NIO的功能。
NIO VS BIO
BIO
BIO全稱是Blocking IO,同步阻塞式IO,是JDK1.4之前的傳統(tǒng)IO模型。
Java BIO:服務器實現(xiàn)模式為一個連接一個線程,即客戶端有連接請求時服務器端就需要啟動一個線程進行處理,如下圖所示:
雖然此時服務器具備了高并發(fā)能力,即能夠同時處理多個客戶端請求了,但是卻帶來了一個問題,隨著開啟的線程數(shù)目增多,將會消耗過多的內存資源,導致服務器變慢甚至崩潰,NIO可以一定程度解決這個問題。
NIO
Java NIO: 同步非阻塞,服務器實現(xiàn)模式為一個線程處理多個請求(連接),即客戶端發(fā)送的連接請求都會注冊到多路復用器上,多路復用器輪詢到連接有I/O請求就進行處理。
一個線程中就可以調用多路復用接口(java中是select)阻塞同時監(jiān)聽來自多個客戶端的IO請求,一旦有收到IO請求就調用對應函數(shù)處理,NIO擅長1個線程管理多條連接,節(jié)約系統(tǒng)資源。
NIO的核心實現(xiàn)
NIO 包含3個核心的組件:
- Channel(通道)
- Buffer(緩沖區(qū))
- Selector(選擇器)
關系圖的說明:
- 每個 Channel 對應一個 Buffer。
- Selector 對應一個線程,一個線程對應多個 Channel。
- 該圖反應了有三個 Channel 注冊到該 Selector。
- 程序切換到那個 Channel 是由事件決定的(Event)。
- Selector 會根據(jù)不同的事件,在各個通道上切換。
- Buffer 就是一個內存塊,底層是有一個數(shù)組。
- 數(shù)據(jù)的讀取和寫入是通過 Buffer,但是需要flip()切換讀寫模式,而 BIO 是單向的,要么輸入流要么輸出流。
Channel(通道)
Channel 是 NIO 的核心概念,它表示一個打開的連接,這個連接可以連接到 I/O 設備(例如:磁盤文件,Socket)或者一個支持 I/O 訪問的應用程序,Java NIO 使用緩沖區(qū)和通道來進行數(shù)據(jù)傳輸。
通道的主要實現(xiàn)類:
FileChannel類
本地文件IO通道,用于讀取、寫入、映射和操作文件的通道,使用文件通道操作文件的一般流程為:
1)獲取通道
文件通道通過 FileChannel 的靜態(tài)方法 open() 來獲取,獲取時需要指定文件路徑和文件打開方式。
// 獲取文件通道 FileChannel.open(Paths.get(fileName), StandardOpenOption.READ);
2)創(chuàng)建字節(jié)緩沖區(qū)
文件相關的字節(jié)緩沖區(qū)有兩種,一種是基于堆的 HeapByteBuffer,另一種是基于文件映射,放在堆外內存中的 MappedByteBuffer。
// 分配字節(jié)緩存 ByteBuffer buf = ByteBuffer.allocate(10);
3)讀寫操作
讀取數(shù)據(jù)
一般需要一個循環(huán)結構來讀取數(shù)據(jù),讀取數(shù)據(jù)時需要注意切換 ByteBuffer 的讀寫模式。
while (channel.read(buf) != -1){ // 讀取通道中的數(shù)據(jù),并寫入到 buf 中 buf.flip(); // 緩存區(qū)切換到讀模式 while (buf.position() < buf.limit()){ // 讀取 buf 中的數(shù)據(jù) text.append((char)buf.get()); } buf.clear(); // 清空 buffer,緩存區(qū)切換到寫模式 }
寫入數(shù)據(jù)
for (int i = 0; i < text.length(); i++) { buf.put((byte)text.charAt(i)); // 填充緩沖區(qū),需要將 2 字節(jié)的 char 強轉為 1 自己的 byte if (buf.position() == buf.limit() || i == text.length() - 1) { // 緩存區(qū)已滿或者已經(jīng)遍歷到最后一個字符 buf.flip(); // 將緩沖區(qū)由寫模式置為讀模式 channel.write(buf); // 將緩沖區(qū)的數(shù)據(jù)寫到通道 buf.clear(); // 清空緩存區(qū),將緩沖區(qū)置為寫模式,下次才能使用 } }
4)將數(shù)據(jù)刷出到物理磁盤,F(xiàn)ileChannel 的 force(boolean metaData) 方法可以確保對文件的操作能夠更新到磁盤。
channel.force(false);
5)關閉通道
channel.close();
SocketChannel類
網(wǎng)絡套接字IO通道,TCP協(xié)議,針對面向流的連接套接字的可選擇通道(一般用在客戶端)。
TCP 客戶端使用 SocketChannel 與服務端進行交互的流程為:
1)打開通道,連接到服務端。
SocketChannel channel = SocketChannel.open(); // 打開通道,此時還沒有打開 TCP 連接 channel.connect(new InetSocketAddress("localhost", 9090)); // 連接到服務端
2)分配緩沖區(qū)
ByteBuffer buf = ByteBuffer.allocate(10); // 分配一個 10 字節(jié)的緩沖區(qū),不實用,容量太小
3)配置是否為阻塞方式。(默認為阻塞方式)
channel.configureBlocking(false); // 配置通道為非阻塞模式
4)與服務端進行數(shù)據(jù)交互
5)關閉連接
channel.close(); // 關閉通道
ServerSocketChannel類
網(wǎng)絡通信IO操作,TCP協(xié)議,針對面向流的監(jiān)聽套接字的可選擇通道(一般用于服務端),流程如下:
1)打開一個 ServerSocketChannel 通道, 綁定端口。
ServerSocketChannel server = ServerSocketChannel.open(); // 打開通道
2)綁定端口
server.bind(new InetSocketAddress(9090)); // 綁定端口
3)阻塞等待連接到來,有新連接時會創(chuàng)建一個 SocketChannel 通道,服務端可以通過這個通道與連接過來的客戶端進行通信。等待連接到來的代碼一般放在一個循環(huán)結構中。
SocketChannel client = server.accept(); // 阻塞,直到有連接過來
4)通過 SocketChannel 與客戶端進行數(shù)據(jù)交互
5)關閉 SocketChannel
client.close();
Buffer(緩沖區(qū))
緩沖區(qū) Buffer 是 Java NIO 中一個核心概念,在NIO庫中,所有數(shù)據(jù)都是用緩沖區(qū)處理的。
在讀取數(shù)據(jù)時,它是直接讀到緩沖區(qū)中的,在寫入數(shù)據(jù)時,它也是寫入到緩沖區(qū)中的,任何時候訪問 NIO 中的數(shù)據(jù),都是將它放到緩沖區(qū)中。
而在面向流I/O系統(tǒng)中,所有數(shù)據(jù)都是直接寫入或者直接將數(shù)據(jù)讀取到Stream對象中。
Buffer 數(shù)據(jù)類型
從類圖中可以看到,7 種數(shù)據(jù)類型對應著 7 種子類,這些名字是 Heap 開頭子類,數(shù)據(jù)是存放在 JVM 堆中的。
MappedByteBuffer
而 MappedByteBuffer 則是存放在堆外的直接內存中,可以映射到文件。
通過java.nio包和MappedByteBuffer允許Java程序直接從內存中讀取文件內容,通過將整個或部分文件映射到內存,由操作系統(tǒng)來處理加載請求和寫入文件,應用只需要和內存打交道,這使得IO操作非常快。
Mmap內存映射和普通標準IO操作的本質區(qū)別在于它并不需要將文件中的數(shù)據(jù)先拷貝至OS的內核IO緩沖區(qū),而是可以直接將用戶進程私有地址空間中的一塊區(qū)域與文件對象建立映射關系,這樣程序就好像可以直接從內存中完成對文件讀/寫操作一樣。
只有當缺頁中斷發(fā)生時,直接將文件從磁盤拷貝至用戶態(tài)的進程空間內,只進行了一次數(shù)據(jù)拷貝,對于容量較大的文件來說(文件大小一般需要限制在1.5~2G以下),采用Mmap的方式其讀/寫的效率和性能都非常高,大家熟知的RocketMQ就使用了該技術。
Buffer數(shù)據(jù)流程
應用程序可以通過與 I/O 設備建立通道來實現(xiàn)對 I/O 設備的讀寫操作,操作的數(shù)據(jù)通過緩沖區(qū) Buffer 來進行交互。
從 I/O 設備讀取數(shù)據(jù)時:
1)應用程序調用通道 Channel 的 read() 方法;
2)通道往緩沖區(qū) Buffer 中填入 I/O 設備中的數(shù)據(jù),填充完成之后返回;
3)應用程序從緩沖區(qū) Buffer 中獲取數(shù)據(jù)。
往 I/O 設備寫數(shù)據(jù)時:
1)應用程序往緩沖區(qū) Buffer 中填入要寫到 I/O 設備中的數(shù)據(jù);
2)調用通道 Channel 的 write() 方法,通道將數(shù)據(jù)傳輸至 I/O 設備。
緩沖區(qū)核心方法
緩沖區(qū)存取數(shù)據(jù)的兩個核心方法:
1)put():存入數(shù)據(jù)到緩沖區(qū)
- put(byte b):將給定單個字節(jié)寫入緩沖區(qū)的當前位置
- put(byte[] src):將 src 中的字節(jié)寫入緩沖區(qū)的當前位置
- put(int index, byte b):將指定字節(jié)寫入緩沖區(qū)的索引位置(不會移動 position)
2)get():獲取緩沖區(qū)的數(shù)據(jù)
- get() :讀取單個字節(jié)
- get(byte[] dst):批量讀取多個字節(jié)到 dst 中
- get(int index):讀取指定索引位置的字節(jié)(不會移動 position)
Selector(選擇器)
Selector類是NIO的核心類,Selector(選擇器)選擇器提供了選擇已經(jīng)就緒的任務的能力。
Selector會不斷的輪詢注冊在上面的所有channel,如果某個channel為讀寫等事件做好準備,那么就處于就緒狀態(tài),通過Selector可以不斷輪詢發(fā)現(xiàn)出就緒的channel,進行后續(xù)的IO操作。
一個Selector能夠同時輪詢多個channel,這樣,一個單獨的線程就可以管理多個channel,從而管理多個網(wǎng)絡連接,這樣就不用為每一個連接都創(chuàng)建一個線程,同時也避免了多線程之間上下文切換導致的開銷。
選擇器使用步驟
1 獲取選擇器
與通道和緩沖區(qū)的獲取類似,選擇器的獲取也是通過靜態(tài)工廠方法 open() 來得到的。
Selector selector = Selector.open(); // 獲取一個選擇器實例
2 獲取可選擇通道
能夠被選擇器監(jiān)控的通道必須實現(xiàn)了 SelectableChannel 接口,并且需要將通道配置成非阻塞模式,否則后續(xù)的注冊步驟會拋出 IllegalBlockingModeException。
SocketChannel socketChannel = SocketChannel.open(new InetSocketAddress("localhost", 9090)); // 打開 SocketChannel 并連接到本機 9090 端口 socketChannel.configureBlocking(false); // 配置通道為非阻塞模式
3 將通道注冊到選擇器
通道在被指定的選擇器監(jiān)控之前,應該先告訴選擇器,并且告知監(jiān)控的事件,即:將通道注冊到選擇器。
通道的注冊通過 SelectableChannel.register(Selector selector, int ops) 來完成,ops 表示關注的事件,如果需要關注該通道的多個 I/O 事件,可以傳入這些事件類型或運算之后的結果。這些事件必須是通道所支持的,否則拋出 IllegalArgumentException。
socketChannel.register(selector, SelectionKey.OP_READ | SelectionKey.OP_WRITE); // 將套接字通過到注冊到選擇器,關注 read 和 write 事件 socketChannel.register(selector, SelectionKey.OP_READ | SelectionKey.OP_WRITE); // 將套接字通過到注冊到選擇器,關注 read 和 write 事件
4 輪詢 select 就緒事件
通過調用選擇器的 Selector.select() 方法可以獲取就緒事件,該方法會將就緒事件放到一個 SelectionKey 集合中,然后返回就緒的事件的個數(shù)。這個方法映射多路復用 I/O 模型中的 select 系統(tǒng)調用,它是一個阻塞方法。正常情況下,直到至少有一個就緒事件,或者其它線程調用了當前 Selector 對象的 wakeup() 方法,或者當前線程被中斷時返回。
while (selector.select() > 0){ // 輪詢,且返回時有就緒事件 Set<SelectionKey> keys = selector.selectedKeys(); // 獲取就緒事件集合 ....... }
有 3 種方式可以 select 就緒事件:
1)select() 阻塞方法,有一個就緒事件,或者其它線程調用了 wakeup() 或者當前線程被中斷時返回。
2)select(long timeout) 阻塞方法,有一個就緒事件,或者其它線程調用了 wakeup(),或者當前線程被中斷,或者阻塞時長達到了 timeout 時返回。不拋出超時異常。
3)selectNode() 不阻塞,如果無就緒事件,則返回 0;如果有就緒事件,則將就緒事件放到一個集合,返回就緒事件的數(shù)量。
5 處理就緒事件
每次可以 select 出一批就緒的事件,所以需要對這些事件進行迭代。
for(SelectionKey key : keys){ if(key.isWritable()){ // 可寫事件 if("Bye".equals( (line = scanner.nextLine()) )){ socketChannel.shutdownOutput(); socketChannel.close(); break; } buf.put(line.getBytes()); buf.flip(); socketChannel.write(buf); buf.compact(); } }
從一個 SelectionKey 對象可以得到:1)就緒事件的對應的通道;2)就緒的事件。通過這些信息,就可以很方便地進行 I/O 操作。
NIO源碼案例
NIOServer
public static void main(String[] args) throws Exception{ //創(chuàng)建ServerSocketChannel,-->> ServerSocket ServerSocketChannel serverSocketChannel = ServerSocketChannel.open(); InetSocketAddress inetSocketAddress = new InetSocketAddress(5555); serverSocketChannel.socket().bind(inetSocketAddress); serverSocketChannel.configureBlocking(false); //設置成非阻塞 //開啟selector,并注冊accept事件 Selector selector = Selector.open(); serverSocketChannel.register(selector, SelectionKey.OP_ACCEPT); while(true) { selector.select(2000); //監(jiān)聽所有通道 //遍歷selectionKeys Set<SelectionKey> selectionKeys = selector.selectedKeys(); Iterator<SelectionKey> iterator = selectionKeys.iterator(); while (iterator.hasNext()) { SelectionKey key = iterator.next(); if(key.isAcceptable()) { //處理連接事件 SocketChannel socketChannel = serverSocketChannel.accept(); socketChannel.configureBlocking(false); //設置為非阻塞 System.out.println("client:" + socketChannel.getLocalAddress() + " is connect"); socketChannel.register(selector, SelectionKey.OP_READ); //注冊客戶端讀取事件到selector } else if (key.isReadable()) { //處理讀取事件 ByteBuffer byteBuffer = ByteBuffer.allocate(1024); SocketChannel channel = (SocketChannel) key.channel(); channel.read(byteBuffer); System.out.println("client:" + channel.getLocalAddress() + " send " + new String(byteBuffer.array())); } iterator.remove(); //事件處理完畢,要記得清除 } } }
NIOClient
public class NIOClient { public static void main(String[] args) throws Exception{ SocketChannel socketChannel = SocketChannel.open(); socketChannel.configureBlocking(false); InetSocketAddress inetSocketAddress = new InetSocketAddress("127.0.0.1", 5555); if(!socketChannel.connect(inetSocketAddress)) { while (!socketChannel.finishConnect()) { System.out.println("客戶端正在連接中,請耐心等待"); } } ByteBuffer byteBuffer = ByteBuffer.wrap("mikechen的互聯(lián)網(wǎng)架構".getBytes()); socketChannel.write(byteBuffer); socketChannel.close(); } }
到此這篇關于全面解讀Java NIO(看這篇就夠了)的文章就介紹到這了,更多相關Java NIO內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Java8新特性之JavaFX 8_動力節(jié)點Java學院整理
這篇文章主要介紹了Java8新特性之JavaFX 8的相關知識,非常不錯,具有參考借鑒價值,需要的朋友參考下吧2017-06-06Java多線程之循環(huán)柵欄技術CyclicBarrier使用探索
這篇文章主要介紹了Java多線程之循環(huán)柵欄技術CyclicBarrier,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪<BR>2024-01-01Java的Finalizer引發(fā)的內存溢出問題及解決
本文介紹了Java中的Finalizer機制,解釋了當類實現(xiàn)finalize()方法時,JVM的行為和潛在的風險,通過一個示例程序,展示了實現(xiàn)finalize()方法會導致大量對象存活,最終引發(fā)OutOfMemoryError,文章分析了GC日志,解釋了Finalizer線程和主線程之間的競爭2025-03-03Eclipse下編寫java程序突然不會自動生成R.java文件和包的解決辦法
這篇文章主要介紹了Eclipse下編寫java程序突然不會自動生成R.java文件和包的解決辦法 的相關資料,需要的朋友可以參考下2016-01-01在SpringBoot項目中實現(xiàn)給所有請求加固定前綴
這篇文章主要介紹了在SpringBoot項目中實現(xiàn)給所有請求加固定前綴,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-02-02基于params、@PathVariabl和@RequestParam的用法與區(qū)別說明
這篇文章主要介紹了方法參數(shù)相關屬性params、@PathVariabl和@RequestParam用法與區(qū)別,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-08-08