快捷導(dǎo)航

探究Android客戶端網(wǎng)絡(luò)預(yù)連接優(yōu)化機制

更新時間：2021年06月18日 09:48:57 作者：vivo互聯(lián)網(wǎng)技術(shù)

一般情況下，我們都是用一些封裝好的網(wǎng)絡(luò)框架去請求網(wǎng)絡(luò)，對底層實現(xiàn)不甚關(guān)注，而大部分情況下也不需要特別關(guān)注處理。了解底層的一些實現(xiàn)，有益于我們對網(wǎng)絡(luò)加載進行優(yōu)化。本文就是關(guān)于根據(jù)http的連接復(fù)用機制來優(yōu)化網(wǎng)絡(luò)加載速度的原理與細(xì)節(jié)

一、連接復(fù)用

對于一個普通的接口請求，通過charles抓包，查看網(wǎng)絡(luò)請求Timing欄信息，我們可以看到類似如下請求時長信息：

Duration 175 ms
DNS 6 ms
Connect 50 msTLS Handshake 75 ms
Request 1 ms
Response 1 ms
Latency 42 ms

同樣的請求，再來一次，時長信息如下所示：

Duration 39 ms
DNS -
Connect -
TLS Handshake -
Request 0 ms
Response 0 ms
Latency 39 ms

我們發(fā)現(xiàn)，整體網(wǎng)絡(luò)請求時間從175ms降低到了39ms。其中DNS，Connect，TLS Handshake 后面是個橫線，表示沒有時長信息，于是整體請求時長極大的降低了。這就是Http(s)的連接復(fù)用的效果。那么問題來了，什么是連接復(fù)用，為什么它能降低請求時間？

在解決這個疑問之前，我們先來看看一個網(wǎng)絡(luò)請求發(fā)起，到收到返回的數(shù)據(jù)，這中間發(fā)生了什么？

客戶端發(fā)起網(wǎng)絡(luò)請求
通過DNS服務(wù)解析域名，獲取服務(wù)器IP （基于UDP協(xié)議的DNS解析）
建立TCP連接（3次握手）
建立TLS連接（https才會用到）
發(fā)送網(wǎng)絡(luò)請求request
服務(wù)器接收request，構(gòu)造并返回response
TCP連接關(guān)閉（4次揮手）

上面的連接復(fù)用直接讓上面2,3,4步都不需要走了。這中間省掉的時長應(yīng)該怎么算？如果我們定義網(wǎng)絡(luò)請求一次發(fā)起與收到響應(yīng)的一個來回（一次通信來回）作為一個RTT（Round-trip delay time）。

1）DNS默認(rèn)基于UDP協(xié)議，解析最少需要1-RTT;

2）建立TCP連接，3次握手，需要2-RTT;

3）建立TLS連接，根據(jù)TLS版本不同有區(qū)別，常見的TLS1.2需要2-RTT。

Client Server

ClientHello -------->

ServerHello

Certificate*

ServerKeyExchange*

CertificateRequest*

<-------- ServerHelloDone

Certificate*

ClientKeyExchange

CertificateVerify*

[ChangeCipherSpec]

Finished -------->

[ChangeCipherSpec]

<-------- Finished

Application Data <-------> Application Data

TLS 1.2握手流程（來自 RFC 5246）

注：TLS1.3版本相比TLS1.2，支持0-RTT數(shù)據(jù)傳輸（可選，一般是1-RTT），但目前支持率比較低，用的很少。

http1.0版本，每次http請求都需要建立一個tcp socket連接，請求完成后關(guān)閉連接。前置建立連接過程可能就會額外花費4-RTT，性能低下。

http1.1版本開始，http連接默認(rèn)就是持久連接，可以復(fù)用，通過在報文頭部中加上Connection:Close來關(guān)閉連接。如果并行有多個請求，可能還是需要建立多個連接，當(dāng)然我們也可以在同一個TCP連接上傳輸，這種情況下，服務(wù)端必須按照客戶端請求的先后順序依次回送結(jié)果。

注：http1.1默認(rèn)所有的連接都進行了復(fù)用。然而空閑的持久連接也可以隨時被客戶端與服務(wù)端關(guān)閉。不發(fā)送Connection:Close不意味著服務(wù)器承諾連接永遠(yuǎn)保持打開。

http2 更進一步，支持二進制分幀，實現(xiàn)TCP連接的多路復(fù)用，不再需要與服務(wù)端建立多個TCP連接了，同域名的多個請求可以并行進行。

還有個容易被忽視的是，TCP有擁塞控制，建立連接后有慢啟動過程（根據(jù)網(wǎng)絡(luò)情況一點一點的提高發(fā)送數(shù)據(jù)包的數(shù)量，前面是指數(shù)級增長，后面變成線性），復(fù)用連接可以避免這個慢啟動過程，快速發(fā)包。

二、預(yù)連接實現(xiàn)

客戶端常用的網(wǎng)絡(luò)請求框架如OkHttp等，都能完整支持http1.1與HTTP2的功能，也就支持連接復(fù)用。了解了這個連接復(fù)用機制優(yōu)勢，那我們就可以利用起來，比如在APP閃屏等待的時候，就預(yù)先建立首頁詳情頁等關(guān)鍵頁面多個域名的連接，這樣我們進入相應(yīng)頁面后可以更快的獲取到網(wǎng)絡(luò)請求結(jié)果，給予用戶更好體驗。在網(wǎng)絡(luò)環(huán)境偏差的情況下，這種預(yù)連接理論上會有更好的效果。

具體如何實現(xiàn)？

第一反應(yīng)，我們可以簡單的對域名鏈接提前發(fā)起一個HEAD請求（沒有body可以省流量），這樣就能提前建立好連接，下次同域名的請求就可以直接復(fù)用，實現(xiàn)起來也是簡單方便。于是寫了個demo，試了個簡單接口，完美，粗略統(tǒng)計首次請求速度可以提升40%以上。

于是在游戲中心App啟動Activity中加入了預(yù)連接相關(guān)邏輯，跑起來試了下，竟然沒效果...

抓包分析，發(fā)現(xiàn)連接并沒有復(fù)用，每次進去詳情頁后都重新創(chuàng)建了連接，預(yù)連接可能只是省掉了DNS解析時間，demo上的效果無法復(fù)現(xiàn)。看樣子分析OkHttp連接復(fù)用相關(guān)源碼是跑不掉了。

三、源碼分析

OKHttp通過幾個默認(rèn)的Interceptor用于處理網(wǎng)絡(luò)請求相關(guān)邏輯，建立連接在ConnectInterceptor類中；

public final class ConnectInterceptor implements Interceptor {
  @Override public Response intercept(Chain chain) throws IOException {
    RealInterceptorChain realChain = (RealInterceptorChain) chain;
    Request request = realChain.request();
    StreamAllocation streamAllocation = realChain.streamAllocation();

    // We need the network to satisfy this request. Possibly for validating a conditional GET.
    boolean doExtensiveHealthChecks = !request.method().equals("GET");
    HttpCodec httpCodec = streamAllocation.newStream(client, chain, doExtensiveHealthChecks);
    RealConnection connection = streamAllocation.connection();

    return realChain.proceed(request, streamAllocation, httpCodec, connection);
  }
}

RealConnection即為后面使用的connection，connection生成相關(guān)邏輯在StreamAllocation類中；

public HttpCodec newStream(
      OkHttpClient client, Interceptor.Chain chain, boolean doExtensiveHealthChecks) {
  ... 
    RealConnection resultConnection = findHealthyConnection(connectTimeout, readTimeout,
        writeTimeout, pingIntervalMillis, connectionRetryEnabled, doExtensiveHealthChecks);
    HttpCodec resultCodec = resultConnection.newCodec(client, chain, this);
  ...
}

private RealConnection findHealthyConnection(int connectTimeout, int readTimeout,
      int writeTimeout, int pingIntervalMillis, boolean connectionRetryEnabled,
      boolean doExtensiveHealthChecks) throws IOException {
    while (true) {
      RealConnection candidate = findConnection(connectTimeout, readTimeout, writeTimeout,
          pingIntervalMillis, connectionRetryEnabled);
    ...
      return candidate;
    }
}
  
  /**
   * Returns a connection to host a new stream. This prefers the existing connection if it exists,
   * then the pool, finally building a new connection.
   */
  private RealConnection findConnection(int connectTimeout, int readTimeout, int writeTimeout,
      int pingIntervalMillis, boolean connectionRetryEnabled) throws IOException {
    ...
    
    // 嘗試從connectionPool中獲取可用connection
    Internal.instance.acquire(connectionPool, address, this, null);
    if (connection != null) {
    foundPooledConnection = true;
    result = connection;
    } else {
    selectedRoute = route;
    }
    
   ...
   
    if (!foundPooledConnection) {
      ... 
      // 如果最終沒有可復(fù)用的connection，則創(chuàng)建一個新的
        result = new RealConnection(connectionPool, selectedRoute);
    }
  ...
}

這些源碼都是基于okhttp3.13版本的代碼，3.14版本開始這些邏輯有修改。

StreamAllocation類中最終獲取connection是在findConnection方法中，優(yōu)先復(fù)用已有連接，沒可用的才新建立連接。獲取可復(fù)用的連接是在ConnectionPool類中；

/**
 * Manages reuse of HTTP and HTTP/2 connections for reduced network latency. HTTP requests that
 * share the same {@link Address} may share a {@link Connection}. This class implements the policy
 * of which connections to keep open for future use.
 */
public final class ConnectionPool {

  private final Runnable cleanupRunnable = () -> {
    while (true) {
      long waitNanos = cleanup(System.nanoTime());
      if (waitNanos == -1) return;
      if (waitNanos > 0) {
        long waitMillis = waitNanos / 1000000L;
        waitNanos -= (waitMillis * 1000000L);
        synchronized (ConnectionPool.this) {
          try {
            ConnectionPool.this.wait(waitMillis, (int) waitNanos);
          } catch (InterruptedException ignored) {
          }
        }
      }
    }
  };

  // 用一個隊列保存當(dāng)前的連接
  private final Deque<RealConnection> connections = new ArrayDeque<>();
  
  
  /**
   * Create a new connection pool with tuning parameters appropriate for a single-user application.
   * The tuning parameters in this pool are subject to change in future OkHttp releases. Currently
   * this pool holds up to 5 idle connections which will be evicted after 5 minutes of inactivity.
   */
  public ConnectionPool() {
    this(5, 5, TimeUnit.MINUTES);
  }

  public ConnectionPool(int maxIdleConnections, long keepAliveDuration, TimeUnit timeUnit) {
  ...
  }
  
  void acquire(Address address, StreamAllocation streamAllocation, @Nullable Route route) {
    assert (Thread.holdsLock(this));
    for (RealConnection connection : connections) {
      if (connection.isEligible(address, route)) {
        streamAllocation.acquire(connection, true);
        return;
      }
    }
  }

由上面源碼可知，ConnectionPool默認(rèn)最大維持5個空閑的connection，每個空閑connection5分鐘后自動釋放。如果connection數(shù)量超過最大數(shù)5個，則會移除最舊的空閑connection。

最終判斷空閑的connection是否匹配，是在RealConnection的isEligible方法中；

/**
   * Returns true if this connection can carry a stream allocation to {@code address}. If non-null
   * {@code route} is the resolved route for a connection.
   */
  public boolean isEligible(Address address, @Nullable Route route) {
    // If this connection is not accepting new streams, we're done.
    if (allocations.size() >= allocationLimit || noNewStreams) return false;

    // If the non-host fields of the address don't overlap, we're done.
    if (!Internal.instance.equalsNonHost(this.route.address(), address)) return false;

    // If the host exactly matches, we're done: this connection can carry the address.
    if (address.url().host().equals(this.route().address().url().host())) {
      return true; // This connection is a perfect match.
    }

    // At this point we don't have a hostname match. But we still be able to carry the request if
    // our connection coalescing requirements are met. See also:
    // https://hpbn.co/optimizing-application-delivery/#eliminate-domain-sharding
    // https://daniel.haxx.se/blog/2016/08/18/http2-connection-coalescing/

    // 1. This connection must be HTTP/2.
    if (http2Connection == null) return false;

    // 2. The routes must share an IP address. This requires us to have a DNS address for both
    // hosts, which only happens after route planning. We can't coalesce connections that use a
    // proxy, since proxies don't tell us the origin server's IP address.
    if (route == null) return false;
    if (route.proxy().type() != Proxy.Type.DIRECT) return false;
    if (this.route.proxy().type() != Proxy.Type.DIRECT) return false;
    if (!this.route.socketAddress().equals(route.socketAddress())) return false;

    // 3. This connection's server certificate's must cover the new host.
    if (route.address().hostnameVerifier() != OkHostnameVerifier.INSTANCE) return false;
    if (!supportsUrl(address.url())) return false;

    // 4. Certificate pinning must match the host.
    try {
      address.certificatePinner().check(address.url().host(), handshake().peerCertificates());
    } catch (SSLPeerUnverifiedException e) {
      return false;
    }

    return true; // The caller's address can be carried by this connection.
  }

這塊代碼比較直白，簡單解釋下比較條件：

如果該connection已達(dá)到承載的流上限（即一個connection可以承載幾個請求，http1默認(rèn)是1個，http2默認(rèn)是Int最大值）則不符合；

如果2個Address除Host之外的屬性有不匹配，則不符合（如果2個請求用的okhttpClient不同，復(fù)寫了某些重要屬性，或者服務(wù)端端口等屬性不一樣，那都不允許復(fù)用）；

如果host相同，則符合，直接返回true（其它字段已經(jīng)在上一條比較了）；

如果是http2，則判斷無代理、服務(wù)器IP相同、證書相同等條件，如果都符合也返回true；

整體看下來，出問題的地方應(yīng)該就是ConnectionPool 的隊列容量太小導(dǎo)致的。游戲中心業(yè)務(wù)復(fù)雜，進入首頁后，觸發(fā)了很多接口請求，導(dǎo)致連接池直接被占滿，于是在啟動頁做好的預(yù)連接被釋放了。通過調(diào)試驗證了下，進入詳情頁時，ConnectionPool中的確已經(jīng)沒有之前預(yù)連接的connection了。

四、優(yōu)化

在http1.1中，瀏覽器一般都是限定一個域名最多保留5個左右的空閑連接。然而okhttp的連接池并沒有區(qū)分域名，整體只做了默認(rèn)最大5個空閑連接，如果APP中不同功能模塊涉及到了多個域名，那這默認(rèn)的5個空閑連接肯定是不夠用的。有2個修改思路：

重寫ConnectionPool，將連接池改為根據(jù)域名來限定數(shù)量，這樣可以完美解決問題。然而OkHttp的ConnectionPool是final類型的，無法直接重寫里面邏輯，另外OkHttp不同版本上，ConnectionPool邏輯也有區(qū)別，如果考慮在編譯過程中使用ASM等字節(jié)碼編寫技術(shù)來實現(xiàn)，成本很大，風(fēng)險很高。
直接調(diào)大連接池數(shù)量和超時時間。這個簡單有效，可以根據(jù)自己業(yè)務(wù)情況適當(dāng)調(diào)大這個連接池最大數(shù)量，在構(gòu)建OkHttpClient的時候就可以傳入這個自定義的ConnectionPool對象。

我們直接選定了方案2。

五、問答

1、如何確認(rèn)連接池最大數(shù)量值？

這個數(shù)量值有2個參數(shù)作為參考：頁面最大同時請求數(shù)，App總的域名數(shù)。也可以簡單設(shè)定一個很大的值，然后進入APP后，將各個主要頁面都點一遍，看看當(dāng)前ConnectionPool中留存的connection數(shù)量，適當(dāng)做一下調(diào)整即可。

2、調(diào)大了連接池會不會導(dǎo)致內(nèi)存占用過多？

經(jīng)測試：將connectionPool最大值調(diào)成50，在一個頁面上，用了13個域名鏈接，總共重復(fù)4次，也就是一次發(fā)起52個請求之后，ConnectionPool中留存的空閑connection平均22.5個，占用內(nèi)存為97Kb，ConnectionPool中平均每多一個connection會占用4.3Kb內(nèi)存。

3、調(diào)大了連接池會影響到服務(wù)器嗎？

理論上是不會的。連接是雙向的，即使客戶端將connection一直保留，服務(wù)端也會根據(jù)實際連接數(shù)量和時長調(diào)整，自動關(guān)閉連接的。比如服務(wù)端常用的nginx就可以自行設(shè)定最大保留的connection數(shù)量，超時也會自動關(guān)閉舊連接。因此如果服務(wù)器定義的最大連接數(shù)和超時時間比較小，可能我們的預(yù)連接會無效，因為連接被服務(wù)端關(guān)閉了。