建站
咨詢
售后
建站咨詢
新聞中心
哈嘍，大家好，最近周邊的同事，鄰居逐漸都羊了。
創(chuàng)新互聯(lián)于2013年開始，是專業(yè)互聯(lián)網(wǎng)技術(shù)服務(wù)公司，擁有項目網(wǎng)站制作、網(wǎng)站建設(shè)網(wǎng)站策劃，項目實施與項目整合能力。我們以讓每一個夢想脫穎而出為使命，1280元宜陽做網(wǎng)站,已為上家服務(wù),為宜陽各地企業(yè)和個人服務(wù),聯(lián)系電話:028-86922220
而指北君還在堅挺碼字。等待陽的到來。
相信羊過之后，必是一片彩虹!
如果很多資源的使用如果不從共享資源池中獲取，極容易造成內(nèi)存泄漏和內(nèi)存溢出。要想實現(xiàn)高并發(fā)并且合理利用資源，大部分設(shè)計方案都會用到各種連接池，線程池等等。所有的可重復(fù)利用資源均從一組資源池中進行調(diào)用。也類似于近幾年火爆的共享經(jīng)濟，然而共享經(jīng)濟就和軟件設(shè)計中的共享資源池類似。不單獨持有某個資源，在需要使用的時候再去資源池中進行申請。
下面我們盤一盤各種資源共享池的一些配置，以及優(yōu)化策略！
1、Tomcat中的各種connection
廢話少說，我們看一下一個簡單的SpringBoot tomcat配置
server:
tomcat:
accept-count: 500 //accept隊列長度
max-connections: 1000//最大連接數(shù)
threads:
max: 200 //最大工作線程數(shù)量
min-spare: 10 //最小工作線程數(shù)量
HTTP Connector
其工作流程如下：
- 每個非異步請求都需要一個線程來處理，如果并發(fā)請求大于當(dāng)前可處理的線程數(shù)量，則會創(chuàng)建額外的線程來處理，至多創(chuàng)建到maxThreads 的數(shù)量。
- 此時仍然接收到更多的并發(fā)請求，Tomcat會接受新的connection，直到connection數(shù)到達最大數(shù)maxConnections。此時這些connection會在Connector中創(chuàng)建的 server socket中排隊，直到有線程可以來處理這些connection。
- 一旦上面的排隊數(shù)量達到maxC onnections，然后還有新的請求進來，那么新進來的connection會在OS中排隊，操作系統(tǒng)提供的排隊數(shù)量為acceptCount。如果這個隊列滿了的話，后面進來的請求有可能被拒絕或者超時timeout
關(guān)于這個咱們講一個食堂干飯的例子：
- 某學(xué)校有一個食堂，大廳里面日常至少擺100把椅子（min-spare）供學(xué)生們吃飯。
- 然而當(dāng)同時吃飯的同學(xué)大于100人的時候，食堂會增加一些椅子（創(chuàng)建線程），并且這些椅子也不會立馬收回去，一段時間沒有人使用才會收回。
- 但是食堂里面最多可以擺500把椅子（maxThreads）。然后超過500人吃飯同時吃飯的話，其他人就只能在大廳里面排隊等別人吃完。食堂大廳里面可以容納1000人進行排隊等候（maxConnections）。
- 當(dāng)食堂大廳1000人都排滿了，那么就只能到食堂外面排隊了，外面排隊最多一直能排200人（acceptCount）。這個時候如果再有人過來要吃飯，而且還排不上隊，就會等到不耐煩（time out），也會有人來告訴后來的同學(xué)，別來了人都滿了，上其他地方吃飯去吧。（reject）
通過上面的例子，我相信大家都能清楚tomcat的一些基本參數(shù)配置作用，并且針對不同的情況進行調(diào)優(yōu)了。
2 ThreadPool
關(guān)于Java線程池，大家都比較熟悉了吧。下面是基本參數(shù)
public ThreadPoolExecutor(
int corePoolSize, //核心線程數(shù)
int maximumPoolSize,//最大線程數(shù)
long keepAliveTime, //大于核心線程數(shù)量的線程存活時間，如果沒有新任務(wù)就會關(guān)閉
TimeUnit unit, // 時間單位
BlockingQueueworkQueue, //線程等待隊列
ThreadFactory threadFactory,//創(chuàng)建線程的工廠
RejectedExecutionHandler handler//拒絕策略
){
線程池基本運行原理介紹
- 提交任務(wù)給線程池后，線程池會檢查線程池中正在運行的線程數(shù)量，如果線程數(shù)量小于核心線程，則創(chuàng)建一個新的線程來處理任務(wù)。
- 如果線程池中線程數(shù)量達到和corePoolSize的大小，則將線程放入等待隊列BlockingQueue中。
- 如果提交任務(wù)時連等待隊列都已經(jīng)滿了的話，線程池會繼續(xù)創(chuàng)建新的線程來處理任務(wù)，直到線程池數(shù)量達到maximumPoolSize。
- 如果線程數(shù)量達到了最大容量，則會執(zhí)行拒絕策略。
這里線程池的方案和tomcat Connector 的方案稍微有點不同。前者是先排隊然后再把池子容量擴大代最大，后者是先擴大池子，然后再排2個隊。
我覺得對于ThreadPoolExecutor線程池的理解，用工廠工人的例子比較好理解。
- 有一家工廠建立，開始的時候只有10個工人，然后工廠的活越來越多，招聘新的工人肯定不是最好的策略，所以多出來的活暫時只能等著，進行排隊。（這個例子中工廠的活多了，立馬去招人肯定是不可能，只能先排單）
- 后面工廠的業(yè)務(wù)越來越多，任務(wù)擠壓過多，原來的工人干活已經(jīng)不能滿足業(yè)務(wù)需求了。為了最大化效益，招聘新的工人勢在必行，于是就招聘了新的工人，所有的工人一起來干活，加快效率。
- 當(dāng)工廠的工人數(shù)量達到飽和之后，仍然不停的新增業(yè)務(wù)，此時工廠已經(jīng)飽和，沒有辦法再繼續(xù)接單。那么只能采取別的方案（拒絕策略），找別的工廠干，或者新建工廠。
- 當(dāng)后面業(yè)務(wù)量比較小的時候，新招的工人就會慢慢的裁剪（線程一段時間不使用就會關(guān)掉?。?。
對線程池的優(yōu)化思路：
- 如果線程需要執(zhí)行的任務(wù)耗時比較少，是High CPU類型，則核心線程數(shù)量可以根據(jù)CPU的核數(shù)來進行設(shè)置。最大線程數(shù)量也不應(yīng)該設(shè)置的太大。線程隊列可以根據(jù)使用場景設(shè)置大一點，提高線程池效率。
- 如果線程需要執(zhí)行的任務(wù)耗時比較長，是High IO型，依賴其他系統(tǒng)，CPU需要等待的時間比較長，則核心線程數(shù)可以大一點，相應(yīng)的線程隊列長度也應(yīng)該針對不同的使用場景進行調(diào)整。
- 線程數(shù)量也不宜設(shè)置過大，不然會導(dǎo)致頻繁的GC。
3、RestTemplate的坑與優(yōu)化
SpringBoot微服務(wù)與其他Restful的資源進行交互的時候會使用到RestTemplate。如果你直接new RestTemplate，那么就需要特別注意了。使用不慎就會造成內(nèi)存泄漏，引發(fā)GC等。
RestTemplate底層依舊是使用org.apache.http包下的HttpClient。
SpringBoot中可以通過PoolingHttpClientConnectionManager設(shè)置一些connection pool 的參數(shù)
PoolingHttpClientConnectionManager connectionPoolManager = new PoolingHttpClientConnectionManager();
connectionPoolManager.setMaxTotal(100);//最大連接數(shù)
connectionPoolManager.setDefaultMaxPerRoute(200);//
通過HttpRequestFactory可以設(shè)置connectTimeOut，connectionRequestTimeout，SocketTimeout
HttpComponentsClientHttpRequestFactory httpRequestFactory = new HttpComponentsClientHttpRequestFactory();
httpRequestFactory.setConnectionRequestTimeout(3000);//獲取鏈接超時時間
httpRequestFactory.setConnectTimeout(3000);// 指客戶端和服務(wù)器建立連接的timeout
httpRequestFactory.setReadTimeout(120000);// 讀取數(shù)據(jù)的超時時間
小結(jié)一下比較重要的幾個參數(shù)如下：
maxTotal : 連接池里面的最大連接數(shù)
defaultMaxPerRoute : 每個路由默認(rèn)接收的最大連接數(shù)
socketTimeout ：它是指客戶端和服務(wù)器建立連接后，客戶端從服務(wù)器讀取數(shù)據(jù)的超時時間，超出后會拋出SocketTimeOutException。
connectionRequestTimout：指從連接池獲取連接的timeout
connetionTimeout：指客戶端和服務(wù)器建立連接的timeout。
可以通過如下方式構(gòu)建RestTemplate，其中的參數(shù)也可以自定以從配置文件中引入。
@Bean
public RestTemplate buildPoolingRestTemplate(RestTemplateBuilder builder){
PoolingHttpClientConnectionManager connectionPoolManager = new PoolingHttpClientConnectionManager();
connectionPoolManager.setMaxTotal(100);//最大連接數(shù)
connectionPoolManager.setDefaultMaxPerRoute(200);//每個路由默認(rèn)接收的最大連接數(shù)
HttpClient httpClient = HttpClientBuilder.create()
.setConnectionManager(connectionPoolManager).build();
HttpComponentsClientHttpRequestFactory httpRequestFactory = new HttpComponentsClientHttpRequestFactory();
httpRequestFactory.setHttpClient(httpClient);
httpRequestFactory.setConnectionRequestTimeout(3000);//獲取鏈接超時時間
httpRequestFactory.setConnectTimeout(3000);// 指客戶端和服務(wù)器建立連接的timeout
httpRequestFactory.setReadTimeout(120000);// socketTimeout 讀取數(shù)據(jù)的超時時間
return builder.requestFactory(()-> httpRequestFactory).build();
}
對于RestTemplate的一些建議
- 應(yīng)該從資源池中獲取RestTemplate（PoolingHttpClientConnectionManager）
- 使用RestTemplateBuilder來創(chuàng)建RestTemplate
- 針對maxTotal ，defaultMaxPerRoute ，可以增大maxTotal以增大并發(fā)量，同時也需要調(diào)整每個路由的最大并發(fā)連接數(shù)，此時也可以提高某條路由的并發(fā)量。
- connectionRequestTimeout和connectTimeout設(shè)置不要太長，socketTimeout根據(jù)需求可以設(shè)置相應(yīng)的時間。
當(dāng)然還有其他的一些優(yōu)化的地方，比如使用不同的ConnectionKeepAliveStrategy等，設(shè)置maxIdleTime最大空閑時間等。
總結(jié)
本篇總結(jié)了Tomcat，線程池，RestTemplate 的一些日常優(yōu)化策略。平時應(yīng)該多注意總結(jié)，在不同的情況下，優(yōu)化參數(shù)均有不同。所以就要多一些測試，才能得到最好的配置?？赐赀@些不妨在項目中試一下，增強記憶。
網(wǎng)頁標(biāo)題：連接池要這么配，干貨收藏！
網(wǎng)頁鏈接：http://m.fisionsoft.com.cn/article/cocicgg.html
