為提高處理能力和并發(fā)度，Web容器一般會(huì)把處理請(qǐng)求的任務(wù)放到線(xiàn)程池，而JDK的原生線(xiàn)程池先天適合CPU密集型任務(wù)，于是Tomcat改造之。
Tomcat 線(xiàn)程池原理
其實(shí)ThreadPoolExecutor的參數(shù)主要有如下關(guān)鍵點(diǎn)：
限制線(xiàn)程個(gè)數(shù)
限制隊(duì)列長(zhǎng)度
而Tomcat對(duì)這倆資源都需要限制，否則高并發(fā)下CPU、內(nèi)存都有被耗盡可能。
因此Tomcat的線(xiàn)程池傳參：
// 定制的任務(wù)隊(duì)列
taskqueue = new TaskQueue(maxQueueSize);
// 定制的線(xiàn)程工廠(chǎng)
TaskThreadFactory tf = new TaskThreadFactory(namePrefix,
daemon,
getThreadPriority()
);
// 定制線(xiàn)程池
executor = new ThreadPoolExecutor(getMinSpareThreads(),
getMaxThreads(),
maxIdleTime,
TimeUnit.MILLISECONDS,
taskqueue,
tf);
Tomcat對(duì)線(xiàn)程數(shù)也有限制，設(shè)置：
- 核心線(xiàn)程數(shù)（minSpareThreads）
- 最大線(xiàn)程池?cái)?shù)（maxThreads）
Tomcat線(xiàn)程池還有自己的特色任務(wù)處理流程，通過(guò)重寫(xiě)execute方法實(shí)現(xiàn)了自己的特色任務(wù)處理邏輯：
- 前corePoolSize個(gè)任務(wù)時(shí)，來(lái)一個(gè)任務(wù)就創(chuàng)建一個(gè)新線(xiàn)程
- 再有任務(wù)，就把任務(wù)放入任務(wù)隊(duì)列，讓所有線(xiàn)程去搶。若隊(duì)列滿(mǎn)，就創(chuàng)建臨時(shí)線(xiàn)程
- 總線(xiàn)程數(shù)達(dá)到maximumPoolSize，則繼續(xù)嘗試把任務(wù)放入任務(wù)隊(duì)列
- 若緩沖隊(duì)列也滿(mǎn)了，插入失敗，執(zhí)行拒絕策略
和 JDK 線(xiàn)程池的區(qū)別就在step3，Tomcat在線(xiàn)程總數(shù)達(dá)到最大數(shù)時(shí)，不是立即執(zhí)行拒絕策略，而是再?lài)L試向任務(wù)隊(duì)列添加任務(wù)，添加失敗后再執(zhí)行拒絕策略。
具體又是如何實(shí)現(xiàn)的呢？
public void execute(Runnable command, long timeout, TimeUnit unit) {
submittedCount.incrementAndGet();
try {
// 調(diào)用JDK原生線(xiàn)程池的execute執(zhí)行任務(wù)
super.execute(command);
} catch (RejectedExecutionException rx) {
// 總線(xiàn)程數(shù)達(dá)到maximumPoolSize后，JDK原生線(xiàn)程池會(huì)執(zhí)行默認(rèn)拒絕策略
if (super.getQueue() instanceof TaskQueue) {
final TaskQueue queue = (TaskQueue)super.getQueue();
try {
// 繼續(xù)嘗試把任務(wù)放入任務(wù)隊(duì)列
if (!queue.force(command, timeout, unit)) {
submittedCount.decrementAndGet();
// 若緩沖隊(duì)列還是滿(mǎn)了，插入失敗，執(zhí)行拒絕策略。
throw new RejectedExecutionException("...");
}
}
}
}
}
定制任務(wù)隊(duì)列
Tomcat線(xiàn)程池的execute方法第一行：
submittedCount.incrementAndGet();
任務(wù)執(zhí)行失敗，拋異常時(shí)，將該計(jì)數(shù)器減一：
submittedCount.decrementAndGet();
Tomcat線(xiàn)程池使用 submittedCount 變量維護(hù)已提交到線(xiàn)程池，但未執(zhí)行完的任務(wù)數(shù)量。
為何要維護(hù)這樣一個(gè)變量呢？
Tomcat的任務(wù)隊(duì)列TaskQueue擴(kuò)展了JDK的LinkedBlockingQueue，Tomcat給了它一個(gè)capacity，傳給父類(lèi)LinkedBlockingQueue的構(gòu)造器。
public class TaskQueue extends LinkedBlockingQueue<Runnable> {
public TaskQueue(int capacity) {
super(capacity);
}
...
}
capacity參數(shù)通過(guò)Tomcat的maxQueueSize參數(shù)設(shè)置，但maxQueueSize默認(rèn)值Integer.MAX_VALUE：當(dāng)前線(xiàn)程數(shù)達(dá)到核心線(xiàn)程數(shù)后，再來(lái)任務(wù)的話(huà)線(xiàn)程池會(huì)把任務(wù)添加到任務(wù)隊(duì)列，并且總會(huì)成功，就永遠(yuǎn)無(wú)機(jī)會(huì)創(chuàng)建新線(xiàn)程了。
為解決該問(wèn)題，TaskQueue重寫(xiě)了LinkedBlockingQueue#offer，在合適時(shí)機(jī)返回false，表示任務(wù)添加失敗，這時(shí)線(xiàn)程池就會(huì)創(chuàng)建新線(xiàn)程。
什么叫合適時(shí)機(jī)？
public class TaskQueue extends LinkedBlockingQueue<Runnable> {
...
@Override
// 線(xiàn)程池調(diào)用任務(wù)隊(duì)列的方法時(shí)，當(dāng)前線(xiàn)程數(shù) ＞ core線(xiàn)程數(shù)
public boolean offer(Runnable o) {
// 若線(xiàn)程數(shù)已達(dá)max，則不能創(chuàng)建新線(xiàn)程，只能放入任務(wù)隊(duì)列
if (parent.getPoolSize() == parent.getMaximumPoolSize())
return super.offer(o);
// 至此，表明 max線(xiàn)程數(shù) > 當(dāng)前線(xiàn)程數(shù) ＞ core線(xiàn)程數(shù)
// 說(shuō)明可創(chuàng)建新線(xiàn)程：
// 1. 若已提交任務(wù)數(shù) ＜ 當(dāng)前線(xiàn)程數(shù)
// 表明還有空閑線(xiàn)程，無(wú)需創(chuàng)建新線(xiàn)程
if (parent.getSubmittedCount()<=(parent.getPoolSize()))
return super.offer(o);
// 2. 若已提交任務(wù)數(shù) ＞ 當(dāng)前線(xiàn)程數(shù)
// 線(xiàn)程不夠用了，返回false去創(chuàng)建新線(xiàn)程
if (parent.getPoolSize()<parent.getMaximumPoolSize())
return false;
// 默認(rèn)情況下總是把任務(wù)放入任務(wù)隊(duì)列
return super.offer(o);
}
}
所以Tomcat維護(hù) 已提交任務(wù)數(shù) 是為了在任務(wù)隊(duì)列長(zhǎng)度無(wú)限時(shí)，讓線(xiàn)程池還能有機(jī)會(huì)創(chuàng)建新線(xiàn)程。
到此這篇關(guān)于Tomcat是如何修正JDK原生線(xiàn)程池bug的的文章就介紹到這了,更多相關(guān)Tomcat JDK原生線(xiàn)程池內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
