熟悉 Node.js 的朋友都知道,Node 是單線程的,跑在 8 核 CPU 上也只能使用一個核心的算力。單線程一直是 Node 被人詬病的一點,但自從 0.6 版本引入 cluster 之後,這個情況得到了極大改觀——開發者可以很輕鬆地把 Node 服務器擴展為多線程服務器。
cluster 是 Node 提供的一個多線程庫,用戶可以用它創建多個線程(worker),線程之間共享一個監聽端口。當有外部請求這個端口時,cluster 會把請求轉發到某個線程處理。由於每個 Node 線程都會佔用幾十兆內存,所以不能像 PHP 那樣為每個請求創建線程,一般線程數最多不超過 CPU 核心數。
var cluster = require('cluster');
var http = require('http');
var numCPUs = require('os').cpus().length;
if (cluster.isMaster) {
// Fork workers.
for (var i = 0; i < numCPUs; i++) {
cluster.fork();
}
cluster.on('exit', function(worker, code, signal) {
console.log('worker ' + worker.process.pid + ' died');
});
} else {
// Workers can share any TCP connection
http.createServer(function(req, res) {
res.writeHead(200);
res.end("hello world\n");
}).listen(8000);
}
程序運行時 cluster.isMaster 會被設為 true;調用 cluster.fork() 後會創建一個線程並重新運行,此時 isMaster 被設為 false。我們主要靠這個變量判斷當前是不是主線程。可以看到,每個子線程創建後都監聽 8000 端口卻不衝突,這正是 cluster 的共享端口功能。
線程創建後彼此並不共享內存或數據,所有數據交換只能通過 worker.send 和 worker.on('message', handler) 在主線程中處理。下面是一個廣播系統的實例:
var cluster = require('cluster');
var http = require('http');
var numCPUs = require('os').cpus().length;
if (cluster.isMaster) {
var workers=[];
// 新建 worker
function newWorker(){
var worker=cluster.fork();
// 監聽信息,若 type 為 broadcast 則廣播
worker.on('message', function(msg) {
if(msg.type=='broadcast'){
var event=msg.event;
// 向所有 worker 發送此條廣播
workers.forEach(function(worker){
worker.send(event);
})
}
});
return worker;
}
for (var i = 0; i < numCPUs; i++) {
workers.push(newWorker());
}
cluster.on('online',function(worker){
console.log('worker %d is online',worker.id);
})
} else {
var worker=cluster.worker;
// 廣播就是發送一個 type 為 broadcast 的信息
worker.broadcast=function(event){
worker.send({
type:'broadcast',
event:event
});
}
// 監聽返回的信息
process.on('message',function(event){
console.log('worker: '+worker.id+' recived event from '+event.workerId);
})
// 發送廣播
worker.broadcast({
message:'online',
workerId:worker.id
})
}
線程之間不能共享數據,所有交換只能通過線程通信完成,且交換的數據必須可序列化,因此函數、文件描述符和 HttpResponse 之類的東西都不能傳遞。
使用 cluster 時,需要在設計階段就考慮數據交換問題。一種常見做法是把 session 之類的數據都存放在 redis 中,每個線程各自做好存取,所有數據都不放在 Node 內存裡。
最後要提醒的是,cluster 目前仍被 Node 官方標記為 Experimental(實驗性)狀態,其 API 在未來版本中可能發生變化。