DIV CSS 佈局教程網

基於NodeJS的前後端分離實踐(六):Nginx + Node.js + Java部署實踐
編輯:關於JavaScript     

淘寶網線上應用的傳統軟件棧是 Nginx + Velocity + Java:

在這個體系中,Nginx把請求轉發給Java應用,後者處理完事務後,再用Velocity模板把數據渲染成最終頁面。引入Node.js後,我們勢必要面對幾個問題:技術棧拓撲如何設計、部署方式如何選擇才科學合理?項目完成後如何切分流量對運維才方便?遇到線上問題如何最快解除險情?如何確保應用健康、在負載均衡調度層面加以管理?

承接系統拓撲

按照「基於前後端分離的模板探索」一文的思路,Velocity需要被Node.js取代,結構變成:

這是最理想的目標。然而在傳統棧中首次引入Node.js畢竟是新嘗試,為穩妥起見,我們決定只在收藏夾的寶貝收藏頁(shoucang.taobao.com/item_collect.htm)啟用新技術,其他頁面沿用傳統方案。即,由Nginx判斷請求的頁面類型,決定轉發給Node.js還是Java。最終結構成了:

部署方案

傳統結構中Nginx與Java部署在同一台服務器,Nginx監聽80端口,與監聽高位7001端口的Java通信。引入Node.js後需新跑一個監聽進程,是與Nginx + Java同機部署,還是單獨集群?兩種方式各有特點:

淘寶收藏夾是擁有千萬級日均PV的應用,對穩定性要求極高。若採用同集群部署,只需一次文件分發、兩次應用重啟即可完成發布,回滾也只需操作一次基線包;性能上也有一些理論優勢。至於一對多或多對一的服務器利用問題,相比穩定性要求並不急迫。所以收藏夾改造中,我們選擇了同集群部署方案。

灰度方式

為保證最大程度的穩定,這次改造並沒有直接移除Velocity代碼。應用集群有近百台服務器,我們以服務器為粒度逐步引入流量:所有服務器上都跑着Java + Node.js進程,但Nginx上有沒有相應轉發規則,決定了這台服務器上的寶貝收藏請求是否經過Node.js處理。Nginx配置為:

location = "/item_collect.htm" {
    proxy_pass https://127.0.0.1:6001; # Node.js 進程監聽的端口
}

只有添加這條規則的服務器才會讓Node.js處理相應請求。通過Nginx配置可便捷地增減灰度流量,成本很低;遇到問題可直接回滾配置,瞬間回到傳統棧。第一次發布時只有兩台服務器啟用,約不到2%的線上流量走Node.js,其餘仍由Velocity渲染。此後逐步增加,第三周全部服務器啟用,至此生產環境100%流量的商品收藏頁都由Node.js渲染。

健康檢查的陷阱

灰度過程並非一帆風順,值得借鑒的是一個技術細節陷阱。傳統架構中,負載均衡調度系統每秒對每台服務器80端口的特定URL發起一次get請求,根據返回的HTTP Status Code是否為200判斷健康狀態;若1s後超時或狀態碼不為200,則不引入流量。

這個請求路徑原本是 Nginx → Java → Nginx,只要返回200就說明Nginx與Java都健康。引入Node.js後,路徑變成 Nginx → Node.js → Java → Node.js → Nginx,相應代碼為:

var http = require('http');
app.get('/status.taobao', function(req, res) {
    http.get({ host: '127.1', port: 7001, path: '/status.taobao' }, function(res) {
        res.send(res.statusCode);
    }).on('error', function(err) {
        logger.error(err);
        res.send(404);
    });
});

但測試中發現,Node.js轉發這類請求時,每六七次就有一次耗時幾秒甚至十幾秒才拿到Java返回。這會導致調度系統誤判服務器異常、切斷流量,而實際上服務器工作正常。

排查後發現:默認情況下Node.js用HTTP Agent類創建HTTP連接,它實現了socket連接池,每個「主機+端口」對的連接數默認上限是5;同時HTTP Agent發起的請求默認帶上 Connection: Keep-Alive,導致已返回的連接未及時釋放,後續請求只能排隊。

解決辦法有三種:

其一,禁用HTTP Agent,即在get時添加 agent: false:

var http = require('http');
app.get('/status.taobao', function(req, res) {
    http.get({ host: '127.1', port: 7001, agent: false, path: '/status.taobao' }, function(res) {
        res.send(res.statusCode);
    }).on('error', function(err) {
        logger.error(err);
        res.send(404);
    });
});

其二,設置全局socket數量上限:

http.globalAgent.maxSockets = 1000;

其三,在請求返回時主動斷開連接:

http.get(options, function(res) {
}).on("socket", function (socket) {
    socket.emit("agentRemove"); // 監聽 socket 事件,在回調中派發 agentRemove 事件
});

實踐上我們選擇了第一種方法,調整後健康檢查再未出現問題。

結語

Node.js與傳統業務場景結合的實踐才剛剛起步,仍有大量值得深入挖掘的優化點。比如,讓Java應用徹底中心化後,是否可以分集群部署以提高服務器利用率;發布與回滾方式是否能更靈活可控。種種細節,都值得進一步研究。

XML學習教程| jQuery入門知識| AJAX入門| Dreamweaver教程| Fireworks入門知識| SEO技巧| SEO優化集錦|
Copyright © DIV+CSS佈局教程網 All Rights Reserved