「非同步」這個詞大規模流行是在 Web 2.0 時期,它伴隨著 JavaScript 與 AJAX 席捲了整个 Web。但在多數高階語言裡,非同步並不常見。PHP 是個極端例子:它不但屏蔽了非同步,連多執行緒都不提供,一律以同步阻塞的方式執行。這樣做的好處是業務邏輯可以順序書寫,但在複雜的網路應用中,阻塞讓它難以做好併發。
伺服器端 I/O 本身就昂貴,分散式 I/O 更昂貴——只有後端能快速回應資源,前端體驗才可能好。Node.js 是第一個把非同步 I/O 當成主要程式設計方式的平台,而伴隨非同步而來的事件驅動與單執行緒,共同構成了 Node 的基調。
「非同步」與「非阻塞」聽起來像同一件事,實際效果也都達到了並行,但從作業系統核心的角度看,I/O 只有阻塞與非阻塞兩種,所以非同步/同步與阻塞/非阻塞是兩組不同的概念。
阻塞 I/O 的特點是:呼叫之後必須等核心層完成全部操作才會返回。以讀取磁碟文件為例,核心完成尋道、讀取、複製到記憶體之後,這個呼叫才算結束。
阻塞 I/O 會讓 CPU 空等 I/O,等待時間被浪費,處理能力得不到充分利用。非阻塞 I/O 則是呼叫後立刻返回,CPU 時間片可以拿去處理別的事;但因為完整 I/O 尚未完成,返回的並非業務期待的資料,只是當前呼叫的狀態。要拿到完整資料,應用程式必須反覆呼叫確認(即輪詢)。常見的輪詢技術有:
1. read:重複呼叫檢查 I/O 狀態,最原始也最低效
2. select:在 read 基礎上改進,透過文件描述符上的事件狀態判斷,缺點是可管理的描述符數量有上限
3. poll:用鏈表取代位圖,避開數量上限,但描述符多時效能仍然很差
4. epoll:輪詢時若沒有 I/O 事件便進入休眠,直到事件發生才被喚醒,是目前 Linux 下效率最高的 I/O 事件通知機制
輪詢滿足了非阻塞 I/O 取得完整資料的需求,但對應用程式而言它仍算同步,因為依然要等 I/O 完全返回,等待期間 CPU 不是忙著遍歷描述符狀態,就是在休眠等事件。
理想中的非同步 I/O:應用程式發起非阻塞呼叫後,無需輪詢即可直接處理下一個任務,等 I/O 完成時再由信號或回調把資料送回來。
現實中各平台的實作並不相同:*nix 採用自訂執行緒池,Windows 採用 IOCP 模型。Node 提供 libuv 作為抽象封裝層,屏蔽平台差異,讓上層 Node 與下層各平台的非同步 I/O 實作彼此獨立。另外要澄清一個常見誤解:「Node 是單執行緒」指的只是 JavaScript 的執行在單執行緒中,Node 內部完成 I/O 任務其實另有執行緒池。
Node 的執行模型本質上就是事件循環。行程啟動時,Node 會建立一個無限循環,每一次執行循環體稱為一次 Tick。每個 Tick 做的事是:查看是否有事件等待處理,若有則取出事件與對應的回調函數並執行,然後進入下一輪;若已無事件可處理,就退出行程。
每個事件循環中都有若干觀察者,事件循環透過向它們詢問來判斷是否有事件待處理。這是一個典型的生產者/消費者模型:Node 的事件主要來自網路請求、文件 I/O 等,各自對應網路 I/O 觀察者、文件 I/O 觀察者,事件循環從觀察者處取出事件並處理。
從 JavaScript 發起呼叫,到核心真正執行完 I/O,中間存在一個過渡產物——請求物件。以最簡單的 fs.open()(依路徑與參數開啟文件並取得描述符)為例:從 JS 呼叫到內建模組透過 libuv 進行系統呼叫,實際呼叫的是 uv_fs_open();過程中會建立一個 FSReqWrap 請求物件,把 JS 層傳入的參數與方法都封裝進去,其中我們最關注的回調函數被掛在該物件的 oncomplete_sym 屬性上。包裝完成後,FSReqWrap 被推入執行緒池等待執行。
至此 JS 呼叫立即返回,JS 執行緒可以繼續往下跑,而 I/O 在執行緒池中等候執行——非同步呼叫的第一階段完成。
回調通知是非同步 I/O 的第二階段。執行緒池中的 I/O 完成後,會把結果存起來,通知 IOCP 該物件操作已完成,並歸還執行緒。此後在每次 Tick 中,事件循環的 I/O 觀察者會呼叫相關方法檢查執行緒池是否有已完成的請求;若有,就把請求物件加入 I/O 觀察者的佇列,當作事件來處理。

Node 裡還有一些與 I/O 無關的非同步 API,例如計時器 setTimeout()、setInterval(),以及立即非同步執行的 process.nextTick() 與 setImmediate()。
setTimeout() 與 setInterval() 的行為與瀏覽器端一致,實作原理也類似非同步 I/O,只是不需要 I/O 執行緒池參與。呼叫計時器 API 建立的計時器會被插入計時器觀察者內部的一棵紅黑樹,每次 Tick 都會從中迭代取出計時器物件,檢查是否已超過設定時間,超過則形成事件並執行回調。計時器的主要問題在於精度——毫秒級,在可接受範圍內。
在 process.nextTick() 出現之前,很多人為了「立刻非同步執行一段任務」會這樣寫:
setTimeout(function () {
// TODO
}, 0);
受事件循環特性影響,計時器精度不足,而且使用紅黑樹的各項操作時間複雜度為 O(log(n))。process.nextTick() 只是把回調放進佇列,下一輪 Tick 取出執行,複雜度 O(1),效率高得多。
setImmediate() 也屬於延遲執行回調的 API,但優先級低於 process.nextTick(),原因是事件循環對觀察者的檢查本身有先後順序。此外,process.nextTick() 的回調存在陣列中,每輪 Tick 會把陣列內的回調全部執行完;setImmediate() 的結果存在鏈表中,每輪 Tick 只執行一個。
前面以 fs.open() 說明 Node 如何實作非同步 I/O,事實上處理網路 socket 時 Node 用的也是同一套機制,這正是它建構 Web 伺服器的基礎。傳統伺服器模型大致有三種:
1. 同步式:一次只能處理一個請求,其餘全部排隊等待
2. 每行程/每請求:為每個請求啟動一個行程,但系統資源有限,不具擴展性
3. 每執行緒/每請求:為每個請求啟動一個執行緒。執行緒比行程輕量,但每個執行緒仍佔用一定記憶體,高併發時記憶體很快見底
著名的 Apache 採用的正是每執行緒/每請求,這也是它難以應對高併發的原因。Node 以事件驅動處理請求,省下了建立與銷毀執行緒的開銷,同時因為執行緒數量少,作業系統調度時的上下文切換成本也很低,即使大量連線湧入仍能井然有序。
Nginx 同樣放棄了多執行緒,改用與 Node 相同的事件驅動模式,如今大有取代 Apache 之勢。它以純 C 撰寫、效能優異,但定位集中於 Web 伺服器、反向代理與負載均衡;Node 既能勝任同樣的角色,也能承載具體業務邏輯,自身效能也不差。實務上把兩者組合起來,往往能取得最佳的整體效能。