通用高性能 Windows Socket 組件:HP-Socket
HP-Socket 是一套通用的高性能 Windows Socket 組件包,包含服務端組件(IOCP 模型)和客戶端組件(Event Select 模型),廣泛適用于 Windows 平臺的 TCP 通信系統。HP-Socket 對通信層實現完全封裝,上層應用不必關注通信層的任何細節;HP-Socket 提供基于事件通知模型的 API 接口,能非常簡單高效地整合到各類應用程序中;另外,為了讓大家能更方便的學習 HP-Socket,特此精心制作了一個功能測試示例(Test Echo)一個性能測試示例(Test Echo-PFM)和一個 PULL 模型測試示例(Test Echo-Pull),用戶可以通過這兩個測試示例入手,迅速掌握組件的設計思想和使用方法。
----------------------------------------------------------------
通用性
- 通信組件的唯一職責就是接受和發送字節流,絕對不能參與上層協議解析等工作;
- 與上層使用者解耦、互不依賴,組件與使用者通過操作接口和監聽器接口進行交互,組件實現操作接口為上層提供操作方法;使用者實現監聽器接口把自己注冊為組件的 Listener,接收組件通知。因此,任何使用者只要實現了監聽器接口都可以使用組件;另一方面,甚至可以自己重新寫一個實現方式完全不同的組件實現給使用者調用,只要該組件遵從組件的操作接口,這也是 DIP 設計原則的體現。
可用性
可用性對所有通用組件都是至關重要的,如果太難用還不如自己重頭寫一個來得方便。因此,組件的操作接口和監聽器接口設計得盡量簡單易用(通俗來說就是“傻瓜化”),這兩個接口的主要方法均不超過 5 個。另外,組件完全封裝了所有的底層 Socket 通信,上層應用看不到任何通信細節,不必也不能干預任何通信操作,Socket 連接被抽象為 Connection ID,該參數作為連接標識提供給上層應用識別不同的連接。
高性能
作為底層的通用組件,性能問題是必須考慮的,絕對不能成為系統的瓶頸。而另一方面,從實際出發,根據客戶端組件與服務端組件的性能要求采用不同的 Socket 模型。組件在設計上充分考慮了性能、現實使用情景、可用性和實現復雜性等因素,確保滿足性能要求的同時又不會寫得太復雜。做出以下兩點設計決策:
- 客戶端:在單獨線程中實現 Socket 通信交互。這樣可以避免與主線程或其他線程相互干擾;I/O 模型選擇 Event Select 通信模型。
- 服務端:采用 Windows 平臺效率最高的 IOCP 通信模型;利用緩存池技術,在通信的過程中,通常需要頻繁的申請和釋放內存緩沖區,建立了動態緩存池, 只有當緩存池中沒有可用對象時才創建新對象,而當緩存對象過多時則會壓縮緩存池;另外,組件的動態內存通過私有堆(Private Heap)機制分配,避免與 new / malloc 競爭同時又減少內存空洞。
伸縮性
可以根據實際的使用環境要求設置組件的各項性能參數(如:工作線程的數量、各種緩存池的大小、收發緩沖區的大小、Socket 監聽隊列的大小、Accep 派發的數目以及心跳檢查的間隔等)。
PUSH / PULL 模型簡介:
通信組件向上層應用提交數據有以下兩種模式:
- PUSH 模型:當通信組件接收到數據后調用應用接口的 OnReceive(dwConnID, const BYTE* pData, int iLength) 方法向應用程序推送數據,應用程序實現該方法并在方法內部取得 pData 進行處理。
- PULL 模型:當通信組件接收到數據后調用應用接口的 OnReceive(dwConnID, int iTotalLength) 方法(注意,不包含 pData 參數)通知應用程序有 iLength 長度的數據可取,如果應用程序認為該長度的數據能組成一個完整的數據包則調用通信組件的 Fetch(BYTE* pData, int iDataLength) 方法抓取 iDataLength 長度的數據(iDataLength <= iTotalLength)。
其中 PUSH 模型效率相對較高,但應用程序本身要負責處理解包和粘包等問題,帶來一定的復雜性;PULL 模型則相對簡單,只要上層協議定義得足夠嚴謹(PULL 模型的數據包通常劃分為 Header 數據包和 Body 數據包),能大大簡化數據包處理工作,但由于組件中間加了一個間接層,效率往往低于 PUSH模型。
更新記錄:
*** v2.2.1 更新 ***
> PULL 模型支持:
-----------------
- ISocketListener 增加 PULL 模型數據接收通知方法 OnReceive(dwConnID, int)
- 增加 PULL Socket 接口 IPullSocket,該接口的 Fetch(dwConnID, pBuffer, iLength) 方法用于抓取通信數據
> Server:
-----------------
- 服務端 Socket 接口 ISocketServer 改名為 IServerSocket
- 增加 PULL Server Socket 監聽器抽象類 CPullServerSocketListener
- 增加 PULL Server Socket 接口 IPullServerSocket
- 增加 PULL Server Socket 實現類 CIocpPullServer
> Client:
-----------------
- 客戶端 Socket 接口 ISocketClient 改名為 IClientSocket
- 客戶端 Socket 實現類 CSocketClient 改名為 CClientSocket
- 增加 PULL Client Socket 監聽器抽象類 CPullClientSocketListener
- 增加 PULL Client Socket 接口 IPullClientSocket
- 增加 PULL Client Socket 實現類 CPullClientSocket
> 其它更新:
-----------------
- 增加 PULL Socket 測試程序 TestEcho-Pull
- 在 SocketHelper.h (.cpp) 中添加若干幫助結構體
> 升級說明:
-----------------
- 使用 HP-Socket v2.1.1 的應用程序可以安全升級到 v2.2.1
- 由于 ISocketServer、ISocketClient 和 CSocketClient 的名稱已修改,因此,應用程序需要對引用的名稱和包含的頭文件名作相應修改
相關博文:
《高性能 Windows Socket 服務端與客戶端組件(源代碼及測試用例下載)》
《基于 IOCP 的通用異步 Windows Socket TCP 高性能服務端組件的設計與實現》
《通用異步 Windows Socket TCP 客戶端組件的設計與實現》