Gatling 是一款基于Scala Akka Netty構(gòu)建的高性能壓測工具核心突破了傳統(tǒng)JMeter「一用戶一線程」的模型瓶頸通過異步非阻塞事件驅(qū)動 輕量級Actor并發(fā)模型實現(xiàn)了低資源占用、高并發(fā)支撐、毫秒級精準的穩(wěn)定施壓能力完美適配你做全鏈路壓測時對流量精準控制、長時間穩(wěn)定運行的核心需求。一、Gatling 核心實現(xiàn)原理1. 底層核心架構(gòu)兩大基石Gatling 的高性能和穩(wěn)定性本質(zhì)是由兩大底層框架的特性決定的徹底解決了傳統(tǒng)壓測工具的并發(fā)瓶頸1Akka Actor 模型輕量級并發(fā)管理傳統(tǒng)壓測工具如JMeter為每個虛擬用戶創(chuàng)建一個操作系統(tǒng)線程高并發(fā)下會出現(xiàn)線程數(shù)量爆炸內(nèi)存占用極高頻繁的線程上下文切換CPU開銷巨大鎖競爭導致的線程阻塞、流量抖動而Gatling 采用 Akka Actor 模型核心特性每個虛擬用戶VU是一個輕量級的 Actor 實體而非操作系統(tǒng)線程創(chuàng)建/銷毀開銷幾乎為0單臺機器可輕松支撐數(shù)萬虛擬用戶Actor 之間通過異步消息通信無共享狀態(tài)天然無鎖設計徹底規(guī)避了鎖競爭導致的線程阻塞和抖動少量固定線程池通常為CPU核心數(shù)*2即可調(diào)度海量Actor線程利用率接近100%2Netty 異步非阻塞IO網(wǎng)絡通信基石Gatling 的網(wǎng)絡層完全基于 Netty 構(gòu)建采用 Reactor 主從多線程模型少量 EventLoop 線程IO線程即可處理數(shù)萬TCP連接的讀寫事件無需為每個連接創(chuàng)建單獨線程所有網(wǎng)絡操作都是異步非阻塞的發(fā)送請求后線程不會阻塞等待響應而是注冊一個回調(diào)函數(shù)響應返回后由EventLoop線程觸發(fā)回調(diào)處理內(nèi)置內(nèi)存池PooledByteBufAllocator、零拷貝、連接復用、TCP參數(shù)優(yōu)化最大化網(wǎng)絡通信效率減少GC和內(nèi)存抖動2. 核心組件與執(zhí)行全流程Gatling 的執(zhí)行鏈路完全圍繞「異步、隔離、無鎖」設計核心組件與流程如下組件核心職責設計價值DSL解析層解析Scala/Java DSL編寫的壓測腳本構(gòu)建場景執(zhí)行計劃代碼即配置可版本化管理直觀定義用戶行為鏈Controller 總控Actor壓測全生命周期的大腦負責用戶注入調(diào)度、場景啟停、全局狀態(tài)管理單例全局管控精準控制流量節(jié)奏隔離調(diào)度與執(zhí)行邏輯User Actor每個虛擬用戶對應一個User Actor負責執(zhí)行場景步驟、維護用戶Session狀態(tài)、發(fā)起請求狀態(tài)自治生命周期獨立無共享資源并發(fā)無鎖Protocol Actor/引擎協(xié)議層處理HTTP/gRPC/WebSocket等基于Netty實現(xiàn)請求發(fā)送、響應解析、回調(diào)處理網(wǎng)絡IO與業(yè)務邏輯隔離異步化處理不阻塞用戶行為執(zhí)行Data Writer Actor異步收集、聚合、寫入壓測指標響應時間、RPS、錯誤率等統(tǒng)計鏈路與施壓鏈路完全隔離不會因為指標計算影響施壓穩(wěn)定性完整執(zhí)行流程腳本編譯初始化Gatling 編譯DSL腳本解析場景定義、協(xié)議配置、用戶注入策略初始化Netty客戶端、Akka Actor系統(tǒng)用戶注入調(diào)度Controller 根據(jù)注入策略通過Akka高精度調(diào)度器按固定節(jié)奏創(chuàng)建User Actor虛擬用戶http://www.iqiyi.com/v_1rxqyhazdxk.htmlhttp://www.iqiyi.com/v_164fnmwzyhk.htmlhttp://www.iqiyi.com/v_1zcw9hbov78.html場景執(zhí)行User Actor 按場景定義的步驟依次發(fā)起請求通過Protocol引擎發(fā)送給被測系統(tǒng)異步回調(diào)處理請求發(fā)送后User Actor 不會阻塞等待而是釋放線程處理其他任務響應返回后Netty 觸發(fā)回調(diào)User Actor 繼續(xù)執(zhí)行后續(xù)步驟斷言、參數(shù)提取、下一個請求異步統(tǒng)計收集請求的響應結(jié)果、耗時等指標通過異步消息發(fā)送給Data Writer批量寫入結(jié)果文件全程不阻塞施壓線程壓測終止所有用戶場景執(zhí)行完成或達到預設時長后Controller 停止所有Actor聚合生成HTML測試報告二、Gatling 實現(xiàn)穩(wěn)定施壓的核心機制穩(wěn)定施壓的核心是無論被測系統(tǒng)響應快慢、壓測時長多久都能精準控制發(fā)送的流量節(jié)奏無抖動、無溢出、無中斷。Gatling 從流量控制、架構(gòu)設計、資源優(yōu)化、容錯保護四個維度實現(xiàn)了生產(chǎn)級的穩(wěn)定施壓能力。1. 精準的流量注入模型流量節(jié)奏的底層控制Gatling 提供了兩套成熟的負載模型覆蓋絕大多數(shù)壓測場景通過Akka時間輪調(diào)度器實現(xiàn)微秒級的流量精準控制這是穩(wěn)定施壓的核心基礎。1開放模型Open Model最貼近真實流量穩(wěn)定RPS控制核心邏輯控制用戶的到達速率每秒新增用戶數(shù)/每秒請求數(shù)無論被測系統(tǒng)響應快慢都嚴格按照預設的節(jié)奏注入流量完全模擬真實線上用戶的訪問行為線上用戶不會因為系統(tǒng)變慢就停止訪問。核心實現(xiàn)與穩(wěn)定特性恒定用戶到達率constantUsersPerSec(200) during(10min)會嚴格按照每秒200個用戶的節(jié)奏均勻拆分到毫秒級創(chuàng)建User Actor比如每5ms創(chuàng)建1個用戶不會出現(xiàn)集中式的流量突增恒定RPS控制通過throttle節(jié)流組件實現(xiàn)全局RPS的精準控制底層基于令牌桶算法實現(xiàn)固定速率生成令牌每個請求需要拿到令牌才能發(fā)送超過速率的請求會被排隊延遲保證全局RPS嚴格符合預設值// 示例10秒線性提升到1000 RPS保持1小時穩(wěn)定 setUp(scn.inject(constantUsersPerSec(500) during(60min))) .throttle( reachRps(1000) in (10), holdFor(60min) )平滑流量過渡rampUsersPerSec實現(xiàn)流量的線性增長/下降避免流量尖峰對被測系統(tǒng)的沖擊同時保證施壓過程的平滑穩(wěn)定2閉環(huán)模型Closed Model固定并發(fā)數(shù)穩(wěn)定施壓核心邏輯控制同時在線的并發(fā)用戶數(shù)只有當一個用戶完成整個場景執(zhí)行后才會注入新的用戶保證系統(tǒng)內(nèi)的活躍并發(fā)數(shù)始終穩(wěn)定適合壓測固定并發(fā)容量的系統(tǒng)。核心實現(xiàn)與穩(wěn)定特性嚴格控制并發(fā)上限不會因為被測系統(tǒng)響應變慢導致并發(fā)用戶數(shù)無限累積避免壓測機本身OOM適合長時間穩(wěn)定性測試如72小時壓測保證壓測過程中資源占用始終穩(wěn)定無內(nèi)存泄漏風險2. 無鎖、非阻塞的架構(gòu)設計從根源杜絕流量抖動流量抖動的核心根源是線程阻塞、鎖競爭、上下文切換導致的調(diào)度延遲Gatling 的架構(gòu)設計從根源上規(guī)避了這些問題Actor 無鎖化設計所有User Actor 狀態(tài)自治無共享內(nèi)存無需加鎖徹底避免了鎖競爭導致的線程阻塞、喚醒延遲保證調(diào)度的精準性全鏈路異步非阻塞從用戶調(diào)度、請求發(fā)送、響應處理、統(tǒng)計收集全鏈路異步化沒有任何阻塞操作。線程不會因為等待響應、等待鎖、等待IO而空閑始終在執(zhí)行可運行的任務CPU利用率最大化施壓節(jié)奏不會被阻塞操作打斷調(diào)度與執(zhí)行隔離Controller 的流量調(diào)度、User Actor 的場景執(zhí)行、Netty 的IO處理、Data Writer 的統(tǒng)計計算分別在獨立的線程池/ Actor 中執(zhí)行不會因為某一個環(huán)節(jié)的慢操作影響流量調(diào)度的精準性3. 極致的資源優(yōu)化長時間壓測無性能衰減穩(wěn)定施壓的前提是壓測機本身的資源占用穩(wěn)定不會出現(xiàn)內(nèi)存溢出、GC頻繁、CPU飆升等問題。Gatling 做了大量資源優(yōu)化極低的內(nèi)存占用每個虛擬用戶是輕量級Actor內(nèi)存占用僅幾百字節(jié)單臺8核16G機器可輕松支撐5萬并發(fā)用戶而傳統(tǒng)線程模型單線程棧就需要1M內(nèi)存高并發(fā)下內(nèi)存極易耗盡內(nèi)存池化與對象復用基于Netty的ByteBuf內(nèi)存池復用網(wǎng)絡緩沖區(qū)減少頻繁的內(nèi)存申請/釋放Scala不可變對象設計減少臨時對象的創(chuàng)建大幅降低GC頻率和停頓時間連接復用與TCP優(yōu)化內(nèi)置HTTP連接池復用TCP連接減少三次握手/四次揮手的開銷自動開啟Keep-AliveTCP_NODELAY等優(yōu)化保證網(wǎng)絡通信的穩(wěn)定低延遲JVM層面優(yōu)化Gatling 官方提供了適配的JVM參數(shù)G1GC、新生代優(yōu)化、元空間配置等針對長時間壓測場景做了調(diào)優(yōu)避免Full GC導致的壓測停頓保證施壓過程的連續(xù)性4. 過載保護與容錯機制避免壓測失控即使被測系統(tǒng)出現(xiàn)異常Gatling 也能保證自身施壓的穩(wěn)定不會出現(xiàn)壓測機崩潰、流量失控的問題請求超時控制每個請求都可設置超時時間超時的請求會直接中斷不會無限等待避免連接和線程資源被耗盡流量上限保護throttle組件會嚴格限制全局最大RPS即使腳本中配置的用戶數(shù)過多也不會超過預設的RPS上限避免壓測機過載異常隔離單個User Actor 的請求異常、斷言失敗只會影響當前虛擬用戶不會擴散到其他用戶更不會導致整個壓測任務崩潰無界隊列防護對于超出速率的請求會做限流排隊處理避免無限隊列堆積導致的OOM保證壓測機在長時間運行中內(nèi)存始終穩(wěn)定三、Gatling 穩(wěn)定施壓的最佳實踐優(yōu)先使用開放模型throttle控制RPS全鏈路壓測最貼近真實線上流量的模式嚴格控制每秒請求數(shù)避免因為被測系統(tǒng)響應變慢導致并發(fā)數(shù)累積保證施壓的穩(wěn)定性合理設置超時時間針對訂單接口設置合理的連接超時、讀取超時避免慢請求占用連接資源影響施壓節(jié)奏開啟連接復用HTTP協(xié)議配置中開啟shareConnections全局復用連接池減少TCP連接開銷提升壓測機的并發(fā)支撐能力優(yōu)化JVM參數(shù)長時間壓測時使用G1GC設置合理的堆內(nèi)存如-Xms8G -Xmx8G避免Full GC導致的壓測停頓http://www.iqiyi.com/v_ykch330l8c.htmlhttp://www.iqiyi.com/v_lbs3wnmvzk.htmlhttp://www.iqiyi.com/v_218dy239np8.htmlhttp://www.iqiyi.com/v_2cz7aw7exew.html避免在場景中做阻塞操作不要在DSL中寫同步數(shù)據(jù)庫查詢、文件讀寫等阻塞操作所有額外邏輯都要異步化避免阻塞User Actor的執(zhí)行導致流量抖動分布式壓測拆分流量當需要超高并發(fā)時使用Gatling的分布式模式將流量拆分到多臺壓測機避免單臺壓測機的資源瓶頸保證整體施壓的穩(wěn)定核心總結(jié)Gatling 能實現(xiàn)穩(wěn)定施壓的本質(zhì)是徹底摒棄了傳統(tǒng)阻塞式線程模型用異步事件驅(qū)動Actor輕量級并發(fā)實現(xiàn)了流量的精準控制、資源的高效利用、架構(gòu)的無鎖隔離。#對比JMeter等傳統(tǒng)工具Gatling 在高并發(fā)場景下流量控制精度更高、資源占用更低、長時間壓測的穩(wěn)定性更強尤其適合做訂單系統(tǒng)的全鏈路壓測、長時間穩(wěn)定性測試等核心場景。