日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南 Nginx 監(jiān)控這件事很多人一開始想復雜了。Zabbix 要拿到 Nginx 的運行狀態(tài)并不需要裝額外探針也不一定非要解析訪問日志最穩(wěn)定的入口其實是 Nginx 自帶的 stub_status 狀態(tài)頁。只要把它打開再用 Zabbix Agent 把里面的幾個數(shù)字讀回來就能完成請求量、并發(fā)連接、讀寫狀態(tài)的監(jiān)控再配上觸發(fā)器和圖形連接數(shù)異常、請求速率突變這些情況都能直接看到。這篇內(nèi)容按實際落地順序來拆先講 Nginx 狀態(tài)頁每個字段是什么意思再講怎么讓 Zabbix Agent 把數(shù)據(jù)采回來然后是 Zabbix 前端里的監(jiān)控項、觸發(fā)器和圖形怎么配最后做一輪實測把請求打起來再去看統(tǒng)計結(jié)果怎么解讀。適合剛接觸 Zabbix 監(jiān)控 Nginx 的人也適合已經(jīng)在用 shell 腳本采集、但想轉(zhuǎn)成 Zabbix 規(guī)范化監(jiān)控的人。1. 先搞清楚 nginx 狀態(tài)頁Zabbix 監(jiān)控 Nginx 的數(shù)據(jù)從哪來1.1 stub_status 輸出字段對照Zabbix 監(jiān)控 Nginx底層數(shù)據(jù)源不是日志而是 Nginx 自己維護的計數(shù)器。只要在 Nginx 配置里啟用 stub_status訪問狀態(tài)頁就能看到一小段純文本Active connections: 291 server accepts handled requests 16630948 16630948 31070465 Reading: 6 Writing: 179 Waiting: 106這段文本雖然短但每個字段都有明確含義。字段含義類型Active connections當前活動連接數(shù)瞬時值acceptsNginx 啟動以來累計接受的客戶端連接總數(shù)累計值handled成功處理的連接總數(shù)累計值requests累計處理的客戶端請求總數(shù)累計值Reading正在讀取請求頭的連接數(shù)瞬時值Writing正在讀取請求體、處理請求或?qū)戫憫倪B接數(shù)瞬時值Waiting空閑的 keep-alive 連接數(shù)瞬時值第一行Active connections是當前活動連接數(shù)。注意它包含后面 Reading、Writing、Waiting 三類的總和所以只要 Nginx 活著這個數(shù)值通常不會是 0。第二行是固定表頭server accepts handled requests。第三行的三個數(shù)字分別對應表頭都是只增不減的累計計數(shù)器只有 Nginx 重啟才會歸零。第四行的 Reading、Writing、Waiting 是三個瞬時值。一個請求從進入到結(jié)束通常會依次經(jīng)過 Reading、Writing 兩個階段最后進入 Waiting或者直接關閉連接。這幾個字段之間的換算關系是Active connections Reading Writing Waiting。理解這個關系后面看圖形和觸發(fā)器才不會被數(shù)字騙到。1.2 哪些指標值得接進 Zabbix不是每個字段都必須接進來但下面這幾個我建議至少都要有。請求速率是最核心的指標對應 requests 計數(shù)器看的是單位時間內(nèi)處理了多少請求也就是平時說的 QPS。只看累計值沒有意義必須換算成速率。新建連接速率對應 accepts 計數(shù)器看的是單位時間內(nèi)來了多少新連接。這個值和 QPS 的區(qū)別在于keep-alive 生效的情況下一個連接上可以連續(xù)發(fā)多個請求所以請求速率通常遠大于連接速率。當前并發(fā)連接數(shù)對應 Active connections是最直觀的負載指標。但它不能單獨說明問題必須結(jié)合 Reading、Writing、Waiting 一起看。Reading 如果持續(xù)偏高說明有一些客戶端請求頭發(fā)得很慢或者請求頭一直沒發(fā)完。Writing 持續(xù)偏高說明 Nginx 正在大量往客戶端寫響應這時候要關注帶寬和上游服務能不能跟上。Waiting 高反而是正?,F(xiàn)象說明大量連接是空閑 keep-alive對靜態(tài)資源或高并發(fā) Web 服務很常見。把這些字段全部接進 Zabbix才算真正把 Nginx 的運行狀態(tài)看完整。2. 環(huán)境準備與最小配置讓 Nginx 先吐出狀態(tài)數(shù)據(jù)2.1 確認 Nginx 是否支持 stub_statusstub_status 不是所有 Nginx 都默認包含。編譯 Nginx 時如果沒有加--with-http_stub_status_module這個功能就不存在配置寫了也會報錯。先檢查當前 Nginx 有沒有這個模塊nginx -V 21 | grep -o http_stub_status_module如果輸出里有http_stub_status_module說明支持。如果沒有有兩個方向重新編譯 Nginx 時加上這個模塊或者換成已經(jīng)默認包含該模塊的發(fā)行版軟件包。很多發(fā)行版和官方倉庫自帶的 Nginx 都已經(jīng)開啟了這個模塊但自編譯版本一定要單獨確認。這里提醒一下執(zhí)行nginx -V時編譯參數(shù)是在標準錯誤輸出里所以我加了21把錯誤輸出重定向到同一路。很多人第一次只看第一行 version以為不支持其實是沒看全。2.2 Nginx 狀態(tài)頁配置示例與安全限制確認模塊存在后在 Nginx 的 server 配置里加一個 location。以下是一份最小配置server { listen 80; server_name _; location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; } }這里最關鍵的是allow和deny。stub_status 本身沒有任何認證機制任何人能訪問就能看到你的連接數(shù)、請求量和連接狀態(tài)。如果把狀態(tài)頁暴露到公網(wǎng)內(nèi)部運行信息等于公開了。所以默認只允許本機訪問是最穩(wěn)妥的做法。如果你的 Zabbix Agent 和 Nginx 不在同一臺機器上不要直接把deny all刪掉應該改成只允許采集機 IP 訪問location /nginx_status { stub_status on; access_log off; allow 192.168.1.100; deny all; }改完配置先檢查再重載nginx -t nginx -s reloadnginx -t這一步不能省。stub_status 的 location 如果配置在錯誤的上下文里或者和已有配置沖突reload 會直接失敗。2.3 用 curl 驗證狀態(tài)頁是否生效配置完成之后先在 Nginx 所在機器上驗證curl -s http://127.0.0.1/nginx_status如果能看到開頭那段文本說明狀態(tài)頁已經(jīng)可以訪問了。如果返回 404說明 location 沒生效或者配置在了錯誤的 server 塊里。如果返回 403大概率是deny all生效了而你的請求來源 IP 不在allow列表里。這里有個容易忽略的點如果你的 Nginx 不是監(jiān)聽 80 端口或者同時有 HTTPSURL 里要帶上實際協(xié)議和端口例如http://127.0.0.1:8080/nginx_status。先花一分鐘把 curl 這步跑通后面會省很多時間。3. Zabbix Agent 接入一條 UserParameter 和一個監(jiān)控項的關系3.1 安裝與基礎配置 Zabbix AgentZabbix Agent 是部署在 Nginx 所在機器上的采集程序。它的作用和 Nginx 狀態(tài)頁互補狀態(tài)頁負責提供數(shù)據(jù)Agent 負責把數(shù)據(jù)讀出來再交給 Zabbix Server。安裝方式要看你的系統(tǒng)和 Zabbix 版本直接使用官方倉庫安裝 zabbix-agent 即可。裝完需要修改配置文件常見要確認三個參數(shù)Server192.168.1.10 ServerActive192.168.1.10 Hostnameweb01Server是允許給這臺 Agent 下發(fā)被動采集請求的 Zabbix Server 地址。ServerActive是主動上報要連接的 Server 地址。Hostname是 Agent 上報時使用的名字在 Zabbix 前端添加主機時要保持一致特別是主動檢查時Hostname 對不上會直接導致數(shù)據(jù)丟失。這里解釋一下被動檢查和主動檢查的區(qū)別。被動檢查是 Zabbix Server 主動連接 Agent 的 10050 端口要數(shù)據(jù)主動檢查是 Agent 主動連接 Server 的 10051 端口上報數(shù)據(jù)。自定義 UserParameter 兩種方式都支持但排查問題時的思路不一樣后面會詳細說。改完配置啟動服務systemctl restart zabbix-agent systemctl status zabbix-agent3.2 通過 UserParameter 把 nginx_status 轉(zhuǎn)成監(jiān)控項Zabbix Agent 默認不認識 nginx 的 key需要通過 UserParameter 來定義。UserParameter 的格式很簡單一個 key一個命令Agent 執(zhí)行命令把標準輸出作為監(jiān)控值返回。在/etc/zabbix/zabbix_agentd.d/目錄下創(chuàng)建一個 nginx.conf寫入以下內(nèi)容UserParameternginx.active,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Active connections/{print $3} UserParameternginx.accepts,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $1} UserParameternginx.handled,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $2} UserParameternginx.requests,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $3} UserParameternginx.reading,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Reading/{print $2} UserParameternginx.writing,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Writing/{print $4} UserParameternginx.waiting,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Waiting/{print $6}逐個拆一下。每行都是一個 key例如nginx.active。后面的命令先用 curl 抓取狀態(tài)頁再用 awk 提取對應字段。awk 的寫法要特別注意。第三行的 accepts、handled、requests 是三個連續(xù)數(shù)字所以分別用NR3定位到第三行再打印第 1、2、3 列。Reading、Writing、Waiting 在同一行里所以要先用正則匹配到這一行再打印對應列。Writing 是第 4 列Waiting 是第 6 列這個順序很多人會弄錯。命令里的--max-time 3不是隨便加的。如果狀態(tài)頁異常導致 curl 一直掛住Agent 執(zhí)行這個 UserParameter 就會卡住嚴重時會占滿 Agent 的檢查線程影響這臺機器上的其他監(jiān)控項。加上超時時間最壞 3 秒也會退出。改完配置后重啟 Agentsystemctl restart zabbix-agent3.3 先用 zabbix_get 還是前端測試功能配置完 UserParameter不要急著去 Zabbix 前端創(chuàng)建主機先在命令行驗證一遍 key 能不能查到值。在有 zabbix-get 工具的機器上執(zhí)行它通常在 Zabbix Server 或 Proxy 上zabbix_get -s 192.168.1.20 -k nginx.requests返回一個數(shù)字說明這條鏈路通了。如果提示 Not supported 或者沒有輸出先不要懷疑 Zabbix 配置回到 Nginx 機器上直接執(zhí)行那條 UserParameter 命令看有沒有結(jié)果。這里有個容易踩的坑你手動執(zhí)行命令時用的是 root 用戶而 Zabbix Agent 運行時的用戶通常是 zabbix兩個用戶的環(huán)境變量、權(quán)限、可執(zhí)行路徑可能都不一樣。比如 zabbix 用戶沒有權(quán)限訪問某個目錄或者 SELinux 攔截了 zabbix 用戶執(zhí)行 curl都會導致手動執(zhí)行正常、Agent 執(zhí)行失敗。新版 Zabbix 前端在監(jiān)控項配置里也有一個 Test 按鈕可以直接測試當前主機上的 key返回結(jié)果和報錯更直觀。實際排查時我一般按三個地方順序看Agent 所在機器手動執(zhí)行命令、zabbix_get 從 Server 端測試、前端 Test 按鈕看報錯。4. 創(chuàng)建主機、監(jiān)控項、觸發(fā)器數(shù)據(jù)到告警的完整鏈路4.1 在 Zabbix 前端添加主機與監(jiān)控項命令行驗證通過后進入 Zabbix Web 界面按照 配置 → 主機 → 創(chuàng)建主機 的路徑添加一臺主機。填寫主機名時要注意Agent 配置文件里的 Hostname 和這里的主機名必須一致否則主動檢查會失敗。接口配置里選擇 Agent填寫 Nginx 所在機器的 IP 和默認端口 10050。添加監(jiān)控項有兩條路線。一條是直接鏈接模板Zabbix 模板庫里有 Nginx by HTTP、Nginx by Zabbix agent 2 這類現(xiàn)成模板不同版本的模板數(shù)量和名稱會有差異底層采集方式也是去讀狀態(tài)頁適合不想自己維護 key 的人。另一條是手動創(chuàng)建監(jiān)控項用剛才定義的 UserParameter 鍵值自由度更高也更容易理解每個數(shù)字怎么來的。如果你是第一次做我更建議先手動創(chuàng)建。原因很簡單自動模板會隱藏很多細節(jié)一旦出了問題你很難判斷是狀態(tài)頁的問題、Agent 的問題還是模板映射的問題。手動創(chuàng)建一遍等于把鏈路里的每個環(huán)節(jié)都摸清楚了。手動創(chuàng)建監(jiān)控項時以nginx.requests為例名稱Nginx Requests類型Zabbix Agent鍵值nginx.requests信息類型數(shù)字無正負更新間隔1m 或 30s 都可以歷史數(shù)據(jù)保留7d趨勢數(shù)據(jù)保留365d其他幾個 key 按同樣方法創(chuàng)建。4.2 請求速率、連接數(shù)怎么存儲和計算單位這里要解決一個關鍵問題accepts、handled、requests 這三個字段是累計值直接存進 Zabbix 只能看到一根一直向上的線很難判斷當前請求量到底是多少。所以必須讓 Zabbix 把累計值換算成速率。在 Zabbix 監(jiān)控項配置里有一個字段叫“存儲值”可以選“原樣存儲”“增量簡單變化”和“增量每秒速率”。存儲方式適用場景示例原樣存儲瞬時值當前是多少就存多少active、reading、writing、waiting增量簡單變化累計值的兩次差值accepts 每次變化量增量每秒速率累計值換算成每秒速率requests、accepts、handled對 requests、accepts、handled 這三個累計計數(shù)器應該選擇“增量每秒速率”單位寫成 req/s 或 conn/s。這樣 Zabbix 會在后臺自動計算兩次采集之間的差值再除以時間間隔得到每秒速率。如果你不想在監(jiān)控項里改存儲方式也可以用預處理步驟里的“每秒更改量”來實現(xiàn)同樣效果。兩者本質(zhì)上是一樣的看你習慣哪種。唯一要注意的是如果 Nginx 在兩次采集之間重啟過計數(shù)器歸零速率可能會出現(xiàn)一次很大的負值或異常值統(tǒng)計圖形上會出現(xiàn)明顯的斷點這是正?,F(xiàn)象不是系統(tǒng)崩潰。active、reading、writing、waiting 這四個瞬時值就保持“原樣存儲”它們的數(shù)值本身就是當前狀態(tài)不需要做速率換算。4.3 觸發(fā)器和告警閾值怎么定監(jiān)控項建好后數(shù)據(jù)會不斷進入 Zabbix但沒人盯著圖形的話異常還是發(fā)現(xiàn)不了。觸發(fā)器的意義就是自動判斷數(shù)值是否超過預期。觸發(fā)器配置路徑是 配置 → 主機 → 觸發(fā)器 → 創(chuàng)建觸發(fā)器。以活躍連接數(shù)為例一個簡單表達式last(/web01/nginx.active)10000含義是當前活躍連接數(shù)大于 10000 時觸發(fā)警告。再比如請求速率min(/web01/nginx.requests,5m)5000含義是最近 5 分鐘請求速率平均值超過 5000 req/s 時觸發(fā)。閾值定多少沒有標準答案取決于你的業(yè)務。我建議先讓 Zabbix 跑兩三天積累一段基線數(shù)據(jù)再根據(jù)圖形里的峰值來定警告和嚴重閾值不要憑感覺拍腦袋。第一次設置可以把閾值放寬一點確認告警鏈路能正常觸發(fā)后再往回收。觸發(fā)器還可以設置恢復表達式也就是數(shù)值降到多少以下時自動恢復為正常。這個最好一起配好否則每次數(shù)值震蕩都會反復觸發(fā)、恢復告警會很吵。要測試告警鏈路的完整效果除了觸發(fā)器還需要配置好動作和通知方式。如果暫時沒配郵件或其他通知也可以先只做觸發(fā)器通過 Zabbix 首頁的告警記錄來確認觸發(fā)是否成功。5. 實測一輪用請求壓一壓再去看統(tǒng)計結(jié)果和圖形5.1 制造流量curl 循環(huán)或 ab 簡單壓測配置完成之后最關鍵的一步就是實測。沒有流量監(jiān)控圖形是一條平線你很難判斷數(shù)據(jù)到底有沒有采集成功。最簡單的測試方法是用 curl 發(fā)一批請求。在 Nginx 機器上執(zhí)行for i in $(seq 1 1000); do curl -s -o /dev/null http://127.0.0.1/; done這個循環(huán)會向本機 Nginx 發(fā)送 1000 次請求每次丟棄響應內(nèi)容。優(yōu)點是環(huán)境干凈不需要額外工具。缺點是速度不夠快產(chǎn)生的請求速率不會特別高。如果你機器上有 ab也就是 ApacheBench可以壓得更明顯一些ab -n 5000 -c 100 -k http://127.0.0.1/這條命令的含義是總共發(fā)送 5000 個請求同時保持 100 個并發(fā)連接-k表示啟用 keep-alive。ab 在測試時會持續(xù)請求能把 Nginx 的請求速率和活躍連接數(shù)明顯拉起來。執(zhí)行的時候建議一次只跑一種跑完等一分鐘讓 Zabbix 完成幾個采集周期再去前端看數(shù)據(jù)。如果立刻去看采集周期還沒到可能什么都看不到。5.2 分析 Latest data 和 Graphs進入 Zabbix 前端的“監(jiān)測 → 最新數(shù)據(jù)”選擇剛才創(chuàng)建的主機就能看到每條監(jiān)控項的當前值。這時候你看到的應該是有具體數(shù)字的綠色狀態(tài)而不是“不支持”或“無數(shù)據(jù)”。以剛才 ab 壓測為例壓測過程中可以看到 requests 數(shù)值沖上去壓測結(jié)束后又會回落。如果配上圖形把請求速率、活躍連接、Reading、Writing、Waiting 放在同一張圖里觀察能很直觀地看到整個請求生命周期的變化。如果你沒有在監(jiān)控項里單獨創(chuàng)建圖形也可以在儀表盤中添加一個圖表組件數(shù)據(jù)源選擇對應主機的監(jiān)控項。Zabbix 的圖表組件支持把多個監(jiān)控項疊加到同一張圖上非常適合對比 Active connections、Reading、Writing、Waiting 這幾個相關指標。5.3 從數(shù)據(jù)反向判斷 Nginx 狀態(tài)是否健康數(shù)據(jù)有了接下來的重點是怎么讀這些數(shù)字。先看 active connections 和 waiting 的關系。如果活躍連接數(shù)很高但 waiting 也很高說明大量連接是空閑 keep-aliveNginx 實際壓力不大只是在維持長連接。如果活躍連接數(shù)高waiting 卻很低說明連接都在真正干活這時候負載才是真的高。再看 accepts 和 handled 的對比。正常情況下這兩個數(shù)值應該非常接近。如果 handled 長期明顯小于 accepts說明有一部分連接沒有被 Nginx 成功處理可能原因是 worker_connections 配置過低連接數(shù)被系統(tǒng)層面拒絕了。通過 Zabbix 監(jiān)控這兩個值的曲線差值能比看錯誤日志更早發(fā)現(xiàn)問題。再看請求速率和連接速率的關系。用 requests 速率除以 accepts 速率可以得到平均每個連接上的請求數(shù)。如果這個值接近 1說明 keep-alive 基本沒起作用客戶端每次請求都新建連接連接效率很低。如果明顯大于 1說明 keep-alive 生效良好一個連接上處理了多個請求。Reading 和 Writing 是更細的觀察點。靜態(tài)資源站點在壓測時Writing 會明顯升高因為 Nginx 正在往客戶端輸出響應。如果 Writing 持續(xù)高位但 requests 并不高可能是網(wǎng)絡帶寬打滿了響應寫不出去。Reading 持續(xù)高位則要小心可能是客戶端請求頭發(fā)送緩慢也可能是存在慢連接這種情況即使活躍連接數(shù)不高worker 也可能被拖住。這些判斷不能只看一兩個采樣點最好結(jié)合 5 分鐘、1 小時的時間窗口來看趨勢。這也是為什么前面建議把趨勢數(shù)據(jù)保留時間設長一些。6. 常見問題排查與生產(chǎn)環(huán)境落地的邊界6.1 Agent 顯示 Not supported 時按什么順序查Zabbix Agent 返回 Not supported 是監(jiān)控 Nginx 時最常遇到的問題。很多人第一反應是去改 Zabbix 配置其實大多數(shù)時候問題出在 Agent 側(cè)。我的排查順序是固定的。第一步直接手動執(zhí)行那條 UserParameter 命令看有沒有輸出。如果命令本身就沒輸出說明狀態(tài)頁、curl、awk 里有一環(huán)斷了。第二步確認執(zhí)行用戶。Zabbix Agent 通常以 zabbix 用戶運行手動用 root 執(zhí)行成功不代表 zabbix 用戶能執(zhí)行。可以用su - zabbix -s /bin/bash -c 命令來模擬 Agent 的執(zhí)行環(huán)境。第三步看 Agent 日志默認在 /var/log/zabbix/zabbix_agentd.log。日志里會記錄 key 對應的錯誤信息比如命令找不到、執(zhí)行超時、權(quán)限不足等。第四步改完 UserParameter 后確認重啟了 Agent。UserParameter 是在 Agent 啟動時讀取的不重啟不會生效。第五步從 Server 端用 zabbix_get 測試連通性。這一步能區(qū)分問題是出在 Agent 執(zhí)行命令還是 Server 與 Agent 之間的網(wǎng)絡、端口、密鑰配置上。還有一個常見問題Linux 有 SELinux 或 AppArmor 環(huán)境時zabbix 用戶執(zhí)行 curl 連接本機端口可能會被攔截。手動執(zhí)行正常Agent 執(zhí)行就是失敗排查到這一步時要看安全審計日志確認是不是被策略攔截了。6.2 狀態(tài)頁不能直接暴露在公網(wǎng)前面配置 Nginx 狀態(tài)頁時寫了 allow 和 deny這個限制在正式環(huán)境同樣重要。stub_status 只有數(shù)據(jù)輸出沒有認證、沒有訪問控制任何人拿到狀態(tài)頁地址就能看到你所有虛擬主機的連接數(shù)、請求量等信息。這些數(shù)據(jù)單獨看不算機密但結(jié)合業(yè)務時序可能暴露促銷活動、低谷期等運營信息。所以生產(chǎn)環(huán)境要遵守幾個原則狀態(tài)頁只監(jiān)聽內(nèi)網(wǎng)地址或只允許內(nèi)網(wǎng)訪問。Zabbix Agent 與 Nginx 部署在一起時直接限制為 127.0.0.1。如果需要遠程采集優(yōu)先讓 Agent 本機讀取不要讓其他機器直接 HTTP 訪問狀態(tài)頁。Nginx 服務本身就開啟了公網(wǎng)監(jiān)聽時更要檢查 allow 列表不要把公網(wǎng)網(wǎng)段放進去。另外狀態(tài)頁建議使用獨立 location不要放在一個會匹配大量路徑的通用規(guī)則里避免被掃描工具順帶發(fā)現(xiàn)。access_log off也要保留否則每個狀態(tài)頁請求都會寫一條訪問日志白白增加磁盤 IO。6.3 多實例和規(guī)范化模板、宏、命名規(guī)則如果只有一臺機器手動創(chuàng)建監(jiān)控項沒什么問題。一旦機器多起來比如七八臺 Nginx 都要監(jiān)控逐臺手動創(chuàng)建就很痛苦而且容易漏配。這時候應該把監(jiān)控項、觸發(fā)器、圖形整理成模板。在模板里創(chuàng)建好 nginx.active、nginx.requests 這些監(jiān)控項和對應的觸發(fā)器再把模板鏈接到主機上所有主機自動繼承配置。后續(xù)要加閾值、加圖形只需要改模板一處所有主機同步生效。模板里的閾值可以做成宏比如{$NGINX_ACTIVE_WARN}、{$NGINX_REQ_HIGH}。這樣在不同業(yè)務機器上可以差異化覆蓋不用復制整個模板。比如 A 機器請求量本來就大警告閾值定 8000B 機器是小業(yè)務閾值定 1000。用宏就能在同一套模板下按主機單獨調(diào)整。key 的命名也要規(guī)范。前面用的 nginx.active、nginx.requests 就是比較清晰的命名方式。如果一臺機器上有多個 Nginx 實例建議在 key 里帶實例編號比如 nginx1.active、nginx2.active避免數(shù)據(jù)串臺。6.4 歷史數(shù)據(jù)保留和監(jiān)控頻率最后聊一下采集頻率和數(shù)據(jù)保留。對 Nginx 監(jiān)控來說30 秒到 1 分鐘的采集間隔已經(jīng)足夠。不要看到別人用 1 秒間隔就覺得越快越好越短的間隔意味著越多的 Agent 執(zhí)行、越多的 Server 輪詢和越大的存儲開銷。尤其是自定義 UserParameter 每次都執(zhí)行 curl 命令如果一臺機器上有 7 個 nginx key每個采集周期就有 7 次 curl。機器數(shù)量一多這個開銷會被明顯放大。如果想降低開銷有兩個方向。一個方向是把采集間隔統(tǒng)一調(diào)大成 1 分鐘。Nginx 的指標本來就是慢變量1 分鐘內(nèi)的尖峰對告警影響不大。另一個方向是寫一個單獨的采集腳本一次抓取狀態(tài)頁把結(jié)果寫到臨時文件再由多個 UserParameter 去讀文件避免每次都重新 curl。后一種方案適合機器多、又不愿意放寬采集間隔的場景但腳本邏輯和錯誤處理要寫得更嚴謹否則一個腳本崩了所有 nginx key 都會失效。歷史數(shù)據(jù)保留方面原始監(jiān)控值保留 7 到 14 天足夠趨勢數(shù)據(jù)保留 365 天用于回顧容量。如果你發(fā)現(xiàn)自己經(jīng)常要回溯更久之前的 Nginx 指標建議單獨導出到外部存儲不要無限拉長 Zabbix 的保留周期否則數(shù)據(jù)庫膨脹之后整個監(jiān)控系統(tǒng)的查詢速度都會受影響。我個人更建議按這個順序落地先把狀態(tài)頁和 curl 驗證跑通再用 zabbix_get 確認 key 有數(shù)據(jù)然后創(chuàng)建主機和監(jiān)控項最后才是觸發(fā)器和圖形??雌饋砹鞒谈L但每一步都有明確的成功標準出了問題也知道在哪一段排查。真正跑過一輪測試之后你會發(fā)現(xiàn) Zabbix 監(jiān)控 Nginx 并不復雜難點反而不是工具而是你愿不愿意把一個累計計數(shù)器、一個狀態(tài)頁字段吃透。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产一区二区久久| 97色在线视频| 久久精品人体AV| 亚洲综合另类小说色区亚洲成av人片在www | 免费作爱一级视频| 乱欲视频| 91丝袜| 欧美国产成人在线| 美国美女AV在线| 成人网站 免费观看| 久久久新亚洲AV| 国产AV人人夜夜澡人人爽麻豆| 偷拍伦理视频| 国产一级片| 男女激情黄色网址| 免费观看网黄| 91搡老女人老妇女老熟女歌词翻译| 人人澡人人弄| 日本精品九九九| 一个人在线看的黄色电影网站| 色婷婷丁香五月| 芊芊操逼视频无码| 成年人黄色视频免费| 日韩9区| 久久久精选| 东方亚洲在线操逼天堂| 91日产欧美| 日韩AV一起草| 日韩有码 一区二区三区| 超碰97久| 91热| 欧美在线亚洲| 成人一道本免费视频| 91久久九九精品国产综合| 国产91 丝袜在线播放 | 亚洲麻豆18发?| 91日日| 盗摄 精品 另类 一区| 五月天色电影| 香蕉99秘 精品一区丁香| 成人欧美一区二区三区黑人一| 1024人妻熟女一区二区三区| 夜夜影视四色| 欧美一区二区观看在线| 国产精品亚洲一区二区三区四区| 亚洲成a人片在线观看中文!!!| 国产一级不卡在线观看| 免费操逼视频下载| 亚洲色人妻综合| 99国内精品| 亚洲精品丝袜| 超碰夫妻97| 一区二区蜜臀| 亚洲区 欧美区| 久久产精品一区二区三区电影| 久一区久久蜜桃| 久久午夜色播影院免费高清| 日本三级A片网站com| 一级毛片久久久久久久女人18| 777AV电影| 久久精品国产亚洲AV片多多| 九月色婷婷| 国产精品白虎| 激情接吻视频久久久久久| 成人无遮挡毛片免费看| 91三级理论片播放器| 蜜臀久久99精品久久久久| 国产久久一区二区| 老司机午夜福利视频一区二区| 夜夜操一区二区| 精品人妻一区春色| 色欧洲| 97精品97久久| 久草看看看| 免费视频一二三区| 一区不卡在线观看av| 欧 美 自 拍 偷 拍| 日韩亚洲Av人人夜夜澡人人爽| av国产无码| 精品一区二区三区蜜桃臀赵总 | 亚洲午夜免费狠狠干| 麻豆久久久久久久久丝袜| 亚熟hd视频在线| 97在线播放 | 久久五月丁香| 九九九九九用不成了| 激情另类激情| 久热伊人| 久久久久久久六六 | 久久精品中文字幕无码l| 婷婷五月天福利| 第四色亚洲色图| 黄页网站成人免费| 人妻一区二区三区视频| 五月婷婷深深爱| 好舒服视频| 日日爱99| 夂久色| 综合激情一一91| 亚洲本色精品一区二区久久| 婷婷综合久久| 超碰是碰在线观看| 国产精品嫩草影院免费| 人妻大相焦在线| 亚洲图片欧美色图| 五月丁香综合激情| 国产美女自拍视频| 欧美在线播放aaaa| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 色综合久久av| 很黄很污的免费网站| 天天看片麻豆| 台湾佬激情综合| 日夜干射色啊| 禁十八久久| 欧美少妇高潮| 天天综合网~69| 久伊人网78| 日韩AV无码中文一区二区| 97爱爱影院| 国产午夜精品理论片a大结局| 中文字幕免费看大片| 久久九七| 五月天婷精品激情| 大屁股熟女一区二区三区| 免费家庭乱伦视频| 夜夜嗨AV蜜臀av| 成人久久久| 麻豆天美国美国产| 日本操逼视频在线| 在线视频五十市| 岛国免费黄色网址| 中文日韩欧美熟| 嫩草影院在线观看精品| 91色综合色| 日韩人妻免费精品| 好爽视频在线观看| 国产农村妇女一区二区| 综合影院永久入口国产| 日本99一区二区| 无码最新| 蜜臀久久久99久久久久| 久久久影院| 欧州一区二区三区四区| 国产精品久久久久久久久久久久久久久久| 青青操少妇| 2023天天操夜夜操| 男插女青青影院| 色欲天天综合久久久无码网中文| 狠狠干精品一二三四五六2022| 凹凸视频在线一区二区| 蜜桃视频一区二区三区 | 欧美九九99久久精品| 两女互慰AV高潮喷水在线观看| 超碰精品| 日本精品一区二区中文字幕| 免费看黄片现成| 九九九九日本 | 9/A片| 人人干黄色| 蜜桃午夜视频一区二区 | 蜜桃精久三区| 欧美疯狂做爰xxxx| 人妻一二三区| 理论久久婷婷网8| 亚洲国产剧情少妇激情| 久久精品国产亚洲AV片多多 | 男人的天堂在线有码| 色哟哟 日韩精品| 97国产伦理| 97干日韩| 国产乱伦一二三区| 伊人热综合| 亚洲AV色图一区| 亚码激情| 九九性爱网| 波多野结衣AV无码一区| 天天狂操夜夜狂日| julia ann久久| 青青草日本无码| 久久久无码av精| 中文字幕高清精品一区| 国产一国产一级毛片古装| 亚州大图综合色图| 台湾肥佬网一区二区三区| 777奇米影视777四色| 少妇厨房愉情理伦片bd在线观看| 日本一区二区中文字幕久久| 操一对老熟妇爽上天视频| 91热情品| 97干色天堂| 99热精品在线观看| 日韩精品一区二区三区色欲| 伊人网综合在线视频| 热99这里有精品综合久久 | 亚洲综合射| 一牛影视久久久一区二区三区| 欧美十八禁网站| 影音先锋少妇| 台湾一区国产高清在线| 亚洲丝袜诱惑| 欧美后入| 国产高清自拍视频| 欧美色图亚洲激情| 一中国女人毛片水真多| 无码天堂| 成年人网站在线免费观看| 亚洲少妇视频| 天天日夜干| 91啪9色| 久久精品国产亚洲AV高级北京| 性无码专区2020| 国产又粗又长的视频| 91男人天堂网| 在线播放中文字幕| 色噜噜人妻av中文字幕| 久肏视频字幕| 国产白丝网站| 91网站18禁| 伊人网高清| 超碰色97| 懂色Av| 欧美性生活男人的天堂| 香蕉热人人精品| 波多野42部无码喷潮在线观看 | 人妻嗯啊啊在线播放| 99re视频在线观看这里只有精品| 99re这里只有精品中心播放 | 亚洲国产一级黄色视频| 淫荡少妇免费| aaa一级黄片| 91丨九色丨东北熟女| 亚洲nv男人的天堂网| 日本天天吊| 精品乱子一区二区三区99| 日韩丝袜高跟制服在线观看| 蜜臀va69| 精品久久无码午夜福利| 最新日产中文在线麻豆| 翔田千里av一区二区三区| 久久久18| 嗯嗯啊啊好疼| 天天欧美| 成人性爱av| 国产一级做a爰大片免费久久| 天天操天天舔| AV色天香在线| 9精品久久| 男人的天堂99| 中国AV美女| 白嫩国模丰满一二三区| 中文一区二区婷婷视频| 伊人网一本| 欧美日韩一干二干| 日韩人妻 中文字幕| 搡老女人911熟妇老熟女| 色噜噜人妻丝袜a∨先锋影| 天美麻花大全视频| 麻豆性爱视频在线播放| aV中文麻| 污污汅18禁网站在线永久免费观看| 在线亚洲精品久久久| 妇人噜噜| 69一区二区| 精品久久久久久中文| 97色色色| 蜜臀无码一区二区| 色欲天天综合久久久无码网中文| 亚洲成人免费在线| SUV一区二区在线看| sewuyueav| 大香蕉黄色一级片免费看| av资源在线播放天堂| 亚洲熟女乱色| 亚洲资源一区| 免费综合亚洲中文| 伊人嫩草| 免费精品人妻一区二区三| 欧美 亚洲 综合 制服| 本道在线| 国产熟女乱论| 婷婷五月天无码 | 秋霞免费AV| 伊人成人情色综合| 亚洲 欧美 日韩 国产一区二区| 性色av婷婷久久一区二区点复制| 大香蕉男人的天堂| 国产一区二区在线播放量| 欧美一区91大爱| 国产精品97视频| 午夜理论片在线观看免费| 91在线丝袜视频| 午夜福利1区2区3区| 天天日老熟妇| 91天天| 中文字暮97| 日韩精品一二三| 久久98| 97在线/亚洲| 免费综合亚洲中文| 午夜亚洲| www.色婷婷| 亚洲综合在线91| 狠狠综合| 97免费在线| 老女人爆菊| 日语五十路和六十路亚洲国产精品| 亚洲有薄码区日本系列中文字幕| 乱伦熟女论坛| 久久亚洲熟妇在线视频| www..com操老师| 97超碰免费生活| 亚洲毛片一级带毛片基地| 欧美在线|亚洲| 囯产操逼片| 国产精品97视频| 日韩三级一区| 国产亚洲深夜激情| 国内精品久9| 成视频在线观看免费看| 久久99国产精品| 精品久久久九九九孕妇| 曰韩精品视频一区二区| sewuyueav| 97干com| 伊人丁香五月婷婷| 一二区在线观看视频| 大香蕉操久久| 97超碰碰碰| 91小视频| 伊人一区二区在线播放| 久久综合av| 九九色热| 密乳AV免费观看| 熟女少妇一区二区三区| 久久亚洲天天做| 国产一区二区三区视频在线看| 激情另类激情| 熟女人妻久久中文字幕一二区| 日韩兔费看黄片| 美女毛片999| 免费综合亚洲中文| av激情亚洲五月天| 97在线免费公开视频| 看黑人AV不卡| 欧美成人午夜免费福利785| 91少妇人妻| 亚洲Av噜噜一区二区三区妖精| 久久婷婷亚洲| 日本丝袜人妻内射| 中文视频在线观看| 中文一区二区| 18岁禁 茉莉成人久久| 五月丁香激情综合网| 中文字幕人妻资源在线| 亚洲AV永久无码精品成人调教| 日韩无码黄色片| 久久九精品| 久久黄黄| 亚洲成人免费电影| a在线视频免费观看| yaouchengrenav| 97在线播放| 欧美情色贴图| 97一区二区蜜臀| 95人妻爽爽人人做人人澡| 欧美性爱www免费版| 麻豆天美91| 96久久久久久久| 99精品久久久久久| 久久久久九九九| 三级网站超变态精品| 人妻丝袜无 码视频专区| 最近2019中文字幕国语免费版| 欧美v日韩v亚洲v最新在线| 国产蜜臀在线| 物业黑人 AV一区| www.99热在线只有精品| 亚洲男人的天堂V| 亚洲激情久久| 懂色AV一区二区三区| 激情五月婷| 高清在线偷拍自拍视频| 久久久久久久国产a∨| 国产av波波国产精品| 操国产逼| 黄色大片免费在线| 国产午夜福利电影免费在线观看| 国产亚洲福利第一页丝袜| 青青草中文字幕| 天天操妹子| 欧美激情亚洲| 精品人妻一区二区三区视频在线| 久久久久久久久久9| 少妇淫妇久久久久久久| 精品99999| 农村女一级毛卡片| 免费少妇一区二区| 天天草夜夜草高潮片| 国产日韩精品无码去免费专区国产| 国产精品一二三区18| 最近2018中文字幕在线高清第一页| 婷婷婷婷婷婷久久久久| 久久精品欧美一区二区三区不卡| av无码av无码专区| 精品亚洲国产成人AV制服丝袜| 大香蕉黄色一区| 色婷五月天| 亚洲天堂色图| 亚洲色图欧美另类在线| 后入福利| 亚洲色欧美| 日韩国产欧美伦理在线| 九九亚洲视频| 激情亚洲天堂| 狠狠色五月亚洲91| 翔田千里A片一区二区| 国产精品亚洲天堂网址| 久久亚洲av成人无码国产| 999久久久精品国产| 一区中文字幕二区日韩| 人妻超碰青青草98| 97精品免费视频网站| 欧美一级美片在线观看免费| 成人av动漫在线观看| 亚洲日韩肥臀视频在线观看| 69久久久久久久久久久久久| 中文久久久| 超碰国产精品久| www.色婷婷.com| 久草色悠悠在线视频| 97国产精品久久久久| 97超碰中文在线| 激情无码日韩| 97精品国产97久久久| 传媒免费一区二区三区| 久久九色| 国产高潮AA片免费看| 99热精品青草在线| 亚洲色交| 能看的AV| 人妻 欧美亚洲| 91综合色| 嗯嗯嗯好爽| 精品欧美日韩在线观看| 88xx成人精品视频| 成人综合色网| 9久9久| 日本成人A片免费看| 欧美日韩m| 97久久综合网| 成人国产精品三级A片| 欧美 日韩 另类 亚洲| 久久精品一区二区| 91婷婷| 欧美美女后入| 久久综合国产精品国产| 夜夜操91744565| 精品69网| 久久久久免费少妇| 天天欧美| 亚洲av在线免费观看| 亚州,欧美在线| av网页一区二区三区| 韩国女主播青草在线| 好色综合| 精品十三区| 欧美欧美啪啪视频| 人人摸人人干| 豆花视频操逼网址| 欧美激情视频一区二区三区不卡| 国产一区二区二区按摩精品啪视频| 五月丁香婷婷色| 亚洲黄色电影| 天天干,夜夜爽| 亚洲性高潮| 成人在线永久| 青草香蕉网| AVE乱伦| 亚洲欧美综合色| 免费观看日本操逼视频| 中文字幕 一区二区 亚洲无码| 96精品久久| 超91综合网| av激情亚洲五月天| 亚洲视频小说| 草草网站影院白丝内射| 五十路成人在线视频二区三区| 日本色色的视频| 九九五月天| 长长久久免费视频| 99久久久无码国产精品性啊聊| 欧美九九99久久精品| 亚洲啪啪视频免费| 黄色片G G G| 一个人免费HD91视频| 91日韩网站| 蜜桃色色网站视频三区| 国内毛片热久久思思热| 国产第二页| 极品白嫩美女白浆成人福利在线看| 久久久久久无码人妻中文字幕| 中文字幕一区日韩精| 天久久久噜噜噜久久国产精品爽爽 | 一区二区影院| 日韩精品一区二区人人人| 亚洲熟妇自偷自拍另欧美| 日本中文熟女视频| 国产91丝袜在线播放蜜月| 99热这里是精品| AV乱伦国产| 夜夜青青无码影院| 人妻天天夜夜爽一区二区| 免费自拍三级综合| 久久这里只| 亚洲大胆人体av| 色婷婷五月综合| 秋霞一级A片黄色视频| 国产视频97| 老师充足的奶水小说| 色综合网1| A一区片| 一二三四区电影| 麻豆性爱视频在线播放| 黄色av一区二区在线| 99蜜月精品久久| 无码欧美有限公司| 欧美视频中文字幕区| 超碰97人人cao| 久久香蕉国产线看观看亚洲女人 | 东京男人天堂| 久久久久久久久久久久黄色| 啊啊啊啊嗯嗯嗯用力好爽 | 亚洲综合一| 精品一区96| 伊人久久艹| 人人摸人人添人人操| 亚洲欧美国产va在线播放频| 91无码人妻精品一区二区三区蜜桃 | 九久9精品| 中文字幕奈奈美被公侵犯| 国产风韵犹存熟妇三区| 久久偷拍人| 超碰资源亚洲97| 五月色网| 日本精品成人无码| 国产亚洲精品av一区| 亚洲天堂在线怕怕视频| 91老熟妇| 亚洲欧洲激情卡通另类文学四射小说网站| 国产中文大片资源中文字幕| 天美传媒婬乱| 天天综合-91入口| 国产AV天美传媒一区二区三区| 国内操逼视频二区| 啊啊啊好舒服好爽啊啊啊视频| 懂色AV一区二区三区| 99热91| 五月天色图| 极品极品色影院| 丁香九月激情啪| 高清在线偷拍自拍视频| 日韩精品中文字幕二区| 亚洲各类熟们中文字幕| 伊人久久艹| 激情五月天视频| 我爱大香蕉| 丁香啪啪| 国产日本熟女顶级一区二区三区视频| 人人爽天天爽| 天天碰操中国年青熟妇| 亚洲激情色片| 九九av| 91成人亚洲色图| 国产日韩美女小穴视频网站不卡| 国产97av| 午夜国产综合视频在线观看| 一级毛片久久久久久久女人18| 亚洲天堂一区二区久久| 激情啪啪拍91| 日韩精品 资源| 亚洲日韩av一区二区三区百合| 好看的91视频| 国产精品大屁股999| 农村少妇久久久久久久| 国产色产精品在线观看| 天天艹天天日| 六月丁香网| 97高清啪啪| 亚洲999综合| 1024精品在线| 伊人一区二区在线播放| 久久精品色欧美aⅴ一区二区| 99热在线播放| 麻豆 亚洲 97| 天天爽天天操啊啊啊| 看免费的黄片| 99热99在线| 蜜桃视频一区二区三区在线观看| 亚洲欧美视| 黄片www视频免费| 97伊人超碰| 99综合网| 台湾大香蕉99热| 精品少妇一区二区三区| 亚洲成人黄色在线观看| 久久肏大逼| 欧美九九99久久精品| 91国产丝袜美女| 国产在线观看一区二区三区| JIZZJIZZ国产精品喷水| 好湿好紧好爽 视频| 丝袜高跟澳门91视频| 神马久久久久久| 国人欧美精品一区二区| 中文字幕乱碼在线| AV女资源| 自拍大香蕉乱插| 大香伊人在线一区| 激情小说亚洲色图| 无套内射性感少妇视频| 东京热熟女亚洲视频网站| 在线不欧美| 色官网在线| 欧美亚洲涩涩| PMv在线观看| 日韩欧美女优电影| 超碰人人干天天射| 白嫩国模丰满一二三区| 亚洲美女色图| 91精品亚洲内射孕妇| 欧美制服另类丝袜| 欧美姓爱综合网| 午夜黄色免费在线观看| 久久风骚城市| 91高潮喷水美女| 91av熟女人妻| 欧美黄页在线| 精品传媒在线一区| 亚洲啪啪性视频| 国产av色网| 人人摸人人添人人操| 亚洲欧美精品久| 欧美精品23| wwe 天天干.com| 五月婷网站| 亚洲熟女乱综合一区二区三区| 秋霞免费无码视频日韩A片| 亚洲精品人妻在线| 欧美白嫩在线放| 成人草草视频| 国产乱伦亚洲| 青青草五月天| 日韩精品国产一区二区| 青青欧洲黑| 久草国产在线视频| 丝袜狂射91| 嫩草影院性色| 久区视频| 天天添天天干电影| 亚欧无码线免费观看视频| 精品.99999| www熟女乱伦com| 亚洲综合99999| 家庭乱伦性爱av| 国产精品高朝久久久久久久| 大香蕉五月天婷婷| 91一区二匹| 国产精品亚洲四五区在线观看| 国产成人无码a| 射丝袜大香蕉| 天天插天天操| 91综合色噜噜| 欧洲精品一二三在线| 无遮挡猛进视频免费无限观看| 欧美性爱超碰97| 天天干2019| 免费无码国产精品v片在线观看| 97国产伦理| 五月天婷婷综合| 十八禁啪啪视频| 欧美亚洲涩涩| 丁香五月综合| 琪琪精品免费一区二区三区 | a片自拍直播视频| 午夜后入| 熟妇熟女视频一区二区三区| 天天懆天天日| 欧美自拍网| 乱理日韩中文| 国产AV超爽| 国产日韩精品suv| 91网站在线播放| 久草综合京东| 国产精品一区二区 尿失禁| 精品91日日夜夜超清资源| 啊啊好多水| 日韩啪啪网| 日韩中文字幕精品一区在线| 91黄站| 国产精品天干天干综合网麻豆| 色优久久| 日韩欧美中文| 色在线视频导航| 一级免费精品| 超碰综合色| 伊人天堂在线| 高清无码国产亚洲| 国产欧美日韩一区二区三区| 色牛aV| 97超碰欧美手机在线| 真实高潮91| 91一起操| 亚洲九月丁香| 久久久一区二区三区三州| 亚洲熟女人妻中文字幕一区二区 | 欧美另类精品xxxx| 秋霞怕怕片| 九九久久久| 亚洲性综合11| 日本性一区| 久热久操| 玖玖资源中文字幕制服丝袜| 午夜精品99久久久久传媒| 强免费黄色网址| 人人妻人射| 久久免费99精品久久久久久| 国产精品女aA片爽爽视频| 天美传媒麻豆一区二区三区国产精| 老司机免费视频在线91| 久草视频制服诱惑| 青青草在线成人视频| 嫩草91| 超碰在线成人| 少妇高潮对白在线观看| 人人贴人人摸| 无码137片内射在线影院| 国产400孕妇孕交群| 中文三一区| 97se亚洲| 日日躁夜夜躁狠狠躁超爽| 91中文字幕在线观看| 久久久天美| 欧亚日本情色| av2014 日韩在线中文字幕| 国产自啪精品视频网站黑丝| 精人妻无码一区二区三区伊人直播 | 热天堂一区二区| 人妻精品综合中文字幕在线| 强奸少妇AV导航网| 97爱欧美| 欧美999999| 日韩三级性| 尤物视频新赏网鲜网色诱网| 91天天综合在线| s片在线观看| 亚洲欧美一区二区三区在钱蜜桃 | 99999精品成人| 爽爽爽免费视频| 先锋影音av先锋一区| 97在线视频免费观看| 一起草三级AV电影在线观看 | 超碰色老头| 亚洲加勒比久久日本道| 中文字幕在线免费观看2| ,成人免费啪啪视频| 3d成人精品一区二区| 人看人人摸人人操| 99成人| 丝袜狠狠草尤物人妻av91| 97久久免费| 超碰久草| 亚洲av噜噜噜噜噜噜| 性爱乱伦视频免费| 人妻熟女av国产网站| 天天操狠狠日夜夜干超碰撸com视频在线观看 | 日韩大香蕉AV影片| 久久区| 日韩 国产 欧美自拍| 丰满人妻无码一区二区三区| 91总综合网| 免费A V在线播放| 91爆操视频| 欧美操人| 国厂麻豆77q4| 91久久婷婷| 亚洲A曰本VA欧美VA视频| 亚洲αv一区二区三区| 丁香五月激情综合| 久久爽爽精品| www国产精品| 天天色,天天干,天天干| 99这里有精品| 人妻丝袜肏逼| 91色狼| 亚洲综合中文字幕有码| 一区二区三区国产精产| 東南亚性呦成人伦理资源在线视频| 香蕉久久AⅤ...| 91麻豆va国产精品| 久久天天躁日日躁狠狠躁| 亚洲无套久久嗯嗯| 一牛影视久久久一区二区三区| 国产视频第2页| 亚洲日韩天堂| 五月色网| 91熟女.com| 国产三级在线现体验区| 五月激情影院| 蜜桃臀一区二区三区久久| 综合影院永久入口国产| 97人人操人人干| 蜜臀av网址| 国产人妖的免费的视频| 欧美男女午夜啪啪| 午夜美女诱惑电源网| 免费超碰97在线观看| 艹少妇网站| 天天91~综合入口| 欧美色爱综合| 爱av免费| 天天综合网国产| 久久同城AV| 精品美女少妇一区二区| 国产激情av女片自拍| 和协影院中文字幕三区| 99婷婷一区二区| 碰碰在线视频| 男人天堂新| 国产又爽又黄| 国产在线综合福利网站| 屁股久久久久久| 欧美性爱在线无码| 日韩色女精品| 午夜偷拍久久熟女| 亚洲视频二区| 欧美激情性爱视频网站| 97久久精品国产| 三级日本一区二区三区| 夫妻四区五区六区| 91免费看一区二区三区| 干B视频伊人网| 精品无码久久久久久久久果冻糖心| 久久亚洲不卡| 97色碰| 日韩熟女乱伦中出| 欧美精品三区| 日本成人A片免费看| SS久久| 美国一区二区三区视频| 欧美性生活内射| 中文字幕亚洲永久精品| 大屁股国产在线视频| 黄色片大香蕉| 欧洲综合色| 欧美人妻精品| 国产最新小视频在线播放下载| 久9久9精品| 在线国产一区二区av| 久久一二三四五六七八九区| 91一起操| 9久在线视频只有精品| 91中文精品日韩欧美在线| 亚洲国产欧美另类自拍| 久久是精品| 六月婷婷五月丁香| 无码久久国产| 久久机热| 国产欧美伊人| 人妻一二三区| 亚洲,欧美,综合网| 综合色图亚洲欧美| 一区二区三区在线美女| 青青草影视蜜久久| 久久秀这里有精品| 能在线播放的国产三级| 欧美丝袜中文字幕07在线| 大香蕉伊人亚洲| 手机在线视频国内精品| 久久国产精品m码| 亚洲激情色片| 欧美性爱五月天| 欧美日韩午夜精品一区二区三区| 天堂精品| 亚洲AV资源| 成人国产精品三级A片| 人人操,人人液| 亚洲清纯唯美| 伊人久久亚洲中文字幕| 黄色免费网页无码| 狠狠操狠狠操操| 97情超碰色| 亚洲不卡av在线| 牛黄色久午久| 天天色黄色影院天天操| 亚洲美女精品九九视频| 欧色性第一页| 800zy一区二区| 97人人模人人爽人人| 日本精品网站在线中文| 水滴偷拍| 亚洲女人毛茸茸91| 熟妇艹鸡八| 中文无码一二三区| 午夜福利成人免费视频| 青青草白白色| 欧美色图自拍| 欧美午夜色妇色鬼| 久久婷婷五月| 中文字幕一区电影在线观看| 精品99999| 老司机香蕉久久久久| 黄日韩| 欧美高清性猛交| 日本三级韩三级99久久| 怡红院一区二区熟女人妻| 中文字幕一区二区日韩网| 美女黄网| 好涩综合| 97ai亚洲| 清纯唯美综合亚洲| 欧美国产操逼| 欧美午夜视频| 欧美精品双插| 精品久久久久黄少妇| 美女尤物福利视频| 久久一二三四五六七八九区区区| 性做久久久久久免费观看软件| 天天操天天干一区二区| 国产一区自拍欧美日韩| 家庭乱伦国产精品| 97精品视频| 老熟女网站| 91亚洲欧洲| 2017天天操| 亚洲人天堂| 欧美激情综合| 黑人猛交| 秋霞一集毛片观看| 人人性爱视频免费| 欧差乱伦二三| 国产精品懂色tv影视免费观看| 久久精品久| 九九热AV| 老外又粗又长一晚做五次| 天天看天天干| 家庭乱伦国产| A V视频日本| 户外裸露刺激视频第一区| 99久久久久久久久| 免费人成?大片在线播放| 国产吞精a级片激情电影| 无码自拍SM| 资源在线观一 二| 久久手机好看网站| 久久熟妇五十路一区| 精品999日本| 天天综合网合集91| 亚洲猛交| 淫荡网址| 亚洲图片日本AⅤ欧美在线| 免费一级特黄特色大片在线观看看| 搡老女人老妇女AAA一VU麻豆 | 亚洲综合中文字幕有码| www.色操逼| 伊人成人中文字幕久久网| 精品久久久久9999| 久久亚码| 一区二区三区看视频| 在线日韩日本亚洲国产| 人人干黄色| 性爱乱伦一区| 天天影视网综合少妇| 成人综合网 欧美| 日韩黄色小说| 91熟女视频| 国产精品久久久无码AV网站| 大香蕉综合网| 成人天天看站长推荐| 亚洲 无码 有码 中文字幕| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 亚洲国产欧美中文永久| www.狠狠干.coom| 久9久9精品| 国产精品一级片在线看| 能在线播放的国产三级| 五月激情啪啪| 91挑色欧美| 亚洲三级。日韩三级| 亚洲国产精品99久久久| 久久98| 精产品久久| 蜜臀久久在线视频| 国产美女91| 18禁止看精品中文字幕| 凸凹视频在线观看| 精品无码一区二区| 免看60秒涩涩视频| 搡老熟女免费视频| 激情专区综合| av72网| A级片一区| 东京热免费视频| 东京热熟女亚洲视频网站| 9Ⅰ老熟女| 秋霞曰韩R级| 91天美传媒精品| 一区二区三区四区理论片| 在线看片国产精品每日更新| 蜜臀精品1区2区| 日本 情色 1区| 岛国黄色短视频| 天堂国产AV| 亚洲成人贴图| 美女自卫慰黄网站免费| 久草男人天堂| 人人干人人操人人爱| 香蕉在线一区二区三区| 骚妻少妇精品性色无码四色A V| 精品无码一区二区三区| 美女诱惑爱爱| 欧综合网| 午夜大香蕉| 人妻少妇精品无码专区二区密桃| 黄色AAAAA欧美| 四虎免费看黄| 国产真乱mangent| 欧洲综合视频| 天天狂操夜夜狂日| 91色久| 精品少妇一区二区| 色欲日韩欧美在线一区| 啊啊啊啊啊啊啊在线| 亚洲第一精品在线视频| 久久精品视频28| 啪啪啪精品| 久久精品一区| av爱爱爱| 美腿丝袜偷拍亚洲欧美| 久久午夜鲁丝片| 91殴美大片| 无遮挡一级毛片视频免费的| 91电影色诱| 日韩人妻一区二区| 精品一区96| 麻豆国产97在线| 日韩钢筋无码高清啾啾啾| 国产又猛又粗又爽又黄| 神马久久久久久久久久| 74成人在线| 亚洲欧洲色情高清| AV不卡在线| 亚洲青青草| 日本护士高潮| 啊啊啊啊无码| 95精品在线| 中文字幕美女91| 97超碰免费人人性爱| 日韩无码黄色片| 欧美啪啪天堂| 夜夜操2028| 老司机午夜精品视频| 影音先锋一区二区在线资源| 国产精品一级特黄aaa大片在线观看| 99热国产| 亚洲成人碰碰| 中文字幕第9页萱萱影音先锋| 亚洲视频,小说| 亚洲Av无码成人精品国产| 熟妇人妻精品一区二区| 99r九九| 亚洲一区二区三区中文字幕| 九九九只有精品| 亚洲有薄码区日本系列中文字幕| 婷婷干黄色| 久久风骚城市| 中文字幕大片三级狠狠干| 国产美女自拍AV| 蜜桃网熟妇| 热天堂一区二区| 一牛影视成人片免费| 少妇的嫩逼图片| 人人澡综合涩| 国产精品成人在线| 被男人吃奶很爽的毛片| 中文字幕av一区二区三区人妻少妇| 91人妻爽爽人人做人人澡| 一本色道久久天天射天天干| 久久激情视频| 91色黑人少妇| 99人人干| 国产午夜福利电影免费在线观看 | 精品无码久久久久久久久果冻糖心| 久久一二三级一一一| 久久精品亚洲成a人天堂| 91精品国产91综合久久蜜臀| 亚洲日韩久久精品一区| 91久久精品蜜臀| 国模艳艳啪啪一区| 毛片一区二区| 久操视频在线| 91天天综合网,天天综合网| 丁香九月激情| 欧美日韩操逼动图| 国产老太乱伦一区| 91热色| 97天天弄| 97精品国产97久久久久久户外免费| 人妻精品一区二区在线| 人人操,人人插| 精品一区二区三区麻豆| 伊人四虎综合| 久久久熟妇熟女国产| 一区二区激情国产熟女| 国产亚州高清国产拍精| 国产美女自拍AV| 中文视频在线观看| 人人妻人人爽人人精品| 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | 日本媚薬中文字幕在线| 男女性扦B| 一区,二区,三区视频| 精品久久在线区一区| 激情综合网激情五月天| 99热只有这里有精品| 成人七区| 人人 操人人 操人人| 亚洲男人综合| V A在线| 亚洲天天在线| 美女91AV| 黄页| 日韩97在线| 无码人妻一区二区三区四区老鸭窝| 蜜桃香蕉久草精品在线| 99re在线视频国产| 二三四区精品| 97伪v| 亚洲熟久久| 人妻免费观看| 九一综合网| 人妻黑丝袜电影| 是还免费视频1727我| 欧美大干日韩| 乱色老一区二区三区的观看方式 | 亚洲啪啪性视频| 色色色色综合网| 色综合色| 欧美熟女少妇| 麻豆av一区二区三区| 欧美日韩资源在线| 欧美 日韩 国产传媒| 安徽熟妇视频| 国产第11页| 东京热AV男人的天堂| 91青青| 久久久无码视频| 中国熟女老妇仑乱一区二区三区| 色牛aV| 最新岛国大片|