日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析 先說結(jié)論Zabbix 監(jiān)控 Nginx最關(guān)鍵的環(huán)節(jié)不在 Server 端怎么寫監(jiān)控項(xiàng)而在 Agent 端怎么把 Nginx 的實(shí)時(shí)狀態(tài)穩(wěn)定采集上來。很多人裝了一堆組件最后發(fā)現(xiàn)數(shù)據(jù)過不來問題大多出在 Nginx 狀態(tài)頁沒開、Agent 配置文件沒改對(duì)、自定義監(jiān)控項(xiàng)寫錯(cuò)這三個(gè)地方。這篇文章適合兩類人。一類是剛開始接觸 Zabbix想用 Agent 方式給 Nginx 加監(jiān)控的新手另一類是已經(jīng)把 Zabbix Server 跑起來但搞不清客戶端、狀態(tài)頁、自定義 key 之間關(guān)系的人??赐曛竽隳馨错樞虼畛鲆粭l完整鏈路Nginx 暴露狀態(tài)頁Agent 執(zhí)行采集命令Zabbix Server 通過 key 拿到數(shù)據(jù)最終在 Web 界面看到指標(biāo)曲線和告警。下面按實(shí)際落地順序拆一遍。1. 先把Zabbix監(jiān)控Nginx的數(shù)據(jù)鏈路拆清楚1.1 Agent在監(jiān)控鏈路里到底干什么Zabbix 監(jiān)控 Nginx 可以有多種方式比如直接用 SNMP、用 Zabbix Agent、或者讓 Zabbix Server 主動(dòng)去請(qǐng)求 HTTP 接口。最常見、也最適合多數(shù)企業(yè)內(nèi)部場(chǎng)景的就是Zabbix Agent方式。Agent 本質(zhì)上是一個(gè)安裝在被監(jiān)控機(jī)器上的小服務(wù)。它負(fù)責(zé)做三件事接收 Zabbix Server 或 Zabbix Proxy 發(fā)來的數(shù)據(jù)請(qǐng)求執(zhí)行本地的采集命令、腳本或從狀態(tài)頁讀取數(shù)據(jù)把結(jié)果返回給 Server 端。所以Agent 不是直接“連”上 Nginx而是起到了一個(gè)翻譯和采集的作用。Nginx 本身不會(huì)主動(dòng)告訴 Zabbix “我的并發(fā)連接是多少”Agent 需要自己去讀 Nginx 暴露出來的狀態(tài)信息然后轉(zhuǎn)換成 Zabbix 能識(shí)別的數(shù)值。理解這條鏈路非常重要。很多人直接照著網(wǎng)上配置往配置文件里寫了幾行UserParameter發(fā)現(xiàn)沒數(shù)據(jù)就以為是 Zabbix 的問題。實(shí)際上往往是 Nginx 狀態(tài)頁本身打不開或者 Agent 所在用戶沒有權(quán)限執(zhí)行 curl又或者 key 名稱寫錯(cuò)了導(dǎo)致 Server 端拿不到結(jié)果。1.2 基礎(chǔ)監(jiān)控項(xiàng)可以直接用高級(jí)指標(biāo)要靠狀態(tài)頁或腳本如果你只是監(jiān)控“進(jìn)程在不在”那 Zabbix 自帶的模板和內(nèi)置 key 就夠了。比如用proc.num[nginx]或proc.num[nginx.exe]判斷 Nginx 進(jìn)程數(shù)量用system.cpu.load看 CPU 負(fù)載用net.if.in、net.if.out看網(wǎng)卡流量。這些不需要改動(dòng) Nginx 配置Agent 裝上之后就能用。但如果你想監(jiān)控 Nginx 的業(yè)務(wù)指標(biāo)比如當(dāng)前活躍連接數(shù)總連接數(shù)總請(qǐng)求數(shù)每秒請(qǐng)求數(shù)Reading、Writing、Waiting 的數(shù)量那一定要開啟 Nginx 的stub_status模塊并配置一個(gè)狀態(tài)頁。然后通過 Agent 的UserParameter去讀取解析。這里有一個(gè)常見誤解以為 Zabbix 官方模板會(huì)自動(dòng)采集這些數(shù)據(jù)。實(shí)際上官方模板里包含這些監(jiān)控項(xiàng)但前提是 Agent 端已經(jīng)裝好了 Nginx 狀態(tài)頁采集腳本或自定義 key。模板只是“裝了 CPU 插座”還得你自己把“電源線”接上。1.3 環(huán)境準(zhǔn)備和判斷標(biāo)準(zhǔn)準(zhǔn)備環(huán)境時(shí)先確認(rèn)以下條件Zabbix Server 已經(jīng)安裝并運(yùn)行Web 界面可以打開被監(jiān)控的 Nginx 服務(wù)器能訪問 Zabbix Server/Serve 端也能訪問 Agent 的監(jiān)聽端口Agent 版本盡量和 Server 主版本接近避免低版本 agent 不支持某些 keyNginx 編譯時(shí)帶上了--with-http_stub_status_module或者本身就是發(fā)行版默認(rèn)編譯好的版本如果是 Docker 部署的 Nginx也要確認(rèn)容器內(nèi)是否有 curl、grep、awk 這些基礎(chǔ)命令后面腳本采集時(shí)會(huì)用到。其中“Agent 版本和 Server 版本盡量一致”這條很多人會(huì)忽略。雖然 Zabbix Agent 大體上向后兼容但高版本 Server 搭配特別老的 Agent可能出現(xiàn)監(jiān)控項(xiàng)顯示“不支持”的情況。建議落地前先統(tǒng)一版本。如果只是學(xué)習(xí)測(cè)試單機(jī)部署一臺(tái) VM 就夠如果要進(jìn)生產(chǎn)建議把 Zabbix Server 和 Agent 分別部署在不同機(jī)器上避免性能干擾。2. Agent端安裝和基礎(chǔ)配置決定后面少踩一半坑2.1 安裝方式選擇Zabbix Agent 的安裝方式取決于操作系統(tǒng)。常見的有使用發(fā)行版官方倉庫或 Zabbix 官方倉庫安裝下載源碼編譯安裝使用 Docker 容器運(yùn)行 agent如果是 Windows Nginx還需要安裝 Windows 版本的 agent。安裝時(shí)最好不要用“從網(wǎng)上隨手找個(gè)包”的方式因?yàn)?Zabbix 官方倉庫會(huì)根據(jù)你使用的系統(tǒng)版本提供對(duì)應(yīng)的 agent 包依賴也能自動(dòng)處理。具體安裝命令這里不給死版本因?yàn)椴煌到y(tǒng)和 Zabbix 版本的倉庫地址差異很大。建議參考官方安裝文檔或者直接看倉庫安裝提示按照“添加官方倉庫 - 刷新包列表 - 安裝 zabbix-agent”的順序走。安裝完成后先不著急改配置確認(rèn) agent 二進(jìn)制文件已經(jīng)存在。which zabbix_agentd或者zabbix_agentd --version如果命令能打印出版本信息說明安裝成功。這一步能提前發(fā)現(xiàn)“安裝到一半缺依賴”“架構(gòu)不對(duì)”等問題。2.2 修改Agent配置文件Agent 的主配置文件一般叫zabbix_agentd.conf在 Linux 上常見路徑有/etc/zabbix/zabbix_agentd.conf、/usr/local/etc/zabbix_agentd.conf。Windows 上通常安裝在 agent 安裝目錄下。需要重點(diǎn)關(guān)注這幾個(gè)參數(shù)參數(shù)作用填寫建議Server允許向本 Agent 請(qǐng)求數(shù)據(jù)的 Zabbix Server 或 Proxy IP寫 Server 的實(shí)際 IP不要寫 0.0.0.0ServerActiveAgent 主動(dòng)連接 Server 的地址用于主動(dòng)模式同樣寫 Server IP 和端口HostnameAgent 在 Server 端注冊(cè)或顯示的主機(jī)名必須和 Web 界面創(chuàng)建的主機(jī)名一致UnsafeUserParameters是否允許自定義 key 包含特殊字符或帶參數(shù)如果自定義命令很簡(jiǎn)單可以設(shè)為 0如果帶參數(shù)、管道最好設(shè)為 1UserParameter自定義監(jiān)控項(xiàng) key 和采集命令可以寫在單獨(dú)文件里引用一個(gè)常見的問題是同時(shí)配置了Server和ServerActive但 Hostname 寫錯(cuò)了。結(jié)果就是 Zabbix Server 能看到主機(jī)但數(shù)據(jù)全斷斷續(xù)續(xù)。原因是被動(dòng)模式下 Server 根據(jù) IP 來找 Agent主動(dòng)模式下 Agent 要上報(bào)自己的 Hostname兩套機(jī)制的校驗(yàn)方式不一樣。我給你一個(gè)比較穩(wěn)妥的配置習(xí)慣先只配置被動(dòng)模式也就是Server和Hostname確認(rèn) zabbix_get 能取到數(shù)據(jù)后再按需開啟主動(dòng)模式不要一上來就同時(shí)開兩個(gè)模式排查起來不方便。2.3 啟動(dòng)與連通性驗(yàn)證配置文件改完后重啟 Agent 服務(wù)。systemctl restart zabbix-agent確認(rèn)進(jìn)程狀態(tài)systemctl status zabbix-agent然后看 Agent 日志確認(rèn)沒有報(bào)錯(cuò)。日志位置通常在/var/log/zabbix/zabbix_agentd.log。如果 Agent 和服務(wù)在同一臺(tái)機(jī)器可以用zabbix_get命令模擬 Server 拉取數(shù)據(jù)。zabbix_get -s 127.0.0.1 -k agent.ping返回1代表 Agent 活著。返回超時(shí)或cannot connect就要檢查端口監(jiān)聽和防火墻。接下來用同樣方式測(cè)試 Nginx 相關(guān)的內(nèi)置 key比如zabbix_get -s 127.0.0.1 -k proc.num[nginx]如果返回?cái)?shù)字說明 Agent 部署正常已經(jīng)能獲取系統(tǒng)數(shù)據(jù)。到這里基礎(chǔ)的 Agent 鏈路算通了。3. Nginx狀態(tài)頁開啟核心指標(biāo)都從這里來3.1 檢查Nginx是否帶stub_status模塊Nginx 的stub_status是官方自帶的一個(gè)模塊但很多源碼編譯的 Nginx 默認(rèn)并沒有把它帶上。所以第一步是先確認(rèn)??匆寻惭b Nginx 是否包含該模塊nginx -V 21 | grep stub_status如果有輸出說明模塊已經(jīng)編譯進(jìn)去了。如果沒有輸出有兩種處理方式重新編譯 Nginx在 configure 參數(shù)中加上--with-http_stub_status_module如果用的是發(fā)行版默認(rèn) Nginx可以檢查是否已經(jīng)默認(rèn)帶了這個(gè)模塊。比如某些 Linux 發(fā)行版的 nginx 包會(huì)默認(rèn)包含。重新編譯相對(duì)麻煩尤其會(huì)影響現(xiàn)有 Nginx 的平滑升級(jí)。建議先在測(cè)試環(huán)境驗(yàn)證不要直接在線上操作。如果線上 Nginx 是別人裝的你也不清楚編譯參數(shù)那就先跑nginx -V看看結(jié)果。3.2 配置location /nginx_status在 Nginx 配置中增加一個(gè)狀態(tài)頁 location。常見做法是新增一個(gè)獨(dú)立配置文件或者在server塊中新增 location。location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; }這里最重要的不是stub_status on;而是allow和deny的訪問控制。默認(rèn)情況下這個(gè)頁面會(huì)暴露 Nginx 當(dāng)前所有連接和請(qǐng)求狀態(tài)。如果不做限制外網(wǎng)可以隨便訪問等于泄露了服務(wù)運(yùn)行基礎(chǔ)信息。所以一般只允許本機(jī)或內(nèi)網(wǎng)監(jiān)控網(wǎng)段訪問。如果 Agent 和 Nginx 在同一臺(tái)機(jī)器allow 127.0.0.1就夠了。如果 Agent 要從另一臺(tái)機(jī)器抓取就把a(bǔ)llow換成監(jiān)控網(wǎng)段但這樣會(huì)對(duì) Nginx 暴露一個(gè) HTTP 端點(diǎn)必須在防火墻層面做好限制。有些朋友會(huì)問不是 Agent 本機(jī)采集嗎為什么還要允許局域網(wǎng)因?yàn)槿绻愕牟杉_本是跑在 Agent 本機(jī)通過http://127.0.0.1/nginx_status訪問那確實(shí)只需要允許本機(jī)。但如果你嘗試從 Zabbix Server 直接用 HTTP agent 監(jiān)控 Nginx那就必須允許 Server IP。本文統(tǒng)一采用 Agent 本機(jī)采集的方式所以只允許 127.0.0.1 最穩(wěn)。配置完成后重載 Nginx。nginx -t nginx -s reload3.3 本地curl驗(yàn)證輸出格式在 Agent 本機(jī)執(zhí)行curl http://127.0.0.1/nginx_status正常情況下會(huì)看到類似這樣的輸出Active connections: 12 server accepts handled requests 100 100 200 Reading: 0 Writing: 1 Waiting: 11四行數(shù)據(jù)的含義第一行當(dāng)前活躍連接數(shù)第二行三個(gè)計(jì)數(shù)器的標(biāo)題第三行總接受連接數(shù)、總握手連接數(shù)、總請(qǐng)求數(shù)第四行正在讀取請(qǐng)求頭的連接數(shù)、正在寫入響應(yīng)的連接數(shù)、空閑等待請(qǐng)求的連接數(shù)。如果 curl 返回空或者 403、404先查 Nginx 配置是否真正生效再查防火墻。403 通常是 allow/deny 規(guī)則問題404 通常是 location 路徑或配置文件沒加載。4. 自定義監(jiān)控項(xiàng)把status頁轉(zhuǎn)換成Zabbix能識(shí)別的數(shù)據(jù)4.1 用UserParameter定義KeyAgent 拿到 Nginx 狀態(tài)頁內(nèi)容之后還需要把它解析成獨(dú)立指標(biāo)。Zabbix 是通過自定義 key 來實(shí)現(xiàn)的。在/etc/zabbix/zabbix_agentd.d/目錄下新建一個(gè)配置文件比如userparameter_nginx.conf寫入U(xiǎn)serParameternginx.active,curl -s http://127.0.0.1/nginx_status | grep Active | awk {print $NF} UserParameternginx.requests,curl -s http://127.0.0.1/nginx_status | sed -n 3p | awk {print $3} UserParameternginx.reading,curl -s http://127.0.0.1/nginx_status | grep Reading | awk {print $2} UserParameternginx.writing,curl -s http://127.0.0.1/nginx_status | grep Writing | awk {print $4} UserParameternginx.waiting,curl -s http://127.0.0.1/nginx_status | grep Waiting | awk {print $6}注意這里的命令里用到了管道和grep所以UnsafeUserParameters需要設(shè)為1否則 Agent 可能拒絕執(zhí)行這類帶特殊字符的命令。配置完重啟 Agentsystemctl restart zabbix-agent用zabbix_get測(cè)試zabbix_get -s 127.0.0.1 -k nginx.active如果返回?cái)?shù)字說明自定義 key 已經(jīng)生效。4.2 用腳本代替多條命令上面的寫法雖然簡(jiǎn)單但每條 key 都執(zhí)行一次 curl而且解析邏輯各不相同。如果有 5 個(gè)指標(biāo)每次采集都要重復(fù)請(qǐng)求 5 次狀態(tài)頁。雖然對(duì)單機(jī)來說影響不大但會(huì)讓監(jiān)控?cái)?shù)據(jù)點(diǎn)的時(shí)間不完全一致尤其是 active、connections、requests 三個(gè)值是不同時(shí)間快照畫圖時(shí)可能看到輕微波動(dòng)。更好的方式是寫一個(gè)采集腳本一次請(qǐng)求拿到所有值再按需輸出。#!/bin/bash STATUS$(curl -s http://127.0.0.1/nginx_status) case $1 in active) echo $STATUS | grep Active | awk {print $NF} ;; requests) echo $STATUS | sed -n 3p | awk {print $3} ;; reading) echo $STATUS | grep Reading | awk {print $2} ;; writing) echo $STATUS | grep Writing | awk {print $4} ;; waiting) echo $STATUS | grep Waiting | awk {print $6} ;; *) echo UNKNOWN ;; esac把這個(gè)腳本放到/usr/local/bin/nginx_status.sh并加執(zhí)行權(quán)限chmod x /usr/local/bin/nginx_status.sh然后配置 userparameterUserParameternginx.status[*],/usr/local/bin/nginx_status.sh $1這樣在 Zabbix Server 端可以用nginx.status[active]、nginx.status[waiting]讀取不同指標(biāo)每次采集只請(qǐng)求一次 Nginx 狀態(tài)頁。這類腳本方案適合指標(biāo)多、采集頻率高的場(chǎng)景。缺點(diǎn)是腳本出了問題排查難度更大所以腳本里盡量減少對(duì)系統(tǒng)命令路徑的依賴。4.3 主動(dòng)模式和被動(dòng)模式對(duì)自定義key的影響自定義 key 本身不區(qū)分主動(dòng)還是被動(dòng)兩種模式都支持。區(qū)別在于被動(dòng)模式Zabbix Server 發(fā)起 TCP 連接向 Agent 請(qǐng)求 keyAgent 執(zhí)行命令返回結(jié)果。適合監(jiān)控項(xiàng)不多、Server 并發(fā)壓力不大的場(chǎng)景。主動(dòng)模式Agent 每隔一段時(shí)間主動(dòng)去向 Server 獲取監(jiān)控項(xiàng)列表然后執(zhí)行并上報(bào)結(jié)果。適合監(jiān)控項(xiàng)很多、網(wǎng)絡(luò)分區(qū)復(fù)雜的場(chǎng)景。如果你使用主動(dòng)模式ServerActive必須配置正確并且 Agent 能訪問 Server 的 10051 端口。同時(shí) Hostname 必須和 Web 界面創(chuàng)建的主機(jī)名完全一致否則 Agent 上報(bào)的數(shù)據(jù)找不到歸屬主機(jī)。在測(cè)試階段建議先使用被動(dòng)模式因?yàn)閦abbix_get就是模擬被動(dòng)模式的請(qǐng)求排錯(cuò)更直觀。5. Server端把主機(jī)和監(jiān)控項(xiàng)綁定起來5.1 在Web界面添加主機(jī)Zabbix Server 裝好并配置好 Agent 后登錄 Web 界面在“數(shù)據(jù)采集 - 主機(jī)”里創(chuàng)建新主機(jī)。需要填寫的內(nèi)容主機(jī)名稱必須與 Agent 配置里的Hostname一致可見名稱可以自定義顯示在頁面上模板可以先選擇自帶模板測(cè)試連接性群組選一個(gè)已有主機(jī)組或者新建一個(gè) Nginx 組Interface選擇 Agent填寫被監(jiān)控機(jī)器 IP 地址端口默認(rèn) 10050。創(chuàng)建時(shí)如果勾選了“添加后啟用”保存后主機(jī)應(yīng)該會(huì)出現(xiàn)在可用主機(jī)列表里。很多人第一次配置時(shí)會(huì)把“主機(jī)名稱”和“可見名稱”混在一起。實(shí)際上主機(jī)名稱是 Zabbix 內(nèi)部用于匹配 Agent 上報(bào)的標(biāo)識(shí)必須嚴(yán)格對(duì)應(yīng)可見名稱可以隨便寫。如果主機(jī)名稱填錯(cuò)主動(dòng)模式下數(shù)據(jù)絕對(duì)不來被動(dòng)模式下有時(shí)還能通過 IP 匹配所以這個(gè)坑要記住。5.2 關(guān)聯(lián)模板或手動(dòng)添加監(jiān)控項(xiàng)Zabbix 官方提供了 Nginx by Zabbix agent 模板里面已經(jīng)定義好了監(jiān)控項(xiàng)和觸發(fā)器。如果你的 Agent 端已經(jīng)配好了對(duì)應(yīng)的自定義 key直接關(guān)聯(lián)模板就能看到數(shù)據(jù)。關(guān)聯(lián)模板之后建議先看“最新數(shù)據(jù)”。如果監(jiān)控項(xiàng)顯示“不支持”說明模板里引用的 key 在 Agent 端并沒有定義要么是自定義配置文件沒生效要么是 key 名稱不匹配。不使用模板的情況下也可以手動(dòng)創(chuàng)建監(jiān)控項(xiàng)字段示例名稱Nginx 活躍連接數(shù)類型Zabbix agent鍵值nginx.status[active]信息類型數(shù)字無正負(fù)更新時(shí)間30s手動(dòng)創(chuàng)建的好處是靈活壞處是每臺(tái)主機(jī)都要配一遍效率低。建議至少從模板開始再按需修改。5.3 最新數(shù)據(jù)驗(yàn)證添加監(jiān)控項(xiàng)后等一兩個(gè)更新周期再到“監(jiān)測(cè) - 最新數(shù)據(jù)”里查看。判斷標(biāo)準(zhǔn)有數(shù)值且持續(xù)更新鏈路完全通顯示不支持Agent 執(zhí)行命令失敗或 key 名稱不對(duì)顯示“不支持”但 zabbix_get 正常檢查 Server 端 Agent 配置的 IP 和端口有數(shù)據(jù)但一直不變檢查腳本是否用了緩存或者 Nginx 狀態(tài)頁是否更新異常。有時(shí)候 Agent 端剛改了自定義配置需要等 Agent 重啟后才會(huì)重新加載。如果發(fā)現(xiàn)改了配置但沒生效先確認(rèn)是否重啟了 zabbix-agent。我用 zabbix_get 排查時(shí)會(huì)習(xí)慣在前面加一個(gè)timeouttimeout 5 zabbix_get -s 192.168.1.10 -k nginx.status[active]加上 timeout 可以避免命令長(zhǎng)時(shí)間卡住尤其當(dāng)腳本內(nèi)部頻繁請(qǐng)求外部地址時(shí)。生產(chǎn)上不建議讓監(jiān)控采集命令永久阻塞Zabbix Agent 本身有 timeout 限制但腳本內(nèi)部如果卡在某個(gè)命令上也會(huì)拖慢采集。6. 數(shù)據(jù)沒到、不支持、為0時(shí)按這個(gè)順序排查6.1 Agent狀態(tài)不可達(dá)現(xiàn)象Zabbix Server 頁面顯示主機(jī)離線zabbix_get -s 目標(biāo)IP -k agent.ping超時(shí)或 cannot connect。排查順序先確認(rèn)目標(biāo) IP 是否通ping 目標(biāo)IP確認(rèn) Agent 端口監(jiān)聽是否正常ss -lntp | grep 10050確認(rèn)防火墻是否放行端口Linux 檢查firewalld或iptables確認(rèn) Zabbix Server 能否連接到該端口用telnet 目標(biāo)IP 10050或nc -vz 目標(biāo)IP 10050如果前面都正???Agent 日志可能有配置錯(cuò)誤或啟動(dòng)失敗。大多數(shù)“不可達(dá)”不是 Zabbix Server 的問題而是防火墻或者 Agent 沒啟動(dòng)。6.2 監(jiān)控項(xiàng)顯示不支持現(xiàn)象agent.ping正常但 Nginx 相關(guān)監(jiān)控項(xiàng)顯示“不支持”。在 Agent 本機(jī)執(zhí)行zabbix_get -s 127.0.0.1 -k nginx.status[active]如果返回非數(shù)字或報(bào)錯(cuò)繼續(xù)看key 名稱是否和 Server 端完全一致自定義配置文件是否生效腳本是否有執(zhí)行權(quán)限腳本里的 curl 是否能訪問 Nginx 狀態(tài)頁Agent 日志里是否有cannot run command之類的記錄。這一層最常見的問題有兩個(gè)一個(gè)是UnsafeUserParameters0導(dǎo)致帶管道或參數(shù)字符的命令被攔截另一個(gè)是腳本權(quán)限不對(duì)Agent 執(zhí)行腳本時(shí)沒有執(zhí)行權(quán)限返回空值。6.3 數(shù)據(jù)為0或長(zhǎng)時(shí)間不變?nèi)绻?zabbix_get 能返回?cái)?shù)字但 Web 界面數(shù)據(jù)為 0 或不變可能的原因監(jiān)控項(xiàng)類型設(shè)置錯(cuò)誤比如把整數(shù)項(xiàng)配置成字符型更新周期太長(zhǎng)短時(shí)間內(nèi)看不到變化Agent 端腳本使用了緩存文件但緩存文件沒有及時(shí)更新Nginx 狀態(tài)頁的數(shù)值確實(shí)沒變化尤其是 Reading/Writing/Waiting請(qǐng)求量低的時(shí)候波動(dòng)很小。遇到這種問題先把監(jiān)控項(xiàng)改成 10s 更新間隔觀察同時(shí)把采集腳本手動(dòng)執(zhí)行幾次對(duì)比結(jié)果。如果手動(dòng)執(zhí)行有變化而 Zabbix 一直取舊值多半是 Agent 端緩存或 Server 端歷史數(shù)據(jù)存儲(chǔ)延遲。6.4 檢查權(quán)限和SELinux這個(gè)坑在 Linux 生產(chǎn)環(huán)境中非常普遍。如果 Agent 和 Nginx 都在同一臺(tái)機(jī)器Agent 執(zhí)行 curl 訪問http://127.0.0.1/nginx_status一般沒問題。但如果 SELinux 開啟可能會(huì)有連接被拒的情況。排查時(shí)先看/var/log/audit/audit.log有沒有 denied 記錄。有的話可以采用兩種方式放通相關(guān)端口或者把 SELinux 臨時(shí)轉(zhuǎn)為 permissive 測(cè)試。不要一上來就永久關(guān)閉 SELinux先確認(rèn)是不是它的原因。Zabbix Agent 默認(rèn)以zabbix用戶運(yùn)行這個(gè)用戶對(duì) Nginx 狀態(tài)頁的訪問是走 HTTP 協(xié)議的不涉及文件系統(tǒng)權(quán)限但要在操作系統(tǒng)層面允許它建立本地網(wǎng)絡(luò)連接。如果連本機(jī)回環(huán)都被限制curl 會(huì)返回空。7. 從單臺(tái)試跑到批量部署還要補(bǔ)三件事7.1 批量部署Agent單機(jī)跑通后批量監(jiān)控也別急著手工逐臺(tái)配置。建議提前準(zhǔn)備好 Agent 配置文件模板和安裝腳本利用自動(dòng)化運(yùn)維工具分發(fā)安裝。批量部署時(shí)每臺(tái)機(jī)器需要變化的內(nèi)容主要有兩個(gè)Hostname和Server。Server通常都指向同一個(gè) Zabbix ServerHostname則建議用機(jī)器名或業(yè)務(wù)名方便識(shí)別。如果沒有自動(dòng)化工具可以寫一個(gè)簡(jiǎn)單的 Shell 腳本在一批機(jī)器上執(zhí)行安裝、寫入配置、啟動(dòng)服務(wù)。關(guān)鍵點(diǎn)在于腳本要冪等重復(fù)執(zhí)行不會(huì)產(chǎn)生重復(fù)監(jiān)控項(xiàng)或配置沖突。7.2 模板復(fù)用和指標(biāo)命名規(guī)范批量部署前先定義一套統(tǒng)一的監(jiān)控項(xiàng)命名規(guī)范。比如nginx.active nginx.requests nginx.reading nginx.writing nginx.waiting不要每臺(tái)機(jī)器都用不同的 key 名。否則后面加圖形、加聚合、加告警時(shí)工作量會(huì)翻好幾倍。在 Zabbix 里一套完整的 Nginx 監(jiān)控模板應(yīng)該包含監(jiān)控項(xiàng)連接數(shù)、請(qǐng)求數(shù)、Reading、Writing、Waiting觸發(fā)器活躍連接數(shù)過高、請(qǐng)求數(shù)異常下降、Nginx 進(jìn)程數(shù)小于 1圖形連接數(shù)和請(qǐng)求數(shù)趨勢(shì)圖聚合原型如果需要按集群視圖查看可以配置聚合監(jiān)控項(xiàng)。模板設(shè)計(jì)好之后所有新主機(jī)直接關(guān)聯(lián)模板避免人工逐條添加監(jiān)控項(xiàng)。7.3 監(jiān)控頻率與告警閾值的取舍Nginx 的指標(biāo)采集頻率不建議太高。默認(rèn) 30 秒到 1 分鐘已經(jīng)足夠尤其是請(qǐng)求數(shù)、活躍連接數(shù)這類指標(biāo)本身就是瞬時(shí)快照采集頻率高并不能提高準(zhǔn)確性反而會(huì)增加 Agent 和 Server 的負(fù)擔(dān)。告警閾值要根據(jù)實(shí)際業(yè)務(wù)來定。比如活躍連接數(shù)超過某個(gè)值就告警但不同服務(wù)器的性能差異很大最好先采集一周數(shù)據(jù)再看基線請(qǐng)求數(shù)突然掉到接近 0可能是 Nginx 掛了也可能是業(yè)務(wù)本身陷入了低谷Reading、Writing 長(zhǎng)期偏高說明可能有大文件傳輸或慢客戶端不一定是故障。我在實(shí)際項(xiàng)目中用過的最不后悔的一個(gè)習(xí)慣是剛開始只采集不告警。先積累一兩周數(shù)據(jù)再根據(jù)真實(shí)基線設(shè)定閾值否則很容易被誤報(bào)刷屏。7.4 日志和備份最后補(bǔ)一個(gè)容易被忽略的點(diǎn)Agent 端自定義配置和腳本要納入版本管理不能只留在機(jī)器上。否則重裝機(jī)器后監(jiān)控配置就很難原樣恢復(fù)了。Zabbix 本身的模板、主機(jī)、監(jiān)控項(xiàng)配置也要定期導(dǎo)出備份。監(jiān)控系統(tǒng)一旦配置多了重新手搭非常痛苦。備份不只是保護(hù)數(shù)據(jù)也是在保護(hù)自己的運(yùn)維效率。如果只是學(xué)習(xí)按默認(rèn)配置跑通就可以了如果要長(zhǎng)期維護(hù)那就把日志、輸出目錄、模板備份和權(quán)限控制都提前整理好后面真的會(huì)省很多事。踩過幾次之后我發(fā)現(xiàn)Zabbix 監(jiān)控 Nginx 的坑很少在“功能不夠”上多半是前置環(huán)境不一致、狀態(tài)頁訪問受限、自定義 key 書寫習(xí)慣不統(tǒng)一。把這幾條理順整個(gè)監(jiān)控鏈路就穩(wěn)了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久热99| h在线看免费版在线看| 嗯,啊。舔我逼| 日韩乱伦AⅤ| 伊人 俄罗斯 a v| 美国aaaaa一级黄片| 欧美激情在线观看视频| 美日韩一二三区| 国产精品自拍xxxx| 大香蕉78| 超碰在线1234区| 成人网欧美风情| 9久久精品| 亚洲成人在线资源| 欧美久久九九| 欧美大香蕉同搞| 欧在线一二区| 怡红院久久老司机| 亚av顶级裸体一区二区三区四区五区 | 能看的AV| 波多野结衣一级视频| 色婷婷综合久久中文字幕雪峰 | 97精品在线| 99爱精品| 国产成人www免费人成看片| 亚洲色图在线视频| 日韩av影片在线观看| 婷婷九月丁香| 夜夜骑天天燥| 精吧天堂| 69人妻人人揉人人躁人人精品| 可免费观看的av毛片中日美韩| 精品九九淫乱男| 91ise欧美| 欧洲黄色网| 和协影院中文字幕三区| 五月天婷婷欧美三区| 性爱视频无打码在线观看| 78精品在线| 蜜臀一区二区三区在线| 婷婷中文字幕| 日韩激情中文字幕有码| 高清一区AV无码| 国内毛片四区| 91美女视频。| 91亚洲狠狠色| 夜夜爽夜夜摸夜夜操免费视频| 亚洲色性情三级| HEYZO高无码国产精品227| 久草精品国产99| 91搡老女人老妇女老熟女歌词翻译| 国产日韩美女小穴视频网站不卡| 日本五区不卡| 97av,com| 精彩久久中文| 中文字幕第23区| 啊啊啊不要好爽日韩无码一区| 厕所偷拍在线| 三上制服丝AV| 亚洲综合情色| 99re6国产精品99re| 欧美大战久久久伊人| 99热aaa| 97视频网站在线观看| 大香蕉碰碰| 国产日本熟女顶级一区二区三区视频 | 一二三区精品视频| 精品999999| 欧美亚洲| 日韩一区二区三区四区五区| av日韩手机在线影视| 嗯啊抽插大香蕉网页| 91精品久久久久五月天精品| 亚洲不卡不卡中文字幕不卡| 日日干夜夜操视频h| 亚洲另类色图片| 日日干男人的天堂| 中文字幕第二页| 大鸡巴久久| 午夜美女福利视频| 亚洲色图日韩精品| 97香蕉碰碰人妻国产欧美| 女优免费一区二区永久| 超碰免费欧美7| 久久精品99久久久久久| 亚洲中文字幕一区二区| 伊人黄色片| 久久精品国产72国产精品福利 | 男插女青青影院| 日韩资源网| 97爱啪| 男女啊啊啊啊啊| 亚洲一区操| 国产高潮AA片免费看| 亚洲国产欧美日韩人妻日中文| 中文字幕少妇色| 国产成人精品一区| 亚洲人成网站7777| 日韩乱伦视频| 99re只有精品| 殴美性天天| 国产乱伦性爱区| www.激情| 男人的天堂日韩| 91成人无码| 国产成人亚洲精品无码古代早漏男| 国产精品视频白浆免费| 亚洲国产精品久久久久婷婷青年| 国产一二三福利视频网| 国产AV高清AV无码| 99热导航| 欧洲特黄毛片免费看欧洲毛片| 亚洲系列第一页| 情侣开房子拍 日韩无码 女的很漂亮| 亚洲国产中文字幕| 亚洲欧洲日韩国产自在线| 欧美成人9797| 97干在线视频| 亚洲四虎熟女精品| 超碰久草| yellow网站免费观看日韩高清无码| 亚洲精品男人的天堂| 色偷综合| 天天躁日日躁xxxxx| 欧美图片偷拍| 夜夜欢天天干| 丰满人妻-区二区三区免费| 四虎免费看黄| .精品人妻一区二区三| 男人的天堂亚洲| 97欧美色| 国产高清无码一区二区三区四区皇冠| 99久久9| 97超碰人操| 人人看人人插| 欧美熟女丝袜| 中文字幕亚洲永久精品| 久久久99999久网站| 国产精品一区二区手机看片| 99国产天美| 日韩小电影| 婷婷五月在线视频| 色婷久久| 少妇蹲下买菜露大唇0| 色就色综合| 欧美成人9797| 婷婷四五区| 91另类| 五月丁香六月激情| 99re在线| 97干天天| 日本成人电影资源网| 少妇99| 激情啪啪拍91| 酒色综合网| 嗯啊不要在线观看嗯啊| 1769成人国产精品视频| 亚洲天堂电影网| 亚洲综合精品国产一区| 男人天堂2017| 9久久美女首页| 老司机老司机午夜影院| 久艹免费| 天天综合网日韩| 97电影院超碰| 亚洲图片欧美色图| 麻豆国产av网| 国产a级午夜毛片| 国产人妻久久精品一区二区三区| 五月婷婷啪啪| 亚洲精品1区| 国产一区二区在线播放| 97久久精品亚洲中六字幕| 婷婷在线视频在线观看| 一本色道人妻久久| 小骚逼被操的爽不爽| 亚洲国产成人高清在线| 亚州色综合| 亚洲情色一区三区| 亚洲精品a人片在线观看视| 涩亚洲欧洲| 亚洲不卡AV在线| 韩三级a视频在线观看| 射丝袜大香蕉| 999久久久久久久精| 奇米狠999| 久久久久夜夜夜夜| 久久久久久少妇| 欧美日韩超碰在线| 插穴性爱视频在线观看| 91欧美少妇| 天天干2019| 亚欧高清在线| 台湾一区国产高清在线| 欧美乱欲| 五月天婷婷基地| 久久久偷拍| 骚女高跟AV在线| 91neishe| 亚洲AV无码国产精品久久久久| 欧洲综合色| 中文久久96| 天美av在线观看| 无码av永久免费专区网站| 中文字幕乱码在线观看| 日韩无码服务区| 大香网伊人久久综合网eew| 免费看一级a性色生活片久久无| 26uuu成人影片| 加勒比色99999| 校园春色中文字幕AV| 大奶啊啊好爽 | 男人天堂.AB| 亚洲图片偷拍视频区| 国产精品日韩在线一区| 这里只有精品视频在线观看麻豆| 国产无码三级视频在线观看| 91久久| 超碰欧美| 亚洲无 码A片在线观看麻豆| 一本久道久久综合狠狠爱一密臀精| 97超碰色中文字幕| 大香蕉日韩| 久夜操| 97射欧美| 精品国产乱子伦一区二区三区,精品一| 欧美玖玖爱免费玖玖| 天操老女人| AV高清一区| 成人资源中文字幕在线观看天天| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 人妻少妇久久| 欧美亚洲se91| 亚洲视频二区 | 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 中文字幕视频在线观看一区二区| 欧美亚洲激情小说| 久久一二三四五六七八九区区| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 9999亚洲电影| 亚州欧美总和| 一本一道久久综合久久| 久久免费少妇| 大二网站亚洲| 日本日皮视频逼| 日韩中文字幕二区| 久久久久久久一级黄色打同平台| 色婷婷aV一区二区三区麻豆综合| 5252色欧美在线| 久久偷拍人| 麻豆精品天美| 精品日日人妻| 亚洲欧美综合网站| 久啪| 少妇熟女视频一区二区三区| 久久久999国产精品| 国产日本顶级一区二区三区| 97综合久久| 日韩福利综合一区| 激情综合网五月婷婷| 99热这里是精品| 日本一区二区电影网站| 蜜臀久久99精品| 天天天操天天天爱| 欧美激情专区| 日韩 欧美 另类 人妻| 亚洲午夜AV| 九九九久千久久激情蜜桃在线看 | 91蜜臀在线久久久久| 你草精品在线视频| 精品久久久久久久| 无码WWW免费视频网站| 天天做日日做天天欢。| 久久久久久久久久久久久9999| 亚洲熟妇熟在线电影视频| 青青草无码视频| 搡老女人老熟女91老熟女综合网| 女同女同恋久久级三级| 激情五月激情综合网| 新97国产超碰| 超碰在线人人射| 天天搞在线综合网| 日韩亚洲美州欧洲综三区一品在线| 亚州色图欧美| julia ann久久| 国产在线播放成人免费| 色色99| 激情综合av| 国语少妇精| 中文字幕精品一区二| 亚洲午夜av| 五月天春色激情网| 色九久| 手机在线人成免费视频| 成人色女网| 怡春院久久| 欧美日韩操逼动图| 欧美中出1| 欧美熟女丝袜| a片偷拍视频| 久操大香蕉手机视频在线看| 加勒比无码毛片| 亚洲成人无码影院| 东京热av男人的天堂| 亚洲欧美综合| 玖玖综合色| 97视频网站| 五月婷婷激情| 91欧美经典| 国产精品免费视频不卡| 高跟伊人julia ann| 超碰欧美97| 女优免费一区二区永久| 亚洲在线观看| 97人人干人人操| 大香蕉性欧美| 9久综合网| 九九亚洲视频| 婷婷大香蕉| 久久精品无码不卡| 九九综合| 啊v在线观看视频| 狠狠干综合| 精品无人区麻豆乱码1区2区图片 | 国产精品大屁股999| 九色精品视频导航1| 欧美色图私拍91| 天天夜躁日日躁狠狠2002| 熟妇在线视频一区二区| 中文字幕在线免费观看2| 欧洲熟妇xxXx欧美老妇裸体| 99热销国产这里有精品| 日韩精品三区四区| 高清无码在线播放网站| 国产精品69久久久久久久 | 亚洲熟女乱熟乱熟妇综合网二区| 韩日性爱av| 日韩八十路老熟女| 大香蕉九九| 91丝袜在线观看| 日韩无码AB| 激情无码日韩| 伊人骚琪琪亚洲天堂网站| 男人的天堂网免费| 亚洲成人久久一区二区| 性爱av网站| 日本国产二线女色| 天天欧美欧美亚洲网| 日产欧美电影一区二区三区| 欧美九一精品久久久熟妇| 人人考人人摸人人干| 超碰在线日韩一区| 大奶尤物鲍汁淫荡欧美视频粉嫩夜夜骚| 午夜亚洲国产理论秋霞| 日韩久射综合| 操逼精品视频| 天天综合色| 亚洲国产欧美一区二区潘金莲| 日日噜噜夜夜久久亚洲一区二区 | 亚洲密乳AV| 91色综合激情| 这里有精品| av爱爱爱| 欧美日韩久久精品爱爱| 亚洲综合性网址| 91精品91久久久中77777| 五十路六十路七十路熟婆| 激情小说亚洲视频| 伦理弟一页| 久久一二三四五六七八九区区区 | 亚洲综合一区二区| 懂色中文一区二区三区 | 99热销国产这里有精品| 9久久美女首页| 99激情视频| 日本操色导航| 欧美高清18A片| 亚洲 欧美 偷拍 唯美| 翔田千里一区二区三区奶水| 精品国产99999| 九九英色视频| 天天射网| 五月婷婷六月激情| 精品一二三区久久AAA片| 欧美伊人久久综合网| 免费视频一二三区| 国内毛片四区| 色噜噜狠狠色综无码久久| 精品无码一二三四区| 欧美老熟另类| 口爆综合网| 国产av青草| 在线岛| 成人国产二区三区在线,男女精品。| 青青草原狼av| 97干日韩| av优播| 五月天婷婷小说| 欧美性爱在线无码| 国产超碰人人爽人人做| 国产成人www免费人成看片| 色yeye成人免费视频| 美女让帅哥通她小鸡鸡| 志村玲子视频一区二区| 亚洲精品丝袜-不卡成人免费…… 久久久久成人蜜桃精品 | 亚洲欧美setu| 日本97久久久精品| 亚洲情色图片区| 热久久九九热| 久久国产逼| 樱花草社区www中国| 大香蕉AV丝袜| 国产suv精品一区二区四区999| 伊人天堂在线| 久久9亚洲| 亚洲天堂AV在线播放| 97色97好| 欧美97日韩精品| 久久久久元码视频| 超碰97人人乐| 男人天堂网手机版婷婷| 欧美性夜| 久久久国产av美女私房| 欧美一级久久久久久久大片动画| 日韩Va亚洲va欧美Ⅴa久久| 国产无马视频| 婷婷五月天成人网| 天天综合亚在线| 97中文字幕色| 岛国片国产成人亚洲播放| 乱伦1色页| 婷婷91| 久操大香蕉手机视频在线看| 校园春色欧美色图| 我中文字幕6区| 美女十八禁| 久热最新在线杭州| 91美女视频。| 人人操 欧美| 久久青青草原免费视频| 欧美v亚洲v综合v国产v妖精| 一区不卡在线观看av| 波多野42部无码喷潮在线观看| 亚洲精品一区二区三区在线播放| 97超碰人人模人人拍人人| 国产精品香蕉| 色欲天天婬色婬香WWW夜色| 午夜120视频在线观看| 婷婷色网| 精品久久九| 天天日天天看| 国产东北女人在线视频| 亚洲 日韩 欧美 国产综合体| 久草资源欧美在线视频| 青草地一本线一区二区三区| 精品欧美А∨无码黑人大荫蒂 | 久久风骚城市人| 久久精品国产Aⅴ| 欧美国产伊人久久久久| 色性荡荡荡荡视频| 天天干夜夜鈤| 日韩国产乱子伦App| 日韩亚洲美女一区久久| 亚洲综合图色在线| 中文字幕后石码四区五区| 中文操嬖片。| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 91人妻丝袜无码| 成人区人妻精品一| 亚洲黄色a级片| 天天综合在线4| 久久久啊啊啊| 五月天黄色激情视频| 中文字幕免费观看| 亚洲精品国产精品成人| 天美传媒国产原创中文字幕亚洲欧美另类 | 伊人久久亚洲色欲综合网站| 翔田千里一区二区三区奶水| 台湾大香蕉99热| 久久久久久九| 日本 欧美 亚中文字幕| 亚州高清AV| 国产AV久久野战精品| 用力操死我| 99re99| 亚洲另类在线观看| 国产人妻久久精品一区二区三区| 粉嫩在线一区二区懂色| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 天天综合,91综合永久| 精品一区二区三区18| 国产精品久久久三级无码| 伊人大香蕉在线| 午夜性刺激视频免费观看| 一区二区激情国产熟女| 日韩欧美加勒比| 综合五月天| 91美女小视频| 偷拍欧美激情| 蜜乳AV.COM| 久草男人天堂| 日韩乱伦视频| 亚洲欧美日韩激情不卡| 色一射色一射| 日韩中文字幕精品一区在线| 欧美亚州色的图| 亚洲国产成人精品无码专区| 搡老熟女国产1000部| 欧美激情中文字幕另类小说| 97久操| 水野优香在线观看| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 嗯嗯嗯嗯啊啊啊好紧好大| 99综合免费视频| 久久精品人妻一区二区| 国产浮力影院第1页| 噜噜噜噜天天狠狠| 欧美制服网站美腿丝袜| 亚洲国产ⅴ高清在线观看| 亚洲s色图| 色五月婷婷在线| 日韩精品在线放| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 神马久久久久久久久久| 午夜黄色免费在线观看| 亚洲欧美色图片| 国产五码丝袜屁眼| 九久9精品| 草草草视频在线免费看| 亚洲综合 欧美| 久久草草欧美精品| www.大香| 一区二区三| 黄色一区三区| 在线观看十八禁| 青娱乐亚洲自拍| 久久老女人| 天天日美女的B| 欧美综合骚| 日韩精品视频在线观看一卡二卡| 黄页av| 久久久久久久久久久久久久9999| 人人摸人人叼| 午夜福利激情在线视频| 蜜臀久久久99久久久久| 搡老女人老91妇女熟女| 国产久久日韩网站导航| 婷婷久久五月天| blacked精品一区国产| 久久永久无码人妻视频| 国内精品99999| 亚洲少妇激情视频| 天天干天天日天天射黄色大片| 探花一区在线| 操逼逼中文字幕| 一级做a爰片性色毛片久久| 91亚洲网站| 欧美激情亚洲情色| 色www精品视频在线观看| 岛国人妻少妇av在线观看| 免费视频在线一区二区不卡| 国产精品久久久久9999小说| 国产精品电| 欧洲亚洲人妻无码中字久久三区四区 | 操逼操操操91| 亚洲字幕一区二区| 免费视频在线一区二区不卡| 97超碰久久| 九久久九九久视频| 91N综合网| 曰本道人妻久久久在线不卡色视频| 91殴美大片| 人妻久热在线| 大香蕉AV丝袜| 欧美日韩情色一区二区| 长长久久88视频| 久草综合视频| 日日操免费视频| sewuyueav| 夜夜黄| 久久精品一区二区三区蜜桃臀| 五月天久久婷婷亚洲 | 中文字暮97| 欧美黄页在线| 天美精品av| 日韩一级二级| 艳美熟妇先锋一二三区| 一本正道久久熟女| 操人妻逼91| 久久久久久九九九九-美女久久久久久久-成人AV| 日本曲间由美性生活片| 天天摸,夜夜摸| 亚洲综合97中文网| 干婷婷综合网| 九九aV| 亚洲综合另类| 超AV色女| 久啪| 2020天天色综合| 国内一级精品| 亚洲巨爆乳一区二区三区四季网| 不卡日本一区二区| 成人a v在线播放免费| 八戒午夜福利理论片| 男人女人18禁片免费看网站| 国产丝袜高跟美女av免费观看| 亚洲天天影视色综合| 久久夜夜夜夜| 天美欧美国产| 欧美综合色图片| 欧色网址| 国产精品高清2021在线| 日韩成人精品视频自拍| 婷婷五月天色| 中文字日本乱码| 蜜臀一二三| 不卡视频一区蜜桃视频 | 97干色天堂| 91国产在线精品| 天天综合网~91| 国产精品白领在线观看| 久久久无码av精| 久久超碰久| 高清肉丝中文无码| 人妻丝袜美腿中文字幕| 欧洲成人性爱视频| 久久久久成人蜜桃精品| av线电影| 亚洲av青草久久一区二区| 欧美,日韩综合久久| www.狠狠操| 夜夜嗷嗷一区二区| 黄页av| 成人aⅴ一区二区三区| 色色色综合网| 青青草日本中文字幕| 91亚洲综合在线| 欧美日韩国产黄色片| 久热69九色熟妇97| 久久久熟女一区| 人人操我人人干| 人妻嗯啊啊在线播放| 久草精品一区| 性无码专区2020| 欧美色色色| 69综合网| 女性91网站| 欧美黄片免费在线观看视频| 精品人妻一区二区三区-国产精品 一个人在线看的黄色电影网站 | 国产日韩在线播放| 国产精品午夜成人福利| 国产97在线 | 亚洲| 日本精品一区二区中文字幕| 是还免费视频1727我| 亚洲一区在线观看欧洲 | 婷婷五月成人| 美女天天干| 国产精品女久久久久av爽| 五月天色电影| 日本国产欧美一区三区二区 | 性色aV一区二区三区噜噜| 在线看片国产精品每日更新| 91美女在线视频| 粉嫩av平台| 欧美日日夜夜| 成年无码动漫av片无尽在线| 国产精品一区二区 尿失禁| 91五月天| 大香蕉久| 亚洲中文字幕在现观看| 丁香六月婷婷| www.91视频网| 一起草av| 黄页av| 天天日天天插| 97天天摸天天爽| 丁香六月婷婷久久综合| 精品无人区麻豆乱码1区2区图片 | 天堂射| 欧美综合娱乐久久| 97色论| 手机看片日韩人妻| 在线一区| 色综合色欲色综合色综合色综合| 国产伊人精品在线| 熟女人妻久久中文字幕一二区| 欧美综合色图网| 天天拍天天操| 小说区 图片区色 综合区| 欧美丝袜激情| 91性高朝久久久久久久久| 97视频在线视频| 中文字幕国产| 国产中午字一暮区| 亚洲中文字幕97久久精品少妇| 搡老女人老熟女91老熟女综合网| 精品久久久久,69国产成人精| 凹凸视频在线一区二区| 9精品久久| 黄色网址在线免费观看| 清纯唯美亚洲综合| 日本性爱欧美性爱| 久久久久9| 手机看片1025| 99精品久久久久久| 色色福利| 丝袜 中出 制服 人妻 美腿 中文字幕| 丝袜美腿丝袜| 久久久精品日本一道| 在线播放中文字幕| 超碰日本97美女人妻人人玩人人爱| 巨爆乳肉感一区二区三区竹菊影视 | 98人妻精品一区二区色欲| 992这里有精品| 秋霞网无码| 高清肉丝中文无码| 婷婷久久综合久| 啊啊啊啊啊啊啊国| 操操操日本的逼| 久久在肏| 闷骚老熟女15P| 蜜臀少妇一区二区| 欧美国产欧美在线观看| 91丰满| 最新av在线| 韩国久久97| 亚洲黄色a级片| 婷婷10月天青娱乐| 久久久久久久久久久97| 亚洲最大AV网| 变态综合色| 熟女露脸激情自拍视频| 内射黑人| 一区二区偷拍拍视频| 亚洲最大成人a毛毛片| 视频不卡中文字幕| 亚洲激情深爱文学小说网站| 97国产天堂岛| 亚洲天天艹| 黄网色一区二区三区四区精品| 日韩操啪| 亚洲动态色图| 97色色色| 9精品久久久久| 9长久久精品| 久热精品色情| 国产青一二三| 婷婷五月天福利| 插欧洲美女欧美精品| 中文字幕亚洲热播人妻| 欧美福利视频啊啊啊啊| 亚洲色图A| 亚洲清纯综合| 五月天精品| 呦女网站| 久久精品中文字幕女同| 国产精品久久久777| 日韩熟女精品无码专区一区二区| 26uuu国产| 久超碰在| 亚洲国产高清福利视频| 丰满人妻-区二区三区免费看| 亚洲中文制服诱惑| 探花熟女,姿勢到位,體驗感也到位| 国产精品成久久久久午夜午夜| 欧美 亚洲精品首页| 亚洲日韩资源| 久久久久久裸体| 免费农村成人少妇人妻Aa一区二区视频| 五月丁香网站| 亚洲熟妇自偷自拍另欧美| 蜜臀国产AV中文字幕| 九九热在线视频| 成人夜夜爽| 91色综| 校园春色制服丝袜中文字亚洲| 狠狠躁AV| 色五月天AV| 97超视频在线观看| 九热超碰| 97色操| 天堂男人网| 边做饭边操逼逼| 99久久精品无码一区二区毛片免费| 波多野结衣AV无码一区| 久久成人午夜精品影院| 久热9| 亚洲色图久久成人| 亚洲丝袜色图| 国产精品视频在线播放| 蜜桃午夜视频一区二区| 一二三区精品视频| 91在线精品一区二区三区| 九九热久久99精品re| 久久香蕉综合一本到3atv| 久久婷婷五月天| 亚洲国产一级中文综合久久天堂在线免费观看| 欧美熟妇亚洲版| 99色热| 欧美天天| 国产精选视频| 91狠狠综合| 久久久久久69国产一区二区 | 久草福利在线资源站| 99精品在线| 久久色一区| 综合久欧洲| 亚洲女优有码无码高清| 91免费看一区二区三区 | 啊啊啊啊啊操我视频| 亚洲精品一卡二卡三卡福利视频网站 | 亚洲色色色| 青青草九九九九九| 婷婷精品国产一区二区三区日韩| 日本一二三免费久久| 高潮精品| 欧美性爱第一区| 国产精品一二三区福利| 午夜毛片高清免费不卡| 91天堂| 国产黄片精品在线| 狂操嫩妻视频一区二区三区| 91天射| 中日韓欧美高清| 精品国产www久久| 密臀在线免费观看| 国产超碰欧美| 激情无码日韩| 久操高青| 欧美色91| 岛国黄色大片网站| 狠狠图片青青草| 不卡啪啪视频| 男人网站婷婷| 男人在线天堂| 女人喷水视频在线观看| 97er欧美性| 欧美日韩在线视频网站| 日本久久精品| 国产av色网| 国产日逼视频| 综合日韩激情另类图片| 欧美激情高清性猛交| 日本欧美亚洲高清在线看| 亚洲日韩青青草色月| 校园春色 欧美| 亚洲夜夜欢无码一区二区| 免费成人在线熟妇网| 在线人成亚洲视频免费观看| 久久久草成人网站久久久草成人久久久草久久久 | 久久久国产护士丝袜美腿一| 色欲三区| 欧美性暴力猛交XXXX| 伊人影院日本| 看日韩美女二区三区免费操逼视频 | 中文字幕97色| 亚洲日韩精品久久久久一区壹牛 | 在线不卡视频| 精品久久久一本一道| 日本性爱少妇| 免费视频观看60秒| 妺妺跟我一起洗澡没忍住| 青草视频人妻在线观看| 日本性爰一道本| 欧美少妇性乱| 伊人五月天激情| 日韩中文字幕宗合在线| 久久99午夜精品一区人妻| 东北操逼| 激情接吻视频久久久久久| 精品久久97| 爱爱动态120秒| 日本不卡二区| 青青草黑寡妇男人天堂| 久久透逼视频| 久久久国产精品亚洲精品| 18禁的网站在线| 亚洲熟女少妇免费视频| 色优久久| 内射老妇BBWX0C0CK| 亚洲欧洲第二视频在线观看色图| 亚洲第一黄色av网站| 超碰在线在公开超碰在线在公开| a在线视频免费观看| 熟女熟妇一区二区三四区| 极品色社| 在线综合 亚洲 欧美中文字幕| 日韩图区| 2024人人操人人摸| 黄色片A级一区二区三区| 亚洲少妇激情视频| 亚洲欧洲国产综合av| 热99re69精品8在线播放| 少妇天堂网络| 青草青草久热| 97干色| 夜草欧美| 乱论91| 少妇综合| 欧美激情色婷婷花野真衣一区二区| 搡老熟女老女人老熟妇免费视频| 久久久久久久九九九九| 婷婷另类小说| 色狠狠综合| 成人免费性爱视视| 亚洲国产亚洲天堂| 日本三级久| 在线观看综合精品亚洲| 久久这里只有精品9| 日韩美女高潮喷水视频| 午夜免费视频1000| 91精品国产日韩欧美综合| 国产精品农村妇女| 中文字幕AV片| 精品四五区| 一本一道波多野毛片中文在线| 久久无码精品| 久男人久久| 一区麻豆 高清中文字幕| 九色婷婷| 色操逼网| 97色在线视频| 蜜臀久久99'精品久久久| 麻豆国产原创AV色哟哟| 粉嫩绯色AV一区二区在线| 精品免费视频国产一区| 久久啊啊| 无码九九| 蜜桃久久久久久久久久久久| 久久黄黄| 在线无码操| 另类TS人妖一区二区三区| 火箭成精品视频884必出精品| www.acm成人黄色毛片| 自拍视频大全亚洲专媒视频/一区二区三区 | 欧美黄片免费在线观看视频| 91香蕉国产尤物视频| 天堂亚洲精品| 成人精品水蜜桃久久久久久久| 久草久热| 婷婷五月色| 日本3级一区二区免费 | 玖玖婷婷五月天| 日本道久久综合色色| 在线免费观看日韩一区| 91一区二区三区蜜桃| 91无遮挡| 91九色丨风韵犹存| 97神马久久| 青青操日韩| 国产嫩草精品A88AV| 97久久天天综合色天天综合色电影| 97视频620| 69人妻精品丰满熟女区| 中文字幕丝袜人妻| 久久久99久9| 超碰亚洲97| 国产精品熟女AV中文字幕在线播放| 久久婷婷五月| 丰满人妻一区二区三区| 99色在线视频| 99欧美| 久久精品国产精品亚洲艾通辽熟妇| 免费综合亚洲中文| 欧洲色色| 亚洲欧美精品一区天堂久久| 婷婷六月色| 操啊国产| 亚洲色图第四色| 天天摸天天舔天天操| 操逼999| 密臀AV在线| 啊啊啊啊啊啊啊网址在线观看| 97情超碰色| AV女资源| 欧美中文综合| 青娱乐休闲视频在线观看| 亚洲伊人成综合成人网| 在线αⅴ| 无码高清操逼网址| 久久高清欧美国产| 日韩操人| 蜜桃色色网站视频三区| 伊人久久国产免费观看视频| 岛国人妻少妇av在线观看| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 91美女片在线| 国产一国产一级毛片古装| ,成人免费啪啪视频| 亚洲日韩美女中文字幕乱| 欧美日韩国产色图在线| 大香蕉综合网| 国产农村妇女精品一| 98超碰日本| 抽插亚洲无码| 操操吧亚洲乱伦视频| 日韩不卡毛片Av免费高清| 久久久97| 亚洲 欧美 另类 综合 偷拍| 国产乱码精品久久久久久| 啊啊啊啊在线播放| 好属操| 黑人无码一区二区| 91oumei| www.高清无码诱惑一区.com| 久久久天堂| 日韩激情无码影院| 九九探花视频在线观看| 久久国产99精品72福利| 加勒比五月天| 国产精品久久久久久久久久久久| 久久riav中文精品| 九月丁香| 欧美一级专区免费大片| 精品九区| 国产精品色片一区二区| 98一区二区精品| 美女丝袜激情小说| 懂色aV一区二区天美传媒| 中文字幕日本久久| 久偷拍| 国产精品一区二区密臀| 久久久久久电影| 精品 码产区一区二-1080P高清在线www-B029AV | 久久精品国内Av熟女高清| 欧美一级A片在线看视频性色| 91最新综合| 日韩精品午夜操呦呦不卡影院| 性色av蜜臀av色欲aV| 欧美性爱五月天| 欧洲大香蕉| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 97亚洲色图| 狠狠久久手机视频精品| 美日韩成人| 一二三四视频在线社区中文字幕| 97久久精品| 久久久无码国精品无码三区三区| 中文字幕AV片| 欧美亚洲自拍另类人妻| 五月丁香成人网| 2020中文字幕在线| 小日子操bb在线看| 91女人的网站| 四虎884| 午夜精品探花| 很很很很操| 日韩欧洲操屄视频| 欧美久久草熟女| 97视频播放| 九九热九九| 加勒比五月天| Blackedraw视频一区二区| 色大师网站www永久网站视频| 99热| 熟女熟妇一区二区三四区| 久久东京伊人一本到鬼色| 亚洲综合图文| 黑人精品XXX一区一二区| 欧美色图私拍91| 国产精品人妻无码久久久老鸭窝| 天天干天天插| 国产精品乱码久久久| 中字乱伦AV| 99精品无码| 亚州操逼网| 夜夜爽夜夜摸夜夜操免费视频| 1级黄色夫妻对换性交免费看| 久久久婷| 亚洲AV免费在线| 精品一区99999| 亚洲图片欧洲图片aⅴ| 天天色踪合| 久久精品中文字幕无码l| 91色鬼| 欧美精品久久久久久久丰满| 欧美少妇第一页| 另类亚洲一区二区三区| 久久精品72| KK色在线影院| 国产精品熟女九九九| 久久天天艹| 麻豆a'v电影| 日本青青草在线| 国产高清免费不卡av| 丁香五月激情综合国产| 久久激情五月| 婷婷操逼| 亚洲欧美激情在线视频| 91综合熟女| 亚洲熟女一区二区| 男人干美女| 男人天堂一区二区| 377p欧洲日本亚洲大胆| 天天干18禁| 美女黑人91神马| 内射中出日韩在线观看视频| 思思热影视| 欧美熟女操屄| 91社区拍啪人妻| 亚洲国产精品有声| 懂色中文一区二区三区| 又黄又粗又硬又长又大| 日韩操逼性鲍| 亚洲精品九九九九九九| 啊啊啊啊啊啊啊在线| 欧美日韩婷婷中文| 99无码| 熟女性视频| 大香蕉青青9| 免费av大片| 大香久久| 久视频在线观看| 成人亚欧免费视频| 天天天肏屄肏屄肏屄欧美欧美| 日韩精品.久久精品.AV女优.天美传媒| 亚洲熟女乱色一区二区三区| 97超碰总站| 亚洲欧洲视频小说在线观看| 熟女精品va中文字幕| 91视频在线观看18| 日韩中文9| 丁香五月大香蕉| 有码免费观看| 大香网站| 大JI巴好深好爽又大又粗视频| 人妻丝袜肏逼| 91蜜臀在线久久久久| 人人操人人操草草| 九色黄站| 国产女主播视频在线观看| 亚洲日本韩国极品一区二区| www.av在线视频| 国产精品96| 夜夜骑日日| 欧美少妇高潮久久91| 99超碰色| 婷婷在线精品| 国产一区二区三区白丝| 人妻久久一区二区三区| 欧美精品亚洲精品日韩传电影| 久久伊人网视频一区二区三区| 大香蕉五月天| 久草免费福利在线播放| 日韩熟女三十乱伦| 老鸭窝日丰县女人| 欧美色九九九| 婷婷在线视频| 国产成人自拍视频在线| 欧美人与动性人交a| 亚洲 欧美 日韩另类 麻豆| 色踪合AV| ai欧美亚洲小说| 精品一区96| 精品久久久久9999| 日本有码久久| 丁香六月激情| 久久久久婷婷| 在线视频日韩欧美国产| 国产1769在线|