日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐 微服務(wù)架構(gòu)解決了單體應(yīng)用擴(kuò)展難的問題卻把排障難度轉(zhuǎn)移到了日志和鏈路追蹤上。一次用戶請(qǐng)求跨越多個(gè)服務(wù)、多個(gè)數(shù)據(jù)庫、多個(gè)中間件任何一個(gè)環(huán)節(jié)超時(shí)或報(bào)錯(cuò)都需要從分散日志中還原現(xiàn)場。如果日志體系沒有設(shè)計(jì)好排障就變成低效的人工 grep。微服務(wù)日志體系不是簡單地接一個(gè)采集工具而是一套覆蓋日志產(chǎn)生、規(guī)范、采集、傳輸、存儲(chǔ)、檢索、告警和治理的完整鏈路。這里會(huì)先講清楚排障難點(diǎn)再逐步展開一套可落地的生產(chǎn)級(jí)日志體系設(shè)計(jì)。1. 為什么微服務(wù)排障難日志體系要解決什么問題1.1 微服務(wù)排障的三類典型困境第一類困境是日志分散。單體應(yīng)用時(shí)代一個(gè)請(qǐng)求的完整執(zhí)行過程基本都在同一個(gè)進(jìn)程里日志文件也相對(duì)集中。微服務(wù)化之后一個(gè)請(qǐng)求可能要經(jīng)過網(wǎng)關(guān)、用戶服務(wù)、訂單服務(wù)、支付服務(wù)、消息消費(fèi)者每個(gè)服務(wù)可能還有多個(gè)實(shí)例。日志散落在不同機(jī)器、不同容器、不同目錄里沒有統(tǒng)一線索時(shí)很難把一次請(qǐng)求串起來。第二類困境是格式不統(tǒng)一。不同團(tuán)隊(duì)寫的服務(wù)可能有的用 logback有的用 log4j2有的直接System.out.println。日志時(shí)間有的用本地時(shí)間有的用 UTC有的沒有毫秒。字段命名也各不相同userId和user_id同時(shí)存在。排障時(shí)每次都要先理解日志格式再去過濾效率很低。第三類困境是日志量大。微服務(wù)實(shí)例一多日志量會(huì)快速膨脹。如果直接全文檢索查詢會(huì)越來越慢如果不做索引生命周期管理磁盤遲早被寫滿。到了大促或故障高峰期日志系統(tǒng)本身也可能成為瓶頸反而拖慢業(yè)務(wù)恢復(fù)。1.2 生產(chǎn)級(jí)日志體系的目標(biāo)所謂生產(chǎn)級(jí)不是日志采集工具能跑起來就行而是必須滿足幾個(gè)基本要求。請(qǐng)求有鏈路標(biāo)識(shí)。入口生成 traceId下游服務(wù)通過調(diào)用鏈透傳日志中能根據(jù) traceId 查到一個(gè)請(qǐng)求的完整路徑。日志格式可解析。日志輸出為結(jié)構(gòu)化字段而不是只有一段模糊的文本。至少包含時(shí)間、級(jí)別、服務(wù)名、實(shí)例、traceId、業(yè)務(wù)消息和異常信息。日志延遲可控。從業(yè)務(wù)寫日志到 Elasticsearch 可檢索延遲需要在一定范圍比如分鐘級(jí)以內(nèi)。不能經(jīng)常出現(xiàn)日志丟失或幾個(gè)小時(shí)后才看到日志。日志有生命周期。熱數(shù)據(jù)保留幾天冷數(shù)據(jù)保留更長時(shí)間超過保留周期的數(shù)據(jù)要自動(dòng)刪除或歸檔而不是等磁盤告警后手工清理。日志系統(tǒng)本身不能影響業(yè)務(wù)。應(yīng)用寫日志是異步的采集鏈路故障時(shí)不能阻塞業(yè)務(wù)線程。生產(chǎn)級(jí)體系還要關(guān)注采集組件狀態(tài)、Kafka 消費(fèi)堆積和 ES 磁盤水位。2. 設(shè)計(jì)日志體系前先把日志規(guī)范定下來日志規(guī)范是整套體系的地基。如果每個(gè)服務(wù)輸出的字段都不一樣后面接 Filebeat、Kafka、Logstash、Elasticsearch 都會(huì)很被動(dòng)。排障效率提升的第一步不是工具而是標(biāo)準(zhǔn)。2.1 統(tǒng)一日志字段讓檢索有依據(jù)建議服務(wù)端日志統(tǒng)一輸出為 JSON 格式。每條日志的頂層字段盡量固定下面是一組常見字段。字段類型含義示例timestampstring日志產(chǎn)生時(shí)間2026-06-01T10:00:00.123Zlevelstring日志級(jí)別ERRORservicestring服務(wù)名order-serviceinstancestring實(shí)例標(biāo)識(shí)10.0.0.1:8080traceIdstring鏈路ID8f3a1b2c...methodstring請(qǐng)求方法POSTuristring請(qǐng)求路徑/api/orderstatusintHTTP 狀態(tài)碼500costMsint接口耗時(shí)毫秒128userIdstring用戶標(biāo)識(shí)u_10001messagestring業(yè)務(wù)消息訂單創(chuàng)建失敗exceptionstring異常棧原文java.lang.NullPointerException...字段不是越多越好但上面這些基礎(chǔ)字段能覆蓋大部分排障場景。service用于區(qū)分系統(tǒng)instance用于還原具體實(shí)例traceId用于串聯(lián)調(diào)用鏈costMs用于定位性能問題exception用于快速搜索異常棧。實(shí)際項(xiàng)目里團(tuán)隊(duì)可以先定一個(gè)最小字段集發(fā)布到協(xié)作文檔或代碼倉庫的模板中。新服務(wù)開發(fā)時(shí)必須按這套字段輸出老服務(wù)逐步遷移。不要指望所有服務(wù)一天改完但至少要有一個(gè)明確的規(guī)范版本。2.2 日志級(jí)別怎么定避免日志噪音日志級(jí)別是排障時(shí)最重要的過濾維度之一。級(jí)別定得不好會(huì)帶來兩種典型問題把 ERROR 當(dāng)普通日志打告警全是噪音或者把 DEBUG 打到生產(chǎn)日志量爆炸真正有用的 ERROR 被淹沒。級(jí)別使用場景生產(chǎn)預(yù)期ERROR業(yè)務(wù)失敗、異常導(dǎo)致流程中斷需要人工介入保留并告警WARN可以恢復(fù)但不正常比如緩存穿透、重試成功保留不直接告警INFO關(guān)鍵流程節(jié)點(diǎn)比如訂單創(chuàng)建、支付回調(diào)保留但要控制頻率DEBUG排查細(xì)節(jié)數(shù)據(jù)默認(rèn)關(guān)閉按需開啟TRACE內(nèi)部調(diào)用鏈細(xì)節(jié)很少開啟一個(gè)簡單判斷標(biāo)準(zhǔn)如果某條日志打出來之后值班同學(xué)不用看那它就不該是 ERROR。ERROR 應(yīng)該對(duì)應(yīng)一個(gè)需要關(guān)注的失敗事實(shí)而不是每次 catch 異常都打 ERROR。2.3 TraceID 貫穿始終從一次請(qǐng)求還原完整路徑TraceID 是微服務(wù)日志體系里最重要的字段。它的作用很簡單一次外部請(qǐng)求進(jìn)入系統(tǒng)時(shí)生成一個(gè)唯一 ID之后所有服務(wù)在處理這個(gè)請(qǐng)求時(shí)都攜帶這個(gè) ID并寫入各自日志。排障時(shí)只要搜索這個(gè) ID就能得到完整請(qǐng)求鏈路。常見做法是在網(wǎng)關(guān)或入口 Filter 中生成 TraceID并通過 HTTP Header 向下游傳遞。比如統(tǒng)一使用X-Trace-Id作為透傳 Header。以 Servlet 場景為例可以用一個(gè) Filter 在入口生成并寫入 MDC。public class TraceIdFilter implements Filter { Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { String traceId ((HttpServletRequest) request).getHeader(X-Trace-Id); if (traceId null || traceId.isEmpty()) { traceId UUID.randomUUID().toString().replace(-, ); } MDC.put(traceId, traceId); try { ((HttpServletResponse) response).setHeader(X-Trace-Id, traceId); chain.doFilter(request, response); } finally { MDC.remove(traceId); } } }MDC.remove很重要。線程池中的線程會(huì)被復(fù)用如果不清理下一條請(qǐng)求可能拿到上一個(gè)請(qǐng)求的 traceId導(dǎo)致日志串鏈路。下游服務(wù)在發(fā)起遠(yuǎn)程調(diào)用時(shí)要把 traceId 繼續(xù)傳遞下去。HttpHeaders headers new HttpHeaders(); if (MDC.get(traceId) ! null) { headers.set(X-Trace-Id, MDC.get(traceId)); }使用異步線程池時(shí)MDC 不會(huì)自動(dòng)傳遞。如果是 SpringThreadPoolTaskExecutor可以通過TaskDecorator在提交任務(wù)時(shí)拷貝 MDC執(zhí)行完后恢復(fù)如果只是在代碼里手動(dòng)new Thread則需要手工 put 和 remove。日志框架側(cè)也要把 traceId 輸出到結(jié)構(gòu)化字段中。使用logstash-logback-encoder時(shí)encoder 會(huì)自動(dòng)包含 MDC 中的字段。以 logback 為例一個(gè)最小 JSON 輸出配置如下。configuration appender nameJSON_FILE classch.qos.logback.core.rolling.RollingFileAppender file/data/logs/order-service/app.log/file rollingPolicy classch.qos.logback.core.rolling.TimeBasedRollingPolicy fileNamePattern/data/logs/order-service/app.%d{yyyy-MM-dd}.log/fileNamePattern maxHistory7/maxHistory /rollingPolicy encoder classnet.logstash.logback.encoder.LogstashEncoder includeMdctrue/includeMdc customFields{service:order-service,env:prod}/customFields /encoder /appender root levelINFO appender-ref refJSON_FILE/ /root /configuration這里把service和env固定寫進(jìn)了應(yīng)用日志配置避免了每個(gè)服務(wù)在業(yè)務(wù)代碼里重復(fù)拼接。不同版本 encoder 的配置略有差異落地前先確認(rèn)依賴版本。3. 日志采集層從服務(wù)本地日志到統(tǒng)一通道日志規(guī)范定好后下一個(gè)問題是日志怎么從應(yīng)用進(jìn)程到達(dá)統(tǒng)一的日志中心。生產(chǎn)環(huán)境常見的方案是應(yīng)用寫本地文件Filebeat 采集文件輸出到 Kafka。3.1 本地文件采集和直接上報(bào)怎么選有些新項(xiàng)目會(huì)直接在應(yīng)用里用 HTTP 或 SDK 把日志發(fā)送到 Logstash 或 Kafka。這種方式接入快但客戶端邏輯重還要處理發(fā)送失敗、緩沖區(qū)溢出、網(wǎng)絡(luò)抖動(dòng)等問題。應(yīng)用本身已經(jīng)有業(yè)務(wù)邏輯再承擔(dān)完整的日志傳輸職責(zé)容易引入不穩(wěn)定因素。更穩(wěn)妥的組合是應(yīng)用只負(fù)責(zé)把結(jié)構(gòu)化日志寫到本地磁盤采集器負(fù)責(zé)讀文件和傳輸。Filebeat 是常用選擇它輕量、內(nèi)存開銷小、支持?jǐn)帱c(diǎn)續(xù)采適合部署在應(yīng)用實(shí)例旁邊。采集端故障時(shí)應(yīng)用日志仍然寫在本地文件不會(huì)立刻丟失。這相當(dāng)于給日志多了一層本地緩沖。學(xué)習(xí)環(huán)境可以直接看控制臺(tái)或tail -f日志文件生產(chǎn)環(huán)境建議走文件采集。直接上報(bào)適合日志量不大、團(tuán)隊(duì)能接受客戶端 SDK 維護(hù)成本的場景但不是默認(rèn)首選。3.2 Filebeat 采集配置示例Filebeat 配置由 input 和 output 兩部分組成。下面是一個(gè)把訂單服務(wù)日志采集到 Kafka 的示例。filebeat.inputs: - type: filestream id: order-service-app enabled: true paths: - /data/logs/order-service/*.log fields: service: order-service env: prod fields_under_root: true processors: - add_host_metadata: ~ output.kafka: hosts: [kafka01:9092, kafka02:9092, kafka03:9092] topic: app-log partition: round_robin: reachable_only: true required_acks: 1 compression: gzip max_message_bytes: 1048576paths指定日志文件位置推薦一個(gè) input 只匹配一個(gè)服務(wù)的日志。fields用于給日志打上服務(wù)名和環(huán)境標(biāo)簽fields_under_root: true讓這些字段出現(xiàn)在日志頂層。add_host_metadata會(huì)把主機(jī)名和 IP 加進(jìn)來方便按實(shí)例過濾。output.kafka中的required_acks: 1表示 Kafka leader 寫入成功即可返回性能和可靠性比較均衡。compression: gzip可以降低網(wǎng)絡(luò)帶寬但會(huì)增加一點(diǎn) CPU 開銷。日志量很大時(shí)這個(gè)權(quán)衡通常值得。如果 Filebeat 版本較舊可能沒有filestream需要使用loginput。接入前先確認(rèn)版本不同版本的配置語法有差異。3.3 采集層最容易踩的坑第一個(gè)坑是多個(gè)服務(wù)共享同一個(gè)日志目錄。比如把所有服務(wù)的日志都寫到/data/logs/app.logFilebeat 采集后只能打同一個(gè)service標(biāo)簽無法區(qū)分來源。推薦按服務(wù)隔離目錄比如/data/logs/{service}/app.log。第二個(gè)坑是 Filebeat 重復(fù)采集滾動(dòng)日志。應(yīng)用日志按天滾動(dòng)后舊文件可能被改名成app.2026-06-01.log。如果 Filebeat 的 path 使用*.log可能把滾動(dòng)文件和新文件同時(shí)采集產(chǎn)生重復(fù)。建議嚴(yán)格約定文件名規(guī)則并在采集配置里避免把歸檔目錄包含進(jìn)來。第三個(gè)坑是采集延遲的假象。業(yè)務(wù)日志已經(jīng)寫到文件但 Filebeat 的ignore_older或close_inactive配置過大導(dǎo)致新日志不能及時(shí)讀取。排查時(shí)不要只看應(yīng)用日志有沒有寫還要看 Filebeat 是否處于運(yùn)行狀態(tài)、是否報(bào)權(quán)限錯(cuò)誤。4. 日志傳輸管道如何保證日志不丟不堵日志量是有峰值的。大促、秒殺、定時(shí)任務(wù)集中執(zhí)行時(shí)日志寫入速率可能瞬間翻幾倍。如果所有采集器直接把日志寫到 ElasticsearchES 寫入壓力會(huì)很大。引入 Kafka 作為緩沖是生產(chǎn)級(jí)日志體系里常見的解耦手段。4.1 Kafka 緩沖的作用和關(guān)鍵參數(shù)Kafka 在日志鏈路中負(fù)責(zé)削峰填谷。Filebeat 寫入 Kafka 后下游 Logstash 或消費(fèi)程序可以按照自己的節(jié)奏消費(fèi)不會(huì)因?yàn)闃I(yè)務(wù)流量突增而丟日志。Topic 設(shè)計(jì)時(shí)可以只建一個(gè)app-log主題通過日志中的service字段區(qū)分服務(wù)。也可以按環(huán)境分主題比如app-log-prod和app-log-test。分區(qū)數(shù)要結(jié)合下游消費(fèi)并發(fā)決定。單個(gè)分區(qū)只能被同一個(gè)消費(fèi)組里的一個(gè)線程消費(fèi)分區(qū)太少消費(fèi)并發(fā)上不去分區(qū)太多Kafka 元數(shù)據(jù)開銷也會(huì)變大。副本數(shù)建議生產(chǎn)環(huán)境至少 3并配置min.insync.replicas防止部分節(jié)點(diǎn)故障時(shí)寫入丟失。retention.ms可以設(shè)置日志在 Kafka 中的保留時(shí)間給下游鏈路故障留出恢復(fù)窗口。常見設(shè)置是保留 24 到 72 小時(shí)具體要看磁盤成本和團(tuán)隊(duì)對(duì)日志完整性的要求。分區(qū) key 的選擇也要考慮。如果希望同一實(shí)例的日志順序保持有序可以使用instance作為 key如果只關(guān)心吞吐可以使用輪詢策略。跨服務(wù)按 traceId 聚合到同一分區(qū)意義不大因?yàn)椴樵冸A段已經(jīng)在 ES 中完成聚合不需要在消息隊(duì)列里強(qiáng)制同分區(qū)。4.2 Logstash 消費(fèi)和寫入 ElasticsearchLogstash 在整個(gè)鏈路里負(fù)責(zé)消費(fèi) Kafka 消息、解析字段、補(bǔ)充信息再批量寫入 Elasticsearch。由于應(yīng)用側(cè)已經(jīng)輸出 JSON 日志Logstash 的 filter 可以保持很輕不需要用復(fù)雜的 grok 正則去切文本。一個(gè)最小 pipeline 配置如下。input { kafka { bootstrap_servers kafka01:9092,kafka02:9092 topics [app-log] group_id logstash-app-log codec json consumer_threads 6 } } filter { date { match [timestamp, ISO8601] target timestamp } if [exception] { mutate { add_field { error_flag true } } } } output { elasticsearch { hosts [http://es-data01:9200, http://es-data02:9200] index app-log-%{YYYY.MM.dd} } }codec json表示消息體本身就是 JSON。datefilter 把日志里的timestamp解析成 ES 使用的timestamp字段。error_flag是為了后續(xù)檢索時(shí)快速過濾異常日志。如果應(yīng)用日志里混入非 JSON 行比如System.out.println或啟動(dòng) Bannercodec json會(huì)導(dǎo)致解析失敗。這個(gè)問題最好在應(yīng)用層解決統(tǒng)一使用 logger 輸出不要混用標(biāo)準(zhǔn)輸出。如果無法避免可以改用純文本采集或獨(dú)立 topic再用 grok 解析。4.3 消費(fèi)堆積和背壓處理Kafka 消費(fèi)堆積是日志鏈路最常見的故障。現(xiàn)象是 Kibana 里最新日志遲遲不出現(xiàn)kafka-consumer-groups顯示的LAG持續(xù)增長。處理順序不要亂。先確認(rèn)是上游寫入變快還是下游消費(fèi)變慢。如果只是瞬時(shí)峰值可以等待消費(fèi)追平如果持續(xù)堆積優(yōu)先擴(kuò)容 Logstash 消費(fèi)吞吐也就是增加分區(qū)數(shù)和consumer_threads。但不要無限增加線程因?yàn)樽罱K瓶頸可能在 ES 寫入。ES 寫入壓力大時(shí)會(huì)表現(xiàn)為拒絕寫入或?qū)懭牒臅r(shí)上升。這時(shí)要檢查 ES 集群的寫入隊(duì)列、磁盤水位和 bulk 大小。生產(chǎn)環(huán)境建議將 ES 節(jié)點(diǎn)角色拆分?jǐn)?shù)據(jù)節(jié)點(diǎn)和協(xié)調(diào)節(jié)點(diǎn)分離避免高負(fù)載互相影響。還要給 ES 設(shè)置合理的索引分片數(shù)分片過少無法充分利用多節(jié)點(diǎn)過多會(huì)帶來資源浪費(fèi)。注意Kafka 消費(fèi)堆積本身不一定是故障如果業(yè)務(wù)日志量確實(shí)超過正常水位優(yōu)先擴(kuò)容而不是清空堆積。清空堆積會(huì)丟掉排障現(xiàn)場這是最不建議的做法。5. 日志存儲(chǔ)與檢索ES 索引設(shè)計(jì)決定查詢速度日志進(jìn)入 Elasticsearch 之后能不能快速查出來取決于索引設(shè)計(jì)和字段映射。生產(chǎn)環(huán)境見過太多“索引大了查不動(dòng)”的問題根源往往是最初沒有做索引規(guī)劃。5.1 按時(shí)間分索引避免單索引無限增長日志天然是和時(shí)間強(qiáng)相關(guān)的數(shù)據(jù)。按天建立索引比如app-log-2026.06.01是最常見的做法。好處很明顯查詢最近一天的數(shù)據(jù)只需要掃描當(dāng)天索引刪除過期數(shù)據(jù)只需刪除舊索引不用在單個(gè)大索引里做復(fù)雜清理。索引別名也可以配合使用。比如查詢最近 7 天日志時(shí)可以搜索app-log-*寫入側(cè)使用app-log-write別名由 ILM 管理實(shí)際索引。這樣可以保持查詢和寫入的穩(wěn)定。索引分片數(shù)要根據(jù)數(shù)據(jù)量和節(jié)點(diǎn)數(shù)預(yù)估。一個(gè)分片通常建議控制在 30GB 到 50GB 以內(nèi)。按天索引時(shí)如果每天日志量很大可以按天索引并配置多分片如果每天只有幾百 MB一個(gè)分片或少量分片就夠了。5.2 字段映射決定你是過濾還是全文搜索ES 中的字段類型直接影響查詢方式。精確匹配和聚合統(tǒng)計(jì)要使用keyword類型模糊匹配和關(guān)鍵詞搜索要使用text類型。排障中常用的service、level、traceId、instance、status都應(yīng)該設(shè)計(jì)為keyword或數(shù)值類型。一個(gè)參考 mapping 如下。{ mappings: { properties: { timestamp: { type: date }, level: { type: keyword }, service: { type: keyword }, instance: { type: keyword }, traceId: { type: keyword }, method: { type: keyword }, uri: { type: keyword }, status: { type: integer }, costMs: { type: long }, message: { type: text, fields: { keyword: { type: keyword, ignore_above: 256 } } }, exception: { type: text } } } }message使用text是為了支持關(guān)鍵詞搜索同時(shí)加了一個(gè)keyword子字段方便對(duì)短消息做精確過濾。exception使用text但要注意異常棧內(nèi)容很長不建議在 ES 中對(duì)全文做復(fù)雜聚合。如果日志字段不固定建議關(guān)閉動(dòng)態(tài) mapping 或使用 dynamic template 白名單。大量動(dòng)態(tài)字段會(huì)導(dǎo)致索引 mapping 膨脹嚴(yán)重時(shí)甚至讓集群停止寫入。統(tǒng)一日志字段規(guī)范也是保護(hù) ES 的一個(gè)手段。5.3 索引生命周期管理避免磁盤被打滿索引生命周期管理ILM是生產(chǎn)級(jí)日志存儲(chǔ)的必需環(huán)節(jié)。通過 ILM可以讓索引從熱階段滾動(dòng)到暖階段再按策略刪除。下面是一個(gè)簡單的 ILM 策略索引達(dá)到 50GB 或 7 天時(shí)滾動(dòng)超過 30 天的索引自動(dòng)刪除。PUT _ilm/policy/app-log-policy { policy: { phases: { hot: { min_age: 0ms, actions: { rollover: { max_size: 50gb, max_age: 7d } } }, delete: { min_age: 30d, actions: { delete: {} } } } } }ILM 需要配合索引模板使用把策略綁定到對(duì)應(yīng)索引模式上。PUT _index_template/app-log-template { index_patterns: [app-log-*], template: { settings: { number_of_shards: 3, number_of_replicas: 1, index.lifecycle.name: app-log-policy, index.lifecycle.rollover_alias: app-log-write } } }如果使用 ILM 的 Rollover寫入側(cè)應(yīng)使用別名app-log-write查詢則使用app-log-*。日志保留周期的選擇要結(jié)合業(yè)務(wù)需求ERROR 日志可以保留更久普通 INFO 日志保留 7 到 15 天通常就夠。注意不要只設(shè)置 ILM 而忽略磁盤容量評(píng)估。保留 30 天日志至少要把每天日志量乘以 30 乘以副本數(shù)再算上 ES 索引膨脹和 overhead才能確認(rèn)集群容量是否夠用。6. 排障實(shí)戰(zhàn)從一條報(bào)警到根因定位的完整鏈路日志體系設(shè)計(jì)得再好最終還是要回歸到排障場景。用一個(gè)常見例子說明凌晨收到告警訂單服務(wù) ERROR 增多接口 P99 升高。這時(shí)候應(yīng)該怎么查。6.1 先用時(shí)間和級(jí)別縮小范圍不要盲目搜全文排障第一步不是搜具體異常棧而是確定影響范圍。在 Kibana 中使用時(shí)間范圍過濾最近 15 分鐘再疊加服務(wù)名和級(jí)別。service:order-service AND level:ERROR AND timestamp now-15m如果日志量仍然很大可以加上uri或status進(jìn)一步縮小范圍。比如只查看POST /api/order的錯(cuò)誤日志。service:order-service AND level:ERROR AND uri:/api/order AND timestamp now-15m排序按timestamp升序先看最早的異常因?yàn)榈谝粋€(gè)異常往往是后續(xù)大量錯(cuò)誤的源頭。如果看到Connection timed out或Read timed out要意識(shí)到這可能是下游依賴導(dǎo)致的連鎖反應(yīng)先找出被調(diào)用方是否也有異常。6.2 用 TraceID 串聯(lián)完整調(diào)用鏈確定一條典型錯(cuò)誤日志后復(fù)制其中的traceId在 Kibana 中搜索。traceId:8f3a1b2c3d4e5f6a7b8c搜索時(shí)不限制服務(wù)名。只要 TraceID 在所有服務(wù)間透傳正確就能查到這個(gè)請(qǐng)求經(jīng)過的所有服務(wù)、所有實(shí)例的日志。按時(shí)間順序排列后可以看到請(qǐng)求從網(wǎng)關(guān)進(jìn)入訂單服務(wù)然后調(diào)用支付服務(wù)最后在哪里耗時(shí)最長。日志中會(huì)看到類似這樣的關(guān)鍵點(diǎn)訂單服務(wù)日志顯示調(diào)用支付服務(wù)開始和結(jié)束。支付服務(wù)日志顯示處理耗時(shí)超過 3 秒。支付服務(wù)之后出現(xiàn)數(shù)據(jù)庫超時(shí)或連接池等待。這一步的核心是確認(rèn)異常發(fā)生位置而不是只看最外層報(bào)錯(cuò)。外層的RestClientException可能只是下游超時(shí)的表象根因在支付服務(wù)的數(shù)據(jù)庫連接或 SQL 執(zhí)行上。6.3 從異常日志特征定位根因類型不同錯(cuò)誤特征對(duì)應(yīng)不同排查方向整理成速查表會(huì)很有用。日志特征可能根因下一步檢查status500 大量異常棧服務(wù)內(nèi)部異??串惓?、線程池、連接池Connection timed out網(wǎng)絡(luò)不通或連接池耗盡檢查目標(biāo)服務(wù)、端口、連接池配置Read timed out下游處理慢查看下游服務(wù)耗時(shí)、GC、慢 SQLlock wait timeout exceeded數(shù)據(jù)庫鎖競爭查數(shù)據(jù)庫事務(wù)、慢 SQL、死鎖日志OutOfMemoryError內(nèi)存不足或泄漏查看對(duì)堆配置、GC 日志和
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
日本三级一区二区 在线| 午夜无码精品免费看性色| 免费视频a级毛片免费视频| 中出20p| 五月丁香在线| 在线观看黄色电话| 老女人综合网| 玖玖大干人妻| 国产天美欧美| 久久国内| 蜜臀99久久精品| 曰韩人妻中文字幕在线| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 国产精品久久久| 亚洲乱熟女一区二区| 天天干1区2区在线| 偷拍综合亚洲| 久久久久久久久久久人妻| 国产精品无码久久久久2025| 亚洲高清综合网| 天天天天做夜夜夜夜做| 最新国产精品久久精品| 欧美视频一区二区在线| 亚洲欧洲自拍图片专区满春格| 丝袜狠狠草尤物 91| 色女女女导航| 午夜美女福利视频| 99ri视频| 欧美丰满少妇交换91欧美精品| caoni国产亚洲av| 欧亚第一综合网| 欧美日韩中文视频播放| 中亚精品极乱| 97资源制服丝袜| 日韩免费中文字幕视频| 狠狠 91| 在线无码网站| 欧美一区二区一级岛国大片| 国产 日韩 欧美高清| av天堂精品久久| 国产a级午夜毛片| 先锋音影AV| 欧美人妻一区二区| 欧美日韩高潮喷水91| 欧美草草高清日韩视频| 国产亚洲日韩在线三区黑人| 人人妻天天做天天爽| 9久久9综合| 91亚洲影院综合| 99热这里只有精品9| A级片日韩欧美国产欧美视频精选观看| 精彩视频日韩| 午夜小电影在线插入淫高潮| 美女97超碰| 久久久精| 精品日日人妻| 亚洲 日本 国产 综合| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 无码最新| 俺去俺来也在线www| 亚洲一欧洲中文字幕在线 | 亚洲一二三精品久久网 | 狠狠狠狠狠狠| 国产在线76页| 色盈盈影院| 精品然女一区二区| 91AV天美在线视频| 高清视频一区| 亚洲加勒比久久日本道| 素人一区二区三区日韩| 黑丝自慰喷水网站| 91丨九色丨大屁股| 综精品久久久aaaa| 精品国产99999| 亚洲综合骚逼| 水滴偷拍| 国产精品秘 福利姬在线观看| 成人黑料社久久| 色av中文字| 啊好大好舒服| 美国黄片aaa| 精品日韩中文在线| 一区二区日韩欧美久久| 伊人久久国产免费观看视频| 欧美性天天影院| 啊啊啊啊,啊啊好多水| 中文字幕人妻丝袜乱一区三区| 人人看人人插| 欧美综合区| 玖玖视频在线资源一区二区三区| 热久久九九热| 亚洲国产欧美中文永久| 欧美在线视频99| 久久精品视频久久久| 亚洲情色图片区| 亚洲色图 综合| 91色欧美| wuyechaopeng| 粉嫩av平台| 亚欧国产无码精品在线| www四虎| 亚洲区限制级| 欧美不卡五十路| 999熟女精品| 男人的天堂视频精品乱在线| 综合激情一一91| 国色天香av| 婷婷五月天激情四射| 国内精品久久人妻性色av| 成人熟女区| 人妻AV在线| www.99热在线只有精品| 噜噜瑟| 国产操逼视频在线观看| 久久久草成人网站久久久草成人久久久草久久久 | 9.1小视频| 性色AV网站| 91大胆欧美| 国产粉嫩出水在线播放| 国产无套粉嫩白浆在| 超碰99在线| 欧美色图下一页| 久久极品一区二区| 91九色丨风韵犹存| 欧日韩不卡视.频| 亚洲暴力强奸AV| 久偷拍欧美日韩三区| 亚洲精品官网在线观看| 国产精品com| 台湾成人无码AV| 天天操女人| 97国产精品一区二区传媒公司| 韩国午夜理伦三级好看| 亚洲91射| 超碰在线看| 日韩在线观看AV| 日韩少妇一区二区三区| 成人三级片一区二区三区视频| 精品中文字幕一区二区| 日本曲间由美性生活片| 青娱乐91| 色爱综合网欧美| 国产久久久久久| 久久嫩草国产成人一区| 天天干天天燥| a啊啊啊啊啊啊啊啊一区二区| 亚洲天堂五月天国产| 精品人妻一区二区免费蜜桃| 伊人久久综合影院| 天堂av最新电影网| 人妻AV 中文字幕的| 综合网少妇| 又黄又爽在线观看视频| 成人免费性爱视视| 久久啊啊啊视频| 欧美一级黄色18片免费看| 69久久久久久久久久久久久| 97国产色综合| 成人五月天丁香激情综合| 欧美大码在线视频| 国产AV精久久| 久久精品熟妇丰满人妻99| 午夜呻吟欧美| 日韩欧美国产一区二区三区四区| 97 国产精品| 鲁鲁色综合网| 97资源视频| 丝袜美腿射精91| 在线国产福利网址导航| 欧美中日韩XXXX| 在线天堂999| 十八禁视频一区二区| 亚熟hd视频在线| 亚洲AV永久无码一区仙野| 中文字幕一二三| se,,,亚洲欧美| 五月激情视频| 久久精品国产96精品亚洲拳交| 国产一区二区精品久久久不卡蜜臀| www.色婷婷| 内射夫妻三片| 亚洲视频精选| 国产精品3| 国产无遮挡| 日本熟女中文字幕一区| 亚洲交换| 91 国产丝袜在线放观看| 91久久久亚洲| 欧美一品道| 五月丁香激情啪啪| 久久毛卡| 成人乱人伦一区二区| 久久大精品乱码视频人妻熟女| 国产成人拍国产亚洲精品| 99999这里都精品| 免费人人搞97| 91大胆欧美| 啊啊啊久久久视频| 91蜜臀在线久久久久| 精品国产丝袜一区二区三区乱码| 国产精品久久久| 蜜桃网熟妇| 97爱欧美| 亚州成人a∨| www.zbzhongsen.com| 亚洲一区二区三区中文字幕| 9国产超碰| 99re视频在线播放青草| 干妹子| 91欧美丨精品丨入口| 欧美日韩色图片| aaa一级黄片| 欧美日韩国产三级黄色| 中文字幕91页| 国产精品探花视频| 国产精品无码久久久久2028| 久久69精品久久久久久久| 精品人妻一区二区三区日产| 韩国一级做a久久久久| 欧美色97| 东京热,男人的天堂| 亚洲一二三四区在线免费看视频| 天天影视网色欲色香| 丁香五月av| 在线播放一级无码视频| 色牛aV| 香蕉99秘 一区精品蜜桃臀| 久久综合av| 麻豆av一区二区三区| 一本一道人妻久久一区二区三区 | av一区二区三区四区| 淫荡网址| 亚洲97成人在线观看| 亚洲AV麻豆Aⅴ无码电影一| 精品一区二区三区麻豆| 粉嫩av在线| 91亚洲色图| 被男人添B超爽视频| 精品视频免费在线一区| 亚洲一区日韩| 婷婷色一区| 东北女人的毛片| 日本日皮视频逼| 国产最新AV| 97爱亚洲| 8x福利精品第一福利视频导航| 伊香蕉综合久久久久久久噜噜噜 | 国产日韩美女小穴视频网站不卡| 久久亚洲日韩熟女精品| 亚洲无 码A片在线观看麻豆| 性高潮久久久久久久久久久| 欧美亚洲情色| 国人欧美精品一区二区| 日韩成人综合网| 国产情侣自拍在线播放| 午夜男人天堂| 综合性视频99| 国产精品一二三区18| 嫩呦国产一区二区三区AV| 精品国产www久久| 2021久久国产综合精品青草| 亚洲天堂电影精品一区| 男人网站婷婷| 91观看 国产白丝| 国产91精品在线免费| 加勒比在线观看一区二区| 久久这里只精品99re66图| 国语人妻精彩刺激| 久久久精精精| 亚洲欧美第一页| 欧美性爱一级操| 欧美熟爽综合| 欧美综合1性辶| 久热这里只有精品9| 国产高清午夜成人在线观看| 91狠狠色丁香婷婷综合久久精品| 精品9区| 欧美成人精品欧美一级乱黄一区二…| 青娱乐亚洲自拍| 久久香蕉国产传媒一区剧情天美| 亚洲综人| 亚洲伊人a线观看视频| 九九av| 久久久久网站-538在线视频-欧美永久乱码 | 蜜桃狠狠色伊人亚洲综合网站| 欧美久久人人网| 91精品国产综合久久久蜜臀| 高清不卡一二三区视频......| 清清一区二区三区四区不卡视频| 久久成人精品| 久久高清欧美国产| 亚洲av强奸乱伦| 天天大干大香蕉| 亚洲图片激情小说| 亚洲日韩精品在线播放| 亚欧美综合| 370p日韩欧美亚洲精品| 日少妇亚洲版| 一级成人性爱| 日夜干射色啊| 国产精品点击进入在线影院| 超碰 另类 欧美 | 久久九七| 蜜臀久久99精品久久久久久-DVD| 色五月婷婷中文字幕| 亚洲人精品久久久| 欧美亚洲色图另类国产| 蜜臀AV成人精品蜜臀| 91视频精品| 天天综合色电影| 高清孕妇孕交 交| 激情四射五月天| 怡红院成人视频| 一区二区三区视频在线观看免费| 人人摸人人舔一区二区| 视频分类 国内精品| 国产亚洲日本| 熟女视频久久| 精品日韩| 日韩一999精品| 中文字幕美女91| 欧美国产有色电影| 天天激情综合站| 国产AV人人 夜夜人人澡| 久久精品午夜国产亚洲AV无码| 天天日日日射| 奇米四色影视777久久久| 91丝袜激情在线| 免费一级精品啪啪视频| 久久噜| 91社操逼| 亚91网| 五月丁香六月激情| 探花视频免费观看国产专区| 欧美AB在线观看| 日韩免费福利在线观看| 日韩图区| 中文字幕一区日韩精| 亚洲 中文字幕 精品| 国产JDAV无码视频在线观看| 午夜αv| 97色网| 在线人妻熟女一区二区三区四区五区| 操国产逼| 天天爱综合网| 一级性爱网| 国产视频第二页| 中文字幕一区二区三区字幕| 夜夜草我| 色五月婷婷网| 北约熟女超碰| 国产v亚洲v日韩v欧美v片另类| 久久97资源 网| 精品国产丝袜一区二区三区乱码 | 丁香五月天啪啪| 人妻三级在线中文字幕| Aa东京男人的天堂| 少妇无码太爽| 国产小u女在线观看| 78久久| 天天影视之亚洲综合网| 中文字幕一区二区三区蜜臀| 伊人久久综合影院| 亚洲无 码A片在线观看麻豆| 欧美91久久久久| 激情小说五月天| 金莲网址| www.伪伪| 国产美女在线精品免费看| 中文无线日韩一区| 国产怡红院| 伊人玖玖网| 清柠毛片| 国产 日韩 欧美 人妻 熟女 中文 69人妻精品一区二区绯色 | 国产免费一区在线观看| 久96热在线观看视频| 99视频自拍区| 精品久久九| 校园春色亚洲欧洲| 日韩精品国产一区二区| 绯色一区二区三区不卡少妇| 国产乱不卡| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | A一级色女| 欧美色图私拍91| 婷婷五月成人| 欧美第一页性| 色色亚洲| 五月综合激情| 欧美激情综合| 天天干天天爽| 天堂中文资源在线bt| 五月综合激情网| 成人青青草原伊人| 艳美熟妇先锋一二三区| 欧美视频在线视频免费va| 国内一级精品| 久久一区二区三区入口| 久久av一级av少妇av高潮| 久久久不能久久久久| aV中文麻| 97久久视频| 一本色道久久综合狠狠操| 加勒比在线观看一区二区| 日韩97超碰中文字幕| 职场同事知名国产国产精品久久欧美日韩 | 四虎影视永久在线免费| 你草精品在线视频| 国产精品久久久久久久久久梁医生| 黄色免费网页无码| 日韩成人人妻网站| 麻豆国产尤物AV| 一区二区三区四区理论片| 亚洲导航深夜福利| 日韩少妇无吗| 天天做日日爱夜夜爽| 941超碰| a久久| 天天澡天天爽日日AV| 国产视频三区四区| 人妻色偷色噜| 国产精品在线网站| 亚洲国产一区二区三区四区国产| 78精品| 亚洲AV免费在线观看| 免费视频在线一区二区不卡| 日本精品久久久久久久| 午夜男人一级A片7777| 黑白配性爱AV成| 黄污污污污| 啊啊啊网站| 青娱乐大香蕉| 不卡免费av在线播放| 99国产女人| 色哟哟-国产专区| 欧美性爱日韩性爱| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 成 人 影视 一区 二区 三区 四区| 97超碰碰| 美女网站黄页| av天堂影视中文在字幕在线中文| 欧美日韩国产一区二区小黄片大全| 蜜臀AV成人精品蜜臀| 大香蕉黄色一区| 999精品乱码| 色天堂综合| 久久婷婷伊人| 欧美性爱综合,免费| 亚洲鸥美色图| 超碰97资源中文字幕| 日韩免费大片一级播放| 91观看 国产白丝| 精品一区二区麻豆| av天天在线观看| 久久社区一区二区三区| 亚洲玖玖爱| 天天日天天舔东京热| 一级啊性爱在线视频| 婷婷久久久精品| 伊人久久大香蕉线AV五月天| 国产麻豆一级精品视频| 国产精品探花色| 97国产中文| 伊人久久大香蕉线AV五月天| 久久久久九九九| 99热伊人| 2003天天干夜夜操| 激情欧美日韩女同久久| 伊色综合天堂色97| 人妻天堂综合网| 人妻中文字幕日韩电影| 欧美偷拍区| 校园春色综合色| 天天日天天色| 欧美真人抽搐一进一出gif| 人人操天天爽| 天天摸天天插天天日| 精品国产www久久| 国产白丝AV| 国产成人天堂| 后入内射蜜桃臀| 另类小说五月天| 中国农村熟妇毛片视频| 日韩欧美亚欧在线视频| 日韩小电影| 麻豆AV96熟妇人妻| 99.色网| 涩五月婷婷| 97国产成人精品免费视频| 草草草视频在线免费看| 欧美第二页| 超碰精品97| 五月天AV资源| 久久久久人妻| 99热精品在线在线| 色婷婷丁香五月| 九九热AV| 黑人黄片在线免费观看| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 久操免费电影| 97中文综合| 欧美色97| 亚州综合在线| 亚洲码在线中文在线观看| 欧美色偷偷| 国产传媒日韩欧美| 国产精品内射婷婷一级二| 综合97| 人人操,人人液| 亚洲av噜噜噜噜噜噜| 中文字幕精品专区搜索结果91| 日欧毛片久久| 人妻色情天天操| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 人人操人人色网| 久草精品国产99| 97干97色| 麻豆久久精品亚洲精品88| 东京热男人的天堂| 欧美日韩不卡a片| 97综合国产| 三上悠亚在线毛片91| 欧美视频一| 亚洲精品三区在线观看| 国产辣妈在线视频福利| 亚洲最新av无码成人精品区| 91操人视频| 东京热亚洲一区二区| 色播五月婷婷| av情色影音| 日本999精品| 中文字幕一品色图| 97免费视频在线观看| 日B操| 操B在线观看| 精品久热| 91neishe| 91女优在线观看| 九久久精品| 外站AV在线| 2017人人操,人人摸| 在线观看不卡一区二区三区| 岛国精品视频在线观看| 成人在线视频网| 乱精品一区字幕二区| 久久久久九九九| 无码99| 日本精品九九九| 亚洲黑人在线| 黄色一级视| 二区熟妇韩日| 任你干在线视频| 日韩人妻大香蕉| 亚洲男人的天堂网| 日韩人人精品| 天天躁日日躁成人字幕aⅴ| 国产做?爰片久久毛片?片美国| 激情五月婷婷| 超碰 国产熟女精品一区| 欧美日韩狠狠爱| 激情国产乱伦Av| 日韩av女优在线免费一区| 熟女色图在线| 亚洲国产精品久久久久婷婷老年| 国产精品不卡一区二区三区av| 色综合久| 色哟哟国产精品免费网址| 国产无遮挡| 国产白丝AV| 日韩av在线播放不卡| 9999亚洲电影| 色天天野狼综合社区| 97超碰护士| 国内偷自视频区视频综合 | 人妻夜爽夜夜爽| 男人天堂黄片| 99国产精品在线观看| 日本一区三级韩国| 日本亚洲嫩草影院啪啪| 自拍偷拍2025在线观看| 久久久久78| 一区二区三区美女超清| 免费人成?大片在线播放| 精品国产乱码久久久久A| 亚洲精品97久久中文字幕| 天天日天天搞天天干| 熟女性视频| 中文字幕人妻丝袜乱一区三区| Av手机版天堂网| 草b在线| aaa亚无码专区| 久久婷婷一区二| 大香蕉一人在线| 18禁无码永久免费无限制| 搡老女人老妇女老妇老熟女怎么读| 超碰97久| 人妻熟女午夜精品在线| 97亚洲国产| 久干9操| 国产白嫩精品久久| 人妻二区| 91欧美性| 国产呦精品一区二区三区下载| 青青草女人天天干| 性爱视频免费网址| 后入式在线免费观看60秒| 国模私拍一区二区三区神乳| 蜜臀精品1区2区| 襙一襙| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 97色论| 亚洲性爱免费电影| 日本熟妇色熟妇在线视频播放| 亚洲一区二区三区播放在线| 色哟哟精品1精品2| 久久97| 欧美草草高清日韩视频| 99在线精品观看99| 91操熟女| 精品二999| 一级久久性爱视频| 无码九九九九| 亚洲久热| 性暴力欧美猛交在线直播| 97色插| 日本操逼视频免费| 97天天爽| 中文字幕精品免费一区二区| 日韩伦理久 久久 清纯| 91亚洲情色| 校园春色制服丝袜中文字亚洲| 波多野结衣之双飞调教在线播放 | 久久五月视频| 日韩啊V| 久久色一区| 肏逼视频日本| 黄站在线免费观看| 日本在线一二| 欧亚性爱在线视频| julia国产在线| 人妻天堂综合网| 欧美日韩国产另类综合| 久操视频在线| 久久男人网| 欧美视频在线视频免费va| 国产亚洲 中文欧美久久| 日本高清视频xxxx| 天天摸夜夜操视频| 综合激情五月天| 亚洲国产欧美一区二区潘金莲| 成人夜夜| 美性中文综合网| 精品久久一区二区三区四区五区| 亚洲日韩美女中文字幕乱| 99中文字幕| 中文一区二区| 欧中日成人免费影视| 欧美黄片欧美黄片xxx| 日韩精品人妻中文字幕不卡乱码| 超碰97男人| 欧美精品99久久久**| 久久久不卡| 欧美成人色| 丝袜美腿欧美| 久久高清欧美国产| 91精品微拍福利| 天天躁日日躁狠狠狠躁| 国产视频小说| 欧美日日夜夜| 色97| 国产精品69人妻无码久久久| 99re视频在线播放青草| 亚洲天堂日本| 亚洲城人男人的天堂| 天天摸天天插天天日| 亚洲?V高清一区二区三区尤物| 国产又长又大又粗的视频| 偷拍亚洲高清图片| 婷婷五月天激情四射| 乱伦Av网| 99久国产精品午夜性色福利| 欧美黄色大片在线观看| AAAA欧美日韩| 色香欲综合| 淫纸中9区| 天天干1区2区在线| 青青草无码视频| 伊人色综合超碰| 殴美性色a级欧美| 亚洲情色第一页| 色成人Www精品永久观看| 日韩操逼性鲍| 伦激情人妻另类人妻| 香蕉国产精品麻豆亚洲欧美日韩| 亚洲日韩资源| 精品九九九九九九九九九| 殴美牲| 日韩精品99999| 中文字幕五区| 国产亚洲精品自在线亚洲情侣| 欧美超碰97| 尤物网站91| 久久专区| 久久久久久九九九| 99re在线视频国产| 在线视频五十市| 骚逼高潮久久精品| 美女超碰978| 男女打扑克高清网站| 91成人在线| 2025亚洲男人天堂| 猛交交| 国产情侣自拍在线播放| 亚洲小说视频| 欧美天天射| 人人操 欧美| 日本3级一区二区免费| 999久久久精品国产| 涩爱AV在线| 久久久99久9| 另类图片五月| 国产第二页| 日韩欧美女求操每天更新| 秋霞Av理论一级在线| 日本不卡高清视频| 男人的天堂激情| a人欧美综合天堂麻豆| www欧美91| 久久久精品| 5252色欧美在线| 日韩内射视频| 蜜臀av中文字幕| 欧美亚洲另类在线蜜桃| 欧美色蜜桃97| 91综合网站| 大学生美女口爆| 精品毛片av一区二区| 秋霞成人一级在线观看| 精品一二三区久久AAA片| 久久婷五月| 艳美熟妇先锋一二三区| 偷拍 精品另类 凸凹了四区| 中文字幕在线观看永久| 五月婷婷爱六月丁香色| 五月天婷婷综合| 天天天天天超碰| 最新制服中文第一页| 无遮挡一级毛片视频免费的| 丁香五月自拍| 少妇人妻精品| 91美女片在线| 蜜乳AV一区| 亚洲欧美日韩综合在线尤物| 美女黄色一级A视频| 大肉棒导航| 欧美日韩国产人人| 天天看特黄的免费网站| 男人的天堂久久狠| www国产无码| 欧美日韩免费性爱| 曰韩精品视频一区二区| 五月天婷婷色| 丰满人妻一区二区中文| 国产一国产一级毛片古装| 国产亚洲色婷婷久久99精品91葵花宝典 | 丁香五月性| 电影69乱码96| 婷婷美人网| 国产一级高清免费观看| 国产小视频91| 乱日视频| 精品国产乱码久久久久久蜜臀| 日韩午夜精品一区二区三区电影| 蜜桃不卡一区二区| 在线视频97| 欧美日韩另类在线| 99热婷婷| 一二区在线观看视频| 日韩欧美国产一区二区三区四区| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 中文字幕久久精视频久久大全| 亚洲欧洲综合| 激情久久av一区av二区av| 日韩AV一区二区三区三州三州| 久99在线免费观看视频| 思思久热在线精品66| 国产毛片精品一区二区色欲黄A片| 中文久久96| 国产精品久久蜜乳av| 国产视频一区二区免费| 91日日| 亚洲美女AV无码| 亚洲综合婷婷| 久久综合久色欧美综合狠狠 | 亚洲 图片 综合91| 欧美极品少妇| 密乳无码| 精彩久久中文| 人人做天天爱| 青青11操操操操操操操操| 91少妇人妻| 日韩草久视频| 亚洲情色图片区| 精品久久久久久中文字幕三区| 日韩精品人妻中文字幕有码午| 少妇一区二区三区在线观看| 精品在线蜜臀| 欧美亚洲性爱一区二区| 天美精品原创av片国产| 丁香五月天啪啪| 蜜臀网 一区| 偷拍 精品另类 凸凹了四区| 91狠狠综合网| 久色网| 国产和美国毛片| 91久久久亚洲| 水野优香在线观看| 秋霞一集毛片观看| 暖暖精品二区三区观看| se吧提供国产乱老熟视频胖女人| 9999久久久久| 天天干夜夜| 久草福利在线资源站| 熟女一区二区三区四区| 五月婷丁香| 国内一区二区免费| 国产精品一二三免费网站| 91丝袜在线观看| 蜜臀99999| 色综合av男人天堂| 欧美东京热青青草| 国产专区路线| 亚洲精品自拍| 亚洲精品中文字幕一区在线视频 | 国产91会所女技师在线观看| 久久人妻四季| 免费国产电影一区二区| 国产精品欧美激在线| 久久久久国产精品喷潮免费观看臀 | 成人AV素股で擦久久| 青草综合| 97天天弄| 丁香五月激情综合| 一级AV性爱| 日本中文字幕一区| 五月天激情婷婷| 韩日色费| 青青草大香蕉视频| 久久蜜桃综合网| 久久亚洲AV无码专区首页| 亚洲色图8| 精品乱子一区二区三区99| 亚洲综合精品国产一区| 超碰在线综合97| 国产夜夜操| 国产91久久九九免费精品无码| 97亚洲综合影院| 九九九九97| 91碰碰碰| 中文字幕亚洲永久精品| 日本506070| 欧美在线中M| 天美麻花大全视频| 亚洲中文字幕在线视频一区二区| 中文精品少妇天堂| 久久久久久久久久久久久久久乱码| 26uuu国产成人综合| 人妻人久久精品中文字幕| 91精品无码人妻系列| 中文操逼字幕| 黄色av片三级三级三级免费看| 99自拍视频在线观看| 国产丰满少妇久久久精品影院| 久操不卡视频| 国产女人高潮嗷嗷嗷叫小说| 久夜视频| 极品少妇久久久久| 无码人妻精品一区二区三区九九| 亚洲一区二区三区欧美日韩| 亚洲激情在线观看一区| 欧美96交| av草草在线电影| 国产青青美女玩逼视频| 天天日少妇逼AV| 香蕉热人人精品| 亚洲中文字幕熟女| 欧美色97| 九九九只有精品| 人人澡人人弄| 久久人人爽爽爽人久久久| 性在久久久久久| 久久久久久久免费A片国产成a人亚洲精∨品无码| 91欧美www| 亚洲天堂少妇| 蜜臀av网址| 激情小说亚洲视频| 性欧美另类高清| 日本999精品| 亚洲αv一区二区三区| 国产成自自拍在线观看| 亚洲欧美另类图片| 蜜臀av一区二区三区免费观看| 日本人妻中文字幕精品| 久久九九国产精品| 97超碰色中文字幕| 国产成年女人免费视频播放a| 一牛一区二区三区久久| 天天舔九色婷婷| 欧洲乱码一区二区| 国产性感在线观看| 性色一线| 丝袜熟女2P| 在线人妻熟女一区二区三区四区五区| 狠狠狠狠狠狠| 98人妻精品一区二区色欲| 蜜桃臀一区二区三区久久| 韩日精品福利视频一区不卡在线免| 大香蕉AV丝袜| 麻豆九九九| 97中文字幕色| 亚洲图片在线| 日韩欧美性爱电影在线观看| 日韩欧美午夜视频在线| 色欲久久99国产精品久久久久久| 综合av影片| 操我啊啊啊啊啊| 十八禁啪啦拍视频无遮挡| 久久人妻无码毛片A片麻豆| 999 久久久| 丁香五月天啪啪| 91人妻精华帖| 色欧洲| 97久久国产| 热99这里有精品综合久久 | 中文熟女五十乱码在线| 亚洲最大AV网| 国产欧美一区激情交| 97视频新免费| 吻戏激情性巴克| 国产精品探花视频| 人人爱人人乐人人操| 十八禁黄色成人网站观看| 五月婷婷深深爱| 欧洲熟妇xxXx欧美老妇裸体| 多毛小伙内射老太婆| 欧美洲精品一级| 国产67194| 国产AV高清AV无码| 婷婷丁香九月| 中文字幕精品三级久久久| 丁香五月电影| 超碰在线在公开超碰在线在公开| 美女刺激久久国产欧美| 国产日韩精品无码去免费专区国产| 中文三一区| 99re9| 欧美啪啪啪91| 91少妇香蕉久久精品| 综合色播| 久久亚洲天堂| 另类欧美色| 国产精品久久久久中文字幕| 97超碰国产亚洲精品| 亚洲成人贴图| 久操B网| 国产福利小视频高清在线观看| 97日韩欧美| 91人人| 午夜福利免费精品视频| 欧美丝袜中文字幕07在线| 九九九热| 午夜寂寞欧美| 粉嫩绯色AV一区二区在线| 亚洲国产一区二区三区在线| 日韩综合成人免费视频| 久久系列| 欧美亚洲清纯| 啪啪啪大香蕉| 凹凸 69堂 在线播放| 91操操操操| 中文字幕第9页萱萱影音先锋| 亚洲宅男天堂| 天天日美女的B| 69精品| 天天干干天天干干| 五月婷婷色| 亚洲欧美91√| 国产精品久久久无码aV去| 97这里只精品| 曰韩av中文字幕专区| 久久伊人亚洲AV无码网站| 91N欧美| www被窝色com| 国产熟女完整版中字| 欧美有码激情视频一区二区三区| 新婚人妻扶着粗大强行坐下| 麻豆天美传媒在线视频天堂| 精品久久久久久中文字幕视频免费| 国产亚洲精品第一最新| 狠狠做深爱婷婷久久二区| 午夜视频久久久久一区| 91色综合激情| 家庭乱伦国产精品| 亚洲一区二区三区麻豆传媒| 国产捆绑一区| 人妻夜夜爽天天爽麻豆三区网站| 无码WWW免费视频网站| 18禁超污无遮挡无码免费网| 综合久欧洲| 国产一级舔足在线观看| 很黄很污的免费网站| 九九热九九热| 中文字幕91综合| 日韩美一区| 在线视频97| 97国产超湿| 七月丁香婷婷| 久久久工口| 超碰97护士| 操人妻丝袜高跟| 老司机福利青青草| 天天干天天操天天拍| K8久久久久| 99精品网| 日韩av情韩国爱禁区av一区二区| 精品人体无圣光凹凸| 嗯嗯啊好大| blacked精品一区国产| 中文一区在线日| 黄片色区软件| 国模久久在线| 国产极品美女高潮无套在线观看| 九九热九九热| 伊人一级免费黄片| 97色爱| 欧美日韩中文视频播放| 美女在线H91| 亚洲囯产精品女人久久久| 日韩中文字幕宗合在线| 人妻一区视频| 超碰在线综合97| 这里有精品| 欧亚无码视频| 91少妇香蕉久久精品| japan日本高清乱xxxx| 亚州色图欧美色图| 天天影视色香色欲| 美女啊啊啊啊啊| 色狠狠综合噜一二三区| 久草免费福利在线播放| chaopen97久久| 久操大香蕉| 日韩欧美女求操每天更新| 亚洲日本男人天堂网| 男人的天堂午夜av| 色噜噜狠狠色综无码久久| 久久本道| 特级毛片特黄久久免费看| 黄色工厂这里只有精品| 人妻一区二区三区| 国产剧情AV不卡在线观看| 后入福利视频| 人妻天天操天天爽视频免费| 欧美一区二区福利在线| 97超视频在线观看| 丁香六月婷婷久久综合| 亚洲最新Av| 91精品久久久久久| 色九九综合| 无码 黑人一区二区三区| 日本在线15p| 夜夜狼人妻| 日韩一级片在线看| 亚洲巨爆乳一区二区三区四季网| 91N综合网| 久久久久亚洲Aⅴ无码| 亚州综合色| 国产风韵犹存熟妇三区| 能看的av| 日本激情免费大片| 久久久久久久久9| 人妻社区男人天堂| 亚洲欧洲精品视频发布| 蜜臀久久99精品久久久久久成人小说| 欧美日韩资源在线| 欧美一级做a爰片免费视频| 操逼视频国产无套| 一区二区三区一亚洲中文字幕、综合区灬 | 久久久久亚洲| 久久久久久久久久精| 日本在线激情一区二区三区 | 黄页大片在线观看| 5月婷婷6月六月丁香| 国产在线综合福利网站| 青青草一区二区高清无码视频| 97网址97| 欧美成不卡网| 天天干少妇| 欧美国产日韩清纯唯美| 丝袜美腿制服人妻二区中文字幕| 欧美熟女丝袜| 曰本人妻人人澡人人夹| 成人无码在线视频网站| 国产丁香精品露脸视频| 77国产精品| 91欧美美女日韩国产婷婷| 国产四虎在线| 色哟哟-国产专区| 在线综合色| 国人欧美精品一区二区| 插穴性爱视频在线观看| 黄色免费一级在线毛片| 亚洲最新Av| 黑人精品XXX一区一二区| 神马久久久久久| 国产精品人妻无码久久久老鸭窝| 久久久久久裸体| 91性感网站| 九一国产精品| 狠狠做深爱婷婷久久二区| 日韩精品怡红院| 久久鲁夜| 无码一区二区三区四区五区六区七区八区九区十区视频 | 91美| 久久中文字幕女同性恋一区| 久久超碰免费的| 麻豆人妻少妇在线免费观看| 精品国产网站| 91视频观看网站| 欧美 日韩 国产传媒| 蜜奶av| 涩涩久久精品| 精品中文日韩字幕视频| 96国产污污污丝袜| 人妻五十路在线| 成人五月香网在线| 综合网,亚洲,欧美| 精品久久99| 亚洲午夜福利在线影院| 亚洲超碰AV| 国产精品亚洲免费| 色网在线视频观看免费| 丝袜天堂| 91老司机在线视频免费观看| 91在线视频国产网站| 日本不卡一区二区| 在线岛| 中文字幕五月婷婷免费| 日韩兔费看黄片| 欧美日韩另类在线| 91人妻做a观看视频| 久久综合99| 97精品国产97久久久久久| 天天日少妇逼AV| 欧美|91色综合| 九九热视频这里只有精品| 国产亚热在线久久| 日日97| 亚洲日韩av专区无码| 久久性爱精品一区|