日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

內(nèi)存排查實(shí)戰(zhàn):從JVM OOM到Native崩潰的系統(tǒng)化思路

內(nèi)存排查實(shí)戰(zhàn):從JVM OOM到Native崩潰的系統(tǒng)化思路 如果程序是一輛行駛在道路上的車內(nèi)存就是它腳下的路面。路況好時(shí)你感覺不到它的存在一旦前方出現(xiàn)坑洞、裂縫或者突然收窄的車道車的性能再強(qiáng)也會(huì)瞬間失控。過去幾年里越來越多服務(wù)端應(yīng)用和嵌入式系統(tǒng)面臨的恰恰是這種“路況失控”問題Java 進(jìn)程冷不丁拋出OutOfMemoryError: Java heap spaceC 進(jìn)程在 Windows 上以0xc0000005也就是十進(jìn)制的3221225477退出或者 JVM 直接報(bào)出Native memory allocation (malloc) failed to allocate ... bytes。很多開發(fā)者的第一反應(yīng)是“加內(nèi)存”“重啟試試”“讓運(yùn)維擴(kuò)容”。但真正讓人頭疼的并不是單次崩潰而是這些問題的復(fù)現(xiàn)沒有規(guī)律業(yè)務(wù)高峰期出現(xiàn)、低峰期消失換了機(jī)器就復(fù)現(xiàn)不了升級(jí)一個(gè)小版本后突然頻發(fā)。這個(gè)問題的本質(zhì)是我們只看到了“內(nèi)存不夠”的表象卻沒有建立起一套系統(tǒng)化的內(nèi)存掌控能力。這就是我把這篇文章的主題概括為“Driving on Memory”的原因——不是介紹某一個(gè)具體工具的 API而是要幫你在內(nèi)存這條高速公路上把住方向盤。這篇文章會(huì)從底層概念講起但不做枯燥的教科書式鋪陳接著會(huì)帶你識(shí)別三類最常見的崩潰現(xiàn)場(chǎng)再分別給出 JVM 堆內(nèi)與系統(tǒng)級(jí) native 內(nèi)存的排查方法最后會(huì)聊到車載、嵌入式這類“駕駛”場(chǎng)景里更苛刻的內(nèi)存治理要求并給出一份能直接落地到團(tuán)隊(duì)工程實(shí)踐的檢查清單。如果你已經(jīng)不止一次被 OOM、內(nèi)存泄漏或訪問違例折磨過這篇內(nèi)容會(huì)很適合你。1. 為什么內(nèi)存問題像一顆“延遲炸彈”普通 Bug 的特點(diǎn)是“只要觸發(fā)很快就暴露”。比如接口參數(shù)傳錯(cuò)了跑一次測(cè)試就能發(fā)現(xiàn)數(shù)組越界在大多數(shù)語言里也比較容易定位。內(nèi)存問題卻相反它的爆發(fā)點(diǎn)往往離根因點(diǎn)非常遠(yuǎn)這也是它最難排查的原因。舉個(gè)常見的例子某個(gè)服務(wù)在啟動(dòng)階段申請(qǐng)了一塊緩存正常情況下只占 200MB但緩存中的鍵沒有設(shè)計(jì)過期策略數(shù)據(jù)只增不減。第一天運(yùn)行很正常第二天內(nèi)存漲了 5%第三天又漲了 5%。由于總內(nèi)存還夠用GC 也還“撐得住”服務(wù)并不會(huì)立刻出問題。直到一周后的業(yè)務(wù)高峰期Old Gen被打滿GC 線程接近失控接口延遲從 30ms 變成 3 秒緊接著進(jìn)程 OOM 重啟。等你登錄服務(wù)器排查時(shí)進(jìn)程已經(jīng)重啟現(xiàn)場(chǎng)已經(jīng)沒了大半而根因竟然藏在一周前的某段代碼里。這就是內(nèi)存“延遲炸彈”的典型特征故障現(xiàn)象和故障根源在時(shí)間上被拉得很遠(yuǎn)。更麻煩的是內(nèi)存問題往往不會(huì)孤零零地出現(xiàn)。當(dāng)一個(gè) JVM 進(jìn)程把系統(tǒng)內(nèi)存吃光同機(jī)器上的另一個(gè) Java 進(jìn)程也會(huì)跟著遭殃最后看起來像多個(gè)應(yīng)用同時(shí)出故障很容易誤判成“網(wǎng)絡(luò)問題”或“數(shù)據(jù)庫問題”。要拆掉這顆炸彈靠“重啟”是沒有用的。你需要知道三個(gè)層面的信息第一內(nèi)存到底去哪了第二是誰在哪個(gè)階段申請(qǐng)的第三這種申請(qǐng)是否超出了可控范圍。下面我們從底層概念開始把這三件事講清楚。2. 內(nèi)存管理核心概念先搞懂程序向誰要內(nèi)存我們常說“程序占了多少內(nèi)存”但“內(nèi)存”這個(gè)詞在不同語境下含義完全不同。2.1 物理內(nèi)存與虛擬內(nèi)存CPU 真正直接訪問的是物理內(nèi)存條上的地址但現(xiàn)代操作系統(tǒng)并不會(huì)讓應(yīng)用程序直接接觸物理內(nèi)存而是給每個(gè)進(jìn)程提供一份獨(dú)立的虛擬地址空間。進(jìn)程看到的是從0x0開始的連續(xù)地址實(shí)際上這些地址要通過頁表轉(zhuǎn)換成物理地址。頁表由操作系統(tǒng)和硬件 MMUMemory Management Unit共同維護(hù)因此程序分配了一塊內(nèi)存不代表它立刻占用了同等大小的物理內(nèi)存。這個(gè)設(shè)計(jì)帶來的好處是隔離性A 進(jìn)程寫壞了自己的內(nèi)存不會(huì)直接改寫 B 進(jìn)程的數(shù)據(jù)。代價(jià)是一旦程序訪問了“沒有映射到物理內(nèi)存”的虛擬地址硬件就會(huì)觸發(fā)缺頁異?;蚨五e(cuò)誤在 Windows 上這類錯(cuò)誤通常會(huì)以0xc0000005呈現(xiàn)含義是訪問違例Access Violation。2.2 堆、棧、元數(shù)據(jù)區(qū)、native 內(nèi)存程序運(yùn)行時(shí)并不是只在一個(gè)地方申請(qǐng)內(nèi)存。按主流語言和運(yùn)行時(shí)劃分大致可以分為幾類區(qū)域主要用途典型管理方式溢出時(shí)常見表現(xiàn)棧函數(shù)調(diào)用、局部變量、返回地址編譯器自動(dòng)分配和釋放棧溢出 StackOverflow堆動(dòng)態(tài)創(chuàng)建的對(duì)象、集合、緩存運(yùn)行時(shí) GC 或手動(dòng)分配OOM、內(nèi)存泄漏元數(shù)據(jù)區(qū)/方法區(qū)類信息、常量、JIT 編譯產(chǎn)物GC 按需卸載Metaspace OOMnative 內(nèi)存JIT、GC 數(shù)據(jù)結(jié)構(gòu)、線程棧、DirectBuffer、JNI由運(yùn)行時(shí)向操作系統(tǒng)申請(qǐng)malloc 失敗、進(jìn)程崩潰很多 Java 開發(fā)者以為 OOM 就等于堆不夠大這是誤解。JVM 除了堆還會(huì)向操作系統(tǒng)申請(qǐng)大量 native 內(nèi)存。Metaspace、線程棧、JIT 編譯器代碼緩存以及 Java NIO 的 DirectBuffer 都不在堆內(nèi)。當(dāng)你使用-Xmx設(shè)置了 2GB 堆但 1000 個(gè)線程每個(gè)默認(rèn)棧大小 1MB線程棧就要占約 1GB如果再加上堆外緩存進(jìn)程實(shí)際占用的內(nèi)存可能遠(yuǎn)超-Xmx。因此排查進(jìn)程崩潰時(shí)不能只看堆還要看 RSS常駐內(nèi)存集。2.3 垃圾回收不是萬能的CPP 程序員需要手動(dòng)管理內(nèi)存Java、Go 等語言引入了 GC看起來不用管內(nèi)存了但 GC 只能回收“運(yùn)行時(shí)認(rèn)為不再可達(dá)”的對(duì)象。如果業(yè)務(wù)代碼里某個(gè)集合一直被全局引用持有GC 永遠(yuǎn)不會(huì)回收它。表面上是 GC 不給力實(shí)際上是“內(nèi)存泄漏”在源頭不斷積累。理解這一點(diǎn)才能建立一個(gè)重要判斷內(nèi)存問題不是只有“分配太多”這一種成因還可能來自“該回收的沒有回收”和“運(yùn)行時(shí)申請(qǐng)方式不當(dāng)”。排查的時(shí)候先分清是哪一種再動(dòng)手看代碼和工具。3. 識(shí)別崩潰現(xiàn)場(chǎng)從錯(cuò)誤信息反推故障類型內(nèi)存故障的排查最好從第一現(xiàn)場(chǎng)的報(bào)錯(cuò)信息入手。不要一看到OutOfMemoryError就去看堆大小也不要一看到進(jìn)程退出就懷疑是代碼 Bug。不同類型的信息對(duì)應(yīng)完全不同的排查路徑。3.1 JVM 進(jìn)程內(nèi) OOM第一種是 Java 應(yīng)用打印出的異常堆棧例如Exception in thread main java.lang.OutOfMemoryError: Java heap space at com.example.memory.OomDemo.main(OomDemo.java:12)這個(gè)錯(cuò)誤的直接含義是 JVM 堆無法再分配新對(duì)象??赡艿挠|發(fā)因素包括堆設(shè)置過小、某個(gè)集合異常增長、存在內(nèi)存泄漏。如果要定位重點(diǎn)看的是“發(fā)生分配的位置”和“堆里占著內(nèi)存不放的對(duì)象是誰”而不是去猜-Xmx該設(shè)多大。此外還有Metaspace、GC overhead limit exceeded、Unable to create new native thread等變體。它們雖然都頂著OutOfMemoryError的名字實(shí)際成因并不相同。比如Unable to create new native thread往往是操作系統(tǒng)線程數(shù)限制或進(jìn)程地址空間不足導(dǎo)致的和 Java 堆幾乎沒有關(guān)系。3.2 Windows 上的 0xc0000005 / 3221225477很多開發(fā)者在 Windows 上跑程序時(shí)會(huì)看到類似提示Process finished with exit code 3221225477或者0xC0000005: Access violation reading location 0x00000000000000003221225477換算成十六進(jìn)制就是0xC0000005它對(duì)應(yīng) Windows 的STATUS_ACCESS_VIOLATION。這類錯(cuò)誤通常不是 Java 堆溢出而是進(jìn)程嘗試訪問了沒有權(quán)限的地址。常見場(chǎng)景包括C/C 里對(duì)空指針或野指針解引用、JNI 調(diào)用的本地庫寫壞了內(nèi)存、JVM 自身在 native 層崩潰。遇到0xC0000005時(shí)首先要找崩潰現(xiàn)場(chǎng)日志。如果是 JVM 崩潰進(jìn)程的工作目錄下會(huì)生成hs_err_pidPID.log里面記錄了觸發(fā)崩潰的指令和線程棧。不要拿著這個(gè)退出碼去調(diào)整 JVM 堆大小那很可能跑偏。3.3 JVM 向操作系統(tǒng)申請(qǐng)內(nèi)存失敗第三種崩潰信息在服務(wù)端更常見它的報(bào)錯(cuò)長這樣There is insufficient memory for the Java Runtime Environment to continue. Native memory allocation (malloc) failed to allocate 2046256 bytes for chunk注意這里的 2MB 左右分配聽起來很小卻失敗了。這說明問題大概率不在“某一次分配的量太大”而是操作系統(tǒng)層面已經(jīng)無法滿足內(nèi)存申請(qǐng)??赡茉虬ㄟM(jìn)程可用的虛擬地址空間耗盡、系統(tǒng)內(nèi)存被其他進(jìn)程占滿、容器 cgroup 內(nèi)存限制被觸發(fā)或者進(jìn)程間接導(dǎo)致的vm.max_map_count超過上限。這時(shí)候如果還在糾結(jié)“為什么 2MB 都分配不出來”方向就錯(cuò)了。正確做法是先看整個(gè)機(jī)器的內(nèi)存水位再看進(jìn)程的 RSS 大小和線程數(shù)然后檢查是否被容器限制。4. 掌握觀測(cè)手段內(nèi)存排查不是靠猜內(nèi)存分析不能靠“我感覺內(nèi)存漲了”。沒有度量就沒有定位。關(guān)鍵要掌握三層觀察系統(tǒng)層、進(jìn)程層、運(yùn)行時(shí)層。4.1 系統(tǒng)層先看整機(jī)內(nèi)存水位在 Linux 上排查時(shí)我習(xí)慣按下面的順序看數(shù)據(jù)# 查看系統(tǒng)總內(nèi)存、已用內(nèi)存、可用內(nèi)存 free -h # 查看內(nèi)存詳細(xì)指標(biāo) cat /proc/meminfo | grep -E MemTotal|MemAvailable|CommitLimit|Committed_AS # 查看某個(gè)進(jìn)程的常駐內(nèi)存、虛擬內(nèi)存 ps -o pid,rss,vsz,%mem,cmd -p PID # 查看進(jìn)程的地址空間與物理內(nèi)存映射 pmap -x PIDfree -h輸出的available列比free列更接近真實(shí)可用內(nèi)存因?yàn)?Linux 的清緩存機(jī)制讓部分緩存內(nèi)存可以被迅速回收。如果available已經(jīng)很低就要進(jìn)一步找誰在占用。/proc/meminfo里的CommitLimit和Committed_AS值得單獨(dú)理解。它們對(duì)應(yīng)系統(tǒng)承諾給進(jìn)程的虛擬內(nèi)存總量。如果Committed_AS長期逼近CommitLimit即使物理內(nèi)存還有富余操作系統(tǒng)也可能拒絕新的內(nèi)存申請(qǐng)。4.2 JVM 進(jìn)程層堆和 native 都要監(jiān)控查看 Java 進(jìn)程的啟動(dòng)參數(shù)時(shí)可以通過jcmd查看 JVM 實(shí)際生效的配置# 查看指定 JVM 進(jìn)程的基本信息 jcmd PID VM.flags # 查看堆當(dāng)前使用量 jcmd PID GC.heap_info # 查看類加載數(shù)量和元數(shù)據(jù)區(qū)使用量 jcmd PID VM.metadata比較推薦的做法是接入帶 GC 日志的啟動(dòng)參數(shù)。GC 日志能明確告訴你堆是否頻繁 Full GC、每次 GC 后存活對(duì)象是否持續(xù)增長。如果存活對(duì)象一直增長內(nèi)存泄漏的概率非常高。4.3 容器環(huán)境小心只看 host 不看 cgroup容器化部署之后最常見的一個(gè)坑是在宿主機(jī)上執(zhí)行free -h發(fā)現(xiàn)內(nèi)存很充足但容器還是 OOM。原因在于容器使用的內(nèi)存上限由 cgroup 控制宿主機(jī)空閑不代表容器還有配額。排查容器內(nèi)存問題需要看容器自身的內(nèi)存統(tǒng)計(jì)# 在容器內(nèi)查看 cgroup 內(nèi)存限制與當(dāng)前用量 cat /sys/fs/cgroup/memory/memory.limit_in_bytes cat /sys/fs/cgroup/memory/memory.usage_in_bytes # 如果 cgroup v2 cat /sys/fs/cgroup/memory.max cat /sys/fs/cgroup/memory.current在 Kubernetes 中如果 Pod 頻繁被殺死kubectl describe pod的事件里會(huì)出現(xiàn)OOMKilled。這種問題先調(diào)整容器內(nèi)存上限再檢查 JVM 是否能感知到容器限制是常見的排查順序。5. 實(shí)戰(zhàn)從零定位一個(gè) JVM 堆內(nèi)存 OOM理論講完我們做一個(gè)能完整跑通的最小實(shí)驗(yàn)。這個(gè)實(shí)驗(yàn)不需要復(fù)雜業(yè)務(wù)只需要一個(gè)會(huì)不停往集合里塞對(duì)象的 Java 類。5.1 模擬程序文件路徑src/main/java/com/example/memory/OomDemo.javapackage com.example.memory; import java.util.ArrayList; import java.util.List; /** * 最小 OOM 復(fù)現(xiàn)程序。 * 每次分配 1MB 數(shù)組并持有引用避免被 GC 回收。 * 請(qǐng)勿在生產(chǎn)環(huán)境直接運(yùn)行。 */ public class OomDemo { public static void main(String[] args) throws Exception { Listbyte[] cache new ArrayList(); int index 0; while (true) { cache.add(new byte[1024 * 1024]); index; if (index % 50 0) { System.out.println(allocated index MB); Thread.sleep(100); } } } }這段代碼的邏輯非常簡單循環(huán)創(chuàng)建 1MB 大小的字節(jié)數(shù)組并添加到Listbyte[]中。只要List不釋放引用數(shù)組就不會(huì)被 GC 回收。5.2 用有限堆啟動(dòng)并自動(dòng)生成 Heap Dump文件路徑run-oom-demo.sh#!/usr/bin/env bash java -Xms256m -Xmx256m \ -XX:HeapDumpOnOutOfMemoryError \ -XX:HeapDumpPath/tmp/oom-demo.hprof \ -cp target/classes \ com.example.memory.OomDemo這里的兩個(gè)參數(shù)很關(guān)鍵HeapDumpOnOutOfMemoryError表示在 OOM 時(shí)自動(dòng)導(dǎo)出堆快照HeapDumpPath指定導(dǎo)出路徑。生產(chǎn)環(huán)境建議一開始就加上否則進(jìn)程重啟后很難找回現(xiàn)場(chǎng)。5.3 預(yù)期運(yùn)行結(jié)果程序運(yùn)行一小會(huì)兒后會(huì)看到類似這樣的輸出allocated 50 MB allocated 100 MB Exception in thread main java.lang.OutOfMemoryError: Java heap space at com.example.memory.OomDemo.main(OomDemo.java:14) java.lang.OutOfMemoryError: Java heap space Dumping heap to /tmp/oom-demo.hprof ... Heap dump file created [26572256 bytes in 0.051 secs]看到Heap dump file created說明堆快照已經(jīng)生成。接下來就可以用 MATEclipse Memory Analyzer或 VisualVM 打開/tmp/oom-demo.hprof按照“Dominator Tree”排序查看哪些對(duì)象占用了最大比例的內(nèi)存。最終看到的通常會(huì)是那個(gè)byte[]數(shù)組以及持有它的ArrayList。這個(gè)實(shí)驗(yàn)的價(jià)值在于幫你建立兩條排錯(cuò)直覺第一-Xmx設(shè)多大不解決“引用不釋放”的問題第二堆轉(zhuǎn)儲(chǔ)文件的導(dǎo)出是 OOM 排查里最值得優(yōu)先確保的一步。真實(shí)業(yè)務(wù)中代碼會(huì)比這段復(fù)雜得多但分析思路完全一致先找到一個(gè)明確的根對(duì)象再看是一張表、一個(gè)緩存還是一個(gè)全局集合在“抱住”大量內(nèi)存不放。6. native 內(nèi)存分配失敗的另類排查JVM 的 OOM 通常能拿到異常堆棧native 分配失敗卻常常只有一段 “There is insufficient memory” 的啟動(dòng)日志或崩潰日志。場(chǎng)景更接近“系統(tǒng)路況已經(jīng)堵死車還沒上高速就熄火了”。6.1 先把范圍縮小到三個(gè)方向遇到Native memory allocation (malloc) failed時(shí)第一件事不是加內(nèi)存而是快速判斷問題屬于哪一類。第一系統(tǒng)或容器真正沒有可分配內(nèi)存了。你會(huì)看到free -h中available極低或者 cgroup 的memory.max已經(jīng)被打滿進(jìn)程的 RSS 已經(jīng)接近限制值。此時(shí)要找的是進(jìn)程里誰占用了越多的 native 內(nèi)存。第二地址空間或內(nèi)核參數(shù)受限。有些系統(tǒng)默認(rèn)vm.max_map_count只有 65530如果進(jìn)程創(chuàng)建了大量線程、共享內(nèi)存或 JIT 代碼段可能導(dǎo)致映射數(shù)量超出限制后續(xù)小塊內(nèi)存分配都會(huì)失敗??梢杂孟旅娴拿畈榭春团R時(shí)調(diào)整# 查看當(dāng)前限制 sysctl vm.max_map_count # 臨時(shí)提高限制生產(chǎn)環(huán)境建議寫入 /etc/sysctl.conf 持久化 sysctl -w vm.max_map_count262144第三JVM 自身某些 region 設(shè)置不合理。比如 Metaspace 無上限但類加載異常、DirectBuffer 被不停申請(qǐng)而沒有釋放、線程數(shù)太多導(dǎo)致線程??臻g暴漲。這些雖然都以 native 內(nèi)存形式存在但根因在運(yùn)行時(shí)配置和代碼。6.2 一個(gè)典型的容器內(nèi)存踩坑場(chǎng)景假設(shè)一個(gè) Java 應(yīng)用啟動(dòng)命令是java -Xmx1024m -jar app.jar容器配置如下resources: requests: memory: 768Mi limits: memory: 768Mi這個(gè)配置繼續(xù)運(yùn)行的結(jié)局大概率是OOMKilled。原因很簡單JVM 以為可以堆外申請(qǐng)超過容器限制的內(nèi)存把-Xmx設(shè)置成 1GB容量上限卻被固定在 768MB。即使堆沒有打滿JIT、Metaspace、線程棧等額外內(nèi)存也可能讓總數(shù)越過 cgroup 限制。更穩(wěn)妥的做法是讓 JVM 感知容器限制并設(shè)置合理的堆外余量。以 JDK 10 以上的版本為例在容器內(nèi)啟用UseContainerSupport默認(rèn)開啟后JVM 會(huì)自動(dòng)讀取 cgroup 限制團(tuán)隊(duì)實(shí)際部署時(shí)仍然要為堆外內(nèi)存預(yù)留約 25% 的余量不要盲目把-Xmx頂?shù)浇咏萜魃舷?。這個(gè)比例并不是固定公式但“堆外一定要留余量”這條原則是確定的。7. “Driving on Memory”的現(xiàn)實(shí)版車載與嵌入式系統(tǒng)中的內(nèi)存挑戰(zhàn)讀完前面的 JVM 與服務(wù)器場(chǎng)景再回到“Driving on Memory”這個(gè)標(biāo)題。車載智能座艙、自動(dòng)駕駛域控制器這類嵌入式系統(tǒng)才是對(duì)內(nèi)存“駕駛”要求最苛刻的地方。這類系統(tǒng)有兩個(gè)突出特點(diǎn)。第一是資源受限內(nèi)存大小是硬件上早就定死的不可能像云端那樣靠“擴(kuò)容”解決第二是運(yùn)行周期極長車輛啟動(dòng)后系統(tǒng)可能連續(xù)運(yùn)行數(shù)天甚至數(shù)月一個(gè)每天泄漏幾 KB 內(nèi)存的模塊經(jīng)過數(shù)月積累也會(huì)拖垮整個(gè)系統(tǒng)。更關(guān)鍵的是嵌入式系統(tǒng)一旦因?yàn)?OOM 重啟影響的可能不只是用戶體驗(yàn)還涉及功能安全。所以在設(shè)計(jì)階段就對(duì)內(nèi)存治理想得非常嚴(yán)格。具體到工程實(shí)踐嵌入式場(chǎng)景里更看重這幾件事靜態(tài)分配優(yōu)先。在系統(tǒng)啟動(dòng)階段就確定主要內(nèi)存池的大小減少運(yùn)行期動(dòng)態(tài)分配避免長期運(yùn)行后產(chǎn)生內(nèi)存碎片。分模塊設(shè)置內(nèi)存預(yù)算。每個(gè)組件能申請(qǐng)多少內(nèi)存一開始就有量化指標(biāo)超預(yù)算報(bào)警而不是等到系統(tǒng)整體 OOM。重視碎片化。動(dòng)態(tài)分配和釋放頻繁后總剩余內(nèi)存可能還有但連續(xù)大塊內(nèi)存不足導(dǎo)致分配失敗。這和服務(wù)器上的 native malloc 失敗現(xiàn)象本質(zhì)一致。日志和狀態(tài)頁要設(shè)計(jì)好。車載設(shè)備無法隨時(shí)讓工程師連接調(diào)試器因此系統(tǒng)需要有內(nèi)存水位監(jiān)控、異??煺沼涗浐桶踩导?jí)機(jī)制。服務(wù)器場(chǎng)景里經(jīng)常被忽視的“長期運(yùn)行風(fēng)險(xiǎn)”在嵌入式場(chǎng)景里被放到了最高優(yōu)先級(jí)。這也是“Driving on Memory”的核心含義內(nèi)存管理不是上線前的臨時(shí)檢查而是貫穿整個(gè)產(chǎn)品生命周期的駕駛能力。你以為自己只是在寫業(yè)務(wù)代碼實(shí)際上你每創(chuàng)建一條線程、一個(gè)緩存、一次 IO 緩沖區(qū)都在影響著系統(tǒng)的內(nèi)存軌跡。8. 內(nèi)存異常信息速查表下面用一張表格匯總前文提到的典型報(bào)錯(cuò)方便你實(shí)際排查時(shí)對(duì)照。異常信息或退出碼直接含義常見根因第一排查方向OutOfMemoryError: Java heap spaceJava 堆無法分配對(duì)象堆過小、集合持有大量對(duì)象導(dǎo)出 Heap Dump查看大對(duì)象持有鏈OutOfMemoryError: Metaspace元數(shù)據(jù)區(qū)耗盡類加載器泄漏、動(dòng)態(tài)生成類過多查看類加載數(shù)與 Metaspace 配置OutOfMemoryError: GC overhead limit exceededGC 頻繁但回收效果差堆基本被占滿先看堆容量和 GC 日志再做 Heap DumpProcess exited with code 3221225477Windows 訪問違例0xC0000005野指針、JNI native 崩潰查找hs_err_pid*.log分析崩潰棧Native memory allocation (malloc) failed to allocate ...JVM 無法向系統(tǒng)申請(qǐng)內(nèi)存系統(tǒng)/容器內(nèi)存不足、映射數(shù)超限檢查整機(jī)與 cgroup 內(nèi)存水位容器被OOMKilled進(jìn)程超過容器內(nèi)存限制堆外內(nèi)存占用超預(yù)算檢查 JVM 容器感知與內(nèi)存 limit 設(shè)置這份表格并不能覆蓋所有內(nèi)存問題但可以作為一條快速分類線。先把錯(cuò)誤歸類再?zèng)Q定要不要看堆、看系統(tǒng)內(nèi)存還是看崩潰日志。很多排查卡殼往往是因?yàn)橐婚_始就進(jìn)錯(cuò)了方向。9. 長期可落地的內(nèi)存治理實(shí)踐與其每次都“救火”不如把內(nèi)存治理變成工程日常。結(jié)合服務(wù)端與嵌入式項(xiàng)目的共性建議從下面幾個(gè)方面建立機(jī)制。第一從源頭控制分配。寫代碼時(shí)要明確大對(duì)象的生命周期哪些是短生命周期的局部對(duì)象哪些是全局緩存哪些是運(yùn)行時(shí)決定的動(dòng)態(tài)集合。對(duì)緩存的引用一定要能清理否則遲早會(huì)變成“隱形的內(nèi)存泄漏”。接口返回大批量數(shù)據(jù)時(shí)優(yōu)先使用流式處理而不是一次性集合全量加載。第二建立內(nèi)存監(jiān)控的可觀測(cè)體系。Java 服務(wù)至少要有堆使用率、GC 次數(shù)與耗時(shí)、Metaspace、線程數(shù)、native 內(nèi)存估算和 RSS 指標(biāo)。接入 Prometheus 后可以給關(guān)鍵指標(biāo)配置告警。更重要的是留存歷史曲線否則內(nèi)存漲了 5% 時(shí)沒有人在意等漲到 90% 才發(fā)現(xiàn)排查難度會(huì)成倍上升。第三堅(jiān)持版本發(fā)布前做壓力測(cè)試。內(nèi)存問題有一個(gè)特點(diǎn)它在低負(fù)載下可能完全隱匿。只有在壓測(cè)中把請(qǐng)求量抬高到線上峰值的數(shù)倍才能暴露那些“請(qǐng)求量增長時(shí)內(nèi)存也線性增長”的代碼路徑。壓測(cè)時(shí)如果發(fā)現(xiàn)內(nèi)存曲線沒有回落不要繼續(xù)加負(fù)載先拉 Heap Dump 找根因。第四設(shè)計(jì)可回滾的配置與容量預(yù)案。無論怎么優(yōu)化線上環(huán)境仍可能出現(xiàn)突發(fā)流量或未知 Bug。發(fā)布前要考慮進(jìn)程內(nèi)存告警后能否快速摘流量、能否擴(kuò)容、能否回滾。提前設(shè)計(jì)好這三級(jí)預(yù)案遠(yuǎn)比崩潰后開會(huì)復(fù)盤更有效。第五新成員培訓(xùn)中加入“內(nèi)存基礎(chǔ)”。團(tuán)隊(duì)合作時(shí)代碼評(píng)審不只看業(yè)務(wù)邏輯還要看內(nèi)存邊界。新人最容易踩的坑是把無限增長的集合當(dāng)緩存、在定時(shí)任務(wù)里創(chuàng)建大對(duì)象卻不釋放、以及完全不理解容器內(nèi)存限制對(duì) JVM 的影響。如果團(tuán)隊(duì)里人人都能識(shí)別出一段代碼“可能產(chǎn)生內(nèi)存問題”很多故障在評(píng)審階段就會(huì)被攔下。10. 寫在最后回到開頭那個(gè)比喻程序跑在內(nèi)存上就像車跑在路上。你不能等爆胎了才去補(bǔ)路而應(yīng)該形成一套持續(xù)的駕駛習(xí)慣——知道儀表盤每個(gè)數(shù)字的含義知道前方什么路況容易失控知道剎車方向和避險(xiǎn)順序。Java 的 OOM、Windows 的0xc0000005、native malloc 失敗、容器 OOMKilled其實(shí)都是同一條路上不同的“事故形態(tài)”。真正能幫到你的不是某一個(gè)-Xmx參數(shù)也不是某一個(gè)分析工具而是你看到報(bào)錯(cuò)之后能夠快速判斷這是堆的問題、GC 的問題、操作系統(tǒng)的問題還是代碼設(shè)計(jì)的問題。判斷對(duì)了排查只是時(shí)間問題判斷錯(cuò)了加多少內(nèi)存都只是把事故推遲到下一次。建議你把文章里的速查表和排查步驟存下來下次再遇到內(nèi)存問題時(shí)先別急著改代碼把現(xiàn)場(chǎng)信息盡可能完整地收集起來GC 日志、堆轉(zhuǎn)儲(chǔ)、系統(tǒng)內(nèi)存快照、崩潰日志、最近發(fā)布記錄。掌握了這套方法論你才算真正在“Memory”這條路上穩(wěn)穩(wěn)開過車。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
天天综合91在线| 自拍鲍鱼一区在线高清观看免费| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 久热精品在线| 国产嫩草精品A88AV| 久久久一区二区三区四曲免费听 | 国产精品视频自拍在线| 日韩射精| 另类欧美综合| 久久蜜桃一区二区| 日本精品九九九| 狠狠久久亚洲欧美专区| 亚洲最新中文字幕免费| 蜜臀无码视频在线观看| 一区二区亚州激情久婷婷欧美| 日本岛国黄色网址| 欧美国产精品| 欧美 精品国产制服第一页| 亚洲操操操无码| 男人的天堂成人的社区| 成人久久无码www| 五月天婷婷成人网| 欧美日韩99| 丰满人妻一区二区三区四区| 三级特黄60分钟播放| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 熟女自慰久久久| 婷婷五月在线视频| 成人一级性爱| 日本日逼高清| 色综合九九| 久久东京伊人一本到鬼色| 91爱| 啊啊啊网站| 性感美女91影视| 东京成人一区| 9超碰免费| 亚洲熟妇图片| 亚洲男人的天堂一区二区| 天天摸夜夜操视频| 日本三级韩三级99久久| 婷婷五月天激情网| 老女人爆菊| 色婷婷在线视频| 99热欧美| 久热69九色熟妇97| 激情文学 国产一二三aV| 女一区二区| 伊人五月天青青草婷婷| 欧美黄页在线| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 色操逼网| 99这里只有精品国产| 日语五十路和六十路亚洲国产精品| 国产精品视屏| 国产无吗在线播放| 久久免费99精品久久久久久| 欧美日韩免费性爱| 中文字幕在线观看视频www| 无码自拍SM| 亚洲成人性爱网站在线播放| 在线观看色视频| 国产麻豆一级精品视频| 91N欧美| 日本三级小说中文字幕| 夜夜嗷嗷一区二区| 亚欧美综合网。| 67194无码不卡| 久久神马影院| 蜜桃精品视频一区二区三区| 91网站18+| 天操天操夜操夜月操月年年操操| 91青青在线| 九t超碰| 激情熟女12P| 国产成人亚洲精品无码古代早漏男| 天美传媒AV在线播放| 欲香欲色| 强奸乱伦麻豆| 久久鲁夜| 国产无码久久高清| 国产欧美美女免费观看视频| 欧美日韩大陆黑人少妇99| 欧美高潮| 久久久麻豆精品| 在线v中文字幕一区二区三区| 欧美中出1| 嗯啊啊啊轻点视频 | 欧美亚洲系列| 韩国一级做a久久久久| 91人妻精华帖| 超碰在线99| 顶级少妇BT天堂| 伊人久日| 人人操人人插人人摸人人干| www.久久| 成人天天看站长推荐| 国产人人干| A 天堂| 粉嫩在线一区二区懂色| 艳尻美人妻| 久操免费观看| 睡产熟女乱伦| 本道在线| 日韩 欧美 另类 人妻| 95精品在线| 亚洲熟女偷拍在线观看| 色五天伊人| 91人妻素女| 精产国品一区二三产品| 91成人18| 亚洲精品99| 老鸭窝在线视频播放| 26uuu久久| 丁香激情网| 怡红院亚洲怡春院av| 性无码专区2020| 亚洲天堂,男人| 亚洲欧美91√| 国产不卡免费在线视频| 蜜臀久久久| 99热日| 8x福利精品第一福利视频导航| 色穴精品| 人人爱人人乐人人操| 97天天爽| 中文字幕丰满人妻日本| 97干日韩| 亚洲国产一级黄色视频| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 亚洲婷婷五月天| 毛片99-全集电影手机免费观看完整-B029AV| 国产精品毛片?v一区二区三区| 俺去久久| aaa亚无码专区| 99精品视频在线观看免费| 九草在线大香蕉| 最新日日夜夜天天干干| 色婷婷婷五月天激情四射| 天天躁日日躁狠狠躁| 日韩中文字幕在线视频观看| 青青青青草av在线观看| 综合婷婷| 色哟哟 日韩精品| 老熟女熟妇| 精品久久无码午夜福利| 亚洲日韩XXX| 人妻日日干| 久久精品91| 手机午夜电影神马久久| 伊蕉97蜜桃97狠狠综合干| 欧美极品性爱天天射| 东京成人一区| 噜噜噜无码AV一级一级久久影院| 成人精品无码| 金典av| 大香蕉黄色一区| 青草精品视频日本久久久久网站在线| 99热这里只有精品地址| 91天天看| 人妻天天爽夜夜爽2| 婷婷丁香久久| yiqicaoav| 亚洲综合113页| 精品无码不卡视频| KK色在线影院| 97超碰亚洲| 国产精品蜜乳AV| 欧美精品一二三| 情色五月天久久久| 色五月亚洲| 日熟女| 嗯,啊。舔我逼| 福利在线观看一区二区| 97精品一区二区视频| 欧美传媒一区| 色综合加勒比四四季| 中文字幕精品一区欧美| 日韩少妇无码| 欧美综合色图网| 欧美大香蕉97| 免费自拍三级综合| 97色欧洲| 中文字幕日韩情色| 综合网亚| 日韩9999| 久久亚洲婷婷| 视频分类 国内精品| 中文字幕精品码亚洲| 九九成人精品| 青青草精玖玖69精品| 最新国产精品久久精品| av天堂天堂av日韩| 日韩精品资源专区二区| 亚洲色图欧美色图另类图片| 欧洲站一级二级三级h| 78久久久| 美女人妻色网站| 在线观看综合精品亚洲| 亚洲无线观看久久| 免费αV在线视频| 日韩精品 欧美激情| 骚逼一区二区| 国产白嫩精品久久| 国产伦精品一区二区三区在线观 | 久草福利在线资源站| 激情黄色片在线观看| 超碰色97| 欧综合网| 94色色电影网| 久 久无码人妻AV| 美熟女逼导航AV操逼| 天天干一区二区| 2010男人的天堂| 99在线精品观看99| 手机午夜电影神马久久| 小说区 图片区色 综合区| 97国产精品久久久久| 97超碰资源网| 超碰97色色| 欧亚不卡| 大香蕉伊人网WWWn0n| 91久久精品国产| 亚洲人成网www| 亚洲五月婷婷| 丁香五月成人| 中文一区二区婷婷视频| 91 亚洲 欧美 日韩 国产 综合| 亚洲阿v天堂无码z2018| 熟女五十路一区二区三| 国产精品一级毛片不卡视| 夜夜欢天天干| 国产精品96| 激情小说图片亚洲首页| 超碰在线欧美性爱激情| 欧美国产精品久久九九| 成人三一级一片aaa| 一区二区视频在线播放| 大香蕉九九| 久久肏大逼| 激情接吻视频久久久久久| 亚洲福利中文字幕在线| 蜜桃久久综合视频| 欧美专区在线| 少妇人妻精品| 久久久久九九九九九| 又黄又硬又粗又长国产视频| 72av视频| 国产网站在线播放| 九九成人视频| 97精品综合久久网| 久久粉色| 成年人黄色小视频网站| 日本色婷婷| 插老姨肥穴| 物业黑人 AV一区| 久久亚码| 91在线视频国产网站| 国产一级137片内射麻豆| 亚洲精品官网在线观看| 亚洲有码 欧美精品| 久久婷婷欧美| 探花精品 一区二区| 无码丰满熟妇一区二区浪潮AV| 久久国产逼| a在线视频免费观看| 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 操逼www.| 97精品一二区| 尤物视频网 刘玥| 性综合网| 亚洲啪啪性视频| 抽查国产福利主播| 欧美最婬乱婬爆婬牲视频| 中文字幕av亚洲精品| 综合久久六月久久婷婷| 亚洲中文字幕妇伦久久| 久区视频| 日本东京热加勒比久久| 看黑丝美女操逼青青网站| 久9爱精品| 强奸乱伦AV网站| 亚洲色诱惑| 欧美亚州色的图| 深夜视频| 色综合色| 久久风骚城市| 小日子操bb在线看| 91碰碰碰| 大香蕉日亚洲日本亚大| 小视频玖玖| 偷拍欧美激情| 精品无码欧美三级| 99性爱| 97人妻人人躁人人玩人人| 国产高清成人免费视频| 中文一区二区婷婷视频| 无码人妻一区二区三区色欲aⅴ| 九九无码视频| 亚洲第一男人天堂| 丁香婷婷九月| 情色大香蕉| 毛片电影一区二区三区| 欧美色91| a一区二区三区乱码在线| 综合另类| 久久久久久久极品香蕉视频| 国产精品视频在线观看| 久久成人国产| 91色黑人少妇| 亚洲av无码成电影在线播放| 色嘟嘟人妻天堂网| 日韩伦理视频| 97视频在线| 99色在线| 国产传媒日韩| 91久精品| 亚洲成成熟女人综合一区二区| 亚洲色图尤物视频| 亚洲第一二区另类图| 性饥渴少妇av无码毛片| 亚州人妻| 久久性爱视频免费看| 日韩中字av一区| WWW.操逼.COM| 91熟女综合| 黄色欧美性爱视频| 一区二区高清视频| 久久久久网站-538在线视频-欧美永久乱码 | 一区二区三区美女超清| 好看的91视频| 日本日逼视频网| 九久久精| 十八禁啪啦拍视频无遮挡| 一区二区三区四区五区高清无码永久视频| 一级乱伦网站| 久久m| 天天天天天天天天天天干美女 | 日日夜夜模| 91热| 在线女人91| 精品久久久久久AV无码| 67194无码不卡| 无码 黑人一区二区三区| 中国的操老妇女| 人人插人人摸人人| 丰满人妻一区二区三区| 亚洲日韩肥臀视频在线观看| 国产一区二区三区视频在线看| 蜜桃狠狠色伊人亚洲综合 | 75大香蕉| 91热爆在线| 搡老女人911熟妇老熟女| 伊人久久久日韩一区| 天天做日日爱夜夜爽| 男人的天堂va| 久久久久国产精品人妻aⅴ天堂| 色色婷| 国产一级内射无挡观看| 骚女天天综合网| 亚州久久9| 91粉嫩萝控精品福利网站_精品影音先锋国 | 69AV女优男人的天堂| 久久久久久精品免费看A级| 丰满人妻一区二区三区在线| 爱媛媛久久国产福利| 大象AV在线| 嗯~啊~快点 死我视频免费看网站| 五月婷婷久久综合| 女优大全 - 91n| 99国内熟女露脸视频| 久久久蜜桃臀无码视频| 国产精品人人爽人人做可爱福利| 狠狠操狠狠燥| 在线黄页看毛片| 另类小色呦| 白丝被操91| 欧美亚洲今日在线| 92大香蕉| 亚洲色婷婷| 性做久久久久久久| 欧美极品美女aaaaaa级黄片| 亚洲图片欧美另类综合免费视频大大香| 青青免费在线视频一区| 人妻一区二区三区视频| 日韩电影在线观看网址| 日日摸日日碰夜夜爽视频| 大香蕉综合| 亚洲精品丝袜-不卡成人免费……| 狠狠色噜噜狠狠狠狠狠色综合久久| 天天干天天操天天操夜夜操天天操 | 99青草| 天堂蜜桃无码视频一区二区| 五月婷婷丁香| 婷婷亚洲中文字幕在线| 精品国产自在在线99| 人人摸人人干人人拍97| 亚洲蜜桃V妇女| 国产精品99久久久www| 久草视频在线视频在线视频在线观看| 韩国一级AAA| 高清无码一区二区三区| 尤物网址| 久久肏大逼| 国产激情av女片自拍| 日本色色色色色视频| 亚洲成?V人片在线观看福利| 欧美性爱伊人| 女优免费一区二区永久| 精品四五区| 91色女| 97日视频| 亚洲 欧美 日本 国内 首页| 一二三卡欧美日韩人妻免费精品| 97久久久久| 啊啊啊爽爽| 中文字幕后石码三区四区| 精品一区二区国产日韩| 日韩成人在线性爱视频| 久久一级无码精品毛片6| 日韩不卡毛片Av免费高清| 国产成人无码久久精品| 亚洲国产精品久久久久久久久久| 免费看污网站| 国产精品乱码久久久久久| 另类老少妇| 校园春色五月天| 国模无码人体一区二区三| 精品69网| 狠狠操夜夜| 九九色综合| 男人天堂站| 久草老司机| 亚洲全色网| 免费无码国产精品v片在线观看| 乱伦3P视频| 日韩亚洲美州欧洲综三区一品在线| 青青草亚洲一区| 欧美激色| 亚洲国产精品成人综合| 996热| 亚洲成人一二三区| v91av| 亚洲一区二区三区中文字幕| 深爱五月婷婷| 超碰视97中文| 国产精品直播在线观看直播| 日亚韩精品视频二区三| 好看的91视频| 蜜桃久久一区二区| 岛国在线国产| 人妻丝袜无 码视频专区| 亚洲青青青视频在线| 97精品视频在线播放| 立川理惠被中出无码| 国产超碰| 久久99深爱久久99精品| 国产精品一区二区久久精品| 亚洲男人天堂Av| 夜夜免费视频| 黄片视频,下载| 一区二区三区四区色图| 青青草AV色| 小日子操bb在线看| 国产精品制服丝袜中文字幕日韩一区二区三区 | 九九热视频在线观看| 国精综合一二三区影视| 少妇厨房愉情理伦片bd在线观看| 大屁股熟女一区二区三区| 另类天堂| 久久9 9 9精品| 欧美另类丝袜熟女| 丁香五月色| 9久9久| 黄片色区软件| 国产十八禁视频| 乱操乱伦AV| 亚洲aw毛茸茸在线| 婷婷久久五月综合激情| 色哟哟国产精品免费网址| 人妻熟女一区二区在线视频| 亚洲AV永久无码一区仙野| 中文字幕文字幕无码一区二区三区电影99| 亚洲不卡三级手机播放| 好淫网一二三视区| 亚洲婷婷丁香在线| 97香蕉人人乳| 亚洲日韩视频二区| 性交一区二区在线播放| 欧美日韩精品一区二区三区高清| 啊啊啊啊啊啊啊啊要喷了| 天天艹天天日| 欧美激情精品久久久| 人人干人人操人人..com| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 91天天综合网,天天综合网| 草草电影院| 国产丰满熟夫69mpp| 国产精品国产自产高清AV| 成年男人的天堂| 9丨亚洲一区二区在线| 牛牛久久国产精品视频一二三| 一区二区三区黄色片a| 久久伦理视频久久大香蕉视频| 91高清无码下载| 亚洲中文字幕日产无码久久| 国产精品无码av| 天天做天天爱天天爽AV| 亚洲国产奇米影视久久| 97久久久久久久久久| 婷婷色色网| 97综合在线| 天天舔天天日天天射| 黄色一级视| 亚洲欧美日韩不卡人妻| 亚洲五区熟女| 天天草天天干天天日| 欧美少妇色图| 夜夜高潮夜夜爽高清视频一| 日韩人妻 中文字幕| 亚洲 日本 不卡| 99热精品青草在线 | 丰满人妻一区二区三区四| CCYY草草影院地址入口| 天天综合站| 翘臀vidoes| 久久91视频| 天天噜| 97在线观视频免费观看| 另类图片五月| 99久久精品国产高潮| 操逼操2| 热热色AV| 男女激情中文字幕| 九九Av| 人人看人人摸人人色| 中文久久久| 天天综合网~91综合网| 精品v1区| 啊啊啊好爽快点啊啊啊嗯嗯| 国产熟女免费观看久久| 日本孕妇一区二区视频操逼免费看 | www.欧精品| 第一高清av中文字幕| 操B视频日韩无码| 午夜九九九九九九| 成人久久精品| 天天综合日韩网| 18禁超污无遮挡无码免费网| 免费一级性爱久久| 超碰日韩人妻| 欧美春色| 久色99999| 丝袜喷水在线| 宅男91视频在线播放| 大香蕉黄色一区| 久久久久幕乱码| 中文字幕十五区| julia在线观看久久| 99re视频在线观看这里只有精品| 精品v日韩欧美国产| 日本高清视频xxxx| 欧美一级黄色免费专区| 亚洲学生妹高清av| 性色aV一区二区三区噜噜| 欧美日韩97在线| 亚洲文学偷乱拍啪啪啪啪 | 久久二| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 九久久九九久视频| 日本道日本道中文字幕日本道最新日本道在线观看 | 97免费视频在线| 99精品九九九九九九| 久艹视频在线| 另类图片五月天| 2017天天操天天日| 超碰色大香蕉| 欧美成人精品欧美一级乱黄一区二…| 97久久久久| 精品久9| 91肉丝| 亚洲一区日韩精品中文字幕 | 欧美探花网| 国产精品福利视频播放| 超碰国产精品久| 深夜国产一区二区三区在线看| 操迟操逼在巾线Fre看| 91人妻素女| 偷拍亚洲熟女视频播放| 超碰成人最新最好看| 九九热久久99精品re| 污污汅18禁网站在线永久免费观看| 黄骗免费| 福利色色| 色色热| 99热色这里只有精品| 秋霞男人网| 91/欧美| 欧美视频一区二区三区| 91黑人狂躁丰满熟妇| 色综合V| 黑人白女精品一区| 亚洲熟女中文字幕在线| 天天综合91在线| 色综合潮| 国产v片在线免费观看| 五十路六十路素人熟女| 91香蕉视频在线观看免费| 全免费a敌肛交毛片免费| 91校园春色长篇| 美女91在线观看| 久久成人东京热人妻| 99中文字幕| 丝袜视频网国产90| 爱爱动态120秒| 91处女视频在线观看| 国产精品禁久久久精品| 国产1024在线播放| 久草免费在线一区二区| 伊人大香蕉在线| 精品9999| 色视频蜜乳| 亚洲一区日韩| 97九色人妻| 91碰碰| 超碰在线人妻中文字幕| 亚洲五月婷婷| 超碰午夜| 强奸乱伦AV一天堂网| 91精品黄在线观看| 99蜜桃臀久久久欧美精品网站| 撸无码不卡免费视频| 亚洲日韩视频二区| 91 刺激在线| 高清不卡国产| 日本最新1区2区3区| 9色国产精品一区粉嫩| 国产吞精a级片激情电影| 91N五十路| 日日摸日日碰夜夜爽视频| 久久无码成人| 国产农村妇女精品一| 欧美96精品在线| 九九亚洲视频| 天堂精品| 看日韩操逼| 大香蕉琪琪日本女优不卡| 伊人天天久久动态图| 人妻一区视频| 99 国产丝袜在线| 亚州欧美色图| 密桃99999| 韩国三级色呦呦| 大香蕉AV丝袜| 韩日色费| www. 男人天堂成人在线| 又大又长又粗又爽又黄| 在线97在线| 久久透逼视频| 色香色香欲天天天影视综合网| 啊啊啊 在线| 色爱三区| 97日韩欧美亚洲| 人人干人人操人人..com| 97视频在线视频| 中日韩熟女| 91无摭挡| 337p大胆噜噜噜噜噜91Av| 欧洲色综合| 亚洲经典啪啪| 少妇激情一区二区三区视频| 性爱1区| 无码二级三级| 99免费在线视频| 国产久久久| 91色综合激情| av亚欧| 91处女视频在线观看| 人妻少妇被猛烈进入中| 加勒比色综合| 亚洲成人综合在线| 大香蕉综合网| 色婷婷蜜臀av| 93人人操人人| se..亚洲欧美| 97爱碰| 亚洲精品视频二区| 中文字幕一区二区三区高清| 国语精品av| 2019天天操天天爽天天拍| 中国探花熟女| 香蕉欧美| 青青草原香蕉日本Ap| 九九九综合精品| 秋霞蝌科网日本一区| 亚洲成人贴图| 欧美,亚洲,日韩,v,天堂,手机在线观看| 五月丁香啪| 天堂俺去俺来也www久久婷婷| 亚欧美综合网| 中国黄色特级精品一区二区三区片| 成人欧美一区二区三区黑人一| 国产最火爆久久国产网站网站| 東南亚性呦成人伦理资源在线视频| 9热9热综合网| 视频二区美腿丝袜制服人妻欧美| 无码人妻丰满热妇又大又粗| 青娱乐淫乱1314| 亚洲无码一区成人免费午夜| 97超碰久| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 日日噜噜夜夜久久亚洲一区二区| 99色色| 国产精品久久久三级无码| A片A5445444| 欧美色图电影| 色网亚洲人| 在线中文AV| 天天干天天中出av| 丰满少妇一区二区三区四区观看| 清柠毛片| 大香蕉伊人久久| 天天操天天舔| 91社区拍啪人妻| 高潮毛片无遮挡高清免费| 午夜性刺激视频免费观看| 91n处女在线观看| 九久久精品| 日产123区精品免费观看| 91亚洲欧美色图| 国产四虎在线| 啊好大好舒服| 欧美日韩m| 色穴精品| 天天摸夜夜摸| 超碰爽人妻熟女Av| 色哟哟国产精品免费网址| 国产欧美日韩女同性恋ww喷水精品| 一区二区三区四区五区高清无码永久视频 | 九九英色视频| AV污污污污| 日韩av不卡在线看| 免费观看性欧美一级| 午夜性刺激视频免费观看| 日韩欧美女求操每天更新| 亚欧洲日韩国产精品| 中韩中文字幕在线观看| 9精品久久久久| 人妻久久| 乱欲视频| 国模私拍一区二区三区神乳| 国产乱伦亚洲| 色嗨嗨在线| 超碰成人国产| 狠狠干狠狠干| 欧美熟爽综合| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 91久久18禁| 天天澡天天爽日日av| 色爽——AV| 91N综合网| 久久精品一区二区| 日韩偷拍一区二区三区| 精品高清一区二区三区三州| 亚洲黄色网址视频| 狠狠综合网| 中文字幕一区 二 区 三 四 五 区日 日 骚| 久久久久久久九九九九九九| 97视频620| 美女上床网站| 日本成a人v网站在线观看| 一级做a爰片久久毛片图片| 人人插人人摸人人| 天天干天天拍| 欧美老妇女内射网址| 欧美91色| 亚洲九九九| 免费在线黄片视频| 精品一区二区三区蜜桃臀赵总 | 一级免费啪啪片| 亚码激情| 男人的天堂无码| 99999精品| 日本熟女中文字幕一区| 婷婷爱五月| 日本淫穴在线| 日本加勒比无码专区| 成人无码在线超碰网| 久久精品99| 91草草草| 91东北熟女| 乱伦系列一区二区| 中文97国产| 人妻第一页| 人人人人插| 98色网| 国产视频小说| 97久久超碰| 欧美一级色| 好爽免费视频,| 国产在线观看一区二区三区| 五月丁香激情综合| 美女干逼2| 国产无码久久高清| 日本99热| 久久中文字幕人妻熟av女蜜柚| 亚洲国产精品V?在线播放| 色五月首页| 香蕉免费一区二区三区不读| 少妇一级无码精品| 五月婷在线| 婷婷探花久久精品一区| 97色干| 丝袜天堂| 亚洲成a人v欧美综合天堂下载 | 欧美色图欧美| 精品中文字幕一区二区l - 百度| 青娱乐蜜桃臀AV色婷| 亚洲黑人在线| 一二三区在线| 久久超碰日韩精品| 超碰97人人cao| 色色五月天婷婷| 久久偷偷色综合蜜桃| 亚洲欧洲自拍图片专区满春格| 丁香激情五月| 午夜经典| a在线观看| 午夜精品久久久久久久| 欧美十八禁导航成人| 久久天天躁日日躁狠狠躁 | 中文字幕欧美丝袜07资源| 色色五月天激情| 欧美黑人日韩少妇色情| 人摸人人操人| 日本性一区| 一级特级aaaa毛片免费观看 | 伊人黄色视频免费观看| 中国的操老妇女| 91成人久久| 亚洲综合伊人| 偷看洗澡一二三区美女| 福利五区| 亚洲中文字幕精品久久久久久直播| 天天热精品| 色综合网1| 久久九九精品一区二区| 成人黑料社久久| 亚洲欧美综合图片| A V少妇特黄三级| 9118禁| 人妻一区二区三区| 操逼视频国产无套| 久久久久9999精品九九九| 秋霞无码av鲁丝片一区| 少妇久久久免费| 97人人操人人干| 亚洲牲交| 欧美国产有色电影| 乱伦3P视频| 欧美亚洲首页| 欧美久久婷| 韩国一级婬片A片无码天美| 九一国产精品| 色丁香五月婷婷| 国产午夜精品理论片a大结局| 欧美 传媒 麻豆 日韩 偷拍| 欧美日韩操逼动图| 精品久9| 欧美一区二区三区大综合| 激情网色| 丰满人妻-区二区三区免费看| 成人无码专区精品视频| 懂色av色欲av蜜臀av| 国产国产亚洲一二三久久| 国产乱婷婷精品二区三区| 国产日韩区| 欧美亚州综合网图片| 厕所偷拍在线| 欧美视频边做饭边橾| 婷婷爽人人婷婷爽视频| 亚洲美女色图| 色婷婷狠狠| 北约熟女超碰| 天天噜| 白丝在线一区| 伊人97色天使| 人人操人人大香蕉| 思思热在线视频在线| 少妇人妻在线| 91在线丝袜视频| 伊人久久婷婷| 午夜福利在线合集| 欧美综合自拍| 欧美,日韩,中文,另类| 啊啊啊在线观看免费视频| 久久久中文| 亚欧无码在线| 国产无码久久高清| 精品夜夜澡人妻无码AV| 国产精品久久久久久久久久久久久久久久 | 日本人妻伦在线中文字幕| 91大香蕉伊人| 欧色性第一页| 青青草视频久久久久| 色婷婷亚洲婷婷| 中文字幕成人理论在线| 亚洲一区操| 99re这里只有精品9| 爱丝福利| 蜜臀一二三| 闷骚老熟女15P| 久久黄黄| 丁香九月婷婷| 亚洲精品无码少妇久久| 少妇3P性爱自拍| 国产日韩欧美三级片| 亚洲无码太久| 亚洲春色一区二区三区| 9久精品| 四虎AV在线播放| 爱丝福利| 91熟女视频网| 欧美一品道| 青青草玖玖爱| 蜜桃一区二区三区| 成人十八禁日韩欧美一二三| 天天干天天日天天射黄色大片| 国内91熟女人妻丝袜天天精品视频在线 | 久久熟女人| 欧美1727免费观看视频| 性爱综合网| 亚洲色五月| 啪啪综合网| 一区二区三区机械有限公司| www…国产操逼| 亚洲操人| 99精品无码| 日本熟妇一区二区三区| 久久久无码国精品无码三区三区| 婷婷爱五月| 欧美天天拍| 欧美嫩性色| 一区二区久久天天干狠狠| 91视频观看网站| 少妇同性| 狠狠2050在线观看| 久久九九精品一区二区 | 成人AV在线电影| 狠狠狠狠狠| 青青11操操操操操操操操| 2001天天操| 你草精品在线视频| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 综合色色网| 日日干日日| 高清不卡视频| 九九九精品一区二区无码| 麻豆a'v电影| 中文字幕在线免费观看 | 久九色| 中国AV美女| 中国国国产一级特黄毛片| 曰韩av中文字幕专区| 午夜精品久久久久久久男人的天堂| 亚洲 欧美 中文 日韩超碰| 亚洲另类色图片| 国产精品国产| 欧美天天搞| 午夜一级免费毛片| 国产日韩欧美三级片| 日韩伦理视频| 少妇内射视频| 白丝av| 国产白嫩漂亮KTV在线| 99热最新网址| 久久曰曰| 亚91网| 日韩黄色片子| 九月丁香| 操b网站亚洲无码| 蜜桃天美传媒AV一区二区三区| 免费精品无码一级毛片牛牛影视| 四虎影视永久在线免费| 日韩人妻资源在线看| 性交一区二区在线播放| 欧美亚洲今日在线| 可以在线观看的黄色网址| 五月丁香综合| 欧美综合 站| 久久区| 五月天黄色激情视频| 在线女人91| 激情内射| 操逼大黄片| 91蜜臀在线久久久久| 黄久在线| 欧美日韩大黄片| 亚洲中文字幕噜噜噜久久久| 大屁股熟女一区二区三区| 91操操操操| 99在线精品观看99| 在线情色电影 91大| 美女裸体无遮挡永久免费观看网站| 被体育老师抱着c到高潮| 欧美熟妇操操视频| 欧美亚洲小说| 丁香五月婷婷啪啪| 亚洲熟女偷拍在线观看| 99e久久国产精品| 玖玖97综合| 激情欧美97| 你懂得91| 精品国产乱码久久久久久日本公司| 狠狠久久手机视频精品| 少妇二级| 欧美97免费| 亚洲天堂 视频你懂的| 日本顶级天天操狠狠操夜夜操中文字幕| 国内偷拍精品一区二区| 香蕉在线一区二区三区| 四虎影视欧美| 成人午夜视频免费播放| 俺也射| 国产浮力影院第1页| 性性欧美| 国产成人午夜视频网址| 五月天色电影| 无码高清操逼网址| 英伦大奶子熟妇吊带| 2024黄色视频| 久久线上视频免费看| 亚洲精品人妻在线| 亚州久久9| 国产黄片精品在线| 日韩欧美丝袜诱惑| 国产对白刺激视频| 99re69| 久操网无码在线| 国产白丝在线| 国产欧美岛国精品一区| 国产精品久久久久久久免牛肉蒲团| 人妻81p| 夜夜夜夜爽| 熟女突然公开看18禁影片| 精品熟妇视频一区二区| 婷婷久草| 久久这里只| 99热99re超碰精品| 青青青国产手线观看视频2| 婷婷激情一区二区三区俺也去| 一区二区免费电影久久| 超碰中文字幕人妻草一区| 国产91啪| 拍拍拍拍大尺度黄色三级片拍拍拍拍拍照| 欧美v亚洲v日韩v最新在线二区| 亚洲另类色综合网站| 亚洲激情久久| 女欧美一区二三区| 国产熟女二区| 亚洲综合九九| 老女人综合网| 色香在线| 中文字幕一区日韩精| 国产乱子伦久久精品综合一区二区三| 欧美色偷拍| 国产自产一区视频在线| 欧美自拍网| 亚洲最大黄网| 99久久久er直播网址| 无码二级三级| 亚洲官网在线| 久久亚洲精品成人av| 91丨人妻丨国产丨丝袜| 欧美久久婷婷| 99久久99九九99九九九| 91丝袜在线观看| 久久久成人精品| 玖玖97综合 | AV色图| 9久综合网| 中国少妇XXXX做受| 日日97| 少妇三P| 五月天色色色| 乱伦一区二区三区‘| 久久大香蕉97| 欧美在线l亚洲| 久久精品小视频| 性爱视频无打码在线观看| 欧美 亚洲 在线| 日韩精品人妻中文字有码在线| 资源在线观一 二| 园内精品自拍视频在线播放| 激情小说亚洲色图| 色偷偷综合91久久噜噜| 91九色丨国产丨爆乳| 探花激情视频| 国产Av超碰| 97干在线| 美女t无毒不卡不卡| 夜夜狠狠躁日日躁色视频| 口爆综合网| 青娱乐久久艹| 另类TS人妖一区二区三区| 久久婷婷成人综合色怡春院| 精人妻无码一区二区三区伊人直播| 日本精品人妻少妇一区二区| 国产无套粉嫩白浆在| 无套内射人妻在线播放| 男人天堂黄片| 亚洲一区日韩精品中文字幕 | 97人妻色| 青草av在线| 26uuu国产成人综合| 老司机深夜18禁污污网站| 久久青青草在线视频| 欧美啪啪天堂| 成人一级二级| 啊啊啊啊啊啊啊网址在线观看| 久久偷拍人| 色一射色一射| 国内91熟女人妻丝袜天天精品视频在线| 久久鲁干| JIZZJIZZ国产精品喷水| 国产精品一区午夜福利| 国产精品露脸在线观看| 国产白嫩漂亮KTV在线| 人人澡人人澡人人| 色偷综合| 日韩9999| 国产二区三区粉嫩在线| 久草婷婷| 69视频福利导航| 磁力99AV| 操B久久| 香港日本韩国人妇99www.wccm20| 日韩成人午夜精品久久高潮| 中文字幕视频在线观看一区二区| 超碰日本97美女人妻人人玩人人爱 | 婷婷香网站| 青青草在线视频欧美| 台湾大香蕉99热| 欧美国产视频| 亚洲涩涩| 中文一区二区| 中文字幕精品专区搜索结果91| 日韩中文9| 国产精品夜夜夜| 欧美三级偷拍| 超碰色97| 人妻久久一区二区三区 | 女一区二区| 1区2区3区中文字幕日韩| 欧亚久久偷拍视频| 神马久久69| 91综合天天看| 后入国产| 欧亚无码视频| 国产中文精品一区二区在线观看|