日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見(jiàn)路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座。現(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
上特色A在线| 黄色交缠性感爆操91国产精品免费一区二区三区| 69综合网| 日韩九区| 国产av美女被艹的乱叫| 成年人网站在线免费观看| 女上位精品在线| 91操人| 亚洲日韩久久精品一区| 久久久久久综合久久伊人蜜月| 美女刺激久久国产欧美| 国产三级在线现体验区| 丝袜AV一区二区三区| 成人五月香网在线| 人妻黑丝袜电影| 日韩激情视频| 日本欧美中文字幕| 超碰色美女| A 在线网址| 69久久| 日本人体九九九九九九| 99啪| 日韩性爱高清免费视频| 搡老女人老熟女91| 国产一区二区在线播放| 青娱乐91| 97超碰欧美精品| 吉川爱美亚洲二区在线| 亚洲欧美日韩有码| 国产一区麻豆免费观看| 麻豆天美电影一区二区| av日韩在线观看电影| 91精品无码久久久久久久| 后入合集| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 久久9精品| 欧洲乱码视频| 狠狠干狠狠色| 啊…啊…操我用力操我 | 色一射色一射| 久久欧美1卡2卡3| 三级三级三级日本99| 超碰在线人人射| 中国熟女网站| 丝袜视频一区二区在线播放国产中文| 夜夜高潮夜夜爽高清视频一 | 国产美女高潮视频| 97欧美日韩精品| 日韩 女同 综合| 久久婷婷欧美| 国产熟码AV| 天美麻豆黄色录像| 欧美另类天堂| 熟女熟妇一区二区三四区| www久久精品| 亚洲色欲一区二区三区| 亚洲在高跟鞋自慰久久在色线| 日本污ww视频网站| 亚洲天堂 视频你懂的| 亚洲最大的综合性av| 久久男人精品| 欧美一级特黄淫片在线观看| 美国日韩黄色片| 婷婷五月天色色| 天天爽夜夜操| 骚乳在线| 国产欧美日产一区二区三区 - 国产欧美日 | 丰满的三级少妇欧美久久久| 婷婷伊人网| 色婷视频| 久久超碰98| 国产人人干| 另类老少妇| 九九九九九精品| 中英熟女操女| 人人看人人摸人人色| 日本精品成人无码| 国产自产91区13区| 国产精品久久久久久久久久二区三区| 97美日韩视频| 岛国色情视频在线观看| 第45页一区二区| 亚洲综合射| 欧美情色亚洲| 亚洲天堂7777| 久久AV无码1区2区3区| 日韩精品大香蕉伊人在线| 床戏久久久av一区二区麻豆| 91久久九九精品国产综合| 欧美性爱第一区| 综合五月婷婷亚洲一区| 操穴国产| 天天干人人乐| 国内毛片国产欧美拍| 丁香五月综合| 久久女人视频| 激情在线青青操| 91久久青青草原精品| 九色在线熟女国产黑人| 人妻少妇久久中文| av天堂手机版追回| 96精品一区| 97精品一区二区视频| 中文字幕日本久久| 中文字幕第23区| 人人操人人93| 亚洲日本韩国在线| 亚洲青青草| 强奸乱伦AV一天堂网| 日韩人妻操B| 这里只有精品97| 国产精品自在自拍视频| 97国产精选| 日本高清有码网址视频| 91亚洲网站| av片在线观看免费播放| 欧美亚洲天天| 免費人妻夜夜爽天天爽爽一区| 日本不卡一二区| 五月婷在线| yazhououmeizongya| 国产AV激情无码久久无码| 日日夜夜噜| 成人AV超碰免费在线| 久久亚洲人妻| 欧美一级久久久久久久大片动画| 欧美色交| 韩日精品四区| 以及麻豆国产入口在线观看免费| 一区 欧美 日韩 麻豆| 日本免费一级AAA大片器| 男人的天堂.com| 欧美精品二区视频在线| 台湾佬中文娱乐网久久久久久久久久com | 欧美论理片| 国产强奸91| 99www.bibizy香蕉资源国产一区二区三区高清 | 97免费在线观看| 久久久草成人网站久久久草成人久久久草久久久 | 欧美激情 日韩精品| 亚洲AV秘无码一区..| 97久久超碰国产网站| 飘花国产午夜精品不卡| 亚州黄站| 亚洲情色五月天 | 麻豆区久久久久亚| 91日日| 日本东京热加勒比久久| 日比av无码| www.狠狠干.coom | 91蜜桃婷婷狠狠久久综合9色| 亚州欧美在线| 色色综合97| 日本韩欧美在线播放a| 婷婷爽人人婷婷爽视频| 亚洲少妇在线影音| 噜噜噜狠狠色综合| 国内毛片欧美香蕉精品| 99热这里只有精品1| 天天看片天天爽| 美女尤物人人操| 欧美草草高清日韩视频| 日日橹狠狠爱欧美超碰| 日日干日日| 日韩av不卡在线看| 91精品导航| 日韩精品熟妇| 99综合网| 亚洲免费看片| 国产精品无码av嫩草| 欧亚三区动漫| 无码人妻精品一区二区三区九九 | 67194无码不卡| 91高清无码下载| 屁股久久久久久| 啊啊啊好疼| 97超碰jingpin| 精品一二三区久久AAA片| 成人无码在线超碰网| 色婷婷日韩精品一区二区三区 | 中文字幕在线免费观看2| 热热色青青草| 亚洲AV不卡在线观看尤物| 九九热精品| 一摸二插三插| 亚洲的天堂网| 爱干爱射网啊啊啊| 99www.bibizy香蕉资源国产一区二区三区高清 | 中国韩国明星一极片一区乱码毛片人妻熟女一区二区三区 | 一区二区日韩欧美久久| www色色色com| 再深点灬舒服灬太大了添视频| 一本色道人妻久久| 欧洲站一级二级三级h| 亚洲熟妇乱女区二区三区| 丁香五月婷婷色| 91色噜噜狠狠| 日本天天人人狠狠在线日美女 | 欧洲精品欧洲精品| 青青伊人加勒比海| 精品人妻一区春色| 欧美精品偷拍| www.AV有限公司一区| 美女黄页| 日产中文字幕2020| 99色日| 69人妻精品丰满熟女区| 国产无遮挡| 欧美黑人性猛交91| 美女尤物福利视频| 美女人妻色网站| 综合色图区| 东京热激情视频一二三区| av九九| 久久丁香五月天| 亚洲AV无码成人精品久久| 波多野结衣先锋影音| 国产传媒操逼视频| 婷婷91| 一级黄色影片| 天色综合网| 丁香婷婷激情五月天无毒不卡 | 囯产精品久久久久久久久久梁医生| 欧美色性情| 91美女视频| 99亚洲精品| 美國A片| 日韩不卡毛片Av免费高清| 秋霞免费AV| 日本国产高清色www视频在线| 玖玖爱免费观看视频| 国产精品午夜高潮呻吟久久av| 丝袜美腿制服人妻二区中文字幕| 日韩免费性爱视频在线观看| 精品一区二区三区最新| 天天影视射综合网| 久射吧| 亚洲激情视频| 青青免费在线视频一区| 国产高清成人传媒影视| 大香网伊人久久综合网eew| 日韩图区| 这里只有精品97| 亚洲中字幕日本一区二区三区| 久久日韩精品一区二区| 国产成人在线观看综合| 亚洲欧美国产中文字幕| 久久老熟女| 香港澳门日本三级网站| 久草视频分类在线| 97 九色| 久久久久久人| 亚洲 小说 欧美 激情 另类| 国产在线视视频有精品| 干b在线性社区| 加勒比综合a∨| 97资源站日韩| 人人爱人人操人人性| 超碰久久性爱| 色播综合| 超碰综合色| 少妇熟女视频一区二区三区| 国产福利视频精品视频| 五月天婷婷综合| 欧美婷婷久久| 日韩少妇无码| 亚洲图片 91| 男人把坤坤插入女人的下体| 亚州综合网| 伊人五月天激情| 午夜精品99久久久久传媒| 日本精品九九九| 我要去看2个日本美女.com曹逼 | 日韩无码人妻| 欧美少妇第一页| 欧洲乱码一区二区| chaopen97久久| 97亚洲综合| 自拍大香蕉乱插| 久久综合日韩亚洲欧美| 久久岛国| 99久久婷婷国产综合精品草原| 久久久18禁| 九九九九热| 凹凸视频特色日本特黄| 内射卯月麻衣| 青椒国产97在线熟女| 久久人妻四季| 国产精品一区二区a| 色播五月婷婷| 天天综合91入口| 91高清无码下载| 欧美亚州综合图片| 少妇啪啪自拍| 天天操人人操骚逼网站| 国产AV毛片| 人妻超碰青青草98| 综合欧美日韩在线观看| 粉嫩久久久久| 强奸乱伦中文字幕AV| 性生活无遮挡纯毛片在线看| 插穴性爱视频在线观看| 免看60秒涩涩视频| 韩日精品四区| 日韩电影在线观看网址| 激情终合网| 人人人摸人人| 欧美大片一区二区三区| 无码 有码 国产18p| 色天欧美| 日韩性爱网址| 久久久精品网站| 搡老女人老妇女老妇老熟女怎么读| 又大又大又大又粗爽高潮观看| 男人的天堂2018东京热啪啪啪| 欧洲精品一级二级精品综合视频综合| 日韩一级二级| 天天干天天燥| 午夜精品久久久99热蜜桃的功能特点| 亚洲天堂 视频你懂的| 成人无码欧美一级A片狼牙直播| 在线 制服丝袜中出 人妻| 天天噜| 久久9亚洲| 91精品综合久久久久久五月丁香| 天啪| 91国产美女丝袜足交精品视频| 日本Xx性爱| 日韩无码服务区| 蜜桃久久综合视频| 97人人操人人摸人人爱| 国产成人在线观看网址| 久草综合视频| 婷婷亚洲综合| www..com操老师| 成人情色综合网| 看黑人AV不卡| 囯产乱伦一区二区三女 | 国产精品视频内谢女人| 97免费视频网| 色墦五月丁香| 美国一区二区免费视频| 秋霞怕怕片| 97网址97| 9热9热综合网| 六月色婷婷| 999精品国产高清一区二区| 色九九九九九九| 日韩AV中文字幕电影| 日本熟妇人妻中出视频| 亚洲欧美日韩免费观看| 嗯嗯啊啊啊好爽| 一级黄碟在线看| 大香樵伊人网| 国产一级作爱毛片| 人妻无一区二区三区| 四虎免费在线播放| 青青草成人视频在线观看二区 | 五月天加勒比啪| 看日韩美女二区三区免费操逼视频| 26uuu国产亚洲综合| 欧美se综合| 动漫av中文| 99re这里只有精品3| 国产精品一区二区黄片| 伊人久久综合精品欧美| 人人弄人人摸| 亚洲国产一级黄色视频| 亚洲欧美伦综合| 欧美偷偷网| 91新在线欧美| 亚洲色图加勒比| 成人情色一区二区| 色婷婷丁香五月| 国产情侣自拍在线播放| 精品超碰国产| 多乙久久久久久| 日本一区视频在线观看| 久久久久久久免费A片国产成a人亚洲精∨品无码 | 成人免费不卡在线视频| 琪琪精品免费一区二区三区| 国产在线激情视频| 色视频蜜乳| 亚洲麻豆av一区二区| 日本精品一区二区中文字幕| 欧美色性爱| 免费亚洲黄色视频在线观看| 欧美综合娱乐久久| 激情网色| 欧美自拍偷拍免费观看| 综合免费无码中文| 嫩草影院性色| 国产精品青草综合久久| 亚洲综合五月天| 91超级碰碰| 人人色97| 午夜精品久久久99| 麻豆国产成人精品| 五月天AV资源| 久久超碰网| 欧差乱伦二三| 日韩一区二区高清在线观看的| 亚欧成人综合影院| 91在线精品| 伊人久久婷婷| 99999精品视频| 欧洲亚洲人妻无码中字久久三区四区| 伊人久久大香线综合无码| AV天堂男人的天堂| 熟妇一区,二区,三区。| 久久久久99999| 97天堂| 亚洲日韩在线a不卡99精品 | 亚州色站 日韩电影| 乱理日韩中文| 天天综合网~91入口| 女人天堂网| 亚洲人妻精品一区二区| 久久久精品电影| 在线精品福利免费播放| 中亚精品极乱| 九九热精彩视频| 成年在线视频日本亚洲在线视频区精品江靖宇公司 | 91视频伊人| 日韩欧美中文日韩欧美色| 一级黄色影片| 人妻内射一区二区在线视频| 91白嫩| 精品国产Av无码久久久亚洲| 激情九月婷婷| 亚州色图欧美| 色吧91| 人妻乱仑一区二区三区| 综合激情97 | 伊人久久大香线综合无码| 91久久精品美女高潮喷水| 日本色日夜干| 欧美麻豆成人同性GⅤ在线| 少妇一线天久久久久久| 九9精品| 亚洲伊人成综合成人网| 91在线无码精品秘 软件| 亚洲另类久操网| 美女上床网站| 污污汅18禁网站在线永久免费观看| 国产成人网址| 色五月激情AV在线| 99亚亚热| 久草成人影片| 黄片aaaaa一区| 色九月综合| 一区二区三区四区理论片| 中文字幕交换人妻| 亚洲老司机123专区| 激情五月天中文字幕色| 午夜精品久久久久久久男人的天堂 | 神马九九| 人人爱操| 精品无码一区二区三区| 国产网红精品| 欧美视频第二页| 啊啊啊啊啊啊在线观看| 日韩成人精品中文字幕| 97伊人超碰| 在线可观看的黄色网址| 国产精品久久久久久久久久久久久久久久| 另类图片欧美激情综合| 久久伊人在线五区| 午夜小电影在线插入淫高潮| 69超碰综合| 欧美激情在线观看视频| 五月婷在线| 欧美 色 亚洲| 欧美综合站| 少妇高潮九九九九| 欧美综合自拍成人自拍第二十页| 色噜噜狠狠色综无码久久合欧美| 亚洲天堂区| 亚洲色图图片| 最新亚洲风情电影| 色色网91| 天天综合网合集91| av婷婷色婷婷色六月| 一二视频神马久久传媒| 久久精品性| sewuyueav| 大香蕉碰碰| 日韩视频中文字幕| 国产大片精久久久久久| 日韩操p| 97丝袜亚洲在线播放| 亚洲无吗在线视频| 亚洲区 欧美区| 婷婷成人久久久精品| 亚洲一区二区三区春色| 九九亚洲精品| 欧美婷婷五月天| 国产剧情在线| 97精品第3页| 8050午夜少妇无码| 91人妻在线视频| 超碰97资源中文字幕| 大香蕉www.超碰| 中文字幕精品三级久久久| www.夜夜操| 亚洲本色精品一区二区久久| 青青草中日韩在线| 久久欧美按摩999| 日韩欧美大片免费高清啪啪| 偷拍亚洲情色| 中文字幕乱碼在线| 女人高潮大叫一级毛片| 另类亚洲一区二区三区| 欧美性Fer办公室秘书| 婷婷99狠狠| 国产又黄又爽又刺激久久久久久| 蜜区区视频79| 97色97干| 亚洲人久久久网| 久久丁香五月天| 五月丁香六月综合缴清无码| 偷拍亚洲视频一区二区三区四区| 97一区二区蜜臀| 国产女生在线| 搞中出久久| 日韩有码专区| 久久精品综合| 欧美午夜视频| 校园春色欧美色图| 9九九九九视频在线观看| 被男人添B超爽视频| 美女高潮国产高清| 亚洲欧美综合网站| 天天综合香 ld视频| 91精品丝袜久久久久久| 亚欧性爱ab| 成 人片 黄色大片| 囯产精品久久久久久久久久梁医生| 九一国产精品| 99999精品成人| 五月丁香婷婷色| 新婚人妻扶着粗大强行坐下| 影音先锋每日最新资源在线观看| 色噜噜国产精品视频一区二区| 九一性生活免费视频| 一区二区三区国产精产| 91欧美高清| www.91色| 亚欧性爱在线无码| 熟女视频久久| 日本午夜精品理论片A级APP发布| 久久人人爽爽人人爽人人片αV| 永久免费观看的毛片的网站| 男人的午夜天堂| 亚州综| 色区97| 色爱天堂| 91熟女丨老女人| 国产国产亚洲一二三久久| 99re在线视频这里只有精品| 国产精品国产| 青青草女人天天干| 91色人| 天天操熟妇| www.成人无码| 天天肏夜夜肏| 青青色在线观看| 在线视频97| 百度百度日本操逼| 成人无遮挡毛片免费看| 2017人人操,人人摸| 91精品国产日韩欧美综合| 中文字幕一区二区三区高清| 亚洲乱码国产乱码精网站| 国产色精品午夜大片| 777奇米影视777四色| 国内三级自拍小视频在线观看 | 秋霞一区二区三区四区五区六区七区| 一区二区三区蜜桃成人撸久久东京热| 久久久久网站-538在线视频-欧美永久乱码| 在线视频一区二区传媒| 黄色十八禁| 欧美另类天堂| 97国产精品| 人人操我人人干| 郑州宾馆老熟女露脸啪啪| 亚卅熟女乱色| 美腿色图| 乱色老一区二区三区的观看方式| 91中文字幕制服丝袜免费视频| 91色图| 一区二区三区亚洲| 中日高清无码操逼视频| 操人妻丝袜高跟| 动漫av中文| 大香蕉淫人| 日韩成人色图| 日韩精品人妻中文字幕久久久| 无毛精品| 国产精品白领在线观看| 无码免费精品高清| 日本熟妇熟色97一本在线观看| 欧美亚洲AN| 欧美午夜熟妇黑人精品91| 亚洲视频中文一区| 国产亚洲国产超碰| juliaann丝袜大战黑鬼| 日韩有码中文字幕女同性恋| 美国精品国产精品| 91亚洲人电影| 综合情欲网| 草草电影院| 综合久久婷婷| 97超碰人操| 五月亭亭六月丁香| 五月色网| 97超碰这里只有精品| 九九九免费视频| 自拍偷拍 日韩无码| 中文久久一区| 97欧美精品| 91free福利| 欧美夜夜骑视频| 91无遮挡| 国产激情久久| 亚洲不卡一| 精品人妻中文字幕4399| 精品国产污一区二区三区| 欧美情色亚洲| 操逼网免费无码视频| 熟妇精品juliaannAV| 少妇久久| 九九久久九九久久| 78操B| 91日本在线观看| 国产九九九九九九| 无码免费精品高清| Aa东京男人的天堂| 国产精品自拍xxxx| 青青草成人视频在线观看二区| 日韩免费a级毛片无码a∨| 午夜天堂精品久久久久91| 大香蕉2017| 中国国国产一级特黄毛片| 天天舔天天日天天射| 岛国A V在线免费看| 亚洲男人天堂网久久| 白丝av| 大鸡巴久久久| 久久国产在线一区二区| 蜜桃久久久久久久| 香蕉国产精品麻豆亚洲欧美日韩| 国产怡红院| a片在线播放| 亚洲综合113页| 欧美性爱18观看| 诱惑人妻欧美一区在线播放| 高清国产性猛交xxxx乱大交| 国产精品网站www| 天天色天天干天天爱| 区二区亚洲婷| 久久久久久久久成人av解说| 欧美第五页| 久久精彩免费视频| 男人的天堂 在线一区| 夜夜狼人妻| xxxx网站亚洲精品| 久久精品女同亚洲女同13| 欧洲熟妇xxXx欧美老妇裸体| 欧美性夜| 日韩99神马视频片| 亚洲色图亚洲无码强奸乱伦| 中文字幕黄色一起草| 91网站18在线观看| 黄色片一区二区三区四区五区| 97伪v| 色五月综合网| 久久性爱视频免费看| 亚洲www91| 操逼网站地址| 秋霞色色影院| 1024午夜激情男人的天堂| 91啪啪视频| 强奸乱伦 亚洲一区| 欧美中文字幕日韩在线| 日韩视频小说在线观看| 十八禁啪啦拍视频无遮挡| 久久系列| 欧美天堂第二区| 亚洲精品99| 欧美18 在线观看| 欧美 日韩第一性色| 九九热九九热| 亚洲强奸乱伦影视网| 99av| 风骚少妇视频中文字幕| 天天日少妇逼AV| 国产日韩在线播放av| 亚洲欧美综合图片| 国产美女激情| 精品久久久久久亚洲| 岛国黄| 躁躁躁日日躁2020| 亚洲日韩熟女人妻高清在线| 婷婷日韩一区二区三区中文字幕在线| 在线免费观看日韩一区| 欧美写真视频一区| 久操视频免费观看| 伊人97色天使| 色五月婷婷中文字幕| 亚洲av国产av综合av卡| 青青久久艹| 亚洲欧洲激情| 狠狠图片青青草| 黄色网址久久精品欧美喷水| 中国东北熟女老太婆内谢| 九九碰九九爱97超碰| 亚洲精品蜜桃久久久| 嗯嗯啊啊好疼| 综合久草| 夜夜操二区| 色999;丁香五月| 欧美人与性动交a美精品| 亚洲人成在线放东京热| 欧美狠狠狠| 日韩97视频| 亚州春色| 欧洲亚洲人妻无码中字久久三区四区| 性爱动态120秒| 大香蕉综合| 亚洲欧美激情在线视频| 无码高清专| 亚洲制服aⅴ中文字幕| 18禁看网站一区| 日韩少妇无码| 色综91| 久久这里只| 91欧美经典| 欧美综合1性辶| 中文字幕熟女人妻丝袜丝| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 97操在线| 欧美日韩青操| 日韩欧亚中文在线| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 四虎AV无码| 精品视频123区小说区| 欧美色棕合| 色一射色一射| 打av高清| 天天干天天中出av| 超碰久久草| 国产人妻精品一区二区三区秋霞| 91国产在线精品| 亚洲精品人伦一区二区| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 99热最新网址| 日本三级久| 丰满人妻-区二区三区免费| 国产丸一视频| 国产一级片| 九九综合| 国产女上位好爽在线| 男人亚洲91首页在线| 国产少妇与亚洲av| 日韩成人午夜精品久久高潮| 天天看片麻豆| 人妻人久久精品中文字幕| 日韩91网| aa片毛片| 波多野42部无码喷潮在线观看| 日韩 欧美 视频 在线 一区| 亚洲国产欧美中日韩成人综合视频| 色999;丁香五月| 丰满欧美少妇| 啊操爽品善一区二区三区| 色偷综合| 91性网| 色波多| 国产精品久久久久中文字幕| 抽插无码高清一区| 97视频在线免费看| 成人一区二区三区四区| 亚洲中字慕不卡| 欧美激情综合| 久草网站免费在线观看| 婷色五月天| 99抽插| 九九五月天| 久久精品国产精品一区| 黑人精品成人一区二区三区 | 伊人国产av| 亚洲 欧美 综合 91| 亚洲丝袜综合| 无码av永久免费专区网站| 红杏大香蕉| 骚女高跟AV在线| 久久久久夜夜夜夜| 大色综合网| 丝袜喷水在线| 夜夜夜爽www精品视频| 2019精品国产无码成人| 麻豆国产免费影片| 伊人伊人LD| 欧美激情综合| 九月丁香| 懂色av中文字幕一区二区三区天美 | 国内毛片无遮挡国产| 亚洲色欲天天人妻无码系列专区| 操人妻逼91| 国产精品久久久久久久久久久久久久| 欧美黄色大片在线观看| 日本曲间由美性生活片| 91模特在线观看| 欧美另类精品xxxx| 日本精品88888888| 97视频在线观看免费高清| 91人妻做a观看视频| 91黑丝少妇| 97色综合中文网| 在线国产探花| 人人妻天天做天天爽| 亚洲精品国产无码高清| 青青青国产| 最近二区三区视频大全| 欧洲熟妇xxXx欧美老妇裸体| 天天操美美| 欧美1区二区三区公司| 亚洲天堂另类美腿| 亚洲男人天堂AV| 九九黄色网| 国产97在线播放| 日韩不卡av一二三| 人澡逼| 91动漫操逼视频| 校园春色中文字幕AV| 黄片qw| 久插综合| 久久久久久久久久久免费精品| JULIA人妻风俗店中出电影| 国产精品香蕉| 九九热精品免费视频| 久久人| 男人的天堂亚洲| 好爽视频在线观看| 亚洲情色第一页| 操逼操逼操| 蜜色网色哟哟| 日欧操屄| www.91欧美| 色伊人91| 久久久久人| 五月婷婷久久综合| 欧美亚洲今日在线| 少妇高潮99p| 国产在线综合网| 亚洲第一页欧美| 国产一级内射无挡观看| jiujiujiujingpin| 久久久麻豆精品| www.人人摸在线视频| 99热这里只有精| 久久激情婷婷| 欧美 亚洲 大香| 欧美天天干| 天天操天天看| 99这里有精品| 看全色黄大色大片免费视频| 国产精品色哟哟| 久久久亚洲高清不打码| 五月天精品| 精品丰满人妻一区二区三区免费观| 五月婷亚洲精品天堂| 国产性感在线观看| 91成人久久| 男人的天堂1024| 天天综合影院91| 中文字幕123| 久久精品28| 人人澡综合涩| 国产伦乱91| 久久久久久精| 亚洲精品人伦一区二区| 亚洲天堂区| 日本熟女免费視颖| 欧美激情在线观看视频| 夜夜嗷嗷一区二区| 国产视频一区二区免费| 久久大黄片| 天天热精品| 国产精品肉丝自拍| 亚洲Av无码成人精品国产| 亚洲色图欧洲| 综合激情一一91| 久久婷婷色综合一区二区三区| 天天弄天天操| 亚洲丝袜诱惑| 亚洲图片偷拍欧美| 2019AV天堂| 中文字幕永久在线| 超碰在线香蕉| 中文字幕丰满人妻日本| 俺也射| 人妻大相焦在线| 少妇超碰在线| 久久一区二区三区入口| 国产精品久久久无码aV去| 成人无码欧美一级A片狼牙直播| 精品九九九九九九九| 天天插天天干| 天天躁日日躁XXXXYY| 亚洲av国产av综合av卡| 亚洲97精品| 无码人妻丰满熟妇区毛片| 久久一二三四不卡 | 久久伊人青青草| 玖玖视频在线资源一区二区三区| 亚洲综合中文字幕有码 | 99中出在线| 日本一本道A级黄色毛片试看60分钟| 999久久久免费精品国产牛牛| 日本免费二区三区| 亚洲综合骚逼| 日本一天色道久久久精品视频| 日产狠狠干| 国产精品青草综合久久| 大香蕉专区| 亚洲日本激情| 日产欧美电影一区二区三区| 亚洲精品少妇| 99999亚洲| 欧美综合中文| 成人草草视频| 九九九国产精品| 亚洲精品久久久久久| 日产成人久久| 神马久久啊啊| 欧美熟女丝袜| 国产亚洲日本| 欧美韩日精品资源| 中文字幕视频免费| 国产一区二区久久| 亚洲日韩少妇一道本视频| 一区| 欧美色图 人妻| 国产乱码精品久久久久久| 精品一久久久| 亚洲人91| 久久久9 9 9精品| 尤物视频新赏网鲜网色诱网| 亚洲97资源| 啊啊啊慢点| 亚洲久9| 欧美夜夜| 日本东京热久久久电影| 在线播放成人高清免费视频| 黑人精品一区二区在线播放| 综合av社区| 自拍视频一区在线观看| 日韩精品黄片免费观看| 欧美日韩岛国大片在线观看| 激情专区综合| 久久婷婷一区二| 99啪啪| 风骚少妇视频中文字幕| 国产精品一区二区麻豆| 久草这里只有精品| 精品无码久久久久久久杏吧| 99久久精品无码一区二区毛片免费| 偷拍亚洲熟女视频播放| 人人插人人搞人人操| 2010男人的天堂| 夜夜操夜夜爽夜夜高潮| 操淫穴亚洲五月丁香 | 国产精品视频电影| 麻豆一区在线| 超碰在线日韩一区| 女沟厕偷窥piss小便| 91精品久久久| 国产免费一区在线观看| 青青青操| 91黑丝操| 97超碰久久| 国产女人与拘做受视频免费| www色色com| 青青草吊丝| 91色伦| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 人人操我人人干| 熟女被操视频网址| 蜜桃久久久久久| 久9爱经典视频| 日本成人在线不卡一区二区三区| 成人乱人伦一区二区| 99热最新网址| 97一区二压| 78超碰| 亚洲色图日韩精品| 人妻天天爽夜夜爽爽| 久久精品99久久久久久| 91处女在线观看| 欧美强奸一区二区诱惑| 97玖玖人妻| 久久久久久久久9| 嫩草在线视频| 亚洲人精| 成人草草视频| 日日噜噜夜夜狠狠视频无| 99热精品在线观看| 人妻熟女一区二区| 99久久久久久亚洲精品不卡| 婷婷伊人綜合中文字幕| 亚洲综合射| 俺去啦俺来也久久综合| 五月丁香| 一区超碰一区| 香蕉久久AⅤ...| 精品国产网站| 日韩有码专区| 五月天婷婷久久| 日韩中文字幕宗合在线| 色欲Av人妻精品一区二| 亚洲男人的天堂亚洲| 色婷婷A V一二三四区麻豆综合| heyZO天然素人无码AⅤ专区| 久久亚洲影院一区二区| 欧美桃色网| 国产一级作爱毛片| 强奸熟女一区二区三区| 麻豆综合一区av| www四虎| 麻豆精品一区二区三区四区免费观看| 色官网在线| 国产丝袜高跟美女av免费观看| 在线看的av| 躁躁日曰躁2020| 成人小说另类在线| 亚洲国产精品久久久久婷婷青年| 大香久久| 一本道综合色图| 性91| 天天色悠悠激情| 91天天综合日韩欧美| 污啪啪啪视频| 一二三区精品视频| 狠狠狠狠狠狠| 人人妻人人澡人人爽久久av| 去干网最新版| 久久久极品| 五月天精品| 人妻精品一区二区| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 日韩精彩视频| 久久久久国产一区二| 中出20p| 激情小说五月天| 欧美色网络| 老鸭窝亚洲毛片| 综合亚洲欧美精品日韩?v| 中文字幕在线观看网页| 久久精品福利影院| 激情四射五月天| 日韩精品在线观看网站| 国产乱码久久久| 日日操天天操| 成人精品无码| m欧洲一级午老| 亚洲少妇中文字幕网址| 奶水 人妻 哺乳 在线| 91亚洲精品青草| 久久黄片国产一区二区| 99re6国产精品99re| 欧美一区二区亚洲天堂| 人妻丝袜美腿中文字幕| 91视频成人福利网站在线一区| 再深点灬舒服灬太大了添视频 | 一区三区啪啪| 国产精品一区二区三| 9热9热综合网| 色伊人91| 老熟女91视频| 四虎免费看黄| 精品超碰国产| 天堂69亚洲精品中文字| 啊啊啊啊啊啊啊啊要喷了| 久热无码| 6080YYY午夜理论片在线观看| 天堂精品| 91老司机在线视频免费观看| 欧美黄色片在线播放| 欧美日韩国产精品久久色婷婷| 青青草视频这里只有精品| 久久久精品91八戒| 欧美高清91| 亚洲美女30b| 久热九九| 尤物黄色在线观看网站| 好涩综合| 天天舔天天日天天射| 久久人妻丝袜一区二区三| 三级色综合| 中欧人妻丝袜中文字幕| 精品人妻一二三四区视频| 偷拍 精品另类 凸凹了四区| 国产成人一级av88| 99色网| 久超碰这里只有精品| 75大香蕉| 欧美日韩丝袜| 日韩av在线免费网站| 午夜人人操| 九九九九九精品视频| 人妻素股| 秋霞男人网| 天天舔天天| 国产高清成人传媒影视| 大香蕉www.超碰| 大色综合| 深喉吞精| 人澡逼| 天天内射| 美女的肌被草喷水视频| 精品人妻伦一二三区久久| 一本一道vs波多野结衣| 综合伊人激情| 97欧美精品| 超碰99re| 一本大道久| 黄色av播放免不| 欧美韩国你懂得在线 | 日韩av在线精品观看| 人妻天堂网| 97精品一区二区视频在线观看| 日日噜噜夜夜久久亚洲一区二区| 91扒丝袜综合在线| 操九九九九九九| 婷婷五月天成人| 五月丁香六月婷综合成人综合 | 97超碰亚洲| 少妇69中文| 国产美脚女优尤物在线观看| 天天看综合网| 高清国产精品无码| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 国产操逼网站亚洲一级黄色| 亚洲小说视频| 欧美激情在线观看视频| 97国产精品在线观看| 熟女熟妇伦久久影院毛片一区二区| 亚洲性少妇| 久久精品高清无码一区| 超碰伊人在线| 欧美高清在线| 久久激情四射婷婷丁香五月天| 1204人成网站色www| 精品久久久一本一道| 色欧美在线| 美女诱惑久久| 国产色产精品在线观看| 青青操网|