国产成人欧美一区二区三区vr_久久国产精品人人爽人人爽_国产精品永久免费播放_肉欲啪啪a∨无码精品一区二区_国产超短裙jk丝袜在线_亚洲AV片高清资源在线观看_国模无码一区二区三区久久_国产成年人未进视频_中文字幕无码精品夜_一区二区三区在线视频免费看_亚洲成AV人片在线观看网址_日本激情视频高清综合久久_亚洲午夜视频福利_国内大量揄拍人妻精品視_久久国产精品福利二区三区

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見(jiàn)路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座。現(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
少妇人妻太紧太深av| 国产一级137片内射麻豆| 熟女精品日韩一区二区三区| 另类专区在线观看| 国产欧美一区二区| 加勒比色99999| 超碰成人最新最好看| 不卡九肏| 噜噜噜噜久久久精品免费| 五十路六十路七十路熟婆| 久久久久人妻| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 亚洲图片91| 91精片| 大地资源在线观看中文第二页| 久久鲁夜| 日韩无码黄色片| 黄色高清久久无码依人| 男人的天堂三级| 1人人看人人摸人人操| 人妻精品综合中文字幕在线 | 91xingse| 97久久国产| 91干熟女| 成人一二三区| 久久9久9久99久9久9| www亚洲欧美| 五月丁香影视| 亚洲成人ab| 婷婷色色网| 亚洲精品97p| 国产精品老师| 欧美性夜| 欧美色图天堂网m| 中国少妇啪啪视频| 欧美超碰96| 国内精品久久人妻性色av| 青青爽| 欧美高清无码免费视频高清版| 国模一区二区三区| 日韩欧美亚欧在线视频| 天堂精品在线| 国产又黄又爽又刺激久久久久久| 91美女看B| 成片免费观看视频大全| 无码高清操逼网址| 久超碰这里只有精品| 国产这里只有精品| 尹人免费观看视频在线| 中出在线视频| 国产农村妇女一区二区| 嫩草影院在线观看精品 | 老鸭窝亚洲毛片| 亚洲欧美另类激情小说| 正宗无毛一线天嫩逼| 久久丁香| 日日日日做夜夜夜夜无码| 精品人妻伦一区二区三区久久| 福利色色| 国产深夜福利| 青青草中日韩在线| 丁香六月婷婷综合| ji熟女.com| 久久是精品| 一区二区三区精品黑丝白丝酒店对鸡| 久久五十路熟女人妻| 丝袜天堂网| 超碰久久性爱| 99久久久无码国产精品性男| 国产在线播放成人免费| 1204人成网站色www| 日本免费不卡二区| 色五月亚洲| 88xx成人精品视频| 99少妇| 超碰97男人| 久久综合激情| 欧美日韩国产另类综合| 婷婷涩嫩草鲁丝久久午夜精品| 欧美熟妇亚洲版| 日本黄 R色 成 人网站| 久久草草亚洲蜜桃臀| 精品国产乱码久久久影院| 日本天天吊| 久久婷婷色| 日韩在线地址一| 亚洲资源一区| 台湾佬中文娱乐网久久久久久久久久com| 久操不卡视频| 最近2019中文字幕国语免费版| 99re免费| 欧美91网| 夜夜骑夜夜操| 久久久亚洲熟妇资源| 东北女人的毛片| 大香蕉宗合网在线| 嗯啊不要在线| 中出91| 免費黃色視頻觀看一| 性久久久| 中文久久久| 国产精品第一页国产大屁股视频免费区i | 精品九九九九| 黄页av| 欧美性性性| 锕锕好爽 死我在线观看| 午夜成人福利影视| 美腿色图| 一区=区三区视频| 伊人久久88国产女| 美女人妻色网站| 成人AV素股で擦久久| 中文字幕一区日韩精| 国产精品色片一区二区| 爱我干综合| 桃花色涩综合影院| 在线播放成人网站| 婷婷视频网| 九九aV| 国产粉嫩出水在线播放| 天天日天天干天天整| 看黄片视频免费| 亚洲性爱免费电影| 深夜国产一区二区三区在线看 | 狠狠图片青青草| 夜夜操91744565| 天天干天天日天天射黄色| 一起草AV| 色眯眯射| 蜜桃久久久久久久久久久久| 欧美狠狠狠| 亚洲熟女少妇免费视频| 人妻插插人妻人| 国产专区路线| 亚洲高潮少妇| 久久婷婷欧美| 在线天堂资源亚洲| 蜜臀无码视频在线观看| 国产精品久久久久中文字幕| 五月丁香影院| 91精品人妻一区二区-全集完整版免费正片国语-B02AV | 成人线上超碰| 青草青草久热| 91丝袜在线观看视频在线观看| 激情综合五月| 天天欧美色| 日韩性爱视频免费在线| 亚洲国产成人精品无码专区| 大香蕉之青青草原| 使劲用力艹少妇视频一区二区 | 欧美自拍偷拍免费观看| 久久久中文| 五月丁香影院| 99国产精品在线观看| 久久人妻视频| 99999精品成人| 又摸又舔在线观看网站| 啊嗯嗯啊好大好爽| 熟女人妻一区二区三区| 1级黄色夫妻对换性交免费看| 国产成人欧美一区二区三区的国产| 亚州一区二区成人片免费| 一区操逼日比视频| www.91色综合| 夜精品久无码| 久久人| 国产成人亚洲精品无| 五月天婷婷在线看| 亚洲第一无码播放立川理惠| 亚洲精品视频二区| 啊啊啊不要好爽日韩无码一区| 国产精品密臀网在线观看| 久草男人天堂| 欧美96在线|欧| 蜜臀无码视频在线观看| 日韩国产成人自拍视频| 人妻啊啊人妻啊啊| 日韩精品人妻中文字幕久久久| 美女让帅哥通她小鸡鸡| 91bbbbbb| 日日噜噜夜夜狠狠视频无| 欧美成人午夜免费福利785| 99热这里| 亚洲人妻熟妇三十三区| 一二三四区操操Av| 免费视频在线一区二区不卡| 黄aaaaaaaaaaaaaaaaaa色网站 | 亚洲精品1区| 超碰久超碰久| www.色操逼| 97色色色综合网站| 激情文学亚洲| AV麻豆免费一区| 国产懂色精品国产av| 黑丝少妇麻豆| 欧美性色欧美| 伊人久久在线视频观看| 欧美熟女激情| 国产熟女无套内射| 婷婷月色| 国产在线激情| 久久综合亚洲色1080p| av天天在线观看| 在线一区| 亚洲精品人妻在线| 台湾佬激情综合| 天天爱综合网| av天堂天堂av日韩| 丁香五月天视频| 久久精品中文字幕女同| 岛国激情视频在线观看| 在线人妻熟女一区二区三区四区五区| 亚洲美女高潮喷水视频| 国产精品宅男免费| 超碰夫妻97| 久久久久久9| 亚洲国产精品无码AV在线| 青青国产精品在线| 外国免费性情大片| 日本一级二级三级网站| 人妻丝袜肏逼| 思思热在线cao| 亚洲限制级| 狠狠久久手机视频精品| 人妻啊啊人妻啊啊| 好吊色青靑草| 99精品热| 女优大全 - 91n| 美国日韩黄片| 中文久久一区| 极品综合| 久久鲁夜| 免费观看性欧美一级| 情色av电影| 免费在线看黄片av| 久久久99久9| 亚洲欧美另类图片| 中文高清一区二区的| 欧美96在线|欧| 手机看片1024你懂的国产| 亚洲熟女一区| 亚洲毛片一级带毛片基地| 亚洲va综合va国产va中文| av橘色网站| 深夜激情无码| 欧美色网络| 骚货| 国内外内射高清视频| 五月丁香六月婷| 操久久久久| 九九九九九九九精品视频| 91天天综合在线观看| 欧美亚洲中文字幕| 怡红院久久老司机| 亚洲AV小说| 91M一社| 日本性爱网址| 日日骚中文字幕| 97超碰碰碰| 亚洲 在线| 日韩人妻少妇中文字幕| 亚洲网站一区二区在线| 狠狠图片青青草| 四虎国产精品永久地址入口| 亚洲色图欧美色图制服诱惑| julia高潮后不停追击中出| 亚洲在线| 九区国产| 色婷婷久久| 97在线观看免费视频| 亭亭丁香激情| 美国一区二区免费视频| 国产精品久久久 | 久久国产性爱| 欧美亚洲首页| 亚洲精品天天影视综合网| 亚洲欧洲综合av在线| 亚洲情色一区二区三区| 大香蕉乱伦视频网| 亚洲无码com| 新97国产超碰| 丁香九月婷婷| av在线播放国产一区| 玖玖爱综合网| 欧美最婬乱婬爆婬性视频 | 国产成人综合网| 日本操逼视频在线| 欧美一品道| 亚洲综合色网| 狠狠操官网| 清纯唯美综合| 久久人爽| 色久桃花影院在线观看| 亚欧美色图| 九九九午夜| 岛国激情视频在线观看| 狠狠躁伊人中文字幕| 天美一二三在线观看Av| 久久激情综合| 久久黄色视频一区二区三区| 国产精品视屏| 91综合天天看| 天天天天天超碰| 综合激情五月丁香| 午夜电影在线观看无码专区| 成人性爱免费播放| 久久久久久裸体| 偷窥自拍亚洲色图| 婷婷五月丁香五月| 日韩国产成人自拍视频| 中文字幕AV乱伦| 午夜毛片亚洲精品片国产久久久| 天天爽入口| 夜夜操av亚洲一区二区| 五月丁香在线| 欧美十八禁网站| 欧美成熟性爱精品| 男人的天堂网页| 少妇熟女视频一区二区三区| 福利天堂| 淫乱图区| 天天天乱色综合全| 欧美熟妇乱码在线一区| 92福利社视频| 狠狠综合| 九九久久精品| 亚洲综合激情五月久久| 婷婷五月天影院| 激情网色| 亚洲天堂AV在线播放| 国产精品久久妻无码网站 | 午夜性生活av免费在线看| 33044男人的天堂深夜备| 极品粉嫩少妇视频| 97超久碰| 少妇人妻精品| 欧美人妻色| 蜜桃臀 后入 一区 二区 三区 在线| A V视频日本| 久久双插| 精品美女久久久久| 日韩免费高清大片在线| 97超碰人人模人人拍人人| 久久国产乱子伦精品免费女,网站| 日韩无码服务区| 亚洲AV在线资源| 91高潮喷水美女| 久久99深爱久久99精品| 色拍偷亚洲| 999 久久久| 青青草色情网站视频| 成人综合视频久久| 亚洲限制级| 97色涩| 色拍偷亚洲| www. 男人天堂成人在线| 中文字幕AV片| 蜜臀aV午夜一区二区三区| 中文字幕伊人| 超碰九九| 97在线免费看视频| a级免费在线观看| 夜夜骑夜夜操| 眼镜人妻101.com| 中国国产精品一区视频| 亚洲天堂无码| 五月婷婷色| 亚洲激情网一二三四区| 激情综合五| 天天舔天天| 人妻出轨一区二区三区| 神马久久网| 97青青操视频| 婷婷美人网| 天天综合网合集91| 97国产精品一区| 超碰免费人妻在线| 91搞逼视频| 人人爱人人乐人人操| 岛国片在线播放| 亚洲第一黄色av网站| 日亚韩精品视频二区三| 久久五月份| 亚洲97P| 亚洲性综合| 天天综合色图| 天天操人人操狠狠插| 浪人综合网| 黑丝少妇在线观看| 97超级欧美| 日本熟妇自慰性高潮一区二区三区| 欧美天天搞| a片久久久久久久久久久久| 欧美日韩国产三级黄色| 91精品无码人妻系列| 亚洲精品色| 久久精品一区| 密臀在线视频| 久热在线精品免费观看| 色色婷婷五月| 国产夫妻一区二区| 色香综合天天影视综合| 曰韩中文人妻视频| 国产成人无码网站在线视频| 精品久久久久瑟瑟| 精品十八在线观看| 无码操逼网| 日本福利社| 超碰天天操| 日韩大香蕉| 国产高清MV操逼视频| 嗯嗯啊啊视频在线看| 亚洲熟女乱综合一区二区三区| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 亚洲各类熟们中文字幕| 欧美一区二区在线资源| 欧美色图99| 精品成人无码| 久久超碰爱| 午夜AV污污污| 一二三四视频中文字幕在线看| 岛国精品视频在线观看| 蜜桃传媒一区二区亚洲| 久久久精选| 激情抓乳插进去啪啪啪日韩 | 亚洲精品久久久久毛片A片拉屎| 色就色综合| 天天肏美女| 欧美青青视频| av爱爱爱| 狠狠久久四虎| 三级色影综合网| 亚洲国产一级精品毛一级精品看免费视频| 亚洲精品蜜桃久久久一区二区三区| 久久风骚城市| 日韩 欧美 另类 人妻| 91最新综合| 国产精品欧美在线观看| 丁香五月天激情| 98超碰日本| 操逼大黄片| 熟女一区二区| 人妻少妇久久中文字幕一区二区 麻豆| www欧美性爱| 欧美在线视频播放| 操逼日批| 亚洲狼狼干综合1| 日本韩高清无砖码22o| 色九九综合| 中文字幕欧美精品亚洲日韩蜜臀| 日韩一级特黄av毛片| 国产精品久久久久久久久久久久久久久| 国产熟女无套内射| 婷婷伊人綜合中文字幕| 日韩精品一二三| 操一区| 中文字幕AV中出| 五月色丁香| 劲爆欧美人妖三区91| 亚洲 自拍偷拍 欧美| 日本超碰97日韩精品人妻| 三级日本一区二区三区| 国产精品制服丝袜中文字幕日韩一区二区三区| 韩日自拍| 91在线无码精品秘 软件| 舔舔啊| 操逼逼无码| 丝袜美腿91| 99re免费视频精品全部| 综合干干干av久久久综合网| 男女做爰猛烈动高潮A片免费应用| 中文字幕乱碼在线| 日本免费中文字幕在线| 欧美超碰96| 嫩呦国产一区二区三区AV| 九九九九九九九九九五码| 囯戸精品高潮呻吟旡码| 青青伊人加勒比海| 国产高清免费不卡av| 亚洲欧美日韩电影网站一区 | 超碰人人超在线观看| 九九九九一区| 七久久久| 久久av无码| 日韩精品电影| 久久九九网| 亚洲动态色图| 少妇人妻精品| 日韩精品人妻一| 精品一区二区三区四区外站| 日韩中文字幕视频在线观看| 亚洲国产精品成人久久蜜臀| 欧美性暴力猛交XXXX| 日韩国产乱子伦App| 日本天堂在线播放| 久久秀这里有精品| 性在久久久久久| 少妇激情AV| caorenqi shipin| 免费视频在线一区二区不卡| 啊啊啊啊好大好硬啊啊啊啊啊| 国产精品一区av在线| 日韩在线观看AV| 人人色人人射人人妻| 中文字幕奈奈美被公侵犯| 疯操AV| 99热综合| 亚洲熟女精品| 国产suv一区二区三区6| 色香色香欲天天天影视综合网| 3PAV乱伦视频| 久久欧洲| 色婷婷激情| 精品无码久久久久久国产浪潮| 骚日日av| 欧美亚洲日韩16色| 69超碰综合| 强奸乱伦大香蕉| 综合色一区三区二区| 丰满精品人妻少妇久久字幕| 久久激情视频| 手机在线中文字幕国产| 亚洲丝袜诱惑| 午夜欧美神马久久久久| 欧美日韩国产中文精品字幕自在自线| 99少妇| 超碰天天操你比| 亚洲熟妇自偷自拍另欧美| 日韩一级性爱无码| 黄色工厂这里只有精品| 上床不卡网站| 91 手机在线播放 绯色| 无码抄逼网| 东北少妇高潮zzzz| 亚洲同性aV综合| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊 | 日韩天美| 免费一级毛片在线视频观看| 欧美探花网| 色99999| www.91视频网| 一本色道久久综合狠狠操| 日日橹狠狠爱欧美超碰| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 思思热在线cao| 国产粉嫩蜜臀av一区二区三区| 久9爱精品| 欧美性天天影院| 久插不卡| 青草香蕉网| 97AV爱| 99在线免费观看| 激情啪啪拍91| 搡老熟女老女人老熟妇免费视频| 成全在线观看免费观看| 日韩成人性日韩成人性爱视频在线免费观看| 夜夜久久久| 熟女91网| 久久久久久91香蕉国产| 麻豆黄四叶草网站| 成人综合网 欧美| 偷拍欧美激情| 天天日天天操心| 欧美日韩第一页| 强奸乱伦日韩AV| 精品久久久久久中文| 激情五月天插| 国产二区视频在线观看电影| 免费自拍三级综合| 欧美日韩另类在线| 亚洲人妻在线一区| www.91理论| 日韩国产在线观看av| 亚洲 自拍偷拍 欧美| 免费αV在线视频| 丝袜美腿亚洲| 青青操网| 久草加勒比一区在线| 久久精品熟女亚洲AV麻豆软件| 日韩97P| 青娱乐91| 熟女探花啪啪| 大屁股人妻女教师撅着屁股| 内射小黄片| 国产一区二区a毛片| 18禁中文字幕| 凸凹视频在线观看| 国内外色色色色色成人视频| 欧美在线观看综合国产| 色激情五月天| 久草久热| 都市激情人妻一区二区青青操视频 | 无码聚合| 日韩人成网站在线播放| 亚洲一卡2卡3卡4卡乱码网站| 黑人嘿嘿嘿超爽免费视频| 国产男女无套视频免费观看| 色婷五月| 肉丝网站91| 涩涩久久精品| 日本一卡二区在线| 97综合网| 日本精品无码三级网站| 蜜乳av首页| 97在线免费看| 红桃视频高潮| 欧美视频激情久久久久久| 久久久久人| 精品国产乱码久久久久久蜜臀| 国产色图乱伦| 色婷婷视频| 久青草影院| 激情终合网| 色香网| 国产偷人伦激情在线观看| 韩日性爱av| 亚洲精品亚洲人成人网| 日本不卡码黄色| wuyechaopeng| 肉动漫无遮挡h在线观看| 国产女同视频在线播放| 99在线精品观看99| 99热精品国产| 日韩色图 一区二区| 我想要 啊 啊 啊| 久久亚洲欧美中文字幕国语| 99免费在线视频| 午夜精品一区二区三区三上悠亚| 999综合色| 国产精品视频在线观看| 国产精品嫩草影院免费| 综合熟女| 人妻素股| 国产精品直播在线观看直播| 女人被添高潮免费视频| 看黑丝美女操逼青青网站| 丝袜视频网国产90| 无码区蜜乳| 国产精品无码AV网站| 国产性刺激| 亚洲无码日韩电影| 成年人性爱日韩| 国产精品经典一卡久久久 | 亚洲人妻中文高清| 日本青青草在线| 老熟女综合网| 永久免费发布性爱网| 好吊色在线观看| 亚洲日精品| 国产精品美女久久久久AⅤ国产馆| 欧美亚洲中文字幕| 男人把坤坤插入女人的下体 | 天天舔天天日天天射| 伊色久人大在线| 日韩av不卡在线看| 中文久久爆乳| 二三四区精品| 日韩福利综合一区| 天天躁日日躁AAAXX| 2026国产精品视频| 亚洲一卡二卡在线免费| 中文字幕一区 二区三四五 区日 日骚| 亚洲天堂电影网| 乱伦一区二区三区‘| 人妻精品综合中文字幕在线 | 五月丁香激情综合| 日韩三级性| 三级激情网站| 久久深夜无码| 日韩欧美亚欧在线视频| 亚洲情色电影网| 死我十八禁| 国产无马在线| 人妻啊啊人妻啊| 男人天堂新在线| 国产精品蜜乳AV| A男人的天堂| 色天使亚洲综合在线观看| 熟女自慰久久久| 欧美不卡五十路| 婷婷三区| 狠狠超| 五月天综合在线| 99久久99九九99九九九| 欧美日韩性爱无码| 国产丸一视频| 国产女生在线| 国产夫妻性生活视频| 午夜福利激情在线视频| 欧美久久婷婷| 国产一区在线观看无码AV| 日韩91网| 国产欧美美女免费观看视频| 天天摸夜夜操视频| 婷婷伊人五月| 99re这里只有精品3| 欧美91在线| 激情综合97| 精品国产乱码久久久| 91久久久久久久久18| 91亚洲网站| 黄色欧美性爱视频| 天天操福利视频综合网站| 亚洲成人久久美女| 狠狠干2020| 久久婷综合| 大香蕉久久| 五月丁香啪啪啪| 操逼操逼操| 欧美激情欧美精品| 高清成年美女黄网站免费大全| 亚洲图片 激情小说| 色爱三区| 欧美色道啊| 丁香六月婷婷久久综合| 欧美性91| 丰满欧美少妇| 夜草网站| 青青草久草AV| 99热精品在线播放| 免费人成毛片乱码| 青青草成人视频在线观看二区| 亚洲国产成人精品无码专区| 在线洲亚线| 国产欧美美女免费观看视频| 国产在线观看91精品一区| 国产精品久久久999| 国产精品一区二区黄片| 中文字幕欧美丝袜07资源| laoshunv91| 日本亚洲熟女视频| 国产白丝精品在线观看| 牛牛久久国产精品视频一二三| 成人性爱全视频观看| 欧美日韩精品久久久久久久久东北老熟妇| 欧美视频第二页| 国模无码人体一区二区三| 操老熟女AV| 99色综合| 精品成人亚洲午夜电影| 凹凸 69堂 在线播放| 亚洲A色| 五月天玖玖资源站| 成人精品无码| 欧美九一精品久久久熟妇| 五月天综合网| 97超碰欧美| 久草草一二三四区久久| 九月色婷婷| 天天插夜夜操| 91天天综合日韩欧美| 亚洲永久AV无码精品秋霞| 久草视频分类在线| 粉嫩av在线| 久久影视二区三区行押| 精品无吗久久| 亚洲欧美日韩精品久| 国产精品人妻免费精品| 日本精品一区二区三| 人妻日日夜夜精品| 在线视频日韩欧美国产| 最新av中文字幕高清| 欧美综合1性辶| 操淫穴亚洲五月丁香 | 欧美性爱无码一区二区三区| 久久99九九九九6666免费观看软件| 97干天天| 国产超碰国产97| 亚洲欧美经典一区二区| 无码 黑人一区二区三区| 国产三级片在线观看| 伊人嫩草| 欧美少妇高潮久久91| 九一综合精品视品av| 久久丁香五月婷婷| 亚洲成?V人片在线观看福利| 日本色色视频网站| 国产高清成人免费视频| 超碰在线第一页| 伊人丝袜美腿高跟在线观看高清| 久久久中文| 国产v片在线免费观看| 九9精品| 激情婷婷| 婷婷综合激情| 国产高清精品一区二区三区毛片| 精品九九| 天天综合~91| 狠狠爱夜夜| 亚洲午夜精品久久久中文影院| 激情文学 国产一二三aV| 久久久久免费少妇| 国产 无码 一区二区| 99老司机精品视频在线观看| 狠狠操,使劲操| 91亚洲综合| 啊啊啊好多水| 丰满人妻一区二区三区| juliaann丝袜| 97综合激情| 国产精品在线一区二区| 亚洲综合69| 天美麻豆精品视频99| 柠檬AV导航| 日韩欧美中文日韩欧美色| AV一区观看| 中文字幕久久婷婷丁香五月天| 少妇一区二区三区| 久久精品人妻一区| 日韩欧美亚欧在线视频| 久久精品国产Aⅴ| 美欧色综合| 亚洲丝袜二区在线| 青草精品视频一日本久久久久网站| 一本色道久久综合亚洲二区三区| 国产91丝袜在线播放蜜月| 九一国产精品| 欧美综合亚洲| 国色综合天| 久久超碰网| 三级日本一区二区三区| 人妻9117c| 国产精品无码久久久久2025| 九色精品视频导航1| 国模不卡| 金莲网址| 成人aⅴ一区二区三区| 中国乱伦一区二区 | 久久在肏| 日韩福利电影网| 日韩精品一区二区高清| 黄色AAAAA欧美| 欧美很很操视频| 久久精品人体AV| 日韩精品人妻中文字幕有码午| 人人污日韩一区二区| 亚洲少妇在线影音| 久久久久九九九九九| 变态综合色| 欧美成人一级麻豆| 草草影院日本第一页| 国产精品人人爽人人做可爱福利| 无码日韩人妻av一| 不卡中文字幕aⅴ在线| 日韩精品国产一区二区| 国产一区二区三区影片| 超碰久久性爱| 大香蕉综合在线| 国产精品另类| 翔田千里爆乳巨臀无码| 免费作爱一级视频| 久久久久久国产精品| 91网站18在线观看| 神马久久啊啊| 欧美92| 午夜a成v人电影| 午夜啪啪片| 中文色综合| 91粉嫩萝控精品福利网站_精品影音先锋国 | 国产视频三区四区| 加勒比人妻综合| 久久春色| 亚洲黄色网址视频| 啊啊啊啊视频免费| 天天日熟妇| 久久永久无码人妻视频| 亚洲古典另类欧美在线| 97午夜剧场日韩| 精品国产乱码久久久久久日本公司| 久久六六| 在线A日本| 老女人日韩美91| 久9爱精品| 亚洲视频1区| 久久天堂婷婷网| 天堂综合| JIZZJIZZ亚洲女人被躁| 亚洲一区中文字幕一区| 日韩一级二级在线| 校园春色家庭伦理欧美激情| 国产呦精品系列在线观看| 午夜超爽| 精品人人插人人操| 亚洲Av噜噜一区二区三区妖精| 夜夜狠狠躁日日躁色视频| 男人天堂久久精品不卡| 欧美福利视频啊啊啊啊| 色婷婷久久| 日本免费一区二区不卡| 色逼综合| 留下AⅤ黄色片| 久久久性爱视频| 天天做天天爱| 五月丁香狠狠爱| 午夜精品久久久久| 日日操夜夜操天天操免费观看麻豆| 亚洲精品国产无码高清| 熟妇熟女亚洲天堂网| 丝袜天堂| 亚洲欧洲激情卡通另类文学四射小说网站| 日韩在线观看字幕精品| 欧美大香蕉卡久久| 精品久久97观看在线视频| 国产精品高清2021在线| 91无码中出人妻视频| 欧美日韩系列| 入口操逼网站| 亚洲精品不卡一二三区| 无码免费在线观看黄色片| 日韩乱码Av| 亚洲精品97久久中文字幕| 欧美人妻久久精品二区三区 | 78精品在线| 大伊香蕉在线视频免费| 色九九综合AV| 偷拍三区| 久久內射| 人人摸.人人色| 青久操| 激情天天视频| 国产亚洲欧洲在线观看| 欧美高清18A片| 久久色一区| 污色区网站| 亚洲最大的黄色电影网站。| 久久久久久9| 天天综合日韩网| 色欲天天综合久久久无码网中文| 久热69九色熟妇97| 久久久久亚洲Av无码专区老牛影视 | 五月天综合网| 欧美亚洲激情| 暖暖精品二区三区观看| 综合久久少妇中文字幕| 精品免费1| 你懂的在线观看区国产| 亚洲人妻熟妇三十三区| 成年人三级黄色片视频| 麻豆 亚洲 97| 亚洲色色探花| 91熟女少妇| 91精品丝袜久久久久久| 怡红院成人视频| 亚洲日产专区| 亚洲中文字幕熟女| 美腿丝袜高跟网免费视频免费视频| 色欲三区| 超碰97资源大奶| 国产精品麻豆视频网站| 俺也射| 成人午夜视频免费播放| 噜噜噜噜久久久精品免费| 人妻天堂综合网| 国产肏逼网站| 蜜屁Av| 极品色www影院| 亚洲欧美不卡线| 欧美大香蕉97| 艹比视频国产精品| 天天日天天看| 午夜天堂精品久久| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 91丨九色丨大屁股| 天天看天天日| s片在线观看| 五月天激情四射| 国产精品点击进入在线影院高清| 亚洲精品国产精品乱码不卡| 黄色视频特级毛片| 欧洲精品欧洲精品| 色女女女导航| 夜夜操青青草| 狠狠干妹子| 日韩av乱伦| 偷拍精品一区二区三区| 亚熟hd视频在线| 国产高潮AA片免费看| 人妻天天爽天天爽三区| 精品人妻一区春色| 天天干天天爽| 草草影院日本第一页| 亚洲欧美在线丝袜| 9久久美女首页| 在线99热| 丰满美女一级毛片在线播放| 亚洲欧美日产国产91毛片| 丁香五月自拍| 国内精品a| 老鸭窝在线视频播放| 欧美亚洲丝袜美女电影| 日韩黄色一区二区三区| 成人羞羞视频国产| 欧美亚洲高清晰| 精品人妻二区三区| 日本在线视频导航| a片在线播放| 久久亚洲日韩熟女精品| 操美女人妻| 99精品热| 三级特黄60分钟播放| 欧美日韩久久精品爱爱| 久久久国产精品亚洲精品| 亚洲情色婷婷五月天| 国产真实野战在线视频| 欧美片第一页| 另类欧美| 天堂伊人久久| 久久人妻97久久久久久久| 午夜精品久久久久久久99蜜桃一| 色牛aV| 日韩大香蕉AV影片| 97精品中文字幕| 亚洲综合性感在线| 懂色AV蜜臀无码精品APP| 国产日逼视频| 日韩操啪| 久久精品店| 美女十八禁| 天堂综合| 午夜福利区| 人妻在线臀日韩| 久久老子无码午夜伦不卡| 日韩乱伦AⅤ| 国产日韩无码一区二区三区久久区| 91精品网站| 国产精品一二三| 日日日大屁股骚女人精品| 亚洲精品国产AV天美传媒| 丁香五月天堂| 久9视频| 成人免费在线网站| 不卡一区二区日本视频| 国产乱伦性爱区| 网站A V在线| 国产激情视频一区区三区| 亚洲色天堂九9| 精品久久久久成人码免| 亚州欧美总和| 九九九九九九九九九九精品视频| 91色黑人少妇| 夫妻四区五区六区| 亚洲91av| 96久久科窝| 伊人久久88国产女| 天天日少妇逼AV| 91九色网| 久久婷婷五月天| 国产精品电影| wwwss在线观看| 99视频精品| 懂色AV一区二区三区| 欧日韩不卡视.频| 久久精品一区二区三区不卡| 婷婷久久综合| 95人妻爽爽人人做人人澡| 六月婷婷激情| 亚洲人成网www| 亚洲成人免费在线| 狠狠干狠狠色| 天天流夜夜操| 日韩国产中文字幕| 美国日韩黄色片| 99久热| 裸体美女国产免费久久久网站| 猛交交| 久久久久久久久久久久久9999| 国产suv精品一区二区四| 国产精品91一样| 91网亚洲| 嗯嗯啊啊啊啊轻点视频| 欧美日日人人天天| 日日骚一区二区三区| 精品久久97观看在线视频| 超碰97丝袜| 在线日韩日本亚洲国产| 超碰在线人人射| www.伪伪| 色噜噜人妻丝袜a∨先锋影| 丁香婷婷大香蕉| 一区二区激情国产熟女| 丝袜内射| 91丝袜熟女| 91热| 国产粉嫩蜜臀av一区二区三区 | 国产成人免费观看在线视频| 五月丁香社区婷婷日韩欧美精品影院| 国精精品无码一二三区水多多| 天天干天天插| 欧美日韩222| 国产第11页| 美女黄页网站| 中文?日韩?免费?精品| 免费超碰97在线观看| 国产自偷自拍一区| 国产精品久久久亚洲一区| 欧美精品91| 精品欧美日韩在线观看| 婷婷激情四射| 亚洲AV成人无码一二三久久| 国产精品自拍xxxx| 农村妇女一级二级三级视频| 一道本东京热加勒比一区二区三区| 91 丝袜在线观看| 亚洲女人91| av一区二区三区四区| 99精品欧美一区二区三区桃色| 丁香六月婷婷| 国产午夜视频| 天美传媒精品久久视频| 国产亚洲色婷婷久久99精品91 - 百度| 一本久道在线综合视频| 秋霞视频一区二区| 超碰人妻中文在线| 日产精品久久久一区二区| 亚洲婷婷综合网| aaaa黄片| 嗯啊不要啊啊在线观看视频| 欲射影视| 色悠久| 国产一区二区av综合| 九色 人妻 大香蕉| 黄色十八禁| 极品销魂美女一区二区| 国产一区二区三区导航| 日韩精品高清资源在线| 久久久一区二区| 亚洲最新Av| 国产亚洲精品自在线亚洲情侣| 欧美狠狠操| 四虎av在线| 男女做爰猛烈动高潮A片免费应用 少妇厨房愉情理伦片bd在线观看 不卡中文字幕aⅴ在线 | 玖玖爱在线视频免费观看| 国模精品娜娜一二三区| 狠狠躁AV| 天天天干977| 岛国AB视频| 欧美色图天堂网m| 欧美亚洲系列| 免费αV在线视频| 欧美|91色综合| 精品一区二区2| 中文字幕五月婷婷免费| 激情自拍 校园春色| 少好三P| 免费观看性欧美一级| 91色艳| 91情色在线| 久久夜黄色无码A级大片| 夜夜操91744565| 激情情色五月天| 一牛影视成人片免费| 夜夜嗨av午夜成人| 热热色91| 91日本在线观看| 欧美第二页午夜| 18禁在线视频| 九九热男人天堂| 国产农村妇女毛片精品久久| 欧美一区二区观看在线|