国产成人欧美一区二区三区vr_久久国产精品人人爽人人爽_国产精品永久免费播放_肉欲啪啪a∨无码精品一区二区_国产超短裙jk丝袜在线_亚洲AV片高清资源在线观看_国模无码一区二区三区久久_国产成年人未进视频_中文字幕无码精品夜_一区二区三区在线视频免费看_亚洲成AV人片在线观看网址_日本激情视频高清综合久久_亚洲午夜视频福利_国内大量揄拍人妻精品視_久久国产精品福利二区三区

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

嵌入式Linux根文件系統(tǒng)構(gòu)建實戰(zhàn):BusyBox從編譯到NFS掛載全流程

嵌入式Linux根文件系統(tǒng)構(gòu)建實戰(zhàn):BusyBox從編譯到NFS掛載全流程 1. 項目背景為什么嵌入式Linux離不開BusyBox1.1 從一片空白到最小可運行系統(tǒng)剛接觸嵌入式Linux那會兒我最直觀的困惑是開發(fā)板拿到手bootloader起來了kernel也加載了但是文件系統(tǒng)掛載失敗屏幕上一行Kernel panic - not syncing: VFS: Unable to mount root fs直接把你釘在原地。這種時候你才真正意識到內(nèi)核只是操作系統(tǒng)的一半另一半是用戶空間而用戶空間最基礎(chǔ)的那一層就是根文件系統(tǒng)。構(gòu)建根文件系統(tǒng)有很多方式你可以用Buildroot一鍵生成也可以用Yocto跑一個完整發(fā)行版。但回到原點思考——如果讓你徒手從一個空目錄開始把/bin、/sbin、/etc、/lib這些基礎(chǔ)骨架搭起來用什么東西填充里面的命令全用GNU coreutils那光/bin和/usr/bin下的可執(zhí)行文件加起來就幾百MB這還不算它們各自依賴的共享庫。嵌入式設(shè)備存儲空間按MB計算、內(nèi)存按幾十MB計算這種方案顯然不現(xiàn)實。BusyBox就是來解決這個問題的——它把三百多個常用的Unix命令壓縮進一個不到1MB的靜態(tài)編譯二進制里用一套精巧的機制響應(yīng)不同命令名的調(diào)用這就是它被譽為“嵌入式Linux的瑞士軍刀”的原因。1.2 一個二進制文件如何撐起整個用戶空間BusyBox的核心思路用一句話說就是“多合一”。它的實現(xiàn)方式很巧妙所有命令邏輯都編譯進同一個可執(zhí)行文件程序啟動時通過argv[0]也就是被執(zhí)行時使用的命令名來判斷自己應(yīng)該扮演哪個角色。當你在終端敲ls時如果/bin/ls是一個指向/bin/busybox的符號鏈接系統(tǒng)執(zhí)行的就是BusyBox二進制而BusyBox在初始化時判斷argv[0]是ls就路由到對應(yīng)的applet處理函數(shù)。這個設(shè)計的好處非常明顯代碼共享率高一個printf、一個malloc、一套字符串處理函數(shù)被幾百個命令共用磁盤占用極小運行時內(nèi)存占用低因為指令段只有一份。當然也有代價——每個命令的功能都是“夠用就好”的精簡版復(fù)雜參數(shù)和高級特性往往缺失性能也未必比得上原生GNU工具。但嵌入式場景下穩(wěn)定可靠、夠用、資源占用低這三點比強大的功能集重要得多。1.3 從最小系統(tǒng)到完整產(chǎn)品適用場景全梳理BusyBox適合誰這問題得分層面來看。如果你在做資源極度受限的IoT設(shè)備Flash只有4MB、內(nèi)存只有32MB那BusyBox不是選項之一而是幾乎唯一的選擇。如果你的產(chǎn)品是基于ARM Cortext-A系列的應(yīng)用處理器跑Linux做網(wǎng)關(guān)、工控HMI、邊緣計算節(jié)點BusyBox同樣能撐起底層的文件系統(tǒng)基礎(chǔ)上層跑Qt或AWTK等GUI框架毫無壓力。在基于AWTK的嵌入式Linux項目里根文件系統(tǒng)通常就是用BusyBox打底再去掉不需要的組件塞進圖形庫和應(yīng)用程序。BusyBox很貼心地提供了CONFIG_FEATURE_*這一系列配置項你可以精確到“去掉traceroute”、“保留telnetd”、“把vi換成完整版”這種顆粒度。本次實戰(zhàn)我會帶著你從編譯BusyBox開始一路做到內(nèi)核NFS掛載根文件系統(tǒng)、集成Dropbear開啟SSH、用mdev管理設(shè)備節(jié)點最終得到一個可遠程登錄、可掛載U盤、可跑應(yīng)用程序的完整嵌入式Linux環(huán)境。2. 原理拆解BusyBox的applet調(diào)度機制與動靜編譯選擇2.1 從argv[0]到applet表一次命令調(diào)用的完整旅程很多人以為BusyBox是通過“每個命令都是硬鏈接”來區(qū)分行為的這個說法只對了一半。先看編譯層面的設(shè)計BusyBox的源碼里有一個applet列表每個applet注冊了名字、main函數(shù)入口、幫助信息、可選特性標志。編譯時這個列表被展開成一個查找表而busybox.c里的main()函數(shù)就是總?cè)肟凇.斈阍趕hell里敲下ls -l并回車內(nèi)核通過execve()加載/bin/busybox這個可執(zhí)行文件同時把argv[0]設(shè)置為ls。BusyBox的main函數(shù)拿到argv[0]后會先從完整路徑里提取出最后的文件名部分去掉/bin/前綴然后在applet表中做二分查找。找到對應(yīng)條目后調(diào)用該applet的main函數(shù)并把argv原封不動傳過去。這里有個細節(jié)值得琢磨BusyBox還支持busybox ls -l這種顯式帶命令名的調(diào)用方式。也就是說即使所有符號鏈接都不存在你仍然可以執(zhí)行任意內(nèi)置命令只要在busybox后面跟命令名就行。這在急救場景下特別有用——系統(tǒng)里符號鏈接壞了但busybox這個二進制還在就能用它恢復(fù)整個/bin目錄。2.2 符號鏈接與硬鏈接之爭鏈接方式對存儲和升級的影響B(tài)usyBox安裝時make install會在目標目錄下創(chuàng)建每個applet對應(yīng)的符號鏈接或硬鏈接。默認是符號鏈接它指向/bin/busybox。符號鏈接的好處是清晰易懂ls -l /bin/ls一眼就能看出它指向哪里排錯方便。壞處是在某些文件系統(tǒng)上比如FAT格式的SD卡符號鏈接支持不好或者跨文件系統(tǒng)做chroot時解析會出問題。硬鏈接則沒有“指向”的概念/bin/ls和/bin/busybox是同一個inode的多個名字不占額外數(shù)據(jù)塊也不存在“懸空的符號鏈接”問題。但硬鏈接不能跨文件系統(tǒng)也不行鏈接目錄這在某些場景下反而是限制。實際項目里怎么選我的經(jīng)驗是常規(guī)ext4或jffs2根文件系統(tǒng)用符號鏈接沒問題但如果你要把BusyBox放進一個只讀的squashfs分區(qū)同時/bin目錄需要可寫那就會把busybox放在只讀分區(qū)在可寫分區(qū)里用符號鏈接指向它——這時候符號鏈接反而是更靈活的選擇。2.3 靜態(tài)編譯還是動態(tài)編譯一個影響全局的決定BusyBox的編譯模式分兩種靜態(tài)鏈接和動態(tài)鏈接。靜態(tài)編譯會把所有依賴的libc代碼直接鏈進busybox二進制運行時不再依賴任何共享庫動態(tài)編譯則依賴目標板上的libc.so和ld-linux.so。別看只是編譯參數(shù)的區(qū)別這個選擇直接決定你的根文件系統(tǒng)怎么做。靜態(tài)編譯的busybox只有一個文件把它拷到任何位置只要有內(nèi)核就能跑非常適合ramdisk或initramfs場景——內(nèi)核加載完initramfs后里面的busybox不需要任何外部依賴立刻就能啟動init進程。代價是二進制體積偏大一般是動態(tài)版的1.5到2倍。動態(tài)編譯的busybox大約只有三百多KB但代價是你必須在根文件系統(tǒng)里帶上相應(yīng)的C庫。用glibc的話庫文件加起來一百多MB用musl的話只需要一個libc.so約700KB左右非常精致。我個人的建議如果Flash和內(nèi)存都寬裕64MB以上直接用glibc動態(tài)編譯工具鏈兼容性最好調(diào)試階段也少很多因為庫缺失導致的怪問題。如果資源緊張不如放棄glibc整體切到musl而不是在glibc體系里糾結(jié)精簡。2.4 剪裁的藝術(shù)config配置平臺的組合優(yōu)化BusyBox沿用了內(nèi)核的Kconfig配置體系make menuconfig進去能看到和內(nèi)核配置幾乎一樣的交互界面。這里面有幾個關(guān)鍵的配置分組Busybox Settings - Build Options靜態(tài)編譯開關(guān)、交叉編譯前綴都在這里Coreutils、Shells、Networking等分類按需勾選命令Busybox Settings - Applets是否允許以busybox 命令名方式調(diào)用Busybox Settings - General Configuration是否啟用unicode支持、是否啟用long options剪裁原則是“跑起來優(yōu)先然后按需迭代”。第一次編譯不必執(zhí)著于最小化先保證系統(tǒng)能通過串口或網(wǎng)絡(luò)登錄、能執(zhí)行基礎(chǔ)的ls/cat/mount/ifconfig再根據(jù)業(yè)務(wù)需要增加或刪除。我曾經(jīng)為了把根文件系統(tǒng)壓縮到1MB以內(nèi)一臺設(shè)備一個命令一個命令地刪刪到telnetd能用、boa能起、業(yè)務(wù)進程能跑就行——但那屬于后期產(chǎn)品定型階段的精細化工作初學者不要在這個階段花太多時間。3. 實戰(zhàn)準備交叉工具鏈、目錄骨架與庫依賴3.1 工具鏈選型與編譯環(huán)境搭建動手之前先確保主機上有交叉編譯工具鏈。最常見的選項是gcc-arm-linux-gnueabihfARM 32位硬浮點或aarch64-linux-gnu-gccARM 64位。Ubuntu上安裝非常直接sudo apt install gcc-arm-linux-gnueabihf安裝完驗證一下arm-linux-gnueabihf-gcc --version輸出正常后把交叉編譯器的bin目錄加進PATH。接下來準備一個工作目錄我習慣這樣組織mkdir -p ~/embedded/rootfs/{bin,sbin,etc,proc,sys,dev,lib,usr,tmp,var,mnt} cd ~/embedded這個目錄結(jié)構(gòu)基本就是最終根文件系統(tǒng)的骨架。先建出來后續(xù)編譯完往里填內(nèi)容就行。3.2 BusyBox交叉編譯一份可以直接照抄的配置流程從官網(wǎng)下載穩(wěn)定版BusyBox源碼目前常用的版本是1.33.x到1.36.x。解壓后進入目錄tar xf busybox-1.36.1.tar.bz2 cd busybox-1.36.1執(zhí)行make menuconfig之前先設(shè)置環(huán)境變量指定交叉編譯前綴export ARCHarm export CROSS_COMPILEarm-linux-gnueabihf- make menuconfig在菜單里重點改這幾項Busybox Settings - Build Options - Build BusyBox as a static binary如果想省事直接編譯成靜態(tài)版可以避免后面處理庫依賴但要跑動態(tài)應(yīng)用如AWTK程序還是要動態(tài)編譯并正確指定CONFIG_SYSROOT退出保存后編譯make -j$(nproc) make install CONFIG_PREFIX~/embedded/rootfsCONFIG_PREFIX指定安裝路徑執(zhí)行完你就會看到rootfs目錄的bin、sbin下堆滿了指向busybox的符號鏈接。到這里BusyBox本身已經(jīng)部署完畢但要讓系統(tǒng)完整跑起來還有幾件事必須做。3.3 動態(tài)庫依賴分析別讓“No such file or directory”坑了你動態(tài)編譯模式下把busybox拷到目標板執(zhí)行時最經(jīng)典的問題不是“command not found”而是“No such file or directory”——文件明明存在卻報這個錯根因是動態(tài)鏈接器路徑不對或依賴的共享庫缺失。用交叉工具鏈的readelf檢查依賴arm-linux-gnueabihf-readelf -d ~/embedded/rootfs/bin/busybox | grep NEEDED輸出會列出libc.so.6、ld-linux-armhf.so.3等依賴項。把對應(yīng)的庫文件從交叉工具鏈的sysroot里拷貝到根文件系統(tǒng)的/lib目錄。sysroot一般在這個路徑下arm-linux-gnueabihf-gcc -print-sysroot找到后把lib目錄下的libc.so.6、ld-linux-armhf.so.3、libm.so.6拷過去。需要注意的是某些庫是符號鏈接cp -a保留鏈接屬性別用普通cp把它們拍平了。3.4 /etc目錄初始化inittab、fstab與系統(tǒng)啟動腳本Linux用戶空間的啟動起點是init進程。BusyBox內(nèi)置了init實現(xiàn)它的配置在/etc/inittab語法比SysVinit簡單得多。一個最小可用的inittab長這樣::sysinit:/etc/init.d/rcS ::askfirst:-/bin/sh ::restart:/sbin/init ::ctrlaltdel:/sbin/rebootsysinit行在系統(tǒng)啟動最早階段執(zhí)行rcS腳本askfirst在串口上拉起一個交互shellrestart和ctrlaltdel則是常規(guī)的信號處理。fstab文件也建議創(chuàng)建雖然BusyBox的mount不一定讀取它但很多腳本和工具比如mount -a依賴這個文件的存在proc /proc proc defaults 0 0 sysfs /sys sysfs defaults 0 0 tmpfs /tmp tmpfs defaults 0 0 devtmpfs /dev devtmpfs defaults 0 03.5 設(shè)備節(jié)點devtmpfs與mdev的雙保險設(shè)備節(jié)點是Linux用戶空間訪問硬件的接口歷史上需要手動mknod創(chuàng)建每一個設(shè)備節(jié)點極為繁瑣?,F(xiàn)代內(nèi)核支持devtmpfs掛載/dev時內(nèi)核自動填充常見設(shè)備節(jié)點這已經(jīng)解決90%的問題。BusyBox還提供了一個叫mdev的守護進程或觸發(fā)式工具用于熱插拔管理和動態(tài)加載驅(qū)動。在rcS腳本里加上這兩行就能啟用echo /sbin/mdev /proc/sys/kernel/hotplug mdev -s第一行告訴內(nèi)核當設(shè)備熱插拔發(fā)生時調(diào)用/sbin/mdev來做用戶空間處理第二行讓mdev掃描并創(chuàng)建設(shè)備節(jié)點。如果你的內(nèi)核開啟了CONFIG_DEVTMPFS_MOUNT甚至這一步都可以省但很多嵌入式內(nèi)核配置精簡所以保留mdev機制是更穩(wěn)妥的做法。4. 深度實操從NFS掛載根文件系統(tǒng)到系統(tǒng)自啟動全流程4.1 宿主機NFS服務(wù)配置與內(nèi)核啟動參數(shù)調(diào)試階段最推薦的方式是NFS掛載根文件系統(tǒng)rootfs放在開發(fā)機上開發(fā)板通過網(wǎng)絡(luò)加載內(nèi)核后掛載開發(fā)機上的rootfs目錄。這樣做的好處是迭代速度極快——修改rootfs里的任何文件開發(fā)板重啟即生效不需要反復(fù)燒寫Flash或制作SD卡鏡像。在開發(fā)機上安裝并配置NFS服務(wù)sudo apt install nfs-kernel-server編輯/etc/exports加入一行/home/yourname/embedded/rootfs *(rw,sync,no_root_squash,no_subtree_check)no_root_squash很關(guān)鍵它允許開發(fā)板上的root用戶對rootfs目錄擁有完整權(quán)限否則板上創(chuàng)建設(shè)備節(jié)點會失敗。然后導出并確認sudo exportfs -ra showmount -e開發(fā)板的U-Boot啟動參數(shù)里加上“root/dev/nfs nfsroot服務(wù)器IP:路徑, v3 ipdhcp”等根據(jù)你的實際網(wǎng)絡(luò)環(huán)境調(diào)整。我的常用啟動參數(shù)組合是setenv bootargs consolettyS0,115200 root/dev/nfs nfsroot192.168.1.100:/home/user/embedded/rootfs,v3,tcp ipdhcp如果網(wǎng)絡(luò)環(huán)境固定也可以設(shè)靜態(tài)IP減少DHCP帶來的不確定性ip192.168.1.50:192.168.1.100:192.168.1.1:255.255.255.0::eth0:off4.2 首次啟動的排障要點從串口日志定位問題NFS掛載根文件系統(tǒng)常見的坑不少串口日志是最好的朋友。內(nèi)核輸出中如果看到VFS: Mounted root (nfs filesystem) on device 0:15說明掛載成功后面就交給BusyBox的init了。比較典型的報錯是Root-NFS: no NFS server responded字面意思是開發(fā)板沒收到NFS服務(wù)的響應(yīng)。排查順序是先ping開發(fā)機IP通了之后在開發(fā)板上用mount -t nfs 192.168.1.100:/path /mnt手動掛一次這樣能快速區(qū)分是網(wǎng)絡(luò)問題還是NFS配置問題。還有一層容易忽略的是防火墻Ubuntu默認的ufw可能攔掉了NFS端口臨時關(guān)掉或放行端口都能解決。另一個容易踩的坑是NFS版本不一致。BusyBox的mount命令和內(nèi)核的NFS客戶端支持v3和v4但某些環(huán)境下v4的掛載會報Operation not supported。我傾向于在nfsroot參數(shù)里顯式加v3兼容性最好。4.3 rcS腳本編排系統(tǒng)服務(wù)的啟動順序與依賴根文件系統(tǒng)掛載成功、內(nèi)核啟動init后第一個真正交給用戶的腳本就是/etc/init.d/rcS。這個腳本的編寫質(zhì)量直接決定系統(tǒng)的穩(wěn)定性。我習慣把rcS按功能段劃分#!/bin/sh # 1. 基礎(chǔ)文件系統(tǒng)掛載 mount -a # 2. 設(shè)備節(jié)點與熱插拔 echo /sbin/mdev /proc/sys/kernel/hotplug mdev -s # 3. 網(wǎng)絡(luò)配置 ifconfig eth0 up udhcpc -i eth0 # 4. 啟動Dropbear SSH服務(wù) /usr/sbin/dropbear -R # 5. 啟動業(yè)務(wù)進程 /usr/bin/my_app “啟動順序”這件事看似平常實際上有很多講究。mount -a必須最先執(zhí)行因為后續(xù)很多操作依賴/proc和/sys下的信息mdev的初始化要在任何涉及設(shè)備操作的進程之前完成否則設(shè)備節(jié)點缺失會導致后面流程靜默失敗。業(yè)務(wù)進程放最后保證底層環(huán)境已就緒。另外要注意rcS里的后臺進程要加否則會阻塞后續(xù)腳本的執(zhí)行。4.4 U盤測速方案用BusyBox自帶工具完成性能驗證拿到一個根文件系統(tǒng)很多人會懷疑它的實際I/O性能。BusyBox提供的dd命令雖然參數(shù)精簡但做簡單的讀寫測速綽綽有余。U盤插入開發(fā)板后先看內(nèi)核日志確認設(shè)備名然后用dd跑一輪# 寫入測速寫入100MB數(shù)據(jù) time dd if/dev/zero of/mnt/usb/testfile bs1M count100 convfsync # 讀取測速從磁盤讀回并丟棄 time dd if/mnt/usb/testfile of/dev/null bs1M count100注意convfsync不能省它強制把緩存刷到物理介質(zhì)否則寫測速會虛高。讀取測速時也可用iflagdirect繞過Page Cache獲得更真實的裸盤速度。測出來的數(shù)字只是參考我在實際項目中會交替測三次取中位數(shù)并且在不同的文件系統(tǒng)格式ext4/exfat/vfat下分別測試——同一個U盤格式不同寫入速度能差好幾倍這個偏差往往比U盤本身的優(yōu)劣更大?;诖宋覟楫a(chǎn)線自測設(shè)計過一個簡單腳本用dd測完自動記錄數(shù)據(jù)并判定是否達標比人工記數(shù)字準確得多。4.5 集成Dropbear讓開發(fā)板擁有安全的SSH登錄能力BusyBox自帶了一個telnetd調(diào)試用沒問題但生產(chǎn)環(huán)境明文傳輸始終不放心。更專業(yè)的方案是集成Dropbear——一個專為嵌入式環(huán)境優(yōu)化的輕量SSH服務(wù)端。Dropbear依賴zlib和libtomcrypt等庫直接交叉編譯時需要先編譯這些依賴wget https://matt.ucc.asn.au/dropbear/releases/dropbear-2022.83.tar.bz2 tar xf dropbear-2022.83.tar.bz2 cd dropbear-2022.83 ./configure --hostarm-linux-gnueabihf --disable-zlib \ CCarm-linux-gnueabihf-gcc make -j$(nproc) make install DESTDIR~/embedded/rootfs--disable-zlib是為了省事如果對傳輸壓縮沒硬性需求可以砍掉這層依賴。Dropbear跑起來之前還需要rootfs里有/etc/dropbear目錄來存放主機密鑰mkdir -p ~/embedded/rootfs/etc/dropbear啟動時用-R參數(shù)讓它自動生成主機密鑰。第一次啟動會生成RSA和ED25519密鑰對可能需要幾秒鐘。配置完成后在開發(fā)機上執(zhí)行ssh root開發(fā)板IP就能登錄配合前面rcS里的dropbear啟動行整個系統(tǒng)就具備了遠程管理能力。不用再依賴串口線工作效率提升一個檔次。5. 系統(tǒng)功能擴展與調(diào)試技巧vfs、sync與業(yè)務(wù)軟件部署5.1 理解VFS層為什么mount之后一切才真正開始BusyBox的mount命令內(nèi)部調(diào)用的是內(nèi)核的VFS接口。VFSVirtual File System是Linux內(nèi)核的抽象層讓用戶空間不用關(guān)心底層具體是什么文件系統(tǒng)——ext4、vfat、tmpfs還是nfs大家都以統(tǒng)一的文件和目錄方式呈現(xiàn)。理解這層關(guān)系對排障很重要。比如NFS掛載根文件系統(tǒng)后在開發(fā)板上執(zhí)行df -h看到的根分區(qū)容量其實是宿主機NFS導出目錄的容量如果開發(fā)機上rootfs所在分區(qū)滿了開發(fā)板會莫名報“No space left on device”。這就是VFS抽象帶來的“障眼法”不追到宿主機那一層很難發(fā)現(xiàn)根因。BusyBox的mount命令還支持-t指定類型、-o指定掛載選項。在rcS里執(zhí)行mount -a時它會逐個解析/etc/fstab并掛載尚未掛載的文件系統(tǒng)。想讓某個文件系統(tǒng)只讀掛載就在fstab里加ro選項如果調(diào)試時希望快速看到文件更新NFS掛載選項加noac可以關(guān)閉屬性緩存代價是性能下降但調(diào)試期換來的一致性非常值得。5.2 sync與數(shù)據(jù)安全掉電保護的第一道防線嵌入式設(shè)備最怕的是突然斷電丟數(shù)據(jù)。sync命令的作用是把內(nèi)核緩沖區(qū)的數(shù)據(jù)強制寫回磁盤避免掉電導致文件系統(tǒng)損壞或數(shù)據(jù)丟失。在內(nèi)核層面page cache是異步寫回的sync會阻塞直到所有臟頁寫完。在BusyBox體系里有幾處經(jīng)常用到sync。一處是應(yīng)用寫重要配置文件后的顯式調(diào)用另一處是關(guān)機腳本里先sync再reboot。很多嵌入式系統(tǒng)直接靠斷電關(guān)機沒有執(zhí)行關(guān)機流程這種情況下如果之前寫入的數(shù)據(jù)還在cache里沒刷盤那這部分數(shù)據(jù)就丟了。雖然主流Flash文件系統(tǒng)如ubifs、jffs2有日志或?qū)憰r復(fù)制機制斷電后能保證文件系統(tǒng)整體一致但已經(jīng)寫入但未落盤的數(shù)據(jù)不一定能找回。所以我在實際項目里有一條鐵律任何一次關(guān)鍵寫入掉電需保留的配置、運行日志后業(yè)務(wù)代碼里都要調(diào)用sync()系統(tǒng)調(diào)用或者調(diào)用BusyBox的sync命令。這一點在量產(chǎn)階段的可靠性測試中體現(xiàn)得非常明顯做了sync的設(shè)備和沒做的設(shè)備掉電后配置文件損壞率完全不是一個量級。5.3 業(yè)務(wù)程序部署動態(tài)鏈接、運行庫與AWTK應(yīng)用的整合構(gòu)建好的根文件系統(tǒng)最終要承載業(yè)務(wù)程序。以AWTK為例它是ZLG開源的一套嵌入式GUI框架交叉編譯后會生成動態(tài)庫和可執(zhí)行程序。把整個AWTK的bin、lib、resources放進rootfs對應(yīng)目錄然后在rcS里啟動系統(tǒng)就從一個“能登錄的Linux”變成“能顯示界面的產(chǎn)品”。這里有幾個經(jīng)驗之談。第一AWTK等GUI應(yīng)用建議使用動態(tài)鏈接因為靜態(tài)鏈接會讓可執(zhí)行文件體積膨脹數(shù)倍而且升級維護很不方便。第二資源文件的路徑要嚴格遵守應(yīng)用預(yù)期比如AWTK默認從./assets或指定路徑讀取資源如果把路徑配錯應(yīng)用啟動時會靜默失敗或只顯示白屏。第三運行庫一并拷貝用ldd檢查目標程序依賴把缺失的.so也放進rootfs。我踩過最疼的一個坑是目標板上程序啟動報libstdc.so.6: cannot open shared object file因為交叉編譯工具鏈的libstdc沒有進rootfs。查了整整一個下午才發(fā)現(xiàn)是--sysroot路徑配置問題。所以建議在一開始就明確lib庫來源最好維護一個rootfs依賴清單每次編譯和更新都對照清單走不要靠眼睛一個個比。5.4 調(diào)試階段的高效操作主機-開發(fā)板文件互傳與快速驗證開發(fā)階段文件傳輸頻率很高。NFS掛載已經(jīng)解決了rootfs內(nèi)文件直接共享的問題但有些場景繞不開“打包拷貝”比如燒寫生產(chǎn)鏡像前的最終驗證。我常用的三件套是TFTPU-Boot下載內(nèi)核、NFSrootfs調(diào)試、scp通過Dropbear傳文件。這三者配合節(jié)奏非常舒服。另外BusyBox的wget在很多嵌入式環(huán)境下可用。如果開發(fā)板能上網(wǎng)或者局域網(wǎng)內(nèi)有文件服務(wù)器在板上直接用wget http://192.168.1.100/myapp -O /usr/bin/myapp chmod x /usr/bin/myapp就可以完成程序更新比反復(fù)插拔SD卡或拆機接串口高效太多。這個操作在生產(chǎn)現(xiàn)場遠程升級時同樣適用只要把升級包放到內(nèi)置Web服務(wù)器上設(shè)備端拉取后校驗、替換、重啟就是一套最簡單的OTA流程。6. 常見問題速查與排障實例6.1 高頻問題與針對性解決方案問題現(xiàn)象根本原因解決辦法串口登錄后敲命令報not found/bin下的符號鏈接未創(chuàng)建或路徑不在PATH中make install CONFIG_PREFIX...重裝echo $PATH確認目錄No such file or directory但文件存在動態(tài)鏈接器缺失或路徑不對readelf -d查看依賴補拷ld-linux.so到/libinit: must be run as PID 1手動執(zhí)行了/bin/init確認內(nèi)核init參數(shù)指向正確路徑cant open /dev/ttyS0: No such file or directory串口設(shè)備節(jié)點未創(chuàng)建mdev -s掃描或手動mknod對應(yīng)主次設(shè)備號NFS掛載卡住或Operation not supportedNFS版本不匹配nfsroot參數(shù)強制加v3或v4開啟端口ifconfig: SIOCGIFFLAGS: No such device內(nèi)核未編譯對應(yīng)網(wǎng)卡驅(qū)動內(nèi)核menuconfig中啟用網(wǎng)卡驅(qū)動確認設(shè)備樹正確telnet連接成功但無法登錄未配置密碼或inittab中沒有askfirst檢查/etc/passwd、/etc/shadow用passwd設(shè)置密碼程序啟動報Permission denied可執(zhí)行文件沒有x權(quán)限chmod x如果是腳本檢查首行#!/bin/shmount -a后df看不到新掛載fstab格式錯誤或不支持該文件系統(tǒng)類型手動mount定位問題檢查內(nèi)核是否編譯對應(yīng)文件系統(tǒng)驅(qū)動6.2 實戰(zhàn)排障實錄一NFS掛載成功的假象我之前接過一個現(xiàn)場問題開發(fā)板啟動后根文件系統(tǒng)是在NFS上但應(yīng)用層的配置始終寫不進去報Read-only file system。排查第一反應(yīng)是查fstab和掛載選項發(fā)現(xiàn)rootfs的掛載選項里并沒有ro。繼續(xù)查發(fā)現(xiàn)宿主機NFS導出目錄時/etc/exports里的父目錄權(quán)限是只讀子目錄雖然rwx但NFS的導出層級限制了權(quán)限繼承。最后在exports里把具體子目錄單獨加了一行rw導出才解決。這個案例給我的教訓是NFS權(quán)限問題不只在開發(fā)板側(cè)排查宿主機的目錄權(quán)限、exports配置、SELinux/AppArmor都要納入檢查范圍。做一個checklist按 網(wǎng)絡(luò)通不通→掛載行對不對→宿主機權(quán)限→目標板權(quán)限 的順序逐層排查能省下大量踩坑時間。6.3 實戰(zhàn)排障實錄二init找不到 —— VFS panic的完整追查過程另一個常見場景是內(nèi)核起來后報Kernel panic - not syncing: VFS: Unable to mount root fs on unknown-block(0,0)。這個報錯有兩個常見原因一是內(nèi)核確實沒編譯對應(yīng)文件系統(tǒng)驅(qū)動如NFS、ext4的驅(qū)動沒編進去二是root參數(shù)指定的設(shè)備不存在或路徑寫錯。我遇到的情況是兩者疊加根文件系統(tǒng)在NFS上但內(nèi)核配置里CONFIG_ROOT_NFS沒開同時bootargs里root/dev/nfs的寫法在內(nèi)核某版本上解析有差異。解決辦法很樸素確認內(nèi)核編了NFS客戶端和CONFIG_ROOT_NFS再把bootargs改為明確設(shè)備路徑的寫法。改完后串口輸出的日志從panic變成正常執(zhí)行init那種感覺比什么都有成就感。6.4 實用排障技巧以最小化思維定位“僵尸啟動”系統(tǒng)起不來的時候不要急著懷疑BusyBox或內(nèi)核先做減法。假設(shè)你已經(jīng)通過串口看到內(nèi)核輸出但卡在某個階段那么思路應(yīng)該是先確認內(nèi)核解壓完成、跳轉(zhuǎn)執(zhí)行用戶空間init時有沒有報錯然后用init/bin/sh讓內(nèi)核直接拉起shell繞過init進程所有的腳本邏輯這樣如果shell能起來說明內(nèi)核和rootfs基本沒問題問題出在腳本層接著在shell里手動執(zhí)行rcS的每一行定位具體哪條命令導致啟動卡死或重啟最后修復(fù)后再恢復(fù)init/sbin/init正常啟動。這種方法看起來笨卻是效率最高的排查路徑。它把一個大問題分解成多個可驗證的小節(jié)點每一步都確認“到這一步一定是好的”就能快速收斂問題范圍。這套思路不管是對付NFS掛載、BusyBox init還是業(yè)務(wù)進程崩潰都屢試不爽。7. 性能優(yōu)化與生產(chǎn)級加固7.1 精簡rootfs體積從30MB到3MB的步步為營嵌入式產(chǎn)品的Flash容量往往是硬件選型時就鎖死的因此rootfs體積直接決定你能否在一個給定的Flash上裝下整個系統(tǒng)。精簡單可以從這樣幾個方向做編譯BusyBox時關(guān)閉所有用不到的applet和feature能去掉vi就絕不留著能不用ip就換ifconfig和routestrip所有可執(zhí)行文件的符號表C庫從glibc切換到musl把不常用的庫和應(yīng)用從rootfs中挪出去需要時再動態(tài)掛載。這三個動作做完30MB的體積壓到3MB以內(nèi)是完全可行的。7.2 系統(tǒng)可靠性加固只讀文件系統(tǒng)、A/B分區(qū)與掉電保護精簡到極致之后還要考慮生產(chǎn)環(huán)境下的可靠性。一個被驗證過多次的做法是把根文件系統(tǒng)做成只讀的squashfs把Bootloader、內(nèi)核、rootfs放在獨立分區(qū)所有需要運行時寫入的數(shù)據(jù)/var、/tmp、日志掛載到tmpfs或單獨的data分區(qū)。這樣做的好處是不管怎么斷電根文件系統(tǒng)永遠不會因為意外寫入而損壞系統(tǒng)起不來就重燒數(shù)據(jù)區(qū)單獨處理。更進一步就是A/B分區(qū)方案兩份固件一份正在運行一份備用升級時寫備用區(qū)啟動時校驗并切換。這個方案會讓系統(tǒng)整體復(fù)雜度上一個臺階但帶來的可靠性回報非常明顯尤其是對無法接受OTA失敗變磚的設(shè)備。7.3 裁剪的邊界理解“夠用”不等于“能用”精簡rootfs的時候一定把握好度。我的經(jīng)驗是保留一份能力完整的備用rootfs用于開發(fā)調(diào)試產(chǎn)品量產(chǎn)時再切換到精簡版。否則為了省幾百KB換來開發(fā)時處處碰壁反而拖慢整個項目進度。比如BusyBox里ps命令在精簡模式下可能不顯示完整參數(shù)排查問題時很難受top甚至可能被砍掉——這種時候省下的100KB就變得毫無意義。8. 結(jié)語從啃文檔到構(gòu)建屬于你的第一個系統(tǒng)回想我?guī)н^的幾個AWTK項目新人最容易卡住的地方反而不是寫業(yè)務(wù)代碼而是“不知道根文件系統(tǒng)是怎么來的”。從裸機到完整系統(tǒng)中間隔著的這一段正是BusyBox和其他基礎(chǔ)組件存在的地方。當你自己動手編譯一次BusyBox、配好inittab、用NFS掛載起整個系統(tǒng)、再從串口和SSH分別登進開發(fā)板時嵌入式Linux的面紗才算真正揭開了一角——它不神秘就是一套由無數(shù)清晰環(huán)節(jié)構(gòu)成的完整體系。如果你打算從零開始我的建議是先把這篇文章里的流程親手做一遍遇到問題就按第6節(jié)的思路排查。等你能順利看到一個BusyBox的shell提示符出現(xiàn)時你已經(jīng)超過了很多只會改改調(diào)調(diào)的應(yīng)用工程師。后續(xù)真正要下功夫的無非是把這份“骨架”越填越豐滿讓自己的系統(tǒng)從能開機升級到穩(wěn)定、安全、可維護。這條路上有一段話我一直很喜歡系統(tǒng)不是某個天才設(shè)計出來的而是無數(shù)個細節(jié)一層層堆疊出來的。BusyBox就是這些細節(jié)里最基礎(chǔ)的一塊拼圖希望這篇實戰(zhàn)筆記能幫你把它拼進你自己的系統(tǒng)版圖里。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚欧美综合网| 亚州色图片在线色| 久久久极品| 国产成人99久久亚洲综合| 超碰人人在线| 亚洲天堂久| 欧美日产国产在线成人第一区| 欧美毛片在线网| 97伊人超碰| 可能人人看人人摸| 日日干夜夜欢| 偷看洗澡一二三区美女| 欧美日韩美女精品久草一区二区三区| 黄色电影在线播放综合网站| 综合91网| 自拍偷拍 高清无码| 日韩女优在线| 怡春院久久| 国产女生在线| 东京男人天堂| 日韩人妻资源在线看| 天天影视综合色| 在线观看综合精品亚洲| 国产精品粉嫩福利在线| 91九色在线| 粉嫩av一区二区三区四季| 久久久久久久九九九九| 国模限制级电影| 久久草草亚洲蜜桃臀| 久久超碰久| 97精品免费视频网站| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 中文字幕高清精品一区| 嗯嗯啊好大| 色就色综合| av线电影| 婷婷亚洲天堂| A一区片| 九九玖玖精品| 亚洲啪AⅤ永久无码| 一本正道久久熟女| 99性爱在线观看| 无码人妻系列少妇| 99精品在线观看| 午夜精品久久久久久久| 亚洲精品人妻吞精av| 日韩无码服务区| 久99久视频| 欧美综合网在线| 大香蕉AV丝袜| 精品高清一区二区三区三州| 久久精品99| 亚洲黄色影视| 欧美少妇性爱网站| 99re这里只有精品2| 美女诱惑爱爱| 伊人激情五月天一区二区| 五月天亚洲网| 人人手机欧洲亚洲国产人妻| 高清一区AV无码| 超碰久久精品| 国产高清免费不卡av| 欧美在线观看综合国产| 亚洲天堂资源在线| 91挑色欧美| 久久久久久AⅤ无码免费肉站| 男人的天堂Va| 97精品97| 国产热RE99久久6国产精品首| 久久精品—区二区三区内射| 高清肉丝中文无码| 国产精品视频电影| 97在线精品| 男女猛烈无遮掩视频免费软件| 午夜精品久久999热蜜桃介男人用| 综合久久久久久久综合网| 国产夫妻性生活视频| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 欧美少妇熟女| 久久男人的天堂| 99国产精品久久久在线播放| 亚洲天堂性爱| 九九亚洲| 在线观看av区| 免费a级毛片av无码久久精品中文字幕| 伊人久久蜜月| 蜜臀人妻少妇久久在线观看| 久热久| av在线不卡一区二区三区| 国产夫妻性生活视频| 2019AV天堂| 人妻精品一区二区在线| 熟女人妇一区二区三区| 人人操人人摸avav| 亚州一区二区| 欧洲大香蕉| 性爱欧美五月| 国产精品suv一区| 东京日日夜夜| 啊啊啊啊啊在线观看网址| 亚洲αv一区二区三区| 丝袜 中出 制服 人妻 美腿 中文字幕| 国产夫妻一区二区| 大香蕉碰碰| av在线资源| 91丨熟女丨丰满熟女| 亚洲在线欧美| 清纯唯美激情| 色网亚洲人| 欧美96在线|欧| 97se综合| 久久人妻一区二区三区高清| 亚洲欧美啪啪| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 白丝一区| 农村女一级毛卡片| 日本韩高清无砖码22o| 日本二三四区| 香蕉av一区二区三区| 91五月天| 欧美狠狠鲁| 亚洲阿v天堂在线| 大香蕉中文| 99超碰网| 国内伊人久久久久久网站视频| 久久久久女教师免费一区| 国产丰满少妇久久久精品影院| 中文字幕成人| 国产高清1234区| 美女刺激久久国产欧美| 91oumei| 久久免费精彩视频| 内射中出日韩在线观看视频| 91色黑人少妇| 熟妇女伦乱视频视频| 18禁久久| 夜夜骑夜夜操| 农村女一级毛卡片| 人人操人人色人人摸| 秋霞一集毛片观看| 久久亚州精品成人Av无| 97人人操人人摸| 亚洲97| 国内精品嫩模A∨私拍小视频| 自拍偷拍 日韩欧美| 亚洲人成网站7777| 亚洲aV性爱| 久久曰曰| 美欧老女人97| 男人天堂资源| 淫荡熟女乱伦网| 国产a级午夜毛片| 日本在线不卡一二区| 人人爱人人操人人性| 亚州操逼网| 日本福利社| julia在线观看久久| 91 手机在线播放 绯色| 日韩熟女精品无码专区一区二区| 天堂麻豆天美| 另类欧美色| 中文字幕精品探花视频| 91三级理论片播放器| 99操碰| 99久久这里只有精品| 男人的天堂色偷偷青青草视频婷婷网| 欧美激情亚洲情色| 青娱乐福利99| 人妻夜夜爽天天爽麻豆三区网站 | www.av在线视频| www成人啪啪18秘 免费| 日韩精品国产精品五码一区二区| 人人看人人摸人人色| 性感女人网页在线观看视频| 亚洲自拍青操视频| 精品日韩人妻视频| 亚洲欧洲国产综合av| 波多野结衣一级视频| 一级久久久久久久久久久 | 亚洲美女色图| 超碰在线综合97| 中文字幕丰满子伦无码专区在线视频最新| 一区二区三区四区免费视频| 久久99国产综合精品女同| 熟妇亚洲一区二区三区| 天天影视91看看| 欧美综合网在线| 午夜爽爽爽在线观看永久入口姬片| 国产又爽又黄| 97精品97久久| 亚洲精品尤物yw在线影院| 日韩草久视频| 亚洲女人91| 精品人妻少妇| 新版天堂中文资源8在线| 九九九九日本| 精品欧美不卡在线播放| 竹菊影视国产一区二区| ...日韩成人一区二区三区字幕| 在线日韩精品一区二区三区| 看看小穴| 九久精品| 长长久久88视频| 热久日综合| 久久久久96| 女性喷水高潮在线观看| 丝袜性亚洲| 天天干18禁| 台湾一区国产高清在线| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 丰满丝袜少妇AV| 在线观看免费视频国产| 久久久久久中文版| 尤物网址| 97亚洲自在精品在线观看| 婷婷午夜成人色中色| 夜草欧美| 十八禁成人网站在线观看| 国产午夜视频| 婷婷深爱五月| 蜜桃天美传媒AV一区二区三区| 亚洲一曲日韩精品| 区二区亚洲婷| 日韩 欧美 视频 在线 一区| 亚洲AV无码久久精品蜜桃小说| 97爱啪| 白嫩国模丰满一二三区| 久草精品在线| 超91综合网| 91亚洲综合| 狠狠中文字幕| 亚洲精品三区在线观看| 色天天野狼综合社区| 色综合久久久久| 天天干18禁| 懂色AV一区二区三区| 日韩人妻丝袜中文字幕| 欧美97日韩| 国产 日韩,欧美 自拍| 美欧老女人97| 亚洲福利中文字幕在线| 春色91| 日韩免费人妻色情网站| 在线观看黄色电话| 国内伊人久久久久久网站视频| 欧美午夜视频免费观看| 97在线青| 久久综合九九| 欧美性爱日韩高清| 酒色综合网| 国产传媒美日韩av| 岛国成人av在线播放网址| 欧美 亚洲精品首页| 高清不卡一二三区视频......| 久久性爱精品一区| 国产97在线 | 亚洲| 日日夜夜草草草| 国产 日韩 另类 视频一区爱| 大香蕉人妻久久| 嗯嗯嗯不要不要免费视频| 东北丰满熟女国产一区| 一区二区影视| 亚洲精品丝袜-不卡成人免费……| 韩三级a视频在线观看| 亚洲女人毛茸茸91| 丰满人妻一区二区三区在线| 亚洲性爱无码乱伦av| 97综合网| 亚洲色图 91| 99re69| 久久伊人五月天| 国产精品毛片?v一区二区三区| 久久久96精品| 日本蜜桃| 激情小说五月天| 久久av成人无码免费| 91老熟女| 精品美女少妇一区二区| 丰满人妻一区二区中文| 蜜臀亚洲综合一二三四区| 丁香色五月 97干| 视频国产欧美在线播放| 97资源欧美| 深爱五月天| 欧美午夜视频精品久久| 成人影院永久免费观看网址| 大香蕉综合网| 精品无吗m| 中国少妇啪啪视频| 亚洲不卡一| 伊人一区二区三区| 色天堂综合| 日韩av三四区| 色鬼在线综合| 东京热激情视频一二三区| 日韩乱插| 99ri视频| 色婷婷丁香| 香蕉人人操tv| 福利在线观看一区二区| 黄色AAAAAAAAAAA大片| 人人看人人插| 欧美人妻久久精品二区三区| 眼镜人妻101.com| 97色伦97色伦国产欧美| 少妇熟女1区2区3区| 蜜臀一区二区三区在线| 国产精品96| 一区二区三区国产在线播放| 久久婷婷电影网| JIZZJIZZ亚洲女人被躁| 最新日本中文字幕| 69少妇一区二区| 一级日本牲交大片好爽在线看| 人妻久久一区二区三区 | 五月天婷精品激情| 久精品无码av一区二免费国产在线观看| 狠狠色噜噜狠狠狠狠2018| 最新日本中文字幕| 亚洲日韩精品久久久久一区壹牛| 黑人精品XXX一区一二区| 日韩字幕一区| 无码WWW免费视频网站| 亚洲精品啪视频| 欧美成人一区二区三区在线播放| 欧美99热| 欧美18禁91| 精品国产99| 91真人天天在线| 亚洲性猛| 91性网| 亚州性色| 超碰免费人妻人人| 国精精品无码一二三区水多多| 久久久久国产一区二| 中文字幕在线日亚州9| 亚洲精品男人的天堂| 日韩女优中文字幕| 美女丝袜激情小说| 屁股久久久久久久| 在线国产福利网址导航| 久久五月视频| 伊人国产视频| 久久久久久人体| 天天做天天爱| 久久综合亚洲色1080p| 亚洲中文字幕精品久久久久久直播| 欧美性爱五月天| 欧美性暴力猛交XXXX| 黄色一区三区| 肉动漫无遮挡h在线观看| 两性色网| 97 亚洲 日韩 欧美 在线| 精品无码人妻一区二区免费蜜桃| 久草电影网| 男人的天堂99| 日本操逼二区| 丝袜夫妻自拍| 欧美综合色综合| 91欧美大片| 口爆吞精在线观看| 久久国产精品一级二级三级| 我想要啊 啊 啊| 久久精品国产亚洲AV清纯| 日操粉逼逼| 日韩人妻操B| 国产熟女一区二区丰满| 超碰97国产欧美| 欧美成人AⅤ大片在线观看| 涩涩五月天| 制服诱惑亚洲一区二区三区在线观看| 中文字幕精品探花视频| 欧美综合色综合| 伊人色综合网电影| 久久偷拍人| 九九九九九九视频免费| yw尤物av无码点击进入麻豆| 成人熟女区| 性色A∨91| 一区二区三区视频| 久久久九精品| 久久精品国产72国产精品福利 | 天堂亚洲欧美| 717影院理论午夜伦八戒| 九区国产| 久久久久久综合久久伊人蜜月| 国产免a费看黄片在线| 亚洲另类久操网| 欧美色蜜桃97| 自偷自拍的亚洲视频| 亚洲男人的天堂在线看| 9丨亚洲一区二区在线| 老色69| 色约约一区=区三区| 强被迫伦姧在线观看无码网站| 色婷久久| 射丝袜大香蕉| 久久av无码| 亚洲男人天堂网久久| 国产免费内射视频| 日本免费不卡二区| 国产精品黑人一区二区三区| 最新一二三区视频| 91视频在线观看18| 97精品国产97久久久久久| 91色亚洲| 国产原创精品| 99无码狠狠久久| 超碰国产情侣自拍网| 久久久少妇| 国产精品久久久视频| 福利五区| 极品色社| 欧洲在线性爱视频| 亚洲色9| 操B视频日韩无码| 免费网站观看www在线观| 天美av在线| 狠狠综合网| 欧美综合另类| 校园春色 男人天堂| 丰满人妻一区二区三区| 丰满少妇人妻久久久久久| 一区在线精品中文字幕| 久久9久9久99久9久9| 丰满人妻一区二区三区性色| 四虎影视永久在线观看精品免费网站| 亚洲欧洲中文日韩女优乱码| 神马久久69| 国产麻豆一级精品视频| 好吊色青靑草| 亚洲美女30b| 美女午夜福利免费视频| 中文字幕一区二区三四五区日日骚| 国产精品自拍欧美在线| 国产熟女无套内射| 亚洲宗合电影| av天堂手机版追回| 亚洲麻豆av一区二区| 欧美视频激情久久久久久| 91爆操视频| 日本媚薬中文字幕在线| 久久精品视频久久久| 美女尤物人人操| 日本天天干天天搞一区| 操碰97| 婷婷干黄色| 青青草中日韩在线| 一道本东京热加勒比一区二区三区| 被男人添B超爽视频| 天天影视综合色| 99re这里只有精品中心播放| 99碰碰| se吧提供国产乱老熟视频胖女人| 青青草原成人| 亚洲AV资源| 日韩不卡毛片Av免费高清| 蜜臀视频网站| 天堂av最新电影网| 天天日老熟妇| 欧美丰满熟妇XXXX性ppX人交| 欧美激情视频在线一区| 校园春色AV天堂| 啊啊啊要高潮了| 精品国产嫩穴视频| 日本色色色| 日韩A优精品在线观看| 98久久| 久久99干一本高清| 亚洲日韩欧美一区二区| 日韩欧美成人大香蕉| 99久re热视频精品98| 色图综合网| 中文字幕av一区二区三区人妻少妇 | 天天色综合影视网| 午夜福利在线合集| 欧美精品 - 91爱爱| 最新日产中文在线麻豆| 久操com| 97日韩欧美| 久久久涩| 后入综合久久| 粉嫩av一区二区三区四季| 一区二区三区四区姦女| 亚洲熟女国产综合另类| 黄片www.| 中文字幕性感少妇av| 操逼操逼逼操操逼91| 亚洲第一页第二页激情| 亚洲欧美日韩中文播放| 夜色综合| 97久久超碰| 免费视频一二三区| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 蜜臀AV秘一区翔田千里| 日日干天天干夜夜爽| 精品久| 99国产女人| 校园春色亚洲色图| 熟女久久久| 人妻天天爽夜夜爽2| 亚洲drav色图| 色69大色97香蕉| 久久天堂网| 99在线精品观看视频中文| 超碰在线1234区| 无码人妻丰满熟妇区毛片| 日产中文字幕2020| 超硑97精品| 精品亚州18| 加勒比伊人综合| 中文无线日韩一区| 少妇蹲下买菜露大唇0| 一二三四区操操Av| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 国产精品爽爽va在线观看98| 精品国产久热在线观看| 在线免费观看日韩一区| 国精精品无码一二三区水多多| 强奸乱伦Av网| 97人妻免费中文字幕| 日本精品高清一二区一本到| 色999五月色| 91大学精品激情戏| 日本97久久久精品| 97超色| 97美日韩视频| 国产97亚洲| 国产精品又黄又猛又粗| 金莲网址| 国产后入精品| 久久久久久久久久久999| 精品一二三区女同| 男人的天堂99| 伊人精品久久网站| 色99色| 97久久精品亚洲中六字幕| 小骚逼被操的爽不爽| 97精品视频在线播放| 日本东京热大香蕉a片| 欧美在线官网| 一区二三区四区视频大全套| 亚洲诱惑天堂 | 99草精| 91综合在线| 国产伦精品一区二区三区在线观| 91精品人妻一区二区三区蜜桃| 无码最新| 欧美一区二区三区四区综合| 女人高潮抽搐喷水视频网站| 超碰在线974| 亚洲国产中文字幕| 东京热一区二区中文字幕| 大黄片做爱的大的| 丝袜美腿欧美| 国产日韩中文字幕欧美| 日产欧美电影一区二区三区| 国产做?爰片久久毛片?片美国| 青青草原狼av| 操久久久久| 岛国免费黄色网址| 91色碰| 亚洲激情深爱文学小说网站| 午夜性生活av免费在线看| 一级特级aaaa毛片免费观看| 亚洲 se图 欧美电影| 农村少妇久久久久久久| 黄片免费久久久久久久| 欧美日韩222| 清纯唯美激情| 去干网最新版| 校园春色亚洲无码| 亚洲精品xxx| 中文字幕片| 日日做夜狠狠爱欧美黑人| 亚洲色人| 激情五月婷| 伊人午夜福利视频| 人妻一二三区| 亚洲激情久久| 亚州黄站| 国产精品99久久久www| 中文乱码99| 亚洲天堂男人天堂网| 欧美一区二区三区另类精品| 中文高清一区二区的| 黄色交缠性感爆操91国产精品免费一区二区三区| 成人av在线播放| 啊好大好舒服| 91人妻在线视频| 久操大香蕉手机视频在线看| 国产高清在线自在拍69| 八人操人人摸人人看| 丁香婷婷激情五月天无毒不卡 | 成 人片 黄色大片| 99re只有精品| 欧洲亚洲国产综合在线| 青苹果影院男人的天堂| 久久精品99| 日本操逼二区| 美女让帅哥通她小鸡鸡| 国产欧美日韩精品中文| 大屁股国产在线视频| aaaa黄片| 嗯嗯嗯啊啊在线观看| 无码高清专| 亚洲s色图| 另类小色呦| 日本精品加勒比海一区| 精品少妇一区二区三区在线视频| 色欧美在线| 婷婷激情五月| 97啪啪| 欲色影视综合吧| 性爱乱伦视频免费| 熟女熟妇一区二区三区视频| 欧美亚洲玖玖玖| 亚洲无992tv| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 欧美日韩第一页| 性欧美91| 99999精品视频| 人妻少妇精品| 91处女视频在线观看| 精品少妇人妻av久久免费| 色情亚洲日本成人| 18禁网站在线播放| 综合色欧美| 久插综合| 精品区国产区一区二区三区| 欧美中文综合| 欧洲与亚洲欧美精品中文字幕| 中国少妇XXXX做受| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 青青免费在线视频一区| 无码九九九九| 久久国产精品91| 伦伦成年午夜免费视频| 不卡视频一区蜜桃视频| 日本日日色视频| 亚欧Av| 免费国产视频| 亚洲AV在线资源| 日韩精品区二区三区不卡| 中文字幕精品一区欧美| 97操B| 激情综合av| 亚洲色婷婷| 欧美一级特黄淫片在线观看| 日本精品一区二区三| 欧美九九爱| 国产亚洲精品第一最新| 97色伦97色伦国产欧美| 日韩欧美中文字亚洲慕| 久久夜夜夜夜| 欧美一区91大爱| AV无码久久久精品| aaa亚无码专区| 怡红院久久老司机| 亚州综合图片| 91在线免费观看处女| 日日碰狠狠添天天爽超| 久久丁香久草综合网| 日韩三级av片| 欧洲性人爱视频| 中文字幕日韩人妻视频一区二区三区交换夫妻| 欧美一区二区三区日韩| 自拍偷拍亚洲熟女妇人精品| 天天综合97| 人妻精品一区二区三区| 天天爱综合网| 偷拍综合亚洲| 久久这里都是精品| 激情99| 超碰人人在线| 中文字幕永久在线| 欧美性爱另类综合| 国产激情av女片自拍| 欧美人妻少妇| 国产传媒日本欧美专区| 91亚·色| 91色艳| 啊啊啊不要好疼视频| 在线另类| www.色婷婷| 性久久| 秋霞免费无码视频日韩A片| 91丨人妻丨国产丨丝袜| 欧美色乱| 欧美亚洲手机在线| 性色综合网| 2020中文字幕在线| 91模特在线观看| www.acm成人黄色毛片| 丝袜美腿射精91| 青青三级视频| 九九九九免费视频| 亚洲drav色图| 国产97/欧美| 中文字幕欧洲有码| 欧美高清色| 探花精品 一区二区| 午夜噜噜噜| 91亚洲情色| 欧亚日韩中文在线| 久久精品国产Aⅴ| 超碰97人妻免费在线| 国产日韩精品suv| 精品无码一区二区三区| 视频黄色国产一级| 爆操无码| 中文高清一区二区的| Av色五月| 六月激情网| 国产日韩精品一区二区三区| 成人情色一区二区| 99www.bibizy香蕉资源国产一区二区三区高清 | 殴美综合色88| 国产91精品在线免费| 婷婷五月综合在线| 久热在线精品免费观看| 欧美色人| 天天干18禁| 久久永久无码人妻视频| 伊人影院综合是一个与深夜成人在线| 狠狠干狠狠色| 综合 青草 伊久久 影院 综合| 久久神马影院| 婷婷精品国产欧美精品亚洲人人爽| 久久9精品网站| 精品无码久久久久久国产浪潮| 99精品在线播放| 东京热亚洲一区二区| 很很干很很操| 日韩精品人妻系列无码天堂| 情色五月天就去干| 黄色AAAAAAAAAAA大片| 九九亚洲| 欧美一区二区成人一卡| 九九国产热| 美女诱惑久久| 在线综合色| 色欧美天天| 黑丝自慰喷水网站| 日本高清一区二区在线| 人妻激情另类| 久久国产999| 亚洲成人贴图| 国产精品呦一区二区三区| 99久在线精品99re8热| 成功精品影院| 亚州色国| 欧美91精品国产自产| 国产精品探花视频| 日韩美一区| 激情文学小说一区二区| 亚洲精品久久久久毛片A片拉屎 | 亚洲黄色视频在线观看视频| 999岛国大片| 91伊人影视综合| 国产日韩欧美| 国产成人 综合亚洲 天堂| 丁香五月婷婷基地| 91超碰在线播放| 超碰97.com| 成年人三级黄色片视频| 人妻啊啊人妻啊啊| 久草电影网| 爽极品影院| 刺激精品视频| 国产v亚洲v日韩v欧美v片另类| 国产美女高潮叫床视频| 欧亚日韩三区| 欧美天天弄| 热九九精品| 91麻豆天美国产欧美日| 另类老少妇| 国产无码精品无码| 丝袜美腿诱惑亚洲欧美视频在线观看 | 秋霞鲁丝午夜无码一区二区三| 超碰午夜| 亚洲精品丝袜-不卡成人免费……| 亚洲精品国产熟女久久久| 国产精品禁久久久精品| 乱论91| 很很很很操| 国产亚洲深夜激情| 欧美少妇一区二区三区| 四虎在线观看视频| 99这里有精品视频| 91热热色| 97干在线视频| 九九九成人| 欧美在线干| 久久久久久久97| 激情综合五月丁香| 伊人亚洲综合| 近亲乱伦一区二区| www.高清无码诱惑一区.com | 搡老女人老91二区| 日本曲间由美性生活片| 热99这里有精品综合久久| 国产成人精品日本亚洲语言| 欧美日韩中国x| 国产精品久久成人免费| 亚洲色图 91| 久久黄色性爱视频| 素人无码中文字幕| 嫩草影院在线观看精品| 综合网亚洲1| 亚州情色j区| 国产1024在线播放| 91成人国产综合久久精品蜜月| 国产成人无码a| 欧美伦乱爱| 日韩av影片在线观看| 99蜜月精品久久| 9l视频自拍9l九色成人| 久艹99| 五月丁香在线| 92久久| 三级片大波波| 亚洲成人日韩小说| 成人情色综合网| 午夜欧美女人操逼| 起碰97| 91爱做| 黄色高清无码无码破解免费暗网| 青青草公开在线免费不卡视频| 国产精品亚洲无码| 久久九九精品一区二区 | 欧美,亚洲,日韩,v,天堂,手机在线观看 | 亚洲乱码尤物193YW| 床戏久久久av一区二区麻豆| 国产欧美伊人| 免费操逼91| 亚洲青色欧美| 狠狠操天天干| 婷婷在线视频在线观看| 久操视频这里只有精品| 蜜桃久久久久久| 成人八戒网站| 欲香欲色综合天天伊人| 色婷婷成人综合| 亚洲97成人在线观看| 久久美国毛片| 欧美人妻精品| 免费啪啪一级视频| 亚洲欧美人妻| 久久人妻少妇| 久久99黄色卞西瓜| 51一区二区三区| 中文字幕一二三| 97操97干| 欧美少妇第一页| 亚洲熟女中文字幕在线| 亚洲图片欧美色图| 国产夫妻性生活视频| 亚洲男人的天堂一区二区| 睡产熟女乱伦| 噜噜噜亚洲精品| 久久婷婷一区二| 日韩av不卡在线观看| 天天干18禁| 亚洲宗合网| 色狠狠综合噜一二三区| 国产激情视频在线观看| 国产精品亚洲无码| 国产午夜精品在线观看| www.人人摸在线视频| 啊啊啊在线观看免费视频| 婷婷五月综合激情| 亚洲蜜桃V妇女| 激情黄色片在线观看| 国产农村妇女毛片精品久久| 久久久111| 密臀在线免费观看| 色综合色色| 国产精品无码av在线| 久久春色| 日本三级精品| 亚洲国产福利视频| 麻豆激情综合| 超碰97最新人妻| 国产自产91区13区| 玖玖97综合 | 午夜福利区| 青青草亚洲一区| 偷拍 精品另类 凸凹了四区| 日韩av影片在线观看| 亚洲精品国产专区在线观看| 日韩有码 一区二区三区| 天天日夜干| 一二三区视频在线观看| 久久噜噜噜精品国产亚洲综合| 亚洲和欧美裸体美女双飞视频| 国产精品第二页| 日本一天色道久久久精品视频| 天天日天天插| 伊人色综合网| 精品人妻二区三区| 91久久精品国产| 青青国产精品在线| 在线观看十八禁| 操逼内射干逼白丝91| 中文字幕二区日韩天堂| 婷婷色一区| 亚洲色图在线视频| 午夜久久一区二区无码中出| 欧美另类色| 九九玖玖精品| 蜜臀av中字字幕网站| 草b在线| 丝袜喷水在线| 玖玖综合色| 精品无人区麻豆乱码久久久| 大香蕉宅男伊人| 亚州操操穴网| 91丝袜美腿网站| 亚洲色9| av午夜玫瑰| 欧美性生活内射| 嗯嗯啊啊啊啊轻点视频| 国产夫妻性生活视频| 国产精品农村妇女| 国产操逼网站亚洲一级黄色| jizz啪啪| 欧美福利视频啊啊啊啊| 无码人妻精品一区二区中文| 亚洲日韩美国人妻| 国产精品一区二区黄片| 男人天堂站| 亚洲熟久久| 精品久久久一本一道| 亚洲天堂少妇| 亚洲精品九九九| 久久精品国产AV一区二区三区| 一本色道无码DVD中文字幕| gogogo免费高清看中国国语| 亚洲97成人在线观看| 我中文字幕6区| 秋霞福利网| 亚洲AV无码| 少妇二级| 夜夜草网站| 亚洲成人av电影在线| 欧美日韩国产高清在线一二三区| 黄片免费看的| 91伊人久| 日操粉逼逼| 高清国产无码av| 色激情综合网站| 可以在线观看AV的网站| 91亚洲影院综合| 1024手机看片欧美日韩| 成年男人的天堂| 一区操逼| 久久久久久久9最新免费视频观看| 岛国艾薇凹凸视频天堂| 暴力av在线| 丝袜六区| 亚洲密乳AV| 99这里只有精品| 人人操人人操草草| 蜜桃传媒视频第一区入口在线看| 九九人人操| 亚洲婷婷丁香在线| 超碰97最新人妻| 91强奸乱轮| a级免费在线观看| 熟女AV一区| **一级毛片国产| 激情小说亚洲色图| 操操操操操操| 中国东北熟女老太婆内谢| 97欧美日韩精品| 国产九九久久久精品| 色官网色综合| 亚洲色图A| 男人干美女| 日韩丰满熟妇| 亚州男人天堂| 1二区9| 26uuu国产成人综合| 老熟女91视频| 亚洲少妇激情视频| 成人性爱美曰韩| 2017天天操天天日| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 欧美特大黄一级片片免费| 在线 欧美 亚洲| 欧美精品第四五页中文字幕在线观看| 国产三级多多影院2022国产AA一级毛片无码| 久久熟女精品不卡一区| 欧亚乱色熟一区二区三四区| 欧美顶级黄色大片免费| 午夜福利 成人 91| 丰满搜索结果 -第18页- 久久高清无码 | 亚洲 欧美 另类 综合 偷拍| 午夜福利视频在线一区| 亚洲资源一区| 97在线观视频免费观看| 中文字幕黄色片| 国产亚洲深夜激情| 91制服丝袜| 精品九九淫乱男| 欧美黄色片AAAAA| 极品综合| 中文字幕第95页| 一区中文字幕二区日韩| 99性视频| 日本操逼aaaaa| 亚洲欧美清纯| 北野未奈加勒比av| 日韩无码嘿咻黑热久| 乱伦AVxx| 精品亚洲一区在线观看| 曰本特级特黄特色黄色A级网站高清在线免费看 | 欧美黄色手机在线观看| 国产丁香精品露脸视频| 天天综合网久久ww| 婷婷五月成人| 国产动漫操逼视频| 九九干| 亚洲av噜噜噜噜噜噜| 久久αⅴ| 亚欧操逼片在线观看 | 精品人妻一区二区免费看| 一区久久久二区| 天天操综合网| 日本免费专区| 东京热一区二区中文字幕| 天堂网亚洲区手机版| 亚洲 欧美 综合 91| 性色国产东北露脸精品视频| 色婷婷五月综合激情中文字幕| 免费观看国产小粉嫩喷水精品午| 国产成人久久精品蜜臀| 麻豆天天躁天天揉揉AV| 天天影视网色欲色香| 久久久久亚洲精品| 亚洲一区二区三区麻豆传媒| 中亚av| 午夜免费视频1000| 25国产精品免费观看| 在线99热| 91色婷婷综合久久中文字幕二区| 国产精品久久久无码AV网站| 午夜超爽| 午夜.DJ高清在线观看免费7| 少妇无码999| 中文字幕一区二区三区人妻不卡| 日韩精品午夜操呦呦不卡影院| 一区e区三| 亚洲污污网站| 97超碰资源网| 天天综合影院91| 成人热久久精品| 欧美A√综合网| 亚洲黄日韩无码专区| 久婷婷一区| 日本一天色道久久久精品视频| 97干com| 密臀在线免费观看| 中文字幕亚洲欧美在线不卡| 很黄很污的免费网站| 中文字日本乱码| 久久綜合很很很| 99爱久久视频频| 97色涩| 久草精品一区| 久久视频少妇美女| 校园春色欧美| 91蜜桃传媒精品久久久一区二区| 伊人嫩草| 天天夜夜rb| 国产熟女无套内射| 91人妻人人澡人人爽人人精品| 欧美高清18A片| 美女操逼A A| 国产精品成人无码a v毛片| 九九热久久99精品re| 免费视频在线一区二区不卡| 成人av在线播放| 欧美性爱第一页久久| 天天插夜夜操| 国产乱码精品一区二区三区四川| 亚洲少妇中文字幕网址| 91人妻素女| 九九激情网| 东京太热久久久| 97色论| 伊人精品视频| 动漫片子网站3黄| 大干人妻| 九九九九九精品| 久久久久久久91| 久久精品人人做人人看| 日韩久久.一级黄色片| www…国产操逼| 67194无码不卡| 日韩一级二级三级免费看完整版国语版 | 中文字幕av一区二区三区人妻少妇| 加勒比aⅴ| 性一级黄色录像片网站导航| 国产家庭乱伦表演| 欧亚乱色熟女一区二区| 久久欧美按摩999| 妇人噜噜| 97中文综合| 色色毛片| 午夜爽爽爽在线观看永久入口姬片| 国产 v乱码一区二| 日韩情色视频| 91亚洲青青草原精品1区| 久草热制服丝袜在线观看| 婷婷丁香人妻 | 天天综合影院91| 97久久精品不卡| 亚洲天天操| 日本韩高清无砖码22o| 天天享受天天看| 伊人久久大香线综合无码| 97在线日韩中文字幕| 国产综合久| 亚洲无码精品AV久久久| 亚欧无码在线| 成人精品电影| 麻豆天美在线喷水AV| 少妇久久久久久久| 国产精品人妻无码久久久互動交流 | 婷婷五月天久久久| 蜜桃不卡一区二区| 99re在线视频这里只有精品| 精品九九九九| 午夜精品久久久久久久99蜜桃一| 第四色色综合91| 久久久亚洲精品中文字幕人妻| 青青免费在线视频一区 | 98精品国产乱码久久久久久| 国产白丝网站| 大二网站亚洲| 免费作爱一级视频| 99re3这里只有精品| 人妻丰满熟妇av无码区蜜桃| 亚洲Av诱惑| 日韩操p| 天天拍天天操| 91老熟女91老女人| 美女熟妇色| 精品人妻一区二区三区在| 综合欧美日本三级| 91网站视频在线观看| 操b在线观看| 99热日本| 99re只有精品| 无码不卡亚洲成?人片| 99自拍视频| 国产精品3| 男女啪啪啪18禁网站|