国产成人欧美一区二区三区vr_久久国产精品人人爽人人爽_国产精品永久免费播放_肉欲啪啪a∨无码精品一区二区_国产超短裙jk丝袜在线_亚洲AV片高清资源在线观看_国模无码一区二区三区久久_国产成年人未进视频_中文字幕无码精品夜_一区二区三区在线视频免费看_亚洲成AV人片在线观看网址_日本激情视频高清综合久久_亚洲午夜视频福利_国内大量揄拍人妻精品視_久久国产精品福利二区三区

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

nmon離線性能監(jiān)控實戰(zhàn):從安裝采集到Excel圖表分析瓶頸

nmon離線性能監(jiān)控實戰(zhàn):從安裝采集到Excel圖表分析瓶頸 服務(wù)器性能出問題的時候大多數(shù)人第一反應(yīng)是跑一把top看一眼CPU是不是爆了然后就沒有然后了。真正要定位一個問題光有這幾秒的瞬時數(shù)據(jù)完全不夠需要的是連續(xù)幾個小時的監(jiān)控曲線CPU到底在哪個時間點飆升內(nèi)存是逐步被吃光還是突然跳變磁盤I/O高峰和業(yè)務(wù)高峰是否重疊。nmon這套工具恰恰就是為這種場景設(shè)計的而且它天生適合離線環(huán)境——單個可執(zhí)行文件不依賴重型環(huán)境采集完的數(shù)據(jù)還能直接落成文件帶回本地用Excel分析。這篇文章就完整走一遍在CentOS 7內(nèi)網(wǎng)機器上離線安裝nmon配置后臺定時采集再把nmon數(shù)據(jù)轉(zhuǎn)換成Excel能用的格式最后做成圖表來定位性能瓶頸?;A(chǔ)判斷先說一下這套方案適合誰搞運維的、做系統(tǒng)交付的、還有在做壓測和性能調(diào)優(yōu)的開發(fā)特別是那些服務(wù)器在隔離內(nèi)網(wǎng)、既不能隨便外聯(lián)也沒法用軟件源的場景??赐赀@篇文章你至少能解決兩件事一是知道怎么在沒有網(wǎng)的環(huán)境里把nmon跑起來二是知道采集到的那些看起來亂糟糟的文本數(shù)據(jù)怎么變成一張直觀的Excel圖表。1. 方案選型與總體思路1.1 為什么偏偏選 nmon 而不是其它監(jiān)控命令Linux下的性能監(jiān)控命令不少top、vmstat、iostat、sar各個都能輸出指標(biāo)但它們在離線、需要長期采集的場景里各有各的別扭。top適合臨時瞄一眼數(shù)據(jù)不落盤想回放歷史趨勢基本靠截圖vmstat和iostat能看實時信息也可以定時輸出但是指標(biāo)維度偏單一CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)要湊齊得同時開好幾個終端還得自己手工對齊時間軸sar相對完整但默認(rèn)依賴sysstat包離線環(huán)境下裝依賴本身就是個麻煩事而且默認(rèn)配置未必覆蓋你要監(jiān)控的維度。nmon不一樣它在設(shè)計上就很貼合“一個工具管到底”的思路。安裝包本身是一個二進(jìn)制文件拷過去就能執(zhí)行交互模式下按幾個快捷鍵就能看到CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)、進(jìn)程等十幾類信息采集模式下可以后臺連續(xù)記錄輸出一個自描述格式的.nmon文件里面把每類指標(biāo)按區(qū)塊組織好后續(xù)拿到辦公機上用表格軟件打開或者交給第三方分析器全鏈路都是通的。我實測下來nmon的采集對系統(tǒng)本身的影響也比較小默認(rèn)2秒一個采樣點只增加極小的CPU開銷在性能問題排查的場景下可以接受。我把常見的監(jiān)控工具做了一個簡單對比方便你判斷自己的場景到底選誰。工具實時查看長期采集指標(biāo)維度離線部署難度數(shù)據(jù)后續(xù)處理top強弱CPU、內(nèi)存、進(jìn)程為主低差vmstat中中CPU、內(nèi)存、IO低中iostat中中磁盤IO低中sar中強覆蓋面廣高依賴sysstat中nmon強強CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)、進(jìn)程等極低強適合Excel如果你的需求是“某一個時間窗口內(nèi)發(fā)生了什么、當(dāng)時各維度資源是啥狀態(tài)”nmon的綜合成本最低。它不僅在采集階段省心在數(shù)據(jù)分析階段也少折騰這一點到后面講Excel處理時體會會更明顯。1.2 離線場景下的完整落地鏈路離線環(huán)境做監(jiān)控最容易卡住的地方不是工具本身而是“怎么把工具弄進(jìn)去”和“怎么把數(shù)據(jù)弄出來”。內(nèi)網(wǎng)服務(wù)器出于安全考慮通常不開放外網(wǎng)訪問也沒有配可用的軟件源鏡像這時候直接執(zhí)行yum install是不現(xiàn)實的你需要先在能聯(lián)網(wǎng)的機器上把安裝包準(zhǔn)備好再通過運維通道傳進(jìn)去。整個方案的鏈路我分成五步第一步在聯(lián)網(wǎng)主機上獲取nmon的二進(jìn)制包同時確認(rèn)它依賴的動態(tài)庫有哪些第二步把二進(jìn)制包傳到離線服務(wù)器的指定目錄賦予可執(zhí)行權(quán)限并做一次干凈運行驗證第三步根據(jù)監(jiān)控需求計算采樣間隔和采樣次數(shù)用nmon的后臺采集模式輸出數(shù)據(jù)文件第四步把.nmon文件傳回本地辦公機做格式轉(zhuǎn)換得到Excel可以直接識別的表格第五步在Excel里繪制趨勢圖結(jié)合業(yè)務(wù)時間點分析瓶頸。這里面每一步都有能踩的坑比如64位系統(tǒng)和32位二進(jìn)制不兼容、缺少動態(tài)庫導(dǎo)致執(zhí)行時報錯、crontab里寫相對路徑導(dǎo)致定時任務(wù)跑不起來、采集文件積攢太多把磁盤寫滿等等。文章主體部分我會把每一個環(huán)節(jié)的做法和替代方案都講透盡量讓你照著操作一遍就能完整跑通。2. 離線安裝包準(zhǔn)備與安裝驗證2.1 在聯(lián)網(wǎng)主機上準(zhǔn)備安裝包nmon的發(fā)布形式有幾種最常見的是直接提供各個平臺編譯好的二進(jìn)制壓縮包里面已經(jīng)包含了多種CPU架構(gòu)和系統(tǒng)版本對應(yīng)的可執(zhí)行文件另一種是打包成rpm適合通過包管理工具安裝。離線環(huán)境下我更推薦直接拿二進(jìn)制因為它不依賴系統(tǒng)的包管理數(shù)據(jù)庫拷過去就能當(dāng)綠色工具用rpm方式反而多一步依賴檢查。在聯(lián)通的臨時主機上最簡單的獲取方式是用yumdownloader把rpm包拉下來。這個命令本身來自yum-utils如果機器上沒有可以先裝上然后執(zhí)行下面這段yum install -y yum-utils mkdir -p /tmp/nmon_pkg yumdownloader nmon --resolve --destdir/tmp/nmon_pkg執(zhí)行完以后/tmp/nmon_pkg目錄下會出現(xiàn)nmon的rpm包以及它依賴的其它包比如ncurses-libs。--resolve這個參數(shù)很關(guān)鍵它會把nmon運行所需的動態(tài)庫依賴一起拉下來省得你在離線服務(wù)器上裝到一半發(fā)現(xiàn)缺庫。如果機器能訪問軟件源里的所有擴(kuò)展倉庫也可以直接把整個依賴樹打包。實際生產(chǎn)環(huán)境中大量服務(wù)器是連軟件源都不通的。這種情況下我的做法是找一臺和離線服務(wù)器操作系統(tǒng)版本相同、且能聯(lián)機的跳板機在跳板機上執(zhí)行上面的命令然后用scp把rpm包推到內(nèi)網(wǎng)服務(wù)器上。操作系統(tǒng)版本盡量一致因為不同版本對glibc和ncurses的版本要求有差異跨大版本容易翻車。如果你拿到的不是rpm包而是一個zip格式的壓縮包解壓以后會看到一堆帶系統(tǒng)后綴的二進(jìn)制文件比如帶_x86_64_centos7后綴的那個就是CentOS 7 64位對應(yīng)的版本。選定的文件單獨抽出來剩下的一概不管。2.2 上傳、安裝與快速驗證先把準(zhǔn)備好的二進(jìn)制文件傳到目標(biāo)服務(wù)器。內(nèi)網(wǎng)環(huán)境常見的通道是堡壘機加跳板或者直接通過運維網(wǎng)絡(luò)傳文件。上傳完成后放到一個約定好的目錄比如/opt/nmon方便統(tǒng)一管理。如果是rpm形式安裝命令很簡單rpm -ivh /tmp/nmon_pkg/nmon*.rpmrpm裝完以后可執(zhí)行文件一般會放到/usr/bin/nmon下面直接用nmon命令就能啟動。如果是綠色二進(jìn)制方式需要手動賦予執(zhí)行權(quán)限chmod x /opt/nmon/nmon_x86_64_centos7 ln -s /opt/nmon/nmon_x86_64_centos7 /usr/bin/nmon做完軟鏈接以后nmon命令在任何目錄下都能直接調(diào)用后面寫crontab也就省心。下一步做驗證直接在終端敲nmon如果屏幕上出現(xiàn)了從上到下的實時數(shù)據(jù)面板說明二進(jìn)制能跑動態(tài)庫也都齊了。提示如果執(zhí)行時提示找不到共享庫文件最常見的原因是ncurses庫缺失或版本不對。CentOS 7離線環(huán)境里可以先嘗試rpm -qa | grep ncurses看看已安裝的版本正常情況下系統(tǒng)自帶的ncurses-libs就能滿足要求只有那種被極度裁剪過的基礎(chǔ)鏡像才需要手動補裝。驗證結(jié)束時按q退出交互界面就能回到命令行。到這里離線安裝環(huán)節(jié)就算收尾了后面要做的所有采集和分析都建立在這個能正常運行的二進(jìn)制之上。3. nmon 數(shù)據(jù)采集實操3.1 交互模式快速查看系統(tǒng)狀態(tài)啟動nmon之后它是一個全屏交互界面底層按鍵控制顯示哪些數(shù)據(jù)。剛進(jìn)去默認(rèn)只顯示基礎(chǔ)信息這時候可以按下面的常用鍵來切換視圖按c顯示CPU的每核心使用率以及整體匯總按m顯示物理內(nèi)存和交換分區(qū)的使用情況按d顯示磁盤組的讀寫速率和繁忙度按n顯示各網(wǎng)卡的收發(fā)包和速率按t顯示系統(tǒng)最耗CPU的進(jìn)程列表按V顯示虛擬內(nèi)存相關(guān)統(tǒng)計。交互模式適合在線排查比如接到報警說某臺機器CPU滿載登上去敲nmon按c和t一秒鐘之內(nèi)就能看到是哪個進(jìn)程在吃CPU非常直接。不過它有一個局限一旦退出nmon數(shù)據(jù)就全沒了沒法回溯之前十分鐘發(fā)生了什么。所以但凡要做周期性觀測或者事后分析就必須切換到后臺采集模式。真正到性能分析的時候我習(xí)慣的流程是先在交互模式下快速看一眼當(dāng)前狀態(tài)然后立刻啟動后臺采集讓它連續(xù)記錄一段時間這樣既有現(xiàn)場快照又有完整曲線兩邊信息互相印證。3.2 后臺采集模式的參數(shù)設(shè)計與原理解讀nmon的后臺采集模式核心就一句話定期把各項指標(biāo)追加寫入文件跑夠指定次數(shù)后自動退出。命令格式如下nmon -f -s 5 -c 720 -m /var/log/nmon這里-f表示后臺寫文件模式輸出文件會自動按主機名和時間戳命名比如xxx_220601_1530.nmon-s 5表示每5秒采集一次-c 720表示總共采集720次-m指定輸出目錄。5秒乘以720次正好是3600秒也就是一小時。如果你想要不同的采集時長記住這個公式采集間隔秒數(shù)乘以采集次數(shù)等于總時長秒數(shù)。參數(shù)選型沒有絕對標(biāo)準(zhǔn)主要看你的分析粒度。如果是排查偶發(fā)性問題間隔定為10秒或30秒就夠了太密的采樣點除了讓文件變大、分析時圖表擁擠并沒有額外價值如果是壓測現(xiàn)場需要看秒級抖動那就用2到5秒的間隔。內(nèi)存和磁盤這類指標(biāo)變化相對平滑不需要過密采樣而CPU占比突發(fā)性很強想抓住瞬態(tài)峰值就最好用5秒以內(nèi)的間隔。實際使用中nmon采集進(jìn)程會常駐在前臺即使-f也不能真正后臺化。如果你希望它完全脫離終端運行可以在命令前加nohup讓它轉(zhuǎn)向后臺執(zhí)行?,F(xiàn)在的系統(tǒng)服務(wù)里很多人會把它做成systemd服務(wù)來托管但離線二進(jìn)制配合nohup已經(jīng)足夠應(yīng)付大多數(shù)臨時采集需求不需要把復(fù)雜度提得太高。采集文件的大小也和采樣頻率成正比。按5秒間隔采集一天文件大概在幾十MB上下按1秒間隔會大得多。對長期監(jiān)控來說我的建議是先算一下磁盤余量再把輸出目錄掛到有獨立空間的分區(qū)避免把根目錄撐爆。3.3 定時采集與文件管理策略很多場景下監(jiān)控不是一次性任務(wù)而是一天24小時、連續(xù)一周甚至更久的例行工作。比如你想觀察業(yè)務(wù)高峰期的資源變化提前預(yù)判擴(kuò)容時機就需要每天固定時段采集。這時候crontab是比手工執(zhí)行更靠譜的選擇。在crontab里加一行比如每天早8點開始采集8小時每10秒一個采樣點0 8 * * * /usr/bin/nmon -f -s 10 -c 2880 -m /var/log/nmon /dev/null 2110秒乘以2880次就是28800秒正好8小時。注意crontab里的執(zhí)行命令最好寫絕對路徑包括nmon路徑和輸出目錄路徑否則容易出現(xiàn)任務(wù)執(zhí)行了但文件不知道寫到哪去的情況這類問題一會兒到常見問題部分細(xì)說。長期跑下來/var/log/nmon目錄會積累大量文件。我建議寫一個簡單的清理腳本配合crontab執(zhí)行比如只保留最近30天的.nmon文件。腳本不復(fù)雜核心就是把超過保留天數(shù)的文件刪掉find /var/log/nmon -name *.nmon -mtime 30 -delete運維實踐里還有一個很多人忽略的點監(jiān)控文件本身也要有統(tǒng)一的命名和歸檔習(xí)慣。nmon默認(rèn)按主機名和時間命名如果你的服務(wù)器命名混亂建議在采集腳本里對生成文件做一次重命名加上環(huán)境和業(yè)務(wù)標(biāo)簽比如帶上應(yīng)用名縮寫和內(nèi)網(wǎng)IP的最后一段這樣后續(xù)從幾十臺機器收集來的數(shù)據(jù)放到一起時一眼就能分辨出是哪臺機器哪天的采集結(jié)果。4. nmon 數(shù)據(jù)解析與 Excel 化處理4.1 nmon 文件格式到底長什么樣拿到.nmon文件以后直接用文本編輯器打開你會發(fā)現(xiàn)它不是二進(jìn)制亂碼而是結(jié)構(gòu)化的文本里面每一行以AAA開頭后面跟著指標(biāo)區(qū)塊名和數(shù)據(jù)。這種設(shè)計的精妙之處在于它把不同類型的數(shù)據(jù)用區(qū)塊隔離開解析的時候只要按區(qū)塊名取值就行后續(xù)無論是寫腳本轉(zhuǎn)換還是交給現(xiàn)成工具成本都很低。舉個最典型的結(jié)構(gòu)AAA,procx,Linux,221201,1530,09,3.10.0-957.el7.x86_64 AAA,CPU001,12,6,80,2 AAA,CPU_ALL,5,3,90,2 AAA,MEM,MemoryMB,2048000,2048000,0,0,0,0,1274374,... AAA,NET,eth0,0,0,0,0,0,0,0,0,... AAA,DISKBUSY,sda,12.5第一行是元數(shù)據(jù)包含主機名、系統(tǒng)版本、采集起始時間和內(nèi)核版本CPU_ALL后面的數(shù)字分別是用戶態(tài)占比、系統(tǒng)態(tài)占比、空閑占比等MEM后面是各種內(nèi)存總量、可用量NET后面跟著收發(fā)包字節(jié)數(shù)DISKBUSY那類行則是磁盤繁忙度。字段順序在不同版本的nmon里會有細(xì)微差異所以做轉(zhuǎn)換腳本的時候不能硬編碼列序號我后面給出的腳本會更穩(wěn)健地按區(qū)塊處理。用Excel直接打開這個文件不是不行但體驗很差因為文本里大量元信息行、不同指標(biāo)的列寬不齊而且時間戳格式對Excel不友好做圖表時軸上的時間點會對不齊。所以中間必須經(jīng)過一個轉(zhuǎn)換環(huán)節(jié)。4.2 用腳本把 nmon 轉(zhuǎn)成規(guī)整的 CSV轉(zhuǎn)換的思路并不復(fù)雜讀原始文件按行區(qū)分區(qū)塊把每個區(qū)塊內(nèi)相同指標(biāo)的行攢起來最后輸出成若干列。為了實用性重點提取CPU_ALL、MEM、DISKBUSY、NET這幾個最常見區(qū)塊就夠了其它細(xì)節(jié)指標(biāo)可以按需擴(kuò)展。下面這個腳本是我在實際項目中用過的簡化版用Python3編寫核心邏輯做了幾處穩(wěn)健性處理比如不管區(qū)塊行首是否有空格都先strip把各種字段保留為文本防止Excel把前導(dǎo)零吞掉。import csv import sys def parse_nmon(path): # 收集各區(qū)塊的全部行 blocks {} with open(path, r, encodingutf-8, errorsignore) as f: for line in f: line line.strip() if line.startswith(AAA): parts line.split(,) tag parts[1] blocks.setdefault(tag, []).append(parts) return blocks def convert(input_path, output_path): blocks parse_nmon(input_path) # 只處理關(guān)心的幾個核心區(qū)塊 wanted (CPU_ALL, MEM, DISKBUSY, NET) selected {tag: blocks[tag] for tag in wanted if tag in blocks} times [] col_data {} for tag, rows in selected.items(): for parts in rows: if len(parts) 5: continue ts parts[2] times.append(ts) col_data.setdefault(tag, []).append(parts[3:]) # 按時間點對齊輸出 with open(output_path, w, newline) as f: w csv.writer(f) header [time] for tag in selected: sample_len len(col_data[tag][0]) if col_data[tag] else 0 header.extend([{}_{}.format(tag, idx) for idx in range(sample_len)]) w.writerow(header) row_count len(times) for i in range(row_count): row [times[i]] for tag in selected: if i len(col_data[tag]): row.extend(col_data[tag][i]) w.writerow(row) if __name__ __main__: source sys.argv[1] target source.replace(.nmon, .csv) convert(source, target)運行方式也很簡單python3 nmon2csv.py server_221201_1530.nmon運行完以后Excel打開這個CSV就能看到規(guī)整的表第一列是時間后面每一列對應(yīng)一個采集指標(biāo)。如果覺得指標(biāo)列還是太雜可以在腳本里把需要的列單獨挑出來只留CPU用戶態(tài)、系統(tǒng)態(tài)、空閑率、內(nèi)存總量、可用量、磁盤總線忙綠比這些核心指標(biāo)。注意如果.nmon文件是從Windows環(huán)境傳輸過來的文本行尾可能帶了\r回車符打開前最好用dos2unix轉(zhuǎn)換成LF否則CSV的表格會被弄出多余空行。站點上還有一些現(xiàn)成的第三方Excel分析宏原理上就是替你做了解析和制圖導(dǎo)出的圖表更豐富。但我個人體驗是自己手握一個轉(zhuǎn)換腳本更靈活起碼可以按自己的口徑去定義指標(biāo)也不會被宏的安全設(shè)置卡住。5. Excel 圖表制作與性能瓶頸分析5.1 核心指標(biāo)怎么選才不會看花眼一個.nmon文件轉(zhuǎn)換出來指標(biāo)列可能有幾十列如果全部丟進(jìn)Excel做折線圖結(jié)果就是一坨毛線什么也解讀不出來。實際分析時我的習(xí)慣是先明確問題域再挑重點維度通常從四個方向入手。CPU維度只看兩個指標(biāo)CPU_ALL里的用戶態(tài)占比和系統(tǒng)態(tài)占比。用戶態(tài)高說明應(yīng)用或者計算任務(wù)吃CPU系統(tǒng)態(tài)高往往意味著系統(tǒng)調(diào)用頻繁、鎖競爭或者內(nèi)核態(tài)模塊在消耗資源兩類原因?qū)?yīng)的排查方向完全不同。內(nèi)存維度優(yōu)先看可用內(nèi)存的絕對值以及swap的讀寫量這兩個指標(biāo)能反映內(nèi)存是否真的吃緊。磁盤維度看DISKBUSY的百分比配合CPU的等待占比能夠區(qū)分磁盤I/O瓶頸和純CPU計算瓶頸。網(wǎng)絡(luò)維度看收發(fā)包速率和錯誤包數(shù)量判斷是否存在流量異常。選指標(biāo)時還有一個容易被忽略的地方字段單位。內(nèi)存的原始值在nmon里是MB網(wǎng)絡(luò)速率可能是KB/s如果混在一張圖里數(shù)量級差著上千倍小塊數(shù)據(jù)會被大塊數(shù)據(jù)直接壓成一條直線。遇到這種情況要么分開成兩張圖要么用Excel的次坐標(biāo)軸讓兩條曲線各用各的刻度。5.2 Excel 折線圖制作與坐標(biāo)軸對齊技巧轉(zhuǎn)換出來的CSV文件用Excel打開后做圖表的步驟并不復(fù)雜。先選中時間列和你想看的指標(biāo)列插入折線圖然后調(diào)整X軸格式。這里有一個實戰(zhàn)小技巧如果時間列是1530這種HHMMSS文本格式不要直接當(dāng)坐標(biāo)軸用先把它轉(zhuǎn)成常規(guī)時間格式否則圖表橫軸要么出現(xiàn)1800這種超大的數(shù)要么被錯誤當(dāng)作文本排序。最簡單的處理方式是在CSV轉(zhuǎn)換腳本里就把時間格式化成Excel認(rèn)識的HH:MM:SS字符串再在Excel里把該列設(shè)置為時間格式。插入圖表時橫軸選擇該列生成的折線就會按采集時間均勻鋪開。如果中間有斷點檢查原始.nmon文件里是不是某一次采集沒寫進(jìn)去這種斷點往往對應(yīng)操作系統(tǒng)負(fù)載過高導(dǎo)致nmon進(jìn)程短暫卡死。多指標(biāo)對比時建議先做一張“總覽圖”把CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)的關(guān)鍵指標(biāo)都放上去用次坐標(biāo)軸區(qū)分量級發(fā)現(xiàn)哪個維度有異常趨勢再單獨抽出來做局部放大。分析長期數(shù)據(jù)的時候可以用數(shù)據(jù)透視表把小時數(shù)據(jù)聚合觀察是否存在每天固定時間重復(fù)出現(xiàn)的高峰這比盯著原始秒級數(shù)據(jù)看更抓重點。5.3 從一個異常曲線反推瓶頸的分析方法有一次我處理過一個典型場景某個業(yè)務(wù)系統(tǒng)每天下午兩點左右響應(yīng)變慢應(yīng)用日志里沒有明顯報錯但用戶端感覺明顯延遲。運維同事在服務(wù)器上臨時起了nmon采集頻率30秒一次連續(xù)跑了三天。把Excel圖表拉出來以后每天下午兩點這條時間軸附近CPU的用戶態(tài)占比并不高但等待占比從5%一下跳到40%以上對應(yīng)的磁盤繁忙度也同步?jīng)_高到90%左右。這個匹配關(guān)系說明瓶頸不在CPU計算而在磁盤I/O。再往下深挖發(fā)現(xiàn)那個時間點正好是定時數(shù)據(jù)備份任務(wù)啟動的窗口備份任務(wù)對大目錄做全量掃描并寫盤把I/O帶寬基本吃滿。后來把備份任務(wù)挪到業(yè)務(wù)低峰期響應(yīng)時間的報警就消失了。這個過程里Excel圖表的作用就是把三個獨立的指標(biāo)按照同一時間軸擺在一起讓相關(guān)性一目了然。如果只看實時top或者分段日志很難把磁盤繁忙和系統(tǒng)卡頓這兩件事關(guān)聯(lián)起來。所以做分析的時候不要只畫一張孤立的指標(biāo)曲線而是盡量把CPU等待、磁盤IO、網(wǎng)絡(luò)速率放在同一個時間窗口里對照這樣才更容易找出真正的因果鏈。6. 常見問題與避坑指南6.1 現(xiàn)場高頻問題速查表離線環(huán)境安裝和后續(xù)采集踩坑的密集程度遠(yuǎn)比想象中高。下面這張表匯總了我見過的大多數(shù)問題每一行都對應(yīng)一個真實發(fā)生過的場景。現(xiàn)象常見原因解決辦法執(zhí)行nmon提示Permission denied二進(jìn)制文件沒有可執(zhí)行權(quán)限chmod x 對應(yīng)二進(jìn)制提示error while loading shared libraries: libncurses.so.5ncurses動態(tài)庫缺失或版本不匹配檢查ncurses-libs是否已安裝rpm -q ncurses-libs界面能打開但數(shù)字不刷新終端類型不對部分SSH客戶端對全屏刷新支持差換用標(biāo)準(zhǔn)終端或xterm重新連接后啟動nmon找不到輸出文件crontab看起來沒執(zhí)行cron環(huán)境變量PATH里沒有nmon路徑crontab中寫完整路徑 /usr/bin/nmon采集文件內(nèi)容正常但Excel打開亂序文本行尾回車符來自Windows批量傳輸用dos2unix處理后再轉(zhuǎn)換或改傳輸模式為binarynmon運行報date相關(guān)的錯誤服務(wù)器系統(tǒng)時間異?;驎r間同步服務(wù)未工作先校準(zhǔn)系統(tǒng)時間再重啟nmon采集采集文件越積越大磁盤空間告急沒有配置清理策略用find按mtime定期清理并評估采集頻率兩個不同平臺的二進(jìn)制傳錯下載包里面對應(yīng)的是另一個架構(gòu)的版本確認(rèn)uname -m結(jié)果選擇匹配的二進(jìn)制這張表里最容易被忽略的是crontab路徑問題。crontab啟動時加載的PATH很精簡并不包含/opt/nmon這類自定義目錄。之前有人把nmon放在/opt/nmon下crontab里只寫了nmon -f -s 30 -c 120任務(wù)確實在跑但系統(tǒng)找不到命令文件一個都沒有生成。改成寫全絕對路徑以后問題立刻解決。6.2 長期監(jiān)控的幾條實操心得在做長期nmon監(jiān)控的時候我總結(jié)了幾條經(jīng)驗未必在官方文檔里看得到但實際幫過我不少忙。第一條正式部署前先做短周期小批量驗證。不管你計劃用30秒還是5秒的采樣間隔先跑個兩分鐘的測試采集確認(rèn)文件能正常生成再用Excel打開確認(rèn)格式對最后才掛到crontab里長期跑。每次調(diào)整參數(shù)都這樣來一遍能省掉大量來回排查的時間。第二條命名規(guī)范要提前定好。nmon默認(rèn)的文件名帶主機名但如果你的服務(wù)器命名沒有業(yè)務(wù)含義數(shù)據(jù)混在一起根本分不清。我的做法是把采集腳本里加上環(huán)境名前綴比如在腳本里執(zhí)行一次重命名把文件統(tǒng)一整理為app_web01_20220601.nmon這種格式這樣后續(xù)歸檔和檢索都高效。第三條采集目錄要和系統(tǒng)根目錄分離。長期監(jiān)控必然產(chǎn)生文件如果/var/log所在分區(qū)本來就緊張監(jiān)控數(shù)據(jù)會在不知不覺中把磁盤吃出一塊隱患。把采集目錄掛到獨立分區(qū)或者至少給/var/log單獨留足空間這是成本極低但收益明顯的一條。第四條數(shù)據(jù)傳回本地時盡量壓縮傳輸。一個高頻率采集的nmon文件可能幾十MB如果每天都要從幾十臺服務(wù)器拉回來帶寬開銷不小。先gzip或使用壓縮工具壓一遍再傳能減少大半體積本地解壓后再分析流程完全不受影響。最后再說點實在的按上面這套流程走下來從離線安裝到Excel圖表分析工具鏈其實非常輕一個可執(zhí)行文件、一個轉(zhuǎn)換腳本、一個Excel模板就構(gòu)成了一條完整的性能排查流水線。我個人在使用中的一個體會是nmon的價值不止在于“能看到實時狀態(tài)”更在于“采集成本足夠低、數(shù)據(jù)形態(tài)足夠開放”讓后續(xù)分析有充分的自由度。你完全可以先把這套流程跑通再根據(jù)自己服務(wù)器的實際情況去定義指標(biāo)口徑和制圖模板時間長了甚至可以沉淀出一套適合自己團(tuán)隊的性能分析套路。真到了線上出故障、需要快速翻歷史曲線的時候你會發(fā)現(xiàn)提前布置nmon絕對是一件高性價比的事。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
5252色欧美在线| 亚洲欧美人妻| 波多野结衣一级视频| 日本99视频| 蜜臀久久久国产| 国产v亚洲v日韩v欧美v片另类| 加勒比久久综合网高清| 高清不卡国产| 亚洲少妇自拍中文字幕懂色| 亚洲视频中文一区| 久久久久成人蜜桃精品| 欧美裸体美女日麻屄| 亚洲第一狼人丝袜美女另类 | 亚洲激情视频| 中文字幕精品人妻丝袜| 舔人妻中文免费视频| 操B视频日韩无码| 熟妇人妻一区二区三区| 乱伦熟女论坛| 96精品在线| 久草色在线观看| 成人av影院在线观看| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 偷拍三区| 中文字幕丝袜人妻| 国产欧美精选自拍一区| 婷婷探花久久精品一区| 色色色色电影网| 精品无码一区二区人妻久久蜜桃| 五月色综合| 夜夜爽夜夜摸夜夜操免费视频| 性爱视频免费网址| 九九九影院| 国产欧美成人第一页在线观看| 97久久超碰国产网站| 免费a v| 9+1视频网址| 天天天做天天天爱天天天爽| 激情视频网址| 无码78| www.五月天| 欧美高清色| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 丝袜综合色图| 美女极品一区二区三区| 亚洲第一色页夜| 13小男生GAY自慰脱裤子| 蜜臀av一区二区三区免费观看| av线电影| 亚洲中文字幕有码视频一区二区三区| 国产成人91一区二区三区| 亚洲日韩av一区二区三区百合| 欧美人与动性人交a| 天综合网| 久久久亚洲高清不打码| 国产97av| 久久综合女优| 欧美在线播放aaaa| 日少妇视频| 清纯唯美激情四射| 性爱乱伦网址| 搡老女人911熟妇老熟女| 二三四区精品| 亚洲一区二区麻豆影院| 另类小说综合网| 丝袜视频一区二区在线播放国产中文| 国产一区二区欧美日本| 91精品人| 激情四射五月天| 五月丁香六月婷| 久久久无码视频| 欧美97在线观看| 在线观看精品国产免费| 日韩电影在线观看网址| 超碰97久| 风月影院男女十八禁| 99热这里是精品| 秋霞色色影院| 久久黄黄黄| 啊好爽受不了无码| 五月天成人综合| 色欲无码人妻日韩欧美精品| 国产精品九九九| 亚洲一本色码中文字幕| 亚洲欧美一区二区三区在钱蜜桃| 国产免费操逼| 97在线观看| 国产精品午夜福利| 久久久com| 性爱精品一区| 草草网站影院白丝内射| 人人操人人插人www| 91天天综合日韩欧美| 色大香蕉97N| 久久国产精品一级二级三级| 欧美精品1区2区3区| 在线不欧美| 在线免费试看60秒| 97国产亚洲中文在线| 亚洲色婷婷| 亚州免费啪啪视频| 国产成人超碰在线| 水多多映视AV| 91无遮挡| 大香蕉乱级| 色九久| 亚洲天堂一二| 99久久免费看精品国产一区| 精品欧美日韩在线观看| 久久夜夜夜| 91久久久久免| 狠狠久久亚洲欧美专区| 亚洲第一综合| 大香樵伊人网| 国产精品亚洲美女久久久久| 亚洲色 国产 欧美 日韩| 日本人妻中文字幕| 男女激烈网站最新| 家庭乱伦国产| 亚洲蜜乳av| 欧美激情性久久久久久| 国产综合网站在线播放| 99激情视频| 777奇米影视777四色| 久久久久久久亚洲Av无码| 无码最新| 人人干人人操人人..com| www.91人妻.com| 黄色人人| 综合欧美日本三级| 爱射综合| 久久久久精| 不卡人妻少妇精品毛片一区23区视频 | 国产女人和拘做爰视频 | 中文字幕一区av| 黄污污污污| 国产超碰| 2010男人的天堂| 久久久久久久极品香蕉视频| 黑人与人妻| 色哟哟精品1精品2| 91欧美色| 思思热在线视频免费| 色黄污美女啪啪啪免费网站| 小视频玖玖| 性色av网站| 啊视频在线| 日韩三级一区 | 午夜操一视频一区| 国产60页| 午夜爽爽爽在线观看永久入口姬片| 曰本人妻人人澡人人夹| 天美麻花大全视频| 蜜桃传媒一区二区亚洲| 舔舔啊| 亚洲国产97在线精品一区| 亚洲一区二区av| 翔田千里AV无码秘 三区| 亚洲欧美日韩免费观看| 亚洲精品精品一区二区| 免费看污网站| 夜夜骑日日| 97视频免费播放| 波多野结衣之双飞调教在线播放| 99久久99久久综合| 青青草精玖玖69精品| 欧日韩在线观看| 综合自拍| 日韩有码 一区二区三区| 天天综合青苹果| 久久久久亚洲熟妇熟女| 色综合网1| 亚洲情色91| 美女啊啊啊啊pc| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 中文字幕精品码亚洲| 精品久久久久久无码| 日本 欧美 国产一区| 亚洲色图超碰在线| 91模特在线观看| 亚洲无码精品AV久久久| 天天做天天爱天天高潮| 欧美熟女丝袜| 亚欧免费观看视频| 综合久| 蜜桃色院一区久久| A片A5445444| 情色AV电影| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 国产白丝网站| 中国乱伦一区二区| 色九月综合| 97鸡把在线视频| 亚洲天堂人妻熟妇视频| 欧美页片| www.91逼逼.com| 求求你操操我| 国产真乱mangent| 99婷婷| 亚洲色婷婷综合久久久久中文| 97超碰磁| 极品粉嫩一区二区| 99热这里只有精品18| 久久精品店| 亚洲欧美日产国产91毛片| 中欧人妻丝袜中文字幕| 亚洲欧美大香蕉| BBBBB97COM| 国产做?爰片久久毛片?片美国| 99色视频| 国产精品一区二区三区在线| 亚洲另类电影| 大香蕉伊人75| 91亚洲黑人| 一本久道久久综合狠狠爱一密臀精 | 人人妻人人操人人乐| 亚洲乱熟女一区二区| 国产高清在线观看欧美| 208天天久久九九九| 国产精品美女久久久久久网站| 992这里有精品| 精品久| 久久人妻办公室视频| 99re视频在线播放青草| 1024久久高清视频| 操国产高清| 好湿好紧好爽 视频| 色逼综合| 日欧操屄视频| 欧美春色| 一牛一区二区三区久久| 欧美日韩中文亚洲v在线综合| 死我十八禁| 久久美女福利是上海美女| 亚洲交换| 欧美久久九九| 翔田千里无码一区| 国产AV天美传媒一区二区三区 | 国产 热久久久久国产精品| 超碰人妻中文在线| 五月色网| 欧美色亚洲| 一区| www…国产操逼| 青草一区二区| 久久超碰97中文字幕| 乱伦色图网址是多少| 久久综合精品一区二区三区| AA特级绝黄| 亚洲诱惑天堂 | 久久久熟妇熟女国产| 91丨豆花丨熟女| 中文字幕人乱码中文字的预防方法| 性做久久久久久久| 亚洲成人ab| 色色99| 内射夫妻三片| 久久久久久人| 国产无码一二三区| 黄色大片视频在线免费看| 久久草视频污视频| 四虎影库国产精品免费| 无码操逼网| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 黄色一区三区| 国产精品情侣啪啪| 一起草日韩| 美女十八禁| 操人妻丝袜高跟| 国产午夜激片Av毛片不卡| 美女上床网站| 欧美色66| 偷窥自拍A片| 1769一区| 日韩精品字幕| 久久 精品| 狠狠躁久久躁| 亚洲国产丝袜在线观看| 欧美嗯啊……在线观看视频免费| 亚洲图片欧洲图片aⅴ| 少妇大屁屁| 亚洲情色一区二区三区| 大香蕉啪啪啪啪在线| AA丁香综合激情| 国产探花精品在线| 日韩成人性日韩成人性爱视频在线免费观看 | 91成人精品在线播放| 四虎免费在线观看| 色欲久久99精品久久| 97干天天| 玖玖爱综合| 亚洲精品一区中文字幕乱码| 性色av婷婷久久一区二区点复制| 日本免费一级AAA大片器| 免费试看60秒| 超碰99re| 亚洲天堂资源| 日韩天天本| 区一二区日韩亚洲乱码av电影| 成人午夜无码视频| 色999五月色| 精品一啪| 无码日韩人妻av一| 免费看国产曰批40分钟怎么下载| 久久久久国产精品久久久| 久久女女| 中文字幕乱码在线观看| 亚洲日本大香蕉1| 欧美日韩97在线| 亚洲老司机123专区| 99精品热| 欧美色天堂网在线视频| 综合色色网| 成人日本视频人妻在线| 三级片网站在线播放| 亚洲成人久久一区二区| 丁香五月婷婷基地| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 欧美一区二区传媒| 操香逼| 久久久久久91香蕉国产| 蜜臀AV成人精品蜜臀| 动漫片子网站3黄| 荡小穴在线观看| 欧亚乱色熟一区二区三四区| 日韩熟女精品无码专区一区二区| 亚洲日本男人天堂网| 亚洲91亚洲| 性性久久| 天天干夜夜鈤| 91久久九九精品国产综合| 美女啊啊啊啊啊啊| 爱妃国产亚洲视频中文字幕| 国产AV色黄看到爽| 看黄片视频免费| 97最新在线播放视频| 亚洲第一页色| 天堂九九九九九九九九九| 91人妻超碰| 大香蕉综合久久| 91嫩草欧美| 国产中文日韩欧美一区二区三区人妻丝袜美腿| 精品国产乱码久久久久久免费| 九久久精| αⅴ天堂| 91操操| 青娱乐 成人娱乐在线| 绯色AV粉色AV蜜臀AV| 天天射夜夜| 久久久女人| 国产婷婷综合在线观看| 美女操逼福利视频| 久热久一区二区三区| 白丝在线一区| 男人的天堂 在线一区| 欧美性爱第一区| 国产97色在线| 中文字幕在线观看第二页| 亚洲男人的天堂一区二区| 老汉网| 这里只有97精品| 日韩人妻一区二区| 男人天堂黄片| 国产人伦精品一区二区三区| 日本精品一区二区三| 国产高清自拍| 亚洲AV性爱电影| 亚洲欧美大| 欧美色日本| 风间由美日韩欧美久久| 国产极品粉嫩馒头一线天av| 婷婷激情五月| 乱码人妻一区二区三区| 日本αv| 欧美经典一区二区三区| 久久e6只有精品| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 免费人成毛片乱码| 欧美性爱伊人| 91麻豆一二三区| 久久久啊啊啊| 日韩欧美午夜视频在线| 蜜桃精品一区二区三区ww| 色97欧美| 九九性爱网| 人妻在线大香蕉| 97天堂| 日韩性爱高清免费视频| 亚州欧美总和| 亚洲一卡2卡3卡4卡乱码网站| 日韩AV中文字幕电影| 桃色人妻在线视频| 91亚洲色人| 日韩精品一区二区三区色欲| 欧美人妻另类在线| 精品人妻中文字幕4399| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 懂色AV中文| 97视频在线免费观看| 婷婷99狠狠躁天天躁| 精品久久久一本一道| 日韩欧美成人性爱在线| 亚洲性综合| av在线观看不卡网站| 免费看污网站| 日本免费人成视频播放120秒| 欧美性色综合网| 亚欧成人一级片在线播放| 日本性爱不卡视频| 日韩精品操少妇| AⅤ片水多多| 操人妻逼91| 国内毛片欧美香蕉精品| 国产精品久久久九九九| 国产人伦a片信息免费片| 久久超碰98| 超碰在线香蕉| 国内精品久9| 99热欧美| 探花视频免费观看国产专区| 东京太热久久久| 欧美性xxxxx狂欢| 欧美日韩222| 91精品女厕偷拍视频| 99re只有精品| 97精品熟女少妇一区| 9999久久久久| 欧美图片校园春色| 欧美黑人与女人91| 性吧在线视频| 俺去啦俺来也久久综合| 精品视频97| 秋霞无码av鲁丝片一区| 性生活性生大爱77AV国产| 啪啪91| AV天堂因数| 婷婷国产精品九区| 盗摄女人妻在线| 久热这里| 色爱综合网欧美| 亚洲欧美综合区自拍另类| 91天天美女| 午夜一区| 日韩操p| 997色在线| 午夜高清成人在线视频| 精品九九| 欧美激情一| 啊啊啊好爽快点啊啊啊嗯嗯| 精品人妻一区二区视频| 伊人麻豆传媒| 91久久久老司机| 婷婷色五月激情| 中文字幕一区二区三区字幕| 国产蜜臀精品一区二区尤物| 99re95| 婷婷五月成人| 日本免费一级AAA大片器| 男人天堂导航| 欧美激情亚洲情色| 人人操天天爽| 碰碰在线视频| 亚洲一区二区三区欧美日韩| 黑人白女精品一区| 麻豆天美在线| 91丝袜美腿片| 蜜桃久久久久久久| 狠狠干狠狠干| 三级网色| 国产操伦| 香港澳门日本三级网站| 久久激情婷婷| 九九九国产| 日韩中文字幕宗合在线| 制服乱伦| 五月天黄色激情视频| 男女做爰猛烈动高潮A片免费应用| 内射黑丝袜| 欧美一二三区四五区| 超碰免费在线| 性开放中文AV高清无码免费看| 综合网亚洲在线| 91精品国产乱码| 欧美亚性天堂| 五月婷婷激情网| 成人av福利在线观看| 日本淫乱女一区二区三区视频| 久久宗合97| 韩日自拍| 精品乱子一区二区三区99| 射 色综合| 久久婷五月| 在线精品福利免费播放| 精品人妻一二三| 人人妻人人玩人人澡人人爽| 国产91丝袜 在线播放| 福利天堂| 国产乱人妻精品入口| 91美女视频在线| 人妻一区二区三区| 337p大胆噜噜噜噜噜91Av| 天天天天天天天天天天干美女| 国产乱色国产精品免费视| 中文字幕人妻资源在线| 性爱综合一区二区| 午夜激情成人在线观看| 欧美性爱日韩性爱| 亚洲色图尤物视频| 人人操人人插人www| 亚洲日韩人妻中文字幕一区| 欧美18老人禁| 天堂综合网| 中文字幕制服诱惑| 成人精品无码| 97超碰久久| 白丝被操91| 色色网91| 粉嫩绯色AV一区二区在线| 国产精品久久久久亚洲av| 青娱乐国产精品| 在线观看黄色电话| 色99视频| 日本亚洲vr欧美不卡高清专区| 天堂日本亚洲欧美| 九九九九九九九九九五码| 夜夜高潮夜夜爽| 日本大香蕉| 蜜桃视频啊啊啊啊| 青青草久草| 欧美色图20p| 操b在线观看| 国产又黄又粗的视频| 一中国女人毛片水真多| 亚洲AV噜噜狠狠网址蜜桃动漫| 在免费jIzzjIzz在线视频| 超碰AV在线| 大香蕉伊人网WWWn0n| 在线一区| 麻豆成人影音在线| blacked精品一区国产| 激情五月婷婷综合| 超碰人妻中文在线| 美女t无毒不卡不卡| 亚洲第一男人天堂| 插入逼91| 97人人模人人爽人人| 久久久久久久极品香蕉视频| 99re只有精品| 怡春苑东京热| 人妻久久一区二区三区 | 人人爽夜夜玩视频| 色香欲影| 操逼1区| 亚洲AV永久无码一区仙野| 欧美亚洲激情小说| 日韩成人小视频| 97在线观看免费视频| 精品视频免费在线一区| 亚洲18禁| 久久熟女嫩草成人片免费| 国产精品人妻无码久久久老鸭窝| 99热只有这里有精品| 99re视频在线观看这里只有精品| 色 亚洲 91| 91亚洲综合| 欧美的性爱网站免费| 亚洲欧美经典一区二区 | 九九在线视频| 国产不卡的视频| 性饥渴少妇av无码毛片| 曰韩av中文字幕专区| 97色色视频| 亚洲综合伊人| 免费精品中文字幕| 78久久久| 天天干天天操天天操夜夜操天天操 | 99这里只有精品国产| 性爱边摸边日免费AV| 超碰性爱97| 欧美亚洲激情| AV天天在线观看| 欧美洲精品一级| 97精品一区| 台湾一区国产高清在线| 超碰日本97美女人妻人人玩人人爱| av橘色网站| 国产精品久久天天干| 欧洲综合视频| 凹凸视频在线一区二区| 中文字幕二区日韩天堂| 欧美se综合| 99操碰| 人妻少妇精品无码专区二区密桃| 性色av网站| 九九九热精品| 日韩丝袜二区| 久久久久久人| 亚洲国产日韩欧美熟妇在线| 欧美天天影院| 99热综合| 91香蕉国产尤物视频| 久久伊人大香蕉| 风韵犹存大大大大香蕉| 亚洲综合五月天| 人人九九精| 乱伦av国产| 四虎影视永久在线观看精品免费网站| 国产一区二区三三视频| 91精品人妻一区二区三区蜜桃臀| 日本αv| 干B| 国产精品嫩草影院免费| 精人妻无码一区二区三区伊人直播 | 日本东京热加勒比久久| 96精品一区| 任你爽视频| 欧美色图另类图片| 人人天天欧洲| 最新av网站在线观看| 亚洲男人的天堂网| 国产热RE99久久6国产精品首| 啊啊啊好大好深| 精品久久99| 女人天堂av在线播放| 男女打扑克高清网站| 午夜a成v人电影| 99re95| 男人a天堂手机在线版| 久操免费电影| 五月激情啪啪| 日韩激情电影中文字幕| 另类成人首页一区| 欧美精品另类人妖xxxx| 欧美强奸一区二区诱惑| 亚洲无码 国产无码| 黑人综合色| 97 超碰 人人做 人人爱| 色牛牛AV| 一级二级三级黑人无码| 亚洲色图美腿丝袜| 亚洲 日韩 欧美 国产综合体| a片久久久久久久久久久久| 超碰97首页| 精品性爱无码在线播放| 国产精品不卡高清在线观看| 极品AV网站在线观看| 久久久久久人妻| 欧美日产国产在线成人第一区| 中文字幕一二三av| 超硑97精品| 亚洲 国产 精品一区| 91bbb| 色香综合天天影视综合 | 国产一进一出视频网站| 精品综合久久久久久五月天| 超碰97日韩| 男人的天堂日韩| 精品九九九九九九九| 亚洲国产欧美日韩人妻日中文| 欧美极度丰满熟妇hd| 亚洲国产91精品一区二区久久| 欧美第二页| 青青五月天| 青青草一本道福利视频| 日韩欧美蜜桃精品久久中文字幕久久 | 国产一进一出视频网站| A级国产欧美激情在线| 国产精品乱码久久| 91亚洲人| 91美女小视频| 超碰在线91| 欧美亚洲特P| 少妇大屁屁| 欧美色图99| 青青青草原| 精品人妻一区二区蜜桃视频| 色香91| 久久9999 | 中文字日本乱码| 欧美少妇第一页| 嗯阿好爽好紧| 男插女青青影院| 91天美传媒精品| 性色国产东北露脸精品视频| 超硑97精品| A啊啊在线观看| 国产青青美女玩逼视频| A男人的天堂| 亚洲国产蜜臀系列在线观看| 国产风韵犹存熟妇三区| 粉嫩久久久极品| 欧美视频一区二区三区| 神马麻豆福利院| 91人妻少妇| 日本熟女不卡视频| 欧美色视频在线| 亚洲国产麻豆一区二区三区| 欧美一级做a爰片免费视频| 五月丁香综合| 无码91| 蜜臀久久久| 亚洲男人天堂视频| 欧色网址| 被窝影院午夜看片无码| 可以在线观看的黄色网址| 黄色免费网页无码| 91色情黑丝搞鸡在线观看一区二区三区三州| 在线黄页看毛片| 大香蕉伊人在线成人AV在线观看| 精品久久久不卡一区二区| 国产精品一区二区麻豆| 国产精品第一页国产大屁股视频免费区| 蜜臀99久久精品久久久懂爱| 人人操我人人干| 全球成人中文在线| 亚洲色图激情小说| 久干网| 国内一级精品| 最新av中文字幕高清| 天天干天天狼在线视频| 好吊色在线观看| 久草在| 97资源站日韩| 日韩黄片视频试看| 丁香五月社区| 好屌色综合| 中文字幕精品码亚洲| 国内精品a| 99无码视频| 屌妞视频久久久久久久久久久久| 激情内射| 精品人妻1区| 992这里有精品| 2026国产精品视频| 91春色| 天天色播亚洲综合网站| 国产无遮挡| 999热日韩精品| 国产强奸乱伦xd| 久久久A∨| 亚洲啪啪啪啪视香蕉| 九七超碰| 丁香五月性爱| 亚洲欧美日韩国产丝袜自拍中文| 黄骗免费网站| 91热爆在线| 99热导航| 视频不卡中文字幕| 丁香六月啪| 亚欧美综合网。| 视频一区二区免费在线| 97在线精品| B049AV在线播放| 国产在线综合网| 五月婷婷丁香六月| 青青草在线视频美女| 大香蕉黄色一级片免费看| 精精夜夜| 97日韩超碰超碰中文字幕| 欧美黑人精品一区二区| 麻豆一区在线| 国产极品粉嫩馒头一线天av| 色性综合| 日韩15p| 99久久9| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 欧美亚洲国产91在线| 久久久精品国产亚洲伊人| 久久97视频| 亚洲国产无码精品首页久久久| 日本熟妇精品九九| 国产精品久久久久亚洲av| 久久偷拍人| 日韩激情电影中文字幕| 日本九九久久99播| 97色网| 久久久久精| 91亚洲欧美| 97干日韩| 91福利网在线观看| 蜜桃臀 后入 一区 二区 三区 在线| 美女91AV| 天天摸天天插天天日| 日韩色| 国产农村妇女一区二区| 91操熟女| 亚射在线| 国产精品区在线12p| 欧美少妇性乱| 懂色AV蜜臀无码精品APP| 色97综合中文字幕| 蜜桃无码AV一区二区| 亚洲色性| 久久久久13| 91精品国产91综合久久蜜臀| 裸体女人草逼视频播放一区,二区,三区,四区,五区 | 中出20p| 欧美久热| 欧美一区二区三区不卡高清视频| 97超碰天天| 青娱乐亚洲自拍| 精品免费成人久久| 亚洲第一页色| 日本操逼aaaaa| 天天色怡春院| 91|九色|国产熟女| 国产精品九九九| av亚洲天堂资源网站| 精品亚洲黄色片 国产精品导航一区二区 | 粉嫩绯色AV一区二区在线| 久久亚洲一区女同性恋中文字幕 | 乱伦a片视频| 激情文学亚洲| 狼人综合婷婷激情四射| 2019久久久久久久久福利| 骚日日av| 啊啊啊啊啊啊在线看| 色色网91| 玖玖爱视频网站| 亚洲综合另类欧美久久久| 中国一级操逼视频| 欧美色图99| 国产suv精品一区二区四| 日本成人A片免费看| 欧美图片色五月天| 色一射色一射| 一级啊性爱在线视频| 97九色| 欧美洲精品一级| 搡老女人老妇女老妇老熟女怎么读| 二男一女成人A片| 超碰九7| 偷拍片久久| 97操97色| av资源在线观看少妇| 国产成人91一区二区三区| 二级毛片| 91视频成人福利网站在线一区 | 岛国激情视频在线观看| 美女好片色日本| 97在线观视频免费观看| 美女诱惑爱爱| 男女真人网18| 国产又黄又爽又刺激久久久久久| 一本色道熟妇| 日噜夜夜夜夜夜夜夜夜夜夜爽爽爽爽爽爽爽爽爽爽爽爽 | 日韩熟女精一区二区三区不卡| 97色涩| 欧美熟爽综合| 97香蕉碰碰人妻国产欧美| 最新国内自拍av免费| 国产97亚洲| 欧美精品欧美精品系列 | 一区二区你上我| 中文字幕av亚洲在线| 91伊人久| 国产成人亚洲精品无| 中出91视频| 天天日美女的B| 欧美97日韩| 无码heyzo高清一区| 日日夜夜狠狠| 女人爽到高潮潮喷18禁网站| 亚洲天堂人妻熟妇视频| 香港澳门日本三级网站| 亚洲欧洲自拍| 十八禁黄色| 欧美另类天堂| 久久久久久裸体| 内射卯月麻衣| 亚洲有码第一页| 日本999精品| 三级网站超变态精品| 禁止观看美女黄| av中文字幕在线熟女| 狠狠穞A片一區二區三區| 中文自拍欧美影视| 牛牛aV| 黑人无码一区二区| 91成人久久| 亚洲少妇综合在线播放| 国产熟女完整版中字| 免费黄色片。| 无码国产Av| 人妻一区视频| 亚洲国产成人精品久久久国产成人一区二区三. | 91精品国久久久久久无码| 久久久久久久78| 欧美天堂日韩三级国产传媒| 久九九九九九九热| 中文有码第五页| 欧美 亚洲 大香| 今日头条成人一区二区三区四虎精品| 特级大荫道BBwBBwBBW| 很黄很污的免费网站| 国产AV天美| av麻豆啪啪| 在线小视频| 国产欧美日产一区二区三区 - 国产欧美日 | 久久五月份| 国产精品天美传媒| 嗯嗯嗯啊啊啊操的我好爽| 超碰97玖玖爱| 亚洲综合夜色| 97国产精品在线观看| 9 1果冻精品视频| 九九亚洲| 操B视频日韩无码| 久草国产在线视频| 91麻豆va国产精品| 2020视频1区2区3区| 色哟哟-国产专区| 日韩美女,国产传媒,视频一区| 制服中出中文人人精品| 天天综合网视频91| 欧美少妇人妻| 韩三级a视频在线观看| 久草网站免费在线观看| 国产激情综合| 国产日韩精品一区二区三区| 日本蜜桃| 青女偷拍网| 91精品人妻偷情| 国产精品宅男免费| 人妻少妇精品一区二区三区| 少妇一区二区三区在线观看| 色在线69堂| 美女啊啊啊啊啊啊| 精品国产91av一区二区三区| 日本道久久综合色色| 欧美日韩夜夜| 天天日美女的B| 日韩情色一区二区| 18禁精品网站在线看| 激情五月天丁香| 乱码熟妇人妻久久久| 欧美在线|亚洲| 超碰午夜| 亚洲精品美女久久久久久久久| 91男女啊啊啊| 久男人久久| 人妻精品视频一区二区三区| 人人操人人大香蕉| 欧美黄色图片| 中文字幕一区二区三区四五区| 精品无码一区二区三区| 亚洲操人| 青青伊人加勒比海| 91丨人妻丨国产丨丝袜| 一本一道波多野毛片中文在线| 日韩人妻精品久久久久| 久操视频免费观看| 久久成年片色大黄全免费网站| 亚洲国产高清福利视频| 亚洲男人天堂网久久| 黑白配性爱AV成| 国产v片在线免费观看| 激情色播| 加勒比av官网在线| 日本羞羞的视频在线播放| 日本99热| 97伦乱| 国产黄色影片在线观看| 天美av在线观看| 久久大香蕉97| 草草影院最新网址| 春色校园综合网| 日韩啪啪视频| 不卡啪啪视频| 久久97超碰香蕉| 色欲三区| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 97超碰这里只有精品| 性色AV蜜色av色欲av| 一二三区在线| 一本大道青青| 亚洲日韩成人性爱视频| 使劲用力艹少妇视频一区二区 | 日韩91网| 国产成人在线观看综合| 色阁阁AV综合网| 第四色奇米影视777| 日韩精品高清资源在线| 日韩欧美加勒比| 黑丝内射一区二区三区| 99re视频在线播放青草| 97人人模人人爽人人| 91亚洲丝袜| 久久久久久国产无码精品| 大香蕉综合久久| A级毛片在线看免费| 97色诱| 国产午夜福利专区综合| 丝袜制服字幕在线| 日韩无码一级黄色av片| 老熟女91av| 亚洲欧洲成人在线电影| 91狠狠综合久久久久久| 男人午夜天堂| 欧美 亚洲 制服 精品| 青青在线视频日韩欧美| 日本高清电影欧美色图| 97超碰中文在线| 亚洲情色五月天 | 999热日韩精品| www色色色com| 嗯嗯不要视频| 理论久久婷婷网 8| 国产乱伦视频污| 久久蜜桃综合网| 天天操人人操狠狠插| 天天澡天天爽日日av| 亚洲高清无码在线桃色| 人澡逼| 性爱综合网| 蜜臀久久99精品久久久电影| 中文字幕在线观看AV| 成人AV超碰免费在线| 久久久久密臀视频| 中文字幕在线观看二区三区| 亚洲女优有码无码高清| 夜夜爽77777| 精品美女久久久久| 亚洲资源网| 日本片日本片祼观看网站在线看中文版网页在线看 | 亚洲欧洲视频小说在线观看| 天天日天天干天天色| 日本欧美m v精品网站加| 狠狠色婷婷777| 好色综合| 久久久久9| 91粉嫩萝控精品福利网站_精品影音先锋国| 亚洲狠狠入| 精品无码一区二区| 久久91精品国产9丨久久分亭| 91久久久久| 狼人综合婷婷激情四射 | 精品一级毛片在线观看| 噜噜噜久久亚洲精品色情| 久久美女福利是上海美女| 久热一区二区| 久久久九九九九| AA丁香综合激情| 亚洲国产成人7777| 伊人在线大香蕉视频久久| 午夜免费视频1000| 亚洲无码太久| 亚洲情色 自拍| 草蕉影视亚洲无码| 99久久9| AV一区观看| 久久婷婷成人综合色怡春院| 麻豆精品A片免费观看| 丰满的三级少妇欧美久久久| 熟女乱3伦999| 精品少妇一区二区三区| 美女97超碰| 婷婷丁香六月| 97在线精品观看视频| 猛猛干| 91精品久久久久久久久久| 91婷婷伊人狠人| 人人操人人摸人| 亚洲欧美一区二区网址| 中文字幕一区二区三区四五区| 久久仑合| 亚码激情| 美女黄频a美女大全免费皮| 台湾一区国产高清在线| 青青青在线高清视频在线一二三四区| A啊啊在线观看| 69精品少妇一区二区三区蜜桃| 3P乱轮视频| 超碰精品日韩欧美国产| 欧美一级二级三级| 国产AV人人夜夜澡人人爽麻豆| 大香蕉十区| 美女黄色一级A视频| 久久久久久久久成人av解说| 激情熟女12P| 久久久久久久九九九九| 日韩无码服务区| 秋霞福利网| 上床不卡网站| 宅男91视频在线播放| 激情综合网激情五月天| 人人摸人人干人人拍97| 久久亚州精品成人Av无| 亚洲国产精品无码AV久久| 99re视频在线播放青草| 九色 蝌蚪 熟女自 | 久超碰在| 国产亚洲色婷婷久久99精品91| blacked精品一区国产| 热久久国产| 天天干天天操天天操夜夜操天天操| julia国产在线| 国产怡红院在线| 久久久内射良家| 98超碰日本| 粉嫩久久久久| ai欧美亚洲小说| 91精品国久久久久久无码| 日韩二三区| 美女久久久久久久| 澳门人妻久久| 老女人爆菊| 嗯嗯嗯嗯啊啊啊好紧好大| 狠狠中文字幕| 亚洲欧美校园另类春色| 综合久久97| 欧美一二在线| 久久丁香久草综合网| 青草精品视频-日本久久久久网站| 欧美熟女妇同| 色av中文字幕| 97色色国产视频| 国产精品suv一区| 中文幕97| 激情婷婷丁香| 久久久久久无码人妻中文字幕| 久艹99| 中文精品少妇天堂| 一卡二卡三卡| 男人的天堂久久久| www.av家庭乱伦| 精品无码一区二区三区| 在线观看高清AV| www.黄色在线| 26uuu国产免费观看| 三级三久久线久久99久目本WW| 久久激情五月| 亚洲色图超碰在线| 色婷婷在线视频精品导航| 亚洲视频小说| 国产精品69久久久久孕妇欧美 | a在线视频免费观看| 三级三久久线久久99久目本WW| 一区二区日韩欧美久久| 99超碰色| 偷拍在线观看视频| 天天干夜夜操一区二区| 啊啊啊啊啊啊啊啊视频| 免费家庭乱伦视频| 欧美视频一区二区在线| 婷婷丁香六月天| 欧美综合第一| 91九色丰满高潮| 国产白丝av| 大香蕉久| 国产精品色色| 国产一区麻豆免费观看| 久久是精品| 亚洲国产综合图区中文字幕| 一个国产在线综合网站| 91free福利| 殴美日韩m| 男人的天堂kva| a片久久久久久久久久久久 | 中文字幕交换人妻|