国产成人欧美一区二区三区vr_久久国产精品人人爽人人爽_国产精品永久免费播放_肉欲啪啪a∨无码精品一区二区_国产超短裙jk丝袜在线_亚洲AV片高清资源在线观看_国模无码一区二区三区久久_国产成年人未进视频_中文字幕无码精品夜_一区二区三区在线视频免费看_亚洲成AV人片在线观看网址_日本激情视频高清综合久久_亚洲午夜视频福利_国内大量揄拍人妻精品視_久久国产精品福利二区三区

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

“uncorr. ecc 顯示 2”是什么?詳解 ECC 糾錯(cuò)與 MBIST 內(nèi)存自檢

“uncorr. ecc 顯示 2”是什么?詳解 ECC 糾錯(cuò)與 MBIST 內(nèi)存自檢 每次看到內(nèi)存相關(guān)的告警我都覺得這是和整臺(tái)服務(wù)器打交道中最讓人神經(jīng)緊張的一類問(wèn)題。想必不少搞過(guò)服務(wù)器、NAS或者嵌入式設(shè)備的朋友都有過(guò)類似的經(jīng)歷某個(gè)深夜管理界面突然彈出一條提示上面寫著uncorr. ecc 顯示 2。第一眼看到這臺(tái)設(shè)備還活著業(yè)務(wù)沒(méi)斷心里會(huì)稍微松一口氣但緊接著就全是問(wèn)號(hào)——“2”到底指什么是內(nèi)存已經(jīng)壞了兩個(gè)bit還是已經(jīng)有兩條內(nèi)存條徹底報(bào)廢了我今天想把這些事徹底聊明白。所謂 ECC全稱是 Error Correction Code糾錯(cuò)碼它能讓內(nèi)存在讀取數(shù)據(jù)時(shí)自動(dòng)發(fā)現(xiàn)錯(cuò)誤而且絕大多數(shù)情況下能把錯(cuò)誤當(dāng)場(chǎng)修好。你看到的uncorr. ecc里的 uncorr是 uncorrectable 的縮寫意思是這個(gè)錯(cuò)誤已經(jīng)超出了 ECC 能修復(fù)的范圍數(shù)據(jù)確確實(shí)實(shí)被破壞了。至于后面那串和 MBIST、SMART 相關(guān)的計(jì)數(shù)本質(zhì)上都在描述同一件事存儲(chǔ)系統(tǒng)正在從“能自救”滑向“即將失控”的那個(gè)臨界點(diǎn)。這篇文章我盡量用大白話把 ECC 的糾錯(cuò)邏輯、MBIST 自檢機(jī)制以及遇到不可糾正錯(cuò)誤之后到底該怎么定位和替換內(nèi)存一次性講清楚。適合正在維護(hù)服務(wù)器/ NAS 的運(yùn)維也適合做嵌入式開發(fā)或者自己攢機(jī)器跑數(shù)據(jù)的朋友。1. ECC 到底是什么從一次報(bào)警說(shuō)起1.1 一次真實(shí)的“uncorr. ecc 顯示 2”事件我手上那臺(tái)自組 NAS跑的是 TrueNAS平時(shí)負(fù)責(zé)家里和幾臺(tái)工作機(jī)的備份。那天凌晨收到告警郵件進(jìn)管理界面一看存儲(chǔ)狀態(tài)里赫然寫著uncorr. ecc 顯示 2。機(jī)器沒(méi)有立刻崩潰硬盤也還正常但這個(gè)數(shù)字讓我整個(gè)人清醒了。因?yàn)樵趦?nèi)存 ECC 的場(chǎng)景下uncorrectable這個(gè)詞一出現(xiàn)意味著數(shù)據(jù)完整性已經(jīng)不是“可能有問(wèn)題”而是“已有實(shí)實(shí)在在的損失”。按照我后來(lái)的排查經(jīng)驗(yàn)這類計(jì)數(shù)一般來(lái)源于兩類設(shè)備要么是服務(wù)器/工作站主板上的內(nèi)存控制器把內(nèi)存的 Machine Check 事件記錄到了系統(tǒng)日志里要么是存儲(chǔ)控制器的 SMART 或管理界面把磁盤、SSD 或者 RAID 卡檢測(cè)到的不可糾正介質(zhì)錯(cuò)誤統(tǒng)計(jì)成數(shù)字。不管來(lái)源是哪一個(gè)uncorr. ecc 顯示 2都代表底層硬件已經(jīng)發(fā)生了兩次它自己救不回來(lái)的錯(cuò)誤??杉m正錯(cuò)誤Correctable ErrorCE是黃燈可以繼續(xù)觀察而不可糾正錯(cuò)誤Uncorrectable ErrorUE是紅燈它已經(jīng)不是預(yù)警而是事故通報(bào)。1.2 ECC 糾錯(cuò)原理為什么能糾正 1 位錯(cuò)誤ECC 的底層邏輯并不玄乎它就是在原始數(shù)據(jù)之外額外存一組校驗(yàn)位讓合法的數(shù)據(jù)組合之間保持足夠的“距離”一旦某一位翻轉(zhuǎn)成錯(cuò)誤值接收方可以通過(guò)校驗(yàn)規(guī)則反推出原始數(shù)據(jù)?,F(xiàn)在絕大多數(shù) ECC 內(nèi)存采用的是 SEC-DEDSingle Error Correction, Double Error Detection方案能糾正 1 位錯(cuò)誤同時(shí)能檢測(cè)出 2 位錯(cuò)誤。具體到內(nèi)存條上你看到的是這樣一組數(shù)字標(biāo)準(zhǔn) DDR 內(nèi)存數(shù)據(jù)位寬是 64 位而 ECC 版本的數(shù)據(jù)總線是 72 位多出來(lái)的 8 位就是校驗(yàn)位??梢赃@么理解每 64 位用戶數(shù)據(jù)硬件都會(huì)生成 8 位糾錯(cuò)碼打包成 72 位的數(shù)據(jù)字放進(jìn)內(nèi)存顆粒里。因?yàn)閮?nèi)存顆粒多為 x8 位寬所以一條 ECC 內(nèi)存條往往要多配一兩顆 DRAM 專門存校驗(yàn)位。這個(gè)“靠冗余碼糾錯(cuò)”的思路日常生活中很常見。身份證號(hào)最后一位就是校驗(yàn)碼用來(lái)發(fā)現(xiàn)前面數(shù)字的抄寫錯(cuò)誤拍 X 光片時(shí)如果機(jī)器抖動(dòng)圖像上會(huì)出現(xiàn)重影但如果你知道固定的重影偏移量也能反推出清晰的原始影像。ECC 就是把這種推測(cè)做成了一套嚴(yán)密的數(shù)學(xué)規(guī)則它不需要“猜”而是按照漢明碼和擴(kuò)展?jié)h明碼的算法直接算出錯(cuò)誤位置然后翻轉(zhuǎn)糾錯(cuò)。需要注意的是ECC 擅長(zhǎng)的是處理極小概率的單比特翻轉(zhuǎn)比如宇宙射線打中存儲(chǔ)電容導(dǎo)致某一個(gè) bit 變了但如果某個(gè)存儲(chǔ)單元已經(jīng)徹底老化連續(xù)多個(gè) bit 都出錯(cuò)SEC-DED 也只能干瞪眼報(bào)出不可糾正錯(cuò)誤。至于為什么偏偏是 8 位而不是理論上的 7 位64 位數(shù)據(jù)用最基本的漢明碼確實(shí)只需要 7 個(gè)校驗(yàn)位但工程實(shí)現(xiàn)為了按字節(jié)組織糾錯(cuò)邏輯并加入“檢 2 位錯(cuò)誤”的增強(qiáng)能力最終統(tǒng)一采用 8 位方案。DDR 標(biāo)準(zhǔn)里 648 的位寬格局也因此固定下來(lái)沿用至今。1.3 系統(tǒng)級(jí) ECC 與 On-Die ECC 的差別這幾年大家選購(gòu) DDR5 設(shè)備時(shí)常常被一個(gè)概念搞混DDR5 內(nèi)存顆粒內(nèi)部帶有 on-die ECC。于是有人以為只要用了 DDR5 就等于有了 ECC 保護(hù)。這是個(gè)誤區(qū)。DDR5 的 on-die ECC 是把糾錯(cuò)邏輯放到 DRAM 顆粒內(nèi)部主要為了改善顆粒在更小制程下的數(shù)據(jù)保持能力降低刷新頻率的損耗。它在內(nèi)存控制器看來(lái)是透明的和系統(tǒng)真正使用的“平臺(tái) ECC”完全是兩回事。系統(tǒng)級(jí) ECC 由 CPU 的內(nèi)存控制器完成。只有當(dāng)你用的處理器、主板和內(nèi)存條三端都支持 ECC并且內(nèi)存在讀寫時(shí)每次都附帶校驗(yàn)位這才是完整的平臺(tái)級(jí)糾錯(cuò)方案。你依然需要買標(biāo)著 ECC、或者明確是 RDIMM/UDIMM ECC 版本的內(nèi)存條而不是隨便一根 DDR5 普通條。也就是說(shuō)DDR5 內(nèi)在的糾錯(cuò)能力是幫顆粒自己“續(xù)命”不能幫你保護(hù)應(yīng)用數(shù)據(jù)。理清楚這一層之后再回頭看uncorr. ecc 顯示 2、MBIST 這類日志腦子里就有一個(gè)清晰的坐標(biāo)這些是系統(tǒng)級(jí)或者存儲(chǔ)控制器級(jí)的記錄和 DDR5 內(nèi)存自帶的內(nèi)部 ECC 不是同一個(gè)層面。2. MBIST ECC上電自檢時(shí)發(fā)生了什么2.1 MBIST 到底是什么MBIST 的全稱是 Memory Built-In Self-Test中文叫存儲(chǔ)器內(nèi)建自測(cè)試。它是在芯片出廠時(shí)就集成到硅片里的一段測(cè)試邏輯專門用來(lái)對(duì)片內(nèi)的 SRAM、寄存器文件、緩存等存儲(chǔ)陣列做讀寫健康檢查。核心價(jià)值在于不需要外部測(cè)試儀器只要給芯片上電、發(fā)送一個(gè)觸發(fā)信號(hào)芯片就能自己往存儲(chǔ)單元寫測(cè)試圖案、再讀出來(lái)比對(duì)從而判斷哪些單元存得住 0、哪些存得住 1。內(nèi)部跑的大部分是 March 算法最常見的有 March C- 等變種。它們會(huì)按特定順序?qū)Υ鎯?chǔ)單元做寫 0、讀 0、寫 1、讀 1 等操作用來(lái)暴露固定故障比如某個(gè)位永遠(yuǎn)卡在 0 或 1、翻轉(zhuǎn)故障和相鄰單元干擾。這套算法在芯片量產(chǎn)測(cè)試?yán)锓浅8咝缀醭闪舜鎯?chǔ)測(cè)試的標(biāo)配。很多 MCU 和 SoC 在每次上電啟動(dòng)時(shí)都會(huì)自動(dòng)跑一遍 MBIST只有測(cè)試通過(guò)才繼續(xù)加載引導(dǎo)程序。2.2 MBIST 與 ECC 的配合邏輯如果說(shuō) ECC 是運(yùn)行時(shí)的“保險(xiǎn)”那 MBIST 更像是上電前的“體檢”。在服務(wù)器、網(wǎng)絡(luò)交換機(jī)和汽車電子設(shè)備里兩者常常成對(duì)出現(xiàn)。設(shè)備上電瞬間跑一次 MBIST用最直接的方式把物理壞塊暴露出來(lái)設(shè)備正式運(yùn)行后內(nèi)存單元如果因?yàn)殡妷翰▌?dòng)、溫度變化或者帶電粒子擊中發(fā)生瞬時(shí)錯(cuò)誤ECC 又可以在幕后默默糾錯(cuò)不讓上層應(yīng)用感知到異常。汽車和工控領(lǐng)域尤其重視這套組合。出于功能安全的要求芯片需要保證對(duì)隨機(jī)硬件故障有足夠的探測(cè)覆蓋率所以工程師不僅會(huì)把 MBIST 放在上電流程里還會(huì)設(shè)計(jì)成系統(tǒng)運(yùn)行到安全狀態(tài)時(shí)周期性觸發(fā)。例如在自動(dòng)駕駛控制器里CPU 會(huì)在停車等待時(shí)趁機(jī)跑一段 MBIST確認(rèn)關(guān)鍵 SRAM 沒(méi)有出現(xiàn)永久性缺陷而 ECC 則負(fù)責(zé)在高負(fù)載運(yùn)行期間兜住零星的軟錯(cuò)誤。所以當(dāng)日志里同時(shí)出現(xiàn) MBIST 測(cè)試失敗和 ECC 報(bào)錯(cuò)時(shí)問(wèn)題的性質(zhì)就非常清晰了MBIST 失敗意味著硬件本身有物理缺陷ECC 報(bào)錯(cuò)則說(shuō)明數(shù)據(jù)層面已經(jīng)出現(xiàn)了可感知的影響。這時(shí)候別再把責(zé)任推給偶發(fā)干擾直接按硬件故障處置。2.3 為什么瞬時(shí)故障也會(huì)被 MBIST 漏掉這里有一個(gè)很常見的誤解既然芯片上電時(shí)已經(jīng)跑過(guò) MBIST為什么運(yùn)行幾個(gè)小時(shí)后還有 ECC 報(bào)錯(cuò)因?yàn)?MBIST 的本質(zhì)是“在某個(gè)時(shí)刻對(duì)所有存儲(chǔ)單元做一次性檢查”它只能證明檢查那一刻存儲(chǔ)陣列沒(méi)有明顯的物理壞塊無(wú)法預(yù)測(cè)未來(lái)幾小時(shí)內(nèi)哪一顆存儲(chǔ)電容會(huì)被高能粒子擊中。這種隨機(jī)軟錯(cuò)誤在流量小、溫度低的時(shí)候更容易被觀察但只要發(fā)生一次ECC 就會(huì)出手。所以你看到uncorr. ecc 顯示 2的時(shí)候不要急著指責(zé) MBIST 沒(méi)干活。正相反MBIST 已經(jīng)把硬件缺陷的“存量”清理過(guò)一次了ECC 記錄的是運(yùn)行過(guò)程中新產(chǎn)生的“增量”。這也解釋了現(xiàn)代 RAS可靠性、可用性、可服務(wù)性設(shè)計(jì)為什么要同時(shí)布這么多道防線MBIST 篩選物理缺陷ECC 糾正瞬時(shí)錯(cuò)誤CE/UE 計(jì)數(shù)把問(wèn)題風(fēng)險(xiǎn)暴露給運(yùn)維。一套鏈路缺一不可。3. 看到 ECC 報(bào)錯(cuò)怎么辦定位與處置實(shí)戰(zhàn)3.1 先分清 CE 和 UE處理 ECC 報(bào)錯(cuò)的第一原則永遠(yuǎn)是先分清這是可糾正錯(cuò)誤還是不可糾正錯(cuò)誤。CE 是系統(tǒng)已經(jīng)通過(guò) ECC 算法把數(shù)據(jù)救回來(lái)的記錄UE 是數(shù)據(jù)恢復(fù)失敗的記錄。兩者的處理節(jié)奏完全不同CE 只需要關(guān)注頻率低頻率可以忽略高頻率意味著硬件正在劣化UE 則必須立刻定位和替換因?yàn)樗呀?jīng)造成過(guò)數(shù)據(jù)損失。在 Linux 服務(wù)器上排查時(shí)我用得最多的是 mcelog 和 rasdaemon。mcelog 是老牌的 x86 錯(cuò)誤解碼工具適合把 Machine Check 信息從內(nèi)核 ring buffer 里導(dǎo)出來(lái)??梢园阉渲贸?systemd 服務(wù)或者后臺(tái) daemonmcelog --daemon mcelog --client新一些的發(fā)行版更推薦 rasdaemon它會(huì)把 EDAC 驅(qū)動(dòng)上報(bào)的 CE/UE 統(tǒng)計(jì)持久化方便隨時(shí)查看歷史記錄journalctl -u rasdaemon ras-mc-ctl --errors如果系統(tǒng)裝了 edac-utils也可以直接看內(nèi)核暴露的實(shí)時(shí)計(jì)數(shù)edac-util --status這種輸出會(huì)按內(nèi)存控制器、通道和 DIMM 槽位的粒度列出錯(cuò)誤計(jì)數(shù)是快速判斷“哪條內(nèi)存有問(wèn)題”的第一手資料。CE 和 UE 的含義差別可以用下面這張表概括指標(biāo)全稱含義處置建議CECorrectable Error單比特錯(cuò)誤被糾錯(cuò)算法救回?cái)?shù)據(jù)無(wú)損觀察頻率持續(xù)攀升則計(jì)劃更換UEUncorrectable Error錯(cuò)誤超出糾錯(cuò)能力數(shù)據(jù)已損壞盡快定位 DIMM安排下線更換MBIST FailMemory BIST Failure存儲(chǔ)陣列存在物理缺陷硬件級(jí)測(cè)試失敗直接更換顆粒所在芯片或內(nèi)存條3.2 定位到具體槽位知道系統(tǒng)有錯(cuò)只是第一步真正的問(wèn)題是找到錯(cuò)在哪根內(nèi)存條上。我的排查順序一般是這樣先看 EDAC 的 sysfs 信息在內(nèi)核接口目錄下找到內(nèi)存控制器的錯(cuò)誤統(tǒng)計(jì)。使用 edac-util 可以直接輸出“哪個(gè)控制器、哪個(gè)通道、第幾個(gè)內(nèi)存槽”的粒度。不過(guò)要注意EDAC 的槽位編號(hào)和主板上絲印的 DIMM 編號(hào)往往不是一一對(duì)應(yīng)的需要配合主板手冊(cè)做映射。所以下一步就是用 dmidecode 把內(nèi)存條詳細(xì)信息抓出來(lái)dmidecode -t memory | grep -E Locator:|Size:|Speed:|Part Number:|Serial Number:|Manufacturer:這里L(fēng)ocator字段最有用它通常直接給出DIMM_A1、DIMM_B2這類主板上印著的物理位置配合服務(wù)器機(jī)箱里的 LED 故障燈就能快速鎖定目標(biāo)。如果是帶 iLO/iDRAC 的服務(wù)器管理界面上通常會(huì)有可視化的內(nèi)存槽位圖甚至直接把故障槽位用紅色高亮出來(lái)。命令行環(huán)境下也可以直接查系統(tǒng)事件日志ipmitool sel list | grep -i correct\|mem這套組合拳打下來(lái)基本可以保證你不會(huì)在機(jī)房里面拿著手電筒挨根拔內(nèi)存。3.3 替換內(nèi)存和驗(yàn)證的完整流程定位到故障 DIMM 之后就是一個(gè)標(biāo)準(zhǔn)的更換流程。我把它整理成了七步每一步都不建議跳先備份所有關(guān)鍵數(shù)據(jù)。只要出現(xiàn)過(guò) UE就說(shuō)明數(shù)據(jù)已經(jīng)有被破壞的記錄備份是后續(xù)一切操作的前提。在管理界面里確認(rèn)當(dāng)前狀態(tài)能降級(jí)運(yùn)行的先降級(jí)不能降級(jí)的就安排維護(hù)窗口。關(guān)機(jī)斷電打開機(jī)箱找到對(duì)應(yīng)槽位拔下內(nèi)存條前先拍照記錄卡扣方向。換上規(guī)格完全一致的內(nèi)存條包括頻率、容量、Rank 數(shù)、是否 Registered 都要匹配。開機(jī)進(jìn)入 BIOS找到 Memory Test 或 Memory BIST 選項(xiàng)手動(dòng)跑一輪。如果設(shè)備支持讓系統(tǒng)自己執(zhí)行一遍帶 MBIST 的自檢。進(jìn)入系統(tǒng)后跑 memtest86至少完整執(zhí)行兩個(gè) pass有條件就泡一個(gè)晚上?;氐焦芾斫缑娲_認(rèn) CE/UE 計(jì)數(shù)不再增長(zhǎng)SEL 日志和 SMART 信息里沒(méi)有新增相關(guān)錯(cuò)誤條目。這套流程看似繁瑣但能避免絕大多數(shù)返工。我身邊就有同事?lián)Q完內(nèi)存后直接上線結(jié)果第二天又收到同樣告警最后才發(fā)現(xiàn)是換了根電商渠道買到的翻新條。多花一天時(shí)間測(cè)好過(guò)之后再熬一個(gè)通宵排查。4. 常見問(wèn)題速查與現(xiàn)場(chǎng)經(jīng)驗(yàn)4.1 高頻問(wèn)題清單我在幾個(gè)技術(shù)社群里泡過(guò)很久發(fā)現(xiàn)關(guān)于 ECC 的疑問(wèn)翻來(lái)覆去就是這幾個(gè)Q1日志里uncorr. ecc 顯示 2但跑 memtest 完全沒(méi)錯(cuò)誤怎么辦 Amemtest86 覆蓋的是內(nèi)存物理地址的遍歷讀寫但它無(wú)法模擬真實(shí)業(yè)務(wù)負(fù)載下的電壓波動(dòng)、溫度變化和地址映射干擾。日志里出現(xiàn)過(guò) 2 次 UE說(shuō)明運(yùn)行環(huán)境里發(fā)生過(guò)真實(shí)錯(cuò)誤哪怕 memtest 一次通過(guò)也不建議直接當(dāng)作“沒(méi)問(wèn)題”。正確做法是保留日志記錄標(biāo)記該槽位為可疑繼續(xù)觀察計(jì)數(shù)變化一旦再次增長(zhǎng)直接換條。Q2CE 計(jì)數(shù)漲得飛快但 UE 還是 0要不要換 A要。CE 連續(xù)攀升說(shuō)明顆粒的糾錯(cuò)余量正在被快速消耗今天能糾正的單比特錯(cuò)誤明天可能就變成多比特錯(cuò)誤直接演變成 UE。運(yùn)維規(guī)范里通常以“短時(shí)間內(nèi)單條內(nèi)存 CE 超過(guò)數(shù)百次”為更換閾值。Q3開機(jī)時(shí) MBIST 測(cè)試失敗是不是只能換芯片 A是的。MBIST 是硬件級(jí)測(cè)試失敗代表存儲(chǔ)陣列存在物理缺陷軟件無(wú)法修復(fù)。如果你用 SoC 或嵌入式系統(tǒng)只能更換芯片如果是服務(wù)器里的 DIMM就按內(nèi)存條故障處理。Q4新裝的服務(wù)器還沒(méi)跑業(yè)務(wù)就報(bào)uncorr. ecc正常嗎 A不正常。偶發(fā)一次 CE 還能解釋成環(huán)境干擾但 UE 一上來(lái)就有 2 次大概率是出貨時(shí)就帶內(nèi)存質(zhì)量問(wèn)題。盡快走售后別等到上線后再處理。Q5家用 NAS 用的普通內(nèi)存也會(huì)報(bào)這些錯(cuò)嗎 A不會(huì)因?yàn)槠胀▋?nèi)存沒(méi)有系統(tǒng)級(jí) ECC所以根本不會(huì)出現(xiàn)uncorr. ecc這種提示。但這不代表它不會(huì)出問(wèn)題而是問(wèn)題直接表現(xiàn)為文件校驗(yàn)失敗、系統(tǒng)崩潰、數(shù)據(jù)損壞從另一個(gè)角度更難排查。4.2 我踩過(guò)的幾個(gè)坑第一個(gè)坑是只看 “ECC” 三個(gè)字母就下單。ECC 內(nèi)存分 Registered 版本RDIMM和 Unbuffered 版本UDIMM接口長(zhǎng)得很像但有些主板只支持其中一種。買錯(cuò)了輕則無(wú)法點(diǎn)亮重則損壞主板內(nèi)存供電。選購(gòu)前一定先查主板支持的 Type、頻率和電壓。第二個(gè)坑是把服務(wù)器上的內(nèi)存故障 LED 誤判成電源故障。半夜值班的時(shí)候看到機(jī)箱里 DIMM 附近有一盞黃燈在閃以為是風(fēng)扇或電源問(wèn)題結(jié)果查了半天發(fā)現(xiàn)診斷 LED 就指向內(nèi)存槽位。后來(lái)我總結(jié)了一條經(jīng)驗(yàn)服務(wù)器上凡是貼著 DIMM 絲印范圍附近的 LED優(yōu)先去查 SEL 日志不要被燈光干擾判斷。第三個(gè)坑是換完內(nèi)存之后沒(méi)有做長(zhǎng)時(shí)間壓力測(cè)試。那一次我從二手市場(chǎng)買了一根“幾乎全新”的服務(wù)器 ECC 條外觀和 SPD 信息都對(duì)但顆粒已經(jīng)有老化跡象結(jié)果上線后 CE 計(jì)數(shù)又開始增長(zhǎng)?,F(xiàn)在我對(duì)二手內(nèi)存的態(tài)度是可以買但必須到貨后先烤機(jī) 24 小時(shí)并且優(yōu)先選擇有原廠序列號(hào)、支持在官網(wǎng)驗(yàn)證渠道的條子。第四個(gè)坑是以為 ECC 能修復(fù)一切錯(cuò)誤。ECC 只覆蓋內(nèi)存顆粒內(nèi)部的數(shù)據(jù)錯(cuò)誤當(dāng)出現(xiàn) UE 后如果換了內(nèi)存還在報(bào)那就要懷疑 CPU 內(nèi)存控制器、主板 DIMM 供電、甚至 CPU 插槽的接觸問(wèn)題。數(shù)據(jù)總線上的一根信號(hào)線斷開或者供電紋波過(guò)大都可能產(chǎn)生超出糾錯(cuò)能力的錯(cuò)誤。4.3 選型建議按場(chǎng)景決定要不要上 ECC普通辦公機(jī)、游戲機(jī)上不上 ECC說(shuō)實(shí)話差別不大因?yàn)橐话銏?chǎng)景下內(nèi)存錯(cuò)誤率足夠低斷電重啟就能恢復(fù)但如果你跑 NAS、虛擬機(jī)、數(shù)據(jù)庫(kù)或者任何“壞了數(shù)據(jù)會(huì)心疼”的場(chǎng)景ECC 就是一筆非常劃算的保險(xiǎn)。AMD 平臺(tái)相對(duì)友好Ryzen PRO 系列以及不少消費(fèi)級(jí) Ryzen 型號(hào)都支持 ECC UDIMM只是需要搭配支持 ECC 的主板Intel 消費(fèi)級(jí)平臺(tái)基本都不支持系統(tǒng) ECC要上只能走 W 系列或者 Xeon 平臺(tái)。自組 NAS 如果選擇二手服務(wù)器拆機(jī) RDIMM價(jià)格便宜但務(wù)必按前面說(shuō)的流程仔細(xì)測(cè)試。你在決策時(shí)記住一個(gè)原則就夠了ECC 不會(huì)讓機(jī)器變快但能讓機(jī)器在出錯(cuò)的時(shí)候“知道出錯(cuò)”而不是默默把錯(cuò)誤數(shù)據(jù)寫進(jìn)文件里。5. 更進(jìn)一步ECC 在整個(gè)數(shù)據(jù)鏈路中的作用5.1 SSD 也在用 ECC聊完內(nèi)存必須提一嘴 SSD因?yàn)楝F(xiàn)代固態(tài)硬盤內(nèi)部的 ECC 甚至比內(nèi)存還要復(fù)雜。NAND Flash 有擦寫次數(shù)限制隨著壽命消耗存儲(chǔ)單元的保電能力下降讀干擾和寫干擾都會(huì)讓原始錯(cuò)誤率不斷上升。主控需要用 BCH 或 LDPC 糾錯(cuò)碼把這些錯(cuò)誤比特修回來(lái)其中 LDPC 依靠軟判決可以獲得更強(qiáng)的糾錯(cuò)能力是目前的主流方案。當(dāng)你看到某塊 SSD 的 SMART 信息里出現(xiàn)Uncorrectable Error Count或Media and Data Integrity Errors這和內(nèi)存里出現(xiàn)uncorr. ecc 顯示 2是同一邏輯存儲(chǔ)介質(zhì)上出現(xiàn)了無(wú)法通過(guò)冗余碼恢復(fù)的錯(cuò)誤。區(qū)別在于內(nèi)存 ECC 是硬件即時(shí)處理的SSD 的 ECC 則由盤內(nèi)主控完成但它們都在告訴你同一件事——介質(zhì)的可靠性已經(jīng)越過(guò)紅線了。所以監(jiān)控 NAS 和服務(wù)器時(shí)SMART 里的 ECC 相關(guān)計(jì)數(shù)同樣要盯緊。5.2 從內(nèi)存 ECC 到端到端數(shù)據(jù)完整性如果把視野拉遠(yuǎn)你會(huì)發(fā)現(xiàn)現(xiàn)代數(shù)據(jù)中心幾乎每一層都有自己的校驗(yàn)機(jī)制ECC 只是第一環(huán)。內(nèi)存在 CPU 和內(nèi)存之間做校驗(yàn)PCIe 總線傳輸時(shí)帶有 CRCNVMe 協(xié)議支持端到端數(shù)據(jù)保護(hù)SCSI/Block 層還有 T10-PI 這類數(shù)據(jù)完整性字段連文件系統(tǒng)層面也有 ZFS 或 Btrfs 的 checksum。數(shù)據(jù)每走一段就有一層校驗(yàn)在盯梢。這種分層設(shè)計(jì)給我最大的啟發(fā)是不要試圖在一個(gè)點(diǎn)解決所有問(wèn)題。內(nèi)存 ECC 解決內(nèi)存顆粒的錯(cuò)誤總線校驗(yàn)解決信號(hào)傳輸?shù)腻e(cuò)誤文件系統(tǒng)校驗(yàn)解決磁盤和路徑上的錯(cuò)誤。拿我那臺(tái)出過(guò)uncorr. ecc的 NAS 來(lái)說(shuō)最終讓我放心繼續(xù)使用的不只是換了一根內(nèi)存條還包括 ZFS 自己會(huì)對(duì)每個(gè)數(shù)據(jù)塊做校驗(yàn)?zāi)芗皶r(shí)發(fā)現(xiàn)并報(bào)告可能被污染的文件。這種“多層冗余”的思路才是在長(zhǎng)跑中保證數(shù)據(jù)安全的正解。5.3 規(guī)劃存儲(chǔ)和服務(wù)器時(shí)把 ECC 當(dāng)作默認(rèn)項(xiàng)最后說(shuō)點(diǎn)采購(gòu)層面的建議?,F(xiàn)在不管是公司采購(gòu)服務(wù)器還是朋友讓我推薦小型 NAS 硬件我都會(huì)默認(rèn)把 ECC 內(nèi)存列為必選項(xiàng)而不是可選項(xiàng)。它的成本增量相對(duì)于整機(jī)可能只有百分之幾但換來(lái)的是一整套可觀測(cè)、可量化的錯(cuò)誤報(bào)告機(jī)制。沒(méi)有 ECC錯(cuò)誤發(fā)生時(shí)就悄無(wú)聲息等你發(fā)現(xiàn)往往已經(jīng)晚了有了 ECC機(jī)器會(huì)主動(dòng)告訴你“我這兒撐不住了”你就有機(jī)會(huì)在數(shù)據(jù)真正完蛋之前動(dòng)手修復(fù)。說(shuō)實(shí)話直到現(xiàn)在我看服務(wù)器日志的時(shí)候還是會(huì)習(xí)慣性地先掃一眼 CE 和 UE 計(jì)數(shù)。經(jīng)歷過(guò)幾次內(nèi)存故障之后我最深的體會(huì)是uncorr. ecc 顯示 2并不等于世界末日但它是硬件發(fā)來(lái)的最后通牒。別拖、別猶豫按流程定位、更換、驗(yàn)證一鼓作氣做完系統(tǒng)又會(huì)安靜如初。愿大家的日志里永遠(yuǎn)只有 CE沒(méi)有 UE。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
东京热激情视频一二三区| 国产99999久久精品| 久久欧美性爱视频| 国产美女口爆吞精| 国产人伦精品一区二区三区| 日日摸日日碰夜夜爽视频| 国产精品亚洲一级av第二区| 性爱AV天堂| 精品视频一区二区| 久久极品一区二区| 欧美日韩中文字幕人妻| 嗯啊啊啊轻点视频 | 91亚洲网站| 色婷婷香蕉| 9久9久| 午夜福利免费精品视频| 欧美色图97| 国产精品色片一区二区| 偷拍综合亚洲| 国产一区二区三区影片| 欧洲站一级二级三级h| 欧美人妻一区| 国产400孕妇孕交群| 亚洲色图超碰在线| 国内亚洲高清无码| 十八禁黄色成人网站观看| 亚洲乱码精品一区二区| 你草精品在线视频| 国产特级毛片AAAAAA高潮流水| 国产精品久久久777| 日本性爱视频一级| 亚洲诱惑| 99综合| 伊人加勒比| 亚洲国产一级中文综合久久天堂在线免费观看| 眼镜人妻101.com| 69人妻精品丰满熟女区| 欧美丝袜制服久久| 日韩亚洲欧美中文字幕| 国产成自自拍在线观看| 乱伦熟女区| 91痴汉| 免费观看欧美日韩操逼视频| 色狠狠 - 百度| 成人三级片一区二区三区视频| 欧美色图天堂在线| 天天草夜夜草高潮片| 日本免费一区二区不卡 | av婷婷色网| 高清一区AV无码| 69丨亚洲丨精品丨入口免费播放| 精品久久99| 亚洲国产精品无码AV久久| 国产美女口爆吞精| 人人插人人搞人人操| 美女诱惑久久| 欧美综合传媒| 亚洲诱惑天堂| 大香蕉欧美国产日韩高潮| 日韩免费看黄片| 九九九九九九视频免费| 婷婷久草| 肉丝网站91| 一区二区三区黄色片a| 日日干日日摸| 一区二区 电影 亚洲| 日韩一级片在线看| 日本羞羞的视频在线播放| 粉嫩小泬久久久一区二区| 激情综合婷婷| 欧美亚洲第一页| 91视频女生| 夜夜高潮夜夜爽高清视频一| 视频分类 国内精品| 福利视频合集| 久久久久久人| 亚洲精品一区二区免费在线观看| 少妇二级| 色牛牛AV| 啪啪视频亚洲第一| 日韩亚洲欧美中文字幕| 超碰9 7女人| 老熟女区| 校园春色 男人天堂| 亚洲偷拍自拍在线视频| 超97在线精品视频| 99久久久久久亚洲精品不卡| 加勒比99999| 夜夜综合| 青青操在线亚洲视频观看欧美在线 | 国产女人和拘做爰视频 | 91精品人妻一区二区三区蜜桃臀| 亚洲AV成人在线| 九月激情婷婷| 操人人| 亚洲啪啪综合?v一区综合精品区| 人妻激情视频| 一区e区三| 超碰夫妻97| 嗯啊啊啊轻点视频| 激情自拍 校园春色| 亚洲欧美在线观看2021| 久久男人精品| 日本视频一区二区三区| 一区二区三区高清天码| 青娱乐福利99| 久久精品一区二区一8| 久久人妻熟女一区二区 | 少妇高潮喷水无套久久久久久| 欧美亚洲一区二区久久久婷精品大包诱| 日韩成人电影AV| 白嫩国模丰满一二三区| 99黄页网站| 日熟女| 亚洲激情AV| 久久麻豆一区二区| 日本久久超碰| 九九色色| 国产精品女aA片爽爽视频| 亚洲日韩美女中文字幕乱| 久草资源在线视频官方总站日韩丝袜美腿| 色香天天| 狠狠久久四虎| 无码一区二区精品视频久久久春药 | 色综合九九| 视频在线97| 伊欧美综合视频| 91爱欧美| 日本一级性爱| 夜夜躁狠狠躁日日躁av| 日本高清电影欧美色图| 欧美天天综合| 爱丝福利| 中文字幕亚洲欧美在线不卡| 思思热在线cao| 人人摸人人舔一区二区| 中文字幕精品一区二区精品| 欧美v亚洲v综合v国产v妖精| 美女毛片999| 狠狠色噜噜狠狠狠狠狠色综合久久| 超碰97在线中文| AA特级绝黄| 97欧美色综合| 第四色色综合91| 熟女乱3伦999| 蜜桃一区二区三区| 不卡二三区人妻少妇| 亚洲 中文 女同| 操逼无码操逼| 欧美综合亚洲| 日韩一999精品| 国产精品成人久久一区二区三区| 激情婷婷丁香网| 久久久一级| 天天夜躁日日躁狠狠2002| 91网站视频在线观看| yellow网站免费观看日韩高清无码| 日日爽熟女| 国产日本熟女顶级一区二区三区视频| 午夜视频好爽啊| 91老妇女| 试看福利| 日韩人妻资源网| 久久精品日韩| 91肉丝| 91久久国外网| 10000部十八禁看电影| 国内毛片国产专区二| 国产精品自拍视频| 亚洲精品九九九| 欧美日韩婷婷中文| 天美AV片| 日韩乱码Av| 92人人操人人| 亚洲天堂中文字| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 精久久久| 道久久五香丁月婷婷激情综合| AV天天在线观看| 国产免费久久精品99re韩国| 性吧在线视频| 蜜臀操逼黄色视频操的好爽| 高清无码国产亚洲| 欧美午夜一区二区三区| 人人操人人插 - 百度 - 百度| 一区二区播放| 神马久久69| 亚洲永久永久永久永久一级一级一级精品 | 青青草丝袜在线视频| 亚洲 欧美 日韩 国产一区二区| 91男人天堂网| 天天操天天谢| 91久久18禁| 爱爱动态120秒| 精品在线观看视频在线| 欧美顶级黄片AAAAA在线免费看| 夜夜草我| 日本三级A片网站com| 久久久久少妇| 中文字幕丰满子伦无码专区在线视频最新| 国产夫妻性生活视频| 国产肏屁眼视频| 综合日韩激情另类图片| 伊人影院在线理论播放| 免费看污网站| 久久亚洲天天做| 久草久热| 欧美一区二区三区大综合| 国产不卡片| 婷婷五月天社区| 欧美人妖内射| 亚欧洲日韩国产精品| 国产中文日韩欧美一区二区三区人妻丝袜美腿| 蜜臀久久99精品| 99www.bibizy香蕉资源国产一区二区三区高清 | 日韩射图| 中文字幕99999| 亚洲欧美首页| 国内毛片欧美香蕉精品| 中文字幕一二区二三区人妻专区| av无码精品久久久久| 日人妻视频91| 婷婷激情啪啪| 亚洲男人天堂2012| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 精品国产乱码久久久久久口爆网站 | 91麻豆天美国产欧美日| 无码人妻一区二区一牛影视| 久久精品72| 1204av韩国| 伊人久久亚洲色欲综合网站 | 久久五月天婷婷| 丁香五月激情综合| 国产有码一区| 午夜AV污污污| 91殴美| 97色欧州| 97超级久久| 97综合久久| 国产日韩欧美亚洲精品95| 黄色av一区二区在线| 99操| 欧美亚洲AN| 桑老女人九区| 我要去看2个日本美女.com曹逼| AA级电影三区| 欧美性生活综合| 中文啪啪视频| 97超碰国产亚洲精品| 日韩小电影| 国产精品久久99日日| 欧美色婷婷| 日本一片一区| 久久久91| 中文字幕aⅴ在线视频| 日本女人操逼| 嗯嗯啊啊好疼| 91一区二匹| 99在线无码精品秘 入口黑人| 色五月综合| 久久国99999| 欧美日韩妖精91com| 操逼逼一区视频| 五月天综合在线| 天堂资源站| 亚洲中文字幕在线视频一区二区| 丁香婷婷久久| 噜噜噜噜天天狠狠| 丰满人妻av一区二区三区| 国产SV一线| 欧色网址| 五月婷在线| 色综合99999| 色欲Av人妻精品一区二| 精品妇女一区二区三区| 青草伊人网| 91人妻素女| 极品久久久久久久久久久久久久| 七月丁香婷婷| 91在线色综合| 黄页| 爱干爱射网啊啊啊| 五十路一区无码| 欧美日韩性爱视屏免费看了| 欧美日韩美女精品久草一区二区三区| 黄色激情电影在线观看| 亚洲综合网图| 国产精品一级特黄aaa大片在线观看 | 天天操天天7| 无码精品久久| 精品乱码久久久久| 久久久亚洲高清不打码| 国产乱子伦一区二区三区免看| 777琪琪午夜免费A片| 1024亚洲中文字幕久在线看片你懂的 | 蜜区区视频79| 婷婷综合| 久久久久久九九九| 日韩人体偷拍| 强奸乱伦AV一天堂网| 精品四五区| 免费A片三p视频| 97色插| 操人人| 青青草成人视频在线观看二区| 国产黄色小视频网站| 色爱综合网欧美| 色色色日本| 青青草在线视频欧美| 国产美女销魂在线观看不卡| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 国产性感骚丝袜在线| 日韩综合无码一区久久92| 亚洲一区二区三区麻豆传媒| 日韩在线性爱免费视频| 曰本特级特黄特色黄色A级网站高清在线免费看| 秋霞影音一区二区三区| 9精品久久久久| 欧美日韩超碰在线| 午夜乱轮操逼视频免费看| x97av| 综合激情五月天| 日本一道在线播放高清| 久久是精品| 国产亚洲色婷婷久久99精品91| 天久久久噜噜噜久久国产精品爽爽| 天美av在线观看| 欧美大香蕉久| 精品少妇高潮久久| 爱欲AV| 丰满高潮18xxxx| 欧姜老司机| 久久精品免费| 日韩999| 日韩欧美亚洲自拍偷拍| 成人精品水蜜桃久久久久久久| 五月香婷婷| 精品人妻1区| 久热精品在线| 欧美视频激情久久久久久| 大香蕉久| 黄色区免费观看中文字幕| 九九热精品| 亚洲成人妻日韩在线| 看一级黄色视频| 91丨九色丨国产丨人妻在线| 加勒比aⅴ| 97一区二区蜜臀| 操人91| 操逼免费视频无码国产| 久操视频在线观看| 蜜臀久久99精品久久久久久酒店 | 中文字幕精品人妻丝袜| 九九香蕉网| 亚洲欧洲综合av在线| 四方色播| 96麻豆精品一区二区三区| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 99精品无码| 芊芊操逼视频无码| 亚洲自拍偷拍视频在线| 女人综合网| 又黄又硬又粗又长国产视频| 精品白丝一区| 久久99草| 神马久久69| 97精品视频免费| 日本高清电影欧美色图| 色情婷婷| 亚州国产精品乱| 一区二区视频在线播放| 国产黄片在线免费观看| 色就色综合| 超碰在线欧美性爱激情| 人妻精品视频一区二区三区 | 大胆91| 久久99久久99精品免视看婷婷| 免费在线黄片视频| 精品视频免费在线一区| 日本免费一级AAA大片器| 成人午夜高潮av猛片| 久久天堂| 国产精品久久久吖| 午夜福利一区二区影院| 欧美国产欧美在线观看| 天天做日日做| 去干网最新版| 99色悠悠| 日本不卡二三区| 日本黄色裸日本黄色裸体 | 色五月AV在线| 鸥美中出| 天天干天天操天天操夜夜操天天操| 国产伦精品| 精品九九九九九| 黄片www视频免费| 亚欧免费观看视频| 日本免费一级AAA大片器 | 亚欧免费| 操逼网站视频漫画国产| 综合网欧美在线| 91色鬼| 欧美久久婷婷| 四虎影视国产精品| 欧美78P| 新亚洲无码| 成人a级高清视频在线观看| 国产精品亚洲无码| 免费毛片在线播放| 综合久草| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 加勒比在线观看一区二区| 国产精品探花在线| 亚洲色欲一区二区三区| 国内外毛片在线观看| 97超碰色情| 人人干人人操人人爱| 成人aⅴ一区二区三区| 91久久久久久久久18| 97色在线观看| 国产精品97超碰| 丰满人妻一区二区三区蜜桃视频| 伊人久久综合影院| 天美国产三级传媒| 综合激情一一91| 久久加勒比| 亚欧性爱无码| 亚欧精品久久久久久久久久久| 自拍欧美| 91少妇人妻| 青娱乐国产精品| 亚洲色图久久精品蜜| 骚女高跟AV在线| 亚洲欧美首页| 亚洲图片偷拍视频区| 黄网站黄视频网站进入口| 偷窥自拍亚洲| 风流老熟女一区二区三区l| 色妺妺AⅤ| 操逼逼一区视频| 日韩成人大片在线观看| 日韩美女,国产传媒,视频一区| 亚洲男人天堂手机版| 久久av一级av少妇av高潮| 国产乱码久久| 9Ⅰ超碰| 天天躁日日躁AAA片李宗瑞| wwe 天天干.com| 久久久久久久9| 黄色大香焦1级‘′‘| 97一区二区蜜臀| 91亚洲欧美激情| 99热只有这里有精品| 久久水蜜臀亚洲AV无码精品| 色哟哟 日韩精品| 国产激情久久| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 蜜臀无码一区二区| 麻花豆传媒剧国产MV出差| 蜜色网色哟哟| 十八禁啪啪视频| 婷婷综合五月天| 亚欧操逼片在线观看| 啪啪啪精品视频| 蜜臀AV成人精品蜜臀| 国产 日韩,欧美 自拍| 91大学精品激情戏| 人妻精品一区二区| 亚洲国产第一页综合视频| 中文字幕欧美精品亚洲日韩蜜臀| 人人考人人摸人人干| 黑人干亚洲| 性做久久久久久久| 天天综合网视频91| 五月天婷婷色色| 久久久久久久久久久久97| 人人考人人摸人人干| 欧美手机在线综合| 99re这里只有精品2| 久久综合激情| 天天干人人乐| 国产精品熟女AV中文字幕在线播放| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 97视频在线视频| 久久久久国产精品喷潮免费观看臀 | 色欲久久99国产精品久久久久久| 欧美丰满少妇xx高潮| 少妇综合| 中文啪啪视频| 无码人妻一区二区三区色欲aⅴ| 91人妻超碰| 麻豆视频国产一区二区| 亚洲欲| 欧亚在线视频| 91美女视频在线观看| 99国产天美| 欧美亚洲色图另类国产| 亚洲狠狠入| 中文字幕国产精品1区| 亚洲国产成人精品999| 97精品97久久| 精品精品精品| 日本日逼高清| 78精品| 日本精品免费一区二区三区四区| 综合久久六月久久婷婷| 色欲av国内精品久久久久久| 色www精品视频在线观看| 蜜乳av首页| 乱伦强奸区日韩| 丰满人妻一区二区中文| 99热色这里只有精品| 久久久专区| 欧美黄页在线| 人、人、摸,人、人、草| 精…码一二三区| 素颜老阿姨乱情色| 大香蕉伊利av| 久久久久久AV无码免费网站| 国产狂喷潮在线精品| 久久精品一区二区三区蜜桃臀| 骚货人妻偷情自拍在线视频| 久久高清欧美国产| 无码人妻一区二区三区色欲aⅴ | 国产多人在线观看视频| 欧洲综合色图| 亚洲文学偷乱拍啪啪啪啪| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 欧美少妇高潮视频| 色天堂综合| 久久久一区二区三区四曲免费听| 无码 有码 国产18p| 欧美精品二区视频在线| 大逼色网站| 久久精品国产久精国产| 国产无遮挡| 狠狠干综合| 亚洲欧美日韩精品久| 久久亚洲国产成人| 超碰欧美| 偷拍 亚洲 欧美| 加勒比无码毛片| 亚洲无限观看| 九九九九免费高| 久久久久久91香蕉国产| 夜夜嗨AV蜜臀av| 亚洲成人av色网| 五月婷久久| 天天综合站| 啊嗯嗯啊好大好爽| 国产精品3| 在线情色电影 91大 | 免费看日产一区二区三区| 久久综合亚洲色1080p| 香港澳门日本三级网站| 欧差乱伦二三| 操国产逼| 欧美人人曰人人操人人射射| 日韩精品一区二区高清| 日韩极品无码B| 中文字幕人妻资源在线| 婷婷在线视频在线观看| 7777奇米影视久久| 先锋色眉乱伦资源| 免费看A片毛毛片在线播| 日韩久久.一级黄色片| 成人aⅴ一区二区三区| 色狠狠 - 百度| 伊人网综合在线视频| 黄色小视频日本txt| 国产99久久99热这里只有精品15| 91操人| www狠狠| 猛交交| 啊啊啊啊啊在线视频| 一区| 日本五区不卡| 欧美综合另类| 国产美女销魂在线观看不卡| 思思热er精品视频| 国产成人+综合亚洲+天堂| 九九亚洲| 久久最新视频免费观看| 欧洲自拍色图gif在线| 91成人亚洲色图| 免费视频一二三区| 免费黄色片。| 成人电影一区| 一及黄久一点| 亚洲欧美变态| 亚洲伊人久久综合97| 97精品97久久| 校园春色五月天| 福利操逼| 亚洲情色第一页| 日韩精品9999| 色97干| 免费人成在线观看网站品爱网| 亚洲Av无码成人精品国产| 综合网欧美在线| 欧美少妇色综合| 九t超碰| 在线岛| 人妻久久久久久久久久久久久久久| 综合激情97| 97精品一区二区视频在线观看| 91精品人| www狠狠| 一级黄碟在线看| 美女91在线| 亚洲精品第一| 亚洲精品天天影视综合网 | xxx0国产在线播放| 中文字幕av色| 综合色区偷拍| aaaa少妇高潮大片| 大香蕉欧美伊| 78超碰| 久久性爱城| 91久久国产综合精品| 欧美高清第一页| 国内精品伊人久久久久影院会| 91亚州欧美| 97超碰中文在线| 国产一区二区三区影片| 国产精品久久久999| 999久久久免费精品国产牛牛| 啊v视频在线观看| 国产欧美黑人丰满在线| 极品欧美一区二区三区| 久久久久久久久久久久久久久性生活视频 | 亚洲欧美另类图片| 噜噜噜无码AV一级一级久久影院| 超碰97欧美日韩| 国产亚洲日韩欧| 97国产精品国| 99人妻| 91狠狠综| 亚殴在线| 亚洲爽图| 超碰公开久久网| 亚洲欧美另类图片| 久久久一区二区三区四曲免费听 | 四色永久成人网站| 色欲久久99精品久久| 日韩激情中文字幕有码| 97网址97| 国产九九九九九九九九| 2020中文字幕在线| 强奸a片网| 日韩精品亚洲一二三| 99精品久久久久久久婷婷蜜桃| 嫩草 我啊~嗯~在线| 欧美另类综合久久| 死我十八禁| 超碰九色| 亚洲色图欧洲| 大香蕉伊人网WWWn0n| 日本成熟少妇A∨网站| 青青草亚洲一区 | 久久色一区| 国产精品嫩草影院午夜两性| 91爰爱欧美| 青青伊人这里只有精品| 欧美天天在线| 另类小说五月天| 国产9区| 久操操| 岛国黄色大片网站| 美女91网| 校园春色欧美色图| 日韩欧美国产一区二区三区四区| 啊啊啊啊好疼视频| 99超级碰免费视频| 色99999| 最新精品久久蜜桃 | 四虎免费视频| 国产精品交换一区二区| 极品综合| 久久久亚洲熟妇资源| 东北夫妻性偷拍| 尤物网址| 久操免费观看| 欧美伦乱爱| 亚洲五月婷| 日本一区二区亚洲综合| 走光一区92下载| 五月开心网| 久久亚州精品成人Av无| 精品美女少妇一区二区| 另类亚洲图色| 国产免费久久久久| 亚洲黄片免费在线播放| 精品一区二区2| 日韩天堂av电影在线观看| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 天天操天天日青青草超碰av| 欧美激情总合网| 中文字幕aⅴ在线视频| 东京热大香蕉| 欧美激情黑人| 在线视频一区二区传媒| 成人av免费观看| 国产精品视频自拍在线| 亚洲黄色AV电影| 新精精品久久精品| 91色黑人少妇| 大香蕉免费中文| 亚洲超碰AV| 国产超碰AV在线精品| 手机在线大香蕉| 日韩 女同 综合| 91日日| 亚洲欧洲小说图片视频 | 亚洲少妇喷视频看| 搡老熟女老女人老熟妇免费视频| 亚洲乱色熟女一区| 91美女视频| 蜜臀99久久国产| 91国产伊人大香蕉| 91欧美丨精品丨入口| 天天亚洲综合| 欧美大香蕉在线观看| 婷婷五月天丁香| 牛黄色久午久| 亚洲一区二区三区欧美日韩| 超97在线精品视频| 国产精品久久久久久照片| 欧美视频一| 黄片www视频免费| 91丝袜| 亚洲色交| 婷婷爽人人婷婷爽视频| 亚洲 日本 不卡| 在线洲亚线| 四虎影视国产精品| 丰满少妇精品一区二区| …中文字幕亚洲乱,97人妻无码费视…| 亚洲大胆人体av| 美女AV一区二区| 性老妇一区二区三区| 中文字幕乱码人妻一区二区三区,99精品| 这里只有精品视频| 综合熟女| 玖玖97综合 | 东方亚洲在线操逼天堂| 久久久久久少妇| 久久影视二区三区行押| 天天躁夜夜躁狠狠躁AV| 久久久久96| 国产精品禁久久久精品| 熟女少妇一区二区三区| 男同专区一区二区三区在线| 九七色图| 欧美亚洲天堂| 91一区二区三区蜜桃| 日韩av电影成人在线| 久久久久久亚洲中文| 日本一区二区成人在线| 日本三级韩三级99久久| 五月天开心网| 97超碰天天爱天天爱| 9长久久精品| 欧美瑟综合| 欧美少妇色图| 一区二区三区亚洲| 亚洲精品a人片在线观看视| 九九RE视频在线精品| 91天天日| 91天天爱| 97伊人| 国产成人超碰在线| 日韩一级特黄av毛片| 大香蕉av在线| 91国产大片| 亚洲日韩资源| 秋霞网无码| 欧美国产伊人久久久久| 情侣开房子拍 日韩无码 女的很漂亮| 夜夜夜夜夜夜夜夜夜狠狠狠狠狠狠狠| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 91暧暧| 国偷自 一区| 一起草高清无码| 午夜爽爽爽在线观看永久入口姬片| 操操啪| 久久综合超碰| 欧美97爱| 中文久久爆乳| 丁香五月天久久精品视频一区二区三区| 精品国产乱码久久久久久日本公司| 啊啊啊啊网站| 久久精视频美日韩在线视频| 亚洲AV免费在线观看| 日韩精品一区,二区 九九...老司机| 欧美激情视频一区二区| 少妇无码av专区线| 91oumei| 校园春色家庭伦理欧美激情| 久久久新亚洲AV| 立川理惠加勒比无码| 九九成人精品| 九九九色| 91九九| 污电影在线观看| 欧美性爱第一页久久| 色婷婷视频| 人人九九精| 日本不卡高清视频| 欧美有码亚洲中文字幕一区二区三区四区| 日夜尻逼网| 少妇一区二区三区高速| 欧美激情亚洲色图| 人人操人人摸超碰| 人人干人人操人人..com| 2025亚洲男人天堂| 偷拍 亚洲 欧美| av资源在线播放天堂| 国产亚洲精品美女| 亚洲欧洲日本精品中文a∨| 亚洲.欧美.丝袜.中文.综合| 91美女视频电影| 蜜乳AV一区| 久久999久| 国产精品直播在线观看直播| 久超碰在| 国产成人久久精品蜜臀| 99色在线| www亚洲欧美| 五月天成人综合| 夜夜高潮夜夜爽夜夜爱爱一区| 日韩精品视频在线观看一卡二卡| 国产情色第一第二页在线观看| 免费av在线播放二区| 久久伊人网视频一区二区三区 | 嗯啊不要在线观看嗯啊| 久操国产在线| 五月婷婷影院| 亚洲色欧美| 禁止观看美女黄| 亚洲欧美日韩中文播放| 97爱爱爱综合| 欧美组图日韩亚洲中文字幕| 久久色激情一区二区三区| 久久免费少妇| 中文字幕视频在线观看一区二区| 91狠狠综合| 尤物av网站| 日韩欧洲操屄视频| 久干网| 探花一区在线| 精品人妻一区二区三区不卡断 | 亚洲。天堂。日本在线观看| 偷看洗澡一二三区美女| 91精品人妻一品二品三品| 亚洲午夜免费狠狠干| av网站在线看| 国产精品不卡一区二区三区| 中文字幕狠狠玩| 东京热,男人的天堂| 啊啊啊不要好疼视频| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 亚洲综合骚逼| 717影院理论午夜伦八戒| 伊人超碰97| 久久精品72| 国产午夜无码片在线观看影视 | 做爱A级亚欧| 校园春色美腿丝袜 | 91色婷婷综合久久中文字幕二区| 我想要 啊 啊 啊| 亚洲91网。| HEYZO高无码国产精品227| 欧美丝袜中文字幕07在线| 岛国小电影| 亚洲精品一区二区三区在线播放| 欧美se综合| 你草精品在线视频| 欧美性爱精品一区二区| 张柏芝国产一区在线观看| 中文字幕文字幕无码一区二区三区电影99| 美女黄频a美女大全免费皮| 国产精品诱惑| 亚洲有码第一页| 大香蕉亚洲中文| 国产福利在线视频网站| 欧美乱欲| 91色s| 精品人妻一区二区三区-国产精品 一个人在线看的黄色电影网站 | 在线日韩日本亚洲国产| 亚州九九九精品视频| 你操综合| 立川理惠加勒比无码| 午夜亚洲WWW湿好大| 国产一区二区在线看| 四虎免费看黄| 俺去久久| 91站街按摩店老熟女熟女| 伊人网免费视频| 精品人妻丰满熟妇一区二区三| 国产成人天堂| 大香蕉伊人亚洲| 任你艹| 俺去俺来也在线www| 最近2018中文字幕在线高清第一页| 天天舔日美女视频| 亚洲欧美日韩电影网站一区| 97干在线看| 亚洲综合在线视频| 免费看A片毛毛片在线播| 小说区 图片区色 综合区| 日韩精品亚洲一二三| 久久骚| 亚州综合AⅤ| 图色综合网| 女色视频社区| 99re视频在线观看这里只有精品| 91天堂色男人的天堂| 高潮毛片无遮挡高清免费| 91熟女视频| 一本久道久久综合狠狠爱一密臀精| 60秒免费视频| 91超碰碰在线| 人妻 欧美 中文| 欧美 日韩 国产传媒| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 亚洲色图欧美视频| 草草网站影院白丝内射| 久久这里是精品| 日本欧美韩国国产在线| 少妇厨房愉情理伦片bd在线观看| 中文一区二区三区影院| 久久久久夜夜夜夜| 97天天综合| 色姑娘综合网| 亚洲精品久久久久毛片A片拉屎| 丰满人妻-区二区三区| 亚洲综合网91| 青青草好吊色| 国产精品扒开腿做爽爽爽视频| 欧美精品激情| 91宗合网| 农村女一级毛卡片| 国产精品精品系列在线观看| 亚洲欧美另类激情小说| 国产精品人妻无码久久久老鸭窝| 国产无码精品久久久久久| 在线视频 亚洲精品| 久久亚洲中文字幕视频| 乱操乱伦AV| 免费看国产曰批40分钟怎么下载| 色噜噜精品一区二区三| 熟女六十路| 思思热在线观看| 日本一区三级韩国| 偷拍亚洲高清图片| 亚州色图欧美| 91激情国产| 97资源久久| 1000部熟女视频在线观看| 日逼逼免费看| 簧片免费看视频| 人妻熟女字幕一区二区| 蜜臀亚洲中文| 青青草日韩免费观看高清在线| 97在线观看免费| 97在线看| 成年人黄色小视频网站| 高清国产av无码| 天天操av懂色| 日本欧美色| 日韩精品亚洲一二三| 放黄片放3级黄片没穿衣服| 最新av中文字幕高清| 成人性爱全视频观看| 又黄又爽在线观看视频| 久久爽爽精品| 91蜜臀人妻中文字幕在线| 国产91影院| 国产亚州精品美女久久久免费| 中文字幕一区av| 91草草草| 成人性生活高清视频在线播放| 国产高清吃奶免费视频网站| 日本中文字幕在线视频| 中文字幕精品丝袜| 97资源站久久| 成人国产视频在线观看| 欧美日韩国产色图在线| 啊啊啊啊啊啊啊国| 亚州Av天美传媒| 日韩性爱小视频| 九九综合久久| 黄色不卡视频| 伊人麻豆传媒| 国产精品免费美女视频| 超碰 另类 欧美| 色色97爱| 91人妻中文| 中文字幕制服欧美久久一区| 超碰在线日韩一区| 国产精品爽爽v| 东北黄色电影| 国产又粗又长又大的视频| 亚洲,日韩,欧美,成人播放 | 亚洲精品自拍| 五月香婷婷| 天天草AV| 6080YYY午夜理论片在线观看| 激情文学网伊人| 超碰欧美97资源| 天天插夜夜操| 国产精品乱人伊人网| 可乐操亚洲蜜911| 精品v日韩欧美国产| 久婷婷一区| 操一操摸一摸| 丁香六月激情| 疯操AV| 全免费a敌肛交毛片免费| 天天干天天日天天射黄色片| 激情综合网激情综合| 亚洲激情网一二三四区| 久久宗合97| 亚洲超碰AV| 丝袜美腿射精91| 中文字幕乱码人妻二区三区| 蜜桃久久久久久久| 综合久久97| www.狠狠干.coom| 97免费在线观看| 五月天婷婷激情| 91宗合网| 激情六月天| 久久少妇| 97色五月天完| 黄色无码高清黄色无码网站| 久久久蜜桃一区二区三区| 夜夜欢天天干| 日韩免费人妻色情网站| 久久久四区| 青青操青娱乐| 啊啊啊好想要| 人人色人人射人人妻| 精品三级在线专区| 人妻无码后入| 巨爆乳一区二区爆乳区| 青青伊人加勒比海| 免费强奸av| 超碰色大香蕉| 25国产精品免费观看| 97欧美综合| 欧美18禁91| 免费看污网址| 欧亚性爱啪啪| 91精品国产91久久久久久久久久久久| 天天插天天操| 91精品老女人| 啊啊啊好舒服好爽啊啊啊视频| 岛国激情视频在线观看| 无毛精品| 激情五月天综合网| 一级毛片电影免费看| 99热导航| 簧片免费看视频| 亚洲有码视频二区| 秋霞男人网| 浪人综合网| 91综合网在线| 欧美亚洲一区二区久久久婷精品大包诱| 最新亚洲人成网站在线影院| 北野未奈加勒比av| 丁香五月激情综合| 天天做天天爱夜夜爽毛片试看| 制服诱惑亚洲一区二区三区在线观看| 后入精品| JuliaAnnXXX888| 色妹子A V| 色翁荡息又大又硬又粗又爽| 欧美成人国产精品| 26uuu国产| 性爱视频免费网址| 夜夜做夜夜爽精品视频| 中文字幕啊啊啊在线观看视频| 家庭乱伦国产精品| 人妻素股| 黄色成品网站| 亚洲精品乱码久久久久久蜜桃麻豆| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区 | 国产极品一区二区三区三州| 欧美碰碰综合色| 丝袜视频一区二区在线播放国产中文 | 中文字幕加勒比海高清无码免费视频| 逼逼逼逼操操操操操操操操操午夜剧场 | 欧美激情区| 欧美后入视频| 天天影视色香色欲| 日韩探花精品在线视频| 蜜臀久久99精品久久久久| 日本黄页视频在线观看| 99热超碰| 欧美特大黄一级片片免费| 久久亚洲中文字幕视频| 91高清欧美| 欧美人人天天网| 九九九综合精品| 久久久com| 乱伦Av网| 综合伊人激情| 国产精品久久久久久久久久久久| 曰韩少妇无码| 91亚州欧美| 色妹子A V| 巨爆乳肉感一区二区三区竹菊影视| a一区二区三区乱码在线| 欧美天天弄| 日韩精品午夜操呦呦不卡影院| 成人黄页| 人人澡人人弄| 亚洲欧美中日韩| 校园春色 男人天堂| 久久99午夜精品一区人妻| 午夜天堂精品久久久久91| 91综合网| 碰超人人在线一区二区三区| 激情综合五月| 天天插夜夜操| 九九九九精品一区| 欧美天天综| 懂色AV一区二区三区| 三级三久久线久久99久目本WW| 青青伊人这里只有精品| 黄视频免费| 日韩啊V| 乱欲视频| 狠狠干91| 欧美性爱第1 页| 亚洲一二三四区| 亚洲97精品| 亚洲男人的天堂va亚洲男人社| 高潮9999外国| 久久精品国产97欧美精品亚洲 | 欧美图片色综合| 人人澡人人爽人人精品| 天天综合AV| 中文字幕在线观看AV| 按摩中文字幕| 伊人国产av| 亚洲黄日韩无码专区| 久久精品老司| 91欧美丨精品丨入口| 人妻免费观看| 久久久久久久久久久久欧美日| 精品无码人妻一区二区免费蜜桃| 色香在线| 激情啪啪视频| 色偷偷2020免费视频播放| 无码二级三级| 97超碰日韩| 人妻9117c|