国产成人欧美一区二区三区vr_久久国产精品人人爽人人爽_国产精品永久免费播放_肉欲啪啪a∨无码精品一区二区_国产超短裙jk丝袜在线_亚洲AV片高清资源在线观看_国模无码一区二区三区久久_国产成年人未进视频_中文字幕无码精品夜_一区二区三区在线视频免费看_亚洲成AV人片在线观看网址_日本激情视频高清综合久久_亚洲午夜视频福利_国内大量揄拍人妻精品視_久久国产精品福利二区三区

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

質(zhì)量保障不靠運(yùn)氣:Impeccable項(xiàng)目構(gòu)建可控交付鏈路

質(zhì)量保障不靠運(yùn)氣:Impeccable項(xiàng)目構(gòu)建可控交付鏈路 Impeccable 是我在團(tuán)隊(duì)內(nèi)部發(fā)起的一個(gè)質(zhì)量改進(jìn)項(xiàng)目的代號(hào)中文直譯過來就是“無可挑剔”。當(dāng)初起這個(gè)名字的時(shí)候我就知道它早晚會(huì)被現(xiàn)實(shí)打臉——因?yàn)闆]有任何系統(tǒng)可以做到真正意義上的零缺陷但這并不妨礙我們把它當(dāng)成一個(gè)方向去逼近。這個(gè)項(xiàng)目要解決的問題也很樸素怎么讓每一次代碼提交、每一次發(fā)布都不再靠個(gè)別同事的責(zé)任心和運(yùn)氣而是靠一套機(jī)制穩(wěn)穩(wěn)托住。如果你正被線上事故反復(fù)折騰或者被“測試環(huán)境好好的一上生產(chǎn)就翻車”的魔咒困擾又或者只是想讓自己的交付結(jié)果更靠譜一點(diǎn)那這篇文章應(yīng)該能給你一些參考。我會(huì)把 Impeccable 從立項(xiàng)到落地、從原則到細(xì)節(jié)的過程都拆開講包括我們踩過的坑、改過的配置、以及那些看起來很小但實(shí)際很致命的檢查項(xiàng)。1. 為什么要把“無可挑剔”當(dāng)成一個(gè)項(xiàng)目來做1.1 質(zhì)量問題不該靠某幾個(gè)人的責(zé)任心撐住我見過太多團(tuán)隊(duì)把質(zhì)量掛在嘴上但實(shí)際行動(dòng)全靠“這次發(fā)布大家小心一點(diǎn)”。小心是什么是沒有任何標(biāo)準(zhǔn)的口頭約定。代碼寫得快的人會(huì)少做測試資歷深的工程師會(huì)偷偷繞過規(guī)范新來的同學(xué)根本不知道哪些環(huán)節(jié)是必須的——最后的結(jié)果就是線上三天兩頭出問題運(yùn)維和測試背鍋研發(fā)覺得自己很冤。Impeccable 最初的導(dǎo)火索是一次很小的數(shù)據(jù)修復(fù)腳本。腳本語法沒問題邏輯也正確但因?yàn)檠h(huán)里少了一個(gè)限速參數(shù)上線后直接把數(shù)據(jù)庫連接池打滿了?;貪L花了十五分鐘但數(shù)據(jù)庫恢復(fù)用了快兩個(gè)小時(shí)。復(fù)盤的時(shí)候大家發(fā)現(xiàn)我們的發(fā)布檢查單里根本沒有“性能影響”這一項(xiàng)也沒有任何機(jī)制阻止這種腳本直接部署到生產(chǎn)環(huán)境。那次之后我就想明白一件事質(zhì)量問題從來不是測試一個(gè)環(huán)節(jié)的問題而是從單人提交到最終上線這一整條鏈路的問題。如果不把這條鏈路里的關(guān)鍵節(jié)點(diǎn)都變成可檢查、可執(zhí)行、可追責(zé)的規(guī)則那質(zhì)量就只是一個(gè)漂亮的形容詞不是工程結(jié)果。1.2 項(xiàng)目整體拆成四條主線Impeccable 的計(jì)劃沒有上來就買工具、上平臺(tái)而是先把問題分層。我們把自己能控制的環(huán)節(jié)拆成四條主線規(guī)范線、工具線、流程線、文化線。規(guī)范線負(fù)責(zé)統(tǒng)一標(biāo)準(zhǔn)比如編碼風(fēng)格、提交信息格式、接口設(shè)計(jì)約定、數(shù)據(jù)庫變更規(guī)范。工具線負(fù)責(zé)用程序去強(qiáng)制這些標(biāo)準(zhǔn)比如 lint、單元測試、依賴掃描、CI 門禁。流程線負(fù)責(zé)人在協(xié)作過程中的動(dòng)作比如合并請求模板、發(fā)布檢查單、灰度發(fā)布規(guī)則。文化線則負(fù)責(zé)讓這些規(guī)則被真正接受而不是被當(dāng)成形式主義。很多團(tuán)隊(duì)一上來就搞平臺(tái)搞流水線但標(biāo)準(zhǔn)都沒定清楚工具只是把一個(gè)混亂的過程自動(dòng)化了結(jié)果只是更快地制造混亂。Impeccable 的先后順序是先定標(biāo)準(zhǔn)再做自動(dòng)化再設(shè)流程最后用文化去消化大家的情緒。這個(gè)順序很重要如果倒過來團(tuán)隊(duì)只會(huì)感到被工具和流程綁架。2. 核心細(xì)節(jié)解析與實(shí)操要點(diǎn)2.1 把“開發(fā)完成”重新定義一遍Impeccable 做的第一件具體事情是重新定義什么叫“完成”。以前團(tuán)隊(duì)里說“這個(gè)功能寫完了”意思往往是“代碼已經(jīng)提交了”但它在本地能不能跑、有沒有測試、有沒有文檔、會(huì)不會(huì)拖垮性能一概沒人回答。于是我們落地了一份 Definition of Done也就是完成標(biāo)準(zhǔn)清單每個(gè)人必須逐項(xiàng)確認(rèn)后才能把合并請求標(biāo)記為可評審。清單不算復(fù)雜核心項(xiàng)包括功能實(shí)現(xiàn)且自測通過、編寫或更新單元測試、更新接口文檔或使用說明、評估性能與安全性、確認(rèn)回滾方案、核對數(shù)據(jù)庫變更兼容舊數(shù)據(jù)。對于緊急修復(fù)可以走簡化版但至少也要包含自測、回滾和監(jiān)控告警這三項(xiàng)。落地的時(shí)候我們給每條標(biāo)準(zhǔn)都配上例子避免出現(xiàn)“我說的自測和你理解的自測不是一回事”的扯皮情況。在執(zhí)行方式上我們沒有采用不勾完就鎖 merge 的硬方式因?yàn)槟菚?huì)讓團(tuán)隊(duì)為了通過而隨便勾選。我們選擇的是讓評審人承擔(dān)責(zé)任如果代碼合并后出問題評審人要和作者一起復(fù)盤。這個(gè)設(shè)計(jì)是想告訴大家完成標(biāo)準(zhǔn)不是給系統(tǒng)看的是給團(tuán)隊(duì)里的真人看的。實(shí)際跑了兩周之后明顯感覺到大家提交代碼前會(huì)多想一步因?yàn)檎l都不想在被問到“你在自測時(shí)到底測了什么”的時(shí)候無話可說。2.2 自動(dòng)化檢查怎么設(shè)置才不惹人煩完成標(biāo)準(zhǔn)定完之后第二步是把它落到自動(dòng)化檢查里。這部分的坑非常多。一開始我們天真地想把所有規(guī)范都塞進(jìn) pre-commit結(jié)果開發(fā)者每次提交都要等三分鐘各種風(fēng)格檢查還經(jīng)常報(bào)一些“對齊空格”之類的低價(jià)值錯(cuò)誤大家的逆反情緒一下就上來了。后來我們調(diào)整了策略本地只做最輕量、最相關(guān)的檢查比如格式化和基礎(chǔ)的靜態(tài)檢查把單元測試、構(gòu)建、依賴掃描、甚至性能回歸放到 CI 里執(zhí)行。本地檢查追求的是快不能超過十秒CI 檢查追求的是全面可以多跑一點(diǎn)。這樣才能讓開發(fā)者在寫代碼階段就得到反饋又不會(huì)被無關(guān)緊要的問題打斷心流。一個(gè)很關(guān)鍵的小技巧是自動(dòng)化規(guī)則要按“信號(hào)強(qiáng)度”分級(jí)。信號(hào)最強(qiáng)的檢查是“能不能編譯、能不能跑、測試通不通”這些必須阻塞合并。中等信號(hào)的是“代碼風(fēng)格、命名規(guī)范、重復(fù)代碼”可以預(yù)警但不強(qiáng)制。弱信號(hào)的是“代碼覆蓋率低于閾值、某個(gè)文件行數(shù)太長”這些只做統(tǒng)計(jì)和趨勢跟蹤不阻塞任何流程。不要把強(qiáng)弱信號(hào)混在同一個(gè)門禁里否則團(tuán)隊(duì)會(huì)被弱信號(hào)煩死強(qiáng)信號(hào)反而被忽略。2.3 發(fā)布檢查單與灰度發(fā)布怎么設(shè)計(jì)才不擺設(shè)代碼合并只是中點(diǎn)上線才是真正的終點(diǎn)。Impeccable 的第二大塊工作是把發(fā)布過程變成可勾選、可驗(yàn)證的清單式操作。我們的發(fā)布檢查單不再是一張沒人看的 Excel而是根據(jù)變更類型自動(dòng)生成的一組問題提交發(fā)布單的人必須逐一確認(rèn)。普通功能變更的檢查單里包含代碼是否已合并到主分支、測試是否通過、是否需要執(zhí)行數(shù)據(jù)遷移、配置項(xiàng)是否經(jīng)過評審、發(fā)布后需要觀察哪些監(jiān)控指標(biāo)、回滾步驟是什么。涉及數(shù)據(jù)變更的發(fā)布還會(huì)額外要求提供導(dǎo)入導(dǎo)出驗(yàn)證腳本和備份確認(rèn)。每一條都要求填寫真實(shí)信息不允許只寫“是”或“確認(rèn)”必須寫清楚“在哪個(gè)環(huán)境驗(yàn)證過”“影響范圍是什么”?;叶劝l(fā)布方面我們制定的規(guī)則是分批放量不能用天數(shù)的線性時(shí)間去替代業(yè)務(wù)指標(biāo)的驗(yàn)證。我們通常的配置是第一批放 1 個(gè)實(shí)例或 5% 流量觀察十五分鐘錯(cuò)誤率第二批放 30%觀察十到二十分鐘第三批放 100%。每一批放量前都要求錯(cuò)誤率低于網(wǎng)關(guān)基準(zhǔn)值的 1.5 倍并且業(yè)務(wù)核心路徑響應(yīng)時(shí)間沒有明顯上升。如果超過閾值系統(tǒng)會(huì)自動(dòng)觸發(fā)回滾不需要值班同學(xué)糾結(jié)“再等一下會(huì)不會(huì)好”。3. 實(shí)操過程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 從一次線上故障到項(xiàng)目立項(xiàng)的全過程還是繼續(xù)說那次數(shù)據(jù)修復(fù)腳本的事故。當(dāng)時(shí)的值班記錄現(xiàn)在回頭來看特別有意思問題一共分四層。第一層是業(yè)務(wù)異常用戶看到下單失敗第二層是系統(tǒng)告警數(shù)據(jù)庫連接池滿第三層是根因定位發(fā)現(xiàn)是腳本循環(huán)執(zhí)行了全量更新第四層是流程缺失發(fā)布平臺(tái)沒有任何提示說“這個(gè)操作會(huì)大規(guī)模更新線上數(shù)據(jù)”。復(fù)盤會(huì)開到一半就有人在問為什么這種代碼能上線因?yàn)闆]有性能評估環(huán)節(jié)。為什么沒有性能評估環(huán)節(jié)因?yàn)闆]有標(biāo)準(zhǔn)要求。為什么沒有標(biāo)準(zhǔn)因?yàn)榇蠹叶寄J(rèn)“腳本很小不會(huì)出事”。聽完這個(gè)因果鏈我覺得問題并不在于某個(gè)人而在于團(tuán)隊(duì)沒有一個(gè)項(xiàng)目級(jí)的兜底機(jī)制。于是當(dāng)周就在內(nèi)部立項(xiàng)代號(hào) Impeccable目標(biāo)從“降事故”擴(kuò)成了“讓交付鏈條的每個(gè)環(huán)節(jié)都有審查節(jié)點(diǎn)”。團(tuán)隊(duì)一開始只有三個(gè)人在做這件事一個(gè)后端、一個(gè)測試、一個(gè) DevOps我作為負(fù)責(zé)人。我們給自己定了兩條原則第一不搞重流程能自動(dòng)化堅(jiān)決不手填第二不追求一步到位先覆蓋最痛的發(fā)布事故場景再逐步往代碼提交階段延伸。3.2 落地第一套 Definition of Done 模板第一周的產(chǎn)出是一份名為 definition-of-done.md 的文件放在每個(gè)代碼倉庫的根目錄下。你可能覺得這就是個(gè)文檔沒什么技術(shù)含量但實(shí)際操作的時(shí)候細(xì)節(jié)點(diǎn)比想象中多。比如我們規(guī)定“編寫或更新單元測試”這條不只要求有測試文件還要求在 CI 上能看到新增測試用例的執(zhí)行記錄再比如“確認(rèn)回滾方案”這條要求寫出具體是回滾代碼、回滾數(shù)據(jù)還是回滾配置不能只寫“按標(biāo)準(zhǔn)流程”。這份模板后來還按變更類型做了分區(qū)。普通功能有基礎(chǔ)區(qū)涉及數(shù)據(jù)遷移或第三方接口的變更會(huì)增加對應(yīng)區(qū)塊。為了不讓模板變得冗長我們規(guī)定每條標(biāo)準(zhǔn)最多十個(gè)字到二十個(gè)字詳細(xì)說明統(tǒng)一放在 wiki 里。合并請求的描述模板也會(huì)自動(dòng)載入這些區(qū)塊開發(fā)者直接在描述里勾選即可不需要額外打開文檔。我們給合并請求模板加了一行注釋“如果無法勾選某一條不要硬勾把原因?qū)懙皆擁?xiàng)后面?!边@個(gè)設(shè)計(jì)很重要因?yàn)橛行└唢L(fēng)險(xiǎn)變更確實(shí)做不到完整自測比如無法在本地模擬真實(shí)第三方回調(diào)。允許寫例外反而讓真正卡住的阻塞項(xiàng)浮出水面比一團(tuán)和氣地全勾上更有價(jià)值。3.3 接入第一層自動(dòng)化門禁的完整配置第二周我們把完成標(biāo)準(zhǔn)中能自動(dòng)化的部分接進(jìn)了 CI。這里用 GitLab CI 舉例GitHub Actions 也類似。我們的核心思路是把檢查拆成多個(gè)并行任務(wù)并且讓部署任務(wù)只依賴必須通過的任務(wù)避免某一項(xiàng)檢查掛掉之后整條流水線被連帶卡住。stages: - verify - build - deploy verify:lint: stage: verify image: registry.example.com/lint-image:latest script: - npm run lint rules: - if: $CI_PIPELINE_SOURCE ! merge_request_event when: never - when: always verify:unit-test: stage: verify image: registry.example.com/node:20 script: - npm ci - npm run test:unit coverage: /All files[^|]*\|[^|]*\s([\d.])%/ artifacts: when: always reports: junit: junit.xml verify:security: stage: verify image: registry.example.com/security-scanner:latest script: - npm audit --audit-levelhigh allow_failure: false build:image: stage: build script: - docker build -t $CI_REGISTRY_IMAGE:$CI_COMMIT_SHA . only: - main needs: - verify:lint - verify:unit-test - verify:security deploy:production: stage: deploy script: - ./deploy.sh production $CI_COMMIT_SHA environment: production only: - main when: manual needs: - build:image這套配置里有一個(gè)容易被忽略的地方單元測試的coverage正則捕獲覆蓋率數(shù)值是為了讓 MR 頁面可以直觀看到增量覆蓋率和總覆蓋率趨勢安全掃描audit --audit-levelhigh是阻塞級(jí)別可以直接攔截高風(fēng)險(xiǎn)依賴依賴部署任務(wù)是手動(dòng)觸發(fā)不給自動(dòng)流水線直接上生產(chǎn)的權(quán)限。這樣既做到了自動(dòng)化又把最需要人判斷的一步留給操作者。接入后第一個(gè)月的效果是MR 被阻塞的比率大約在 18%其中 70% 是單元測試掛掉20% 是安全掃描發(fā)現(xiàn)問題10% 是 lint。而我們最擔(dān)心的“developers 什么都不看就點(diǎn)合并”并沒有出現(xiàn)因?yàn)椴噬艿涝?MR 頁面上太顯眼了誰都不想和紅叉作伴。3.4 灰度發(fā)布規(guī)則的真實(shí)配置與參數(shù)計(jì)算第三周我們把灰度發(fā)布規(guī)則從口頭約定變成了平臺(tái)配置。因?yàn)橛行﹫F(tuán)隊(duì)沒有現(xiàn)成的灰度發(fā)布系統(tǒng)這里給出一個(gè)可以在部署腳本里實(shí)現(xiàn)的判斷邏輯示意用來解釋我們當(dāng)時(shí)參數(shù)是怎么算出來的。#!/usr/bin/env bash # 灰度發(fā)布判斷腳本根據(jù)當(dāng)前實(shí)例數(shù)和錯(cuò)誤率自動(dòng)決定放量比例 TOTAL_INSTANCES20 BATCH_11 # 第一批 1 個(gè)實(shí)例約 5% 流量 BATCH_26 # 第二批再加 5 個(gè)實(shí)例累計(jì) 30% 流量 BATCH_320 # 第三批全量 if [ $CURRENT_INSTANCES -lt $BATCH_1 ]; then echo 啟動(dòng)第一批灰度1 個(gè)實(shí)例 elif [ $CURRENT_INSTANCES -lt $BATCH_2 ]; then echo 待錯(cuò)誤率低于閾值后放量到 6 個(gè)實(shí)例 elif [ $CURRENT_INSTANCES -lt $BATCH_3 ]; then echo 待錯(cuò)誤率低于閾值后放量到 20 個(gè)實(shí)例 fi參數(shù)計(jì)算的核心不是“拍腦袋定百分比”而是先定義可回滾范圍。比如服務(wù)總共 20 個(gè)實(shí)例第一批只放 1 個(gè)即使這批全掛也只影響 5% 用戶第二批放到 6 個(gè)累計(jì)影響 30%第三批全量。放量間隔不是固定十五分鐘而是必須滿足“連續(xù)觀察窗口內(nèi)錯(cuò)誤率低于基準(zhǔn)的 1.5 倍且 P95 延遲低于基準(zhǔn)的 1.2 倍”。如果系統(tǒng)自動(dòng)檢測到錯(cuò)誤率飆高腳本會(huì)執(zhí)行回滾把實(shí)例數(shù)恢復(fù)到上一批并向值班群發(fā)送告警。這套手動(dòng)腳本看起來簡單實(shí)際執(zhí)行時(shí)最大的價(jià)值是把決策規(guī)則寫在代碼里。以前灰度放量完全靠發(fā)版同學(xué)的感覺感覺快就快點(diǎn)感覺不對就停?,F(xiàn)在腳本會(huì)明確告訴你當(dāng)前應(yīng)該處于哪個(gè)批次閾值是多少回滾動(dòng)作是什么人和機(jī)器都清楚。4. 常見問題與排查技巧實(shí)錄4.1 自動(dòng)檢查被繞過怎么辦我們剛接入自動(dòng)門禁的時(shí)候遇到一個(gè)非常真實(shí)的場景開發(fā)者在本地把 pre-commit 跳過或者 CI 里故意把a(bǔ)llow_failure: true。原因無外乎覺得自己改動(dòng)很小沒必要跑完整檢查。第一次發(fā)現(xiàn)這種事我們沒有立刻處罰人而是先看是不是流程設(shè)計(jì)有問題。排查后發(fā)現(xiàn)很多人并不是想偷懶而是本地檢查確實(shí)太慢了而且報(bào)錯(cuò)信息不友好。于是我們把本地檢查精簡到只剩格式化、類型檢查和最基礎(chǔ)的 smoke test同時(shí)把 CI 門禁設(shè)置為服務(wù)端強(qiáng)制。關(guān)鍵點(diǎn)是任何自動(dòng)化檢查都不能只依賴開發(fā)者本地執(zhí)行本地是可選的、快速的服務(wù)端才是必須的。只要在 MR 目標(biāo)分支上強(qiáng)制設(shè)置管道必須通過再有權(quán)限規(guī)則禁止跳過就能從機(jī)制上堵住主動(dòng)繞過的口子。如果發(fā)現(xiàn)有人通過修改 pipeline 配置來繞過那就不是流程問題而是文化問題了。我們的處理原則是公開復(fù)盤代碼不點(diǎn)名批評但要把繞過的動(dòng)作當(dāng)成事故對待。做過一兩次之后大家就明白“不要和機(jī)制作對”這個(gè)道理了。4.2 完成標(biāo)準(zhǔn)被當(dāng)成形式主義怎么辦這是最隱蔽的問題。上線兩周后我開始在 MR 里看到“全部完成標(biāo)準(zhǔn)已確認(rèn)”的勾選但代碼評審時(shí)明顯感覺作者根本沒有理解需求。為什么因?yàn)橥瓿蓸?biāo)準(zhǔn)一旦變成“只有勾選才能合并”它就會(huì)變成一種門檻而門檻會(huì)激發(fā)人的簡化心理——只要不被系統(tǒng)攔下來就好。我們的調(diào)整是讓評審人不再只看勾選狀態(tài)而要追問證據(jù)。比如“已自測通過”后面必須附上自測結(jié)果截圖或日志片段“已評估性能影響”后面必須寫清楚用的是 QPS 還是響應(yīng)時(shí)間指標(biāo)。我以身作則在評審高風(fēng)險(xiǎn)的 MR 時(shí)會(huì)先要求作者在評論里回答三個(gè)問題這次變更最可能導(dǎo)致什么異常如果這個(gè)異常發(fā)生了你會(huì)怎么發(fā)現(xiàn)如果發(fā)現(xiàn)了你會(huì)怎么回滾這三個(gè)問題比任何完成標(biāo)準(zhǔn)都能逼出真實(shí)思考。團(tuán)隊(duì)也一度有人覺得這樣評審太慢。但我的經(jīng)驗(yàn)是風(fēng)險(xiǎn)高的代碼花二十分鐘問清楚比上線后整個(gè)團(tuán)隊(duì)花兩個(gè)多小時(shí)排查要?jiǎng)澦愕枚?。而且這種追問幾次之后作者自己就會(huì)提前準(zhǔn)備評審速度反而會(huì)快起來。4.3 發(fā)布檢查單漏項(xiàng)和誤報(bào)的排查發(fā)布檢查單一開始很容易變成兩極端要么太長沒人仔細(xì)看要么太簡單形同虛設(shè)。我們第一次跑正式發(fā)布生產(chǎn)前檢查單有 27 項(xiàng)很多人填到后面已經(jīng)不看題目了直接一路打勾結(jié)果漏掉了最關(guān)鍵的“數(shù)據(jù)庫備份恢復(fù)驗(yàn)證”。后來我們把檢查單改成智能路由按變更類型展示對應(yīng)條目。代碼發(fā)布只顯示 8 項(xiàng)常規(guī)檢查涉及數(shù)據(jù)庫變更再多顯示 5 項(xiàng)涉及第三方接口調(diào)用再顯示 3 項(xiàng)。每項(xiàng)還加了一個(gè)“自動(dòng)預(yù)填充”入口比如合并請求中已有的測試狀態(tài)和 lint 結(jié)果可以直接帶出來不需要人工手填。真正需要人判斷的只剩三五項(xiàng)漏項(xiàng)就少很多。還有一個(gè)經(jīng)驗(yàn)誤報(bào)比漏報(bào)的破壞力更大。如果檢查單里經(jīng)常出現(xiàn)“配置項(xiàng) A 未變更已確認(rèn)”這種永遠(yuǎn)都是默認(rèn)值的項(xiàng)它會(huì)拉低整個(gè)清單的可信度。我們養(yǎng)成了每個(gè)季度做一次檢查單瘦身的習(xí)慣把連續(xù)三個(gè)月命中率低于 10% 的項(xiàng)刪掉或者用監(jiān)控替代人工確認(rèn)。4.4 灰度環(huán)境看不出問題的現(xiàn)象與對策灰度發(fā)布最容易踩的坑是“灰度環(huán)境什么問題都測不出來”。我們的第一版灰度是基于測試環(huán)境集群做的但測試環(huán)境和生產(chǎn)環(huán)境的流量模型、數(shù)據(jù)量、緩存命中率都不一樣就算灰度集群掛掉也模擬不出真實(shí)用戶的組合場景。第一次灰度新版本時(shí)測試環(huán)境一切正常生產(chǎn)環(huán)境第一批流量進(jìn)去 P99 就直接漲了三倍。排查下來主要是兩個(gè)原因一是灰度流量沒有做染色無法精確識(shí)別請求來自灰度集群二是監(jiān)控重點(diǎn)放在了 CPU 和內(nèi)存上沒有盯事務(wù)響應(yīng)時(shí)間和錯(cuò)誤率。后來的對策是把監(jiān)控升級(jí)為“技術(shù)指標(biāo) 業(yè)務(wù)指標(biāo)”雙層結(jié)構(gòu)。技術(shù)指標(biāo)看錯(cuò)誤率、P95 延遲、線程池占用業(yè)務(wù)指標(biāo)看訂單成功率、支付回調(diào)延遲、核心接口的調(diào)用量。只有兩類指標(biāo)都正常才能繼續(xù)放量。我們還在灰度網(wǎng)關(guān)里加了流量染色標(biāo)記把灰度請求的 header 透傳到日志中心。這樣出現(xiàn)問題的時(shí)候能快速判斷是灰度版本的責(zé)任還是外部依賴抖動(dòng)造成的。這個(gè)改動(dòng)帶來的收益非常直接以前灰度失敗要爭論半天現(xiàn)在已經(jīng)形成標(biāo)準(zhǔn)結(jié)論“看染色日志先比指標(biāo)再定責(zé)”。5. 如果現(xiàn)在重新開始我會(huì)更早做這幾件事Impeccable 走到今天已經(jīng)不再只是一個(gè)代號(hào)它變成了一套團(tuán)隊(duì)內(nèi)默認(rèn)的質(zhì)量語言。如果現(xiàn)在重新開始我會(huì)把三件事排得再靠前一點(diǎn)。第一件事先挑一個(gè)“最痛的線上事故”做全套復(fù)盤然后把對應(yīng)的檢查項(xiàng)做成門禁。不要試圖一開始覆蓋所有場景找到一個(gè)最近真實(shí)傷害過團(tuán)隊(duì)的坑把它堵上團(tuán)隊(duì)才會(huì)真的信這套機(jī)制。第二件事把完成標(biāo)準(zhǔn)里最容易被模糊化的部分寫得更具體。不要寫“代碼質(zhì)量好”要寫“核心路徑有測試覆蓋且評審人可以運(yùn)行測試看到覆蓋結(jié)果”。第三件事把自動(dòng)化檢查的反饋速度做快寧可少一個(gè)檢查項(xiàng)也要保證合并請求看到結(jié)果的時(shí)間不超過五分鐘。檢查節(jié)奏太慢人會(huì)等得不耐煩然后開始想辦法繞過。最后再分享一個(gè)我個(gè)人的體會(huì)項(xiàng)目叫 Impeccable但你要接受它永遠(yuǎn)不完美也不需要完美。這本身就是一個(gè)動(dòng)態(tài)的校準(zhǔn)過程每一次事故、每一次復(fù)盤、每一次規(guī)則優(yōu)化都是讓系統(tǒng)離理想狀態(tài)更近一步的嘗試。質(zhì)量和其他工程問題一樣不是一個(gè)終點(diǎn)而是一套持續(xù)運(yùn)轉(zhuǎn)的機(jī)制。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
日韩传媒在线| 97久久超碰| 91欧美www| 老熟女乱伦一区| 五月激情综合网| 人人潮人人摸| 日韩精品三级片长长久久| 久九九九九九九九热| 国产精品97视频| 嗯啊抽插大香蕉网页| 色性欧美| 91精品人妻| 国产 v乱码一区二| 人妻大香蕉| 九九视频黄色片| 久久一区二区三区入口| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 人人模人人看| 欧美婷婷五月天| 天天综合色| 亚洲图片欧美另类综合免费视频大大香| 日韩三级在线观看mp4| 97免费视频在线| 日韩综合无码色欲vv| 超碰久久性爱| 天天视频黄| 婷婷激情四射| 中文字幕福利视频一区二区三区在线观看| 青青草久久| 成人精品久久久午夜福利| 天天干天天日天天射黄色| 性色亚洲| 福利风月五月天影院| 超碰久超碰久| 伊人97超碰| 男人的天堂va在线| 久久综合乱子伦国产免费| 91美女网站| 国产免费大片| 久久久一区二区三区三州| 91在线限制级| 91欧美综合| 亚洲av强奸乱伦| 精品无码产区一区二| 亚欧视频在线| 亚州五月| 91在线页| 中日亚韩免费视频| 中文字幕精品丝袜| 狠狠爱综合网| 黄呦呦在线| 三级特黄60分钟播放| 久草婷婷| av亚欧| 色狠狠综合噜一二三区| 人妻少妇被猛烈进入中| 超碰导航97| 狠狠干,狠狠操| 超碰免费人妻在线| 中文字幕伊人| 国产av白丝| 色在线综合| 人妻丰满熟妇av无码区蜜桃| 大奶啊啊好爽| 日韩熟女乱伦中出| 亚洲涩涩| 日本韩欧美在线播放a| 蘋果手機免費看成人Av| 久久人妻四季| 精品超碰国产| 97射欧美| 色www精品视频在线观看| 欧美顶级黄片AAAAA在线免费看| 欧美 日韩 另类 亚洲| 美女极品一区二区三区| 欧美一级二级三级| 久久日韩肥臀| 性开放中文AV高清无码免费看| 亚洲欧洲精品成人| 精品国产乱码久久久久久影片| 4tube欧美女厕所| 国产九九久久久精品| 欧美一级AAAAAAA| 国产天天噜一噜久久久| 麻豆天美制片厂网站视频| 8050午夜少妇无码| 精品国产久热在线观看| av凤凰久久久| 另类亚洲一区二区三区| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 婷婷av在线中文字幕| 嗯嗯啊啊视频在线看| 亚洲图片日本AⅤ欧美在线| 91麻豆天美国产欧美高潮| 色黄色美女大长腿午夜视频| 极品色www影院| 97超碰超欧美。| 国产成人亚洲精品自产在线| 久久久久久久国产a∨| 国内一区二区免费| 欧美人妻一区二区| 天堂中文日本在线观看| 亚洲色图尤物视频| 无码人妻丰满熟妇区毛片| 一区久久久二区| 国产日本久久免费精品| 日韩在线性爱免费视频| 国产精品女aA片爽爽视频| 高清不卡 中文 人妻| 禁止观看美女黄| 精品超碰国产| 亚洲精品亚洲人成在线麻豆| 91影库| 亚洲美女精品九九视频| 热天堂一区二区| 人妻中文字幕日韩电影| 91网站18禁| 久久久九精品| 使劲用力艹少妇视频一区二区 | 精品人妻一区二区三区在| 久久熟女人| 五月丁香婷婷综合网| 亚洲精品天堂久久A∨51成人漫| 好一吊区二区| 国产精品3| 97日视频| 婷婷精品国产一区二区三区日韩| 精品女人999| 天天操夜夜操狠很操| 国内外内射高清视频| 国产免费内射视频| 老熟女网站| 青青草久草| 欧美综合色,www| 亚州精品人妻一二三区| 蜜臀久久久99久久久久| 中文字幕成人乱码熟女精品国50 | 欧美在线电影| 色噜噜狠狠色综无码久久合欧美| 超碰日韩美妻| 亚洲一区制服诱惑| 久久超碰天天| 日日骚av| 激情久久日韩精品中文字幕麻豆| 日本精品88888888| 久久只有精品一区二区三区| oumeisetu综合| 上海一级黄片| 色黄污美女啪啪啪免费网站| 日韩免费高清大片在线| 亚洲国产一区二区日韩专区| 亚洲精品性爱片| 九月激情婷婷| 国产精品久久久久av| 黑人精品成人一区二区三区| 国产91乱伦| 51一区二区三区| 99这里只有精品国产| 女同女同恋久久级三级| 久久久精品成人国产| 天天色综合天天操| 日本免费不卡二区| 久操网在线| 亚洲欧美视| 草久在线| 日本性感人妻91| 青青草原伊人网| 日韩十八禁| 亚洲性高潮| 97超碰香蕉| 91人人| 亚洲啪AⅤ永久无码| 黄片无码在线制服| AV一二区| 欧美日韩精品久久久久东北老熟妇| 超硑97精品| 日本免费一区二区不卡 | 99草精| 久久久不卡| 亚洲成人ab| 国产女人视频三四五区| 国产人伦a片信息免费片| 13小男生GAY自慰脱裤子| 99re免费| 啊啊啊啊操死我| dy888午夜老子影视达达兔 | 老熟女网站| 超清福利精品视频在线| 丁香六月激情| www.夜夜操| 老汉网| 夜夜高潮夜夜爽夜夜爱爱一区| 欧美97av| 多毛小伙内射老太婆| 2017人人操,人人摸| 99这里只有精品国产| 99久久精品国产高潮| 九九热精品在线| 插入粉嫩少妇视频| 欧美不卡五十路| 久久久亚洲欧美综合| 欧美激情综合色综合啪啪五月| 亚洲av无码成人精品国产| 国产黄色av大片网站| 97中文天堂| 国产人人干| 日韩免费中文字幕视频| 大香蕉综合| 青青草白白色| 亚洲精品国产精品成人| 九九伊人网| 午夜呻吟欧美| 久久久久无码一妻区| 日本一区不卡| 亚洲激情av| 一区| 国产在线视频二区| 九九十八精品| 蜜臀久久99精品久久久电影| 色操逼网| 综合久欧洲| 欧美色人| 麻豆天美国美国产| 精品日日人妻| 日韩一级欧美一级在线观看| 青青欧洲黑| 91殴美| 人妻激情偷乱视三区频一区二区| 婷婷情色综合网| 大香蕉2017| 91成人精品在线播放| 97精品综合久久网| 久久久久久日韩| 2019久久久久久久久福利| 国产97色在线| 91久久国外网| 日韩一区二区三区四区五区| 国桃视频产巨乳精品一区二区在线| 中文字幕第7页| 老司机老司机午夜影院| 99999精品视频| 嗯嗯啊啊啊好爽| 嫖老熟女A片一二三区| 中文字幕十五区| 另类亚洲一区二区三区| 久久 国产精品 一区| 鸥美极品| 大地资源在线观看中文第二页| 99青草| 污电影在线观看| 翔田千里无码中出中文字幕| 国产专区路线| 青青草毛片| 天天操天天插| 亚洲九九九| 中文字暮97| 无码人妻精品酒店| 久操 高清| 你懂的在线观看区国产| 精品久久視頻在线| 99热日| 亚欧无码在线| 欧美97av| 欧美天天拍| A级片日韩欧美国产欧美视频精选观看| 国产精品探花视频| 亚av顶级裸体一区二区三区四区五区 | 91无遮挡| 男人天堂久久日韩| 日韩性爱播放| 国产精品女aA片爽爽视频| 中文字幕片| 国产精品久久久久无码A√| 99ri视频| 欧美色图20p| 欧美老熟另类| av国产无码| 超碰超碰超碰超碰的大鸡吧操黑丝袜| 日本激情免费大片| henhen91| 亚洲熟女国产综合另类| 婷婷丁香五月天综合东京热| 天天天肏屄肏屄肏屄欧美欧美| 99亚洲精品| 伊人久久亚洲色欲综合网站 | 播播亚洲小说亚洲| 亚州一区二区| 99re95| 亚洲欧美日韩夜夜| 少妇精品久久久八区九区| 国产女性无套 免费观看| 青青草这里只有精品| 国产精品肉丝自拍| 免费久久一级毛片大黄| 欧美草草高清日韩视频| 国产传媒日本欧美专区| 欧美日韩国内不卡| 后入福利| AV丝袜少妇| AAA久久| 夜色91| 99re在线视频| 日韩美女久久一区二区三区| 强奸乱伦动态污图免费| 欧美人人操人人插| 久久熟女嫩草成人片免费| 欧美日韩国产中文精品字幕自在自线,| 91N综合网| 91美女中出| 超清中文乱码字幕| 色九九九九九九| 九九久久一区二区三区| 婷婷五月激情综合| 国产久久av| av一区二区三区四区五区久草臀| 99精品视频在线观看免费| 欧美色自拍| 一区黄二区黄| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 欧美视频边做饭边橾| 91国模| 九九热午夜欧亚国产视频| 精彩视频日韩| 欧美在线官网| 伦伦成年午夜免费视频| 亚洲性少妇| 男女打扑克高清网站| www.色操逼| av绯色| 色色色日本| 免费看国产大AB| 伊人AAA| aaa亚无码专区| 91热| 殴美色网| 日本在线999| 国产情色在线| 欧美91在线+|+欧美| 精品.99999| 大香蕉男女超碰精品在线| 国产一区在线免费播放| Blackedraw视频一区二区| 国产99999| 亚洲女优有码无码高清| 啊嗯嗯啊好大好爽| 精品久久久久久亚洲| 成全动漫视频观看免费下载| 欧美激色| 国产精品久久久久久久久久久久久久久久| 插欧洲美女欧美精品| 好色综合| 2024年最新色情网站在线观看| 最新9久久久9免费视频| 鸥美极品| 九九热午夜欧亚国产视频| 91亚州欧美| 一个人在线看的黄色电影网站| 欧亚在线视频| 97超碰这里只有精品| 久草婷婷| 欧美性生活内射| 成人一区二区三区四区| 国产乱子伦一区二区三区免看| 日本黄 R色 成 人网站| 色吧综合网| 国产热RE99久久6国产精品首 | 人人妻人人爽人人精品| 97频视在线| 91人妻久久久久久久久久久久久| 后入 亚洲 美女 射| 97超碰美国| 精品国产嫩穴视频| 99xav| 九九热精品在线| 91站街按摩店老熟女熟女| 婷婷色色五月天| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 久久草在线综合视频| 99久久精品国产高潮| 国产精品三级视频网站| 操一区| 99久热| 中文字幕成人理论在线| 狠狠爱综合网| 啊啊啊啊啊在线观看网址| 人妻插插人妻人| 任我爽视频在线观看| 天天碰操中国年青熟妇| 亚洲综合贴图91| 极品少妇久久久久| 亚洲午夜未满十八勿入网站日本又色又爽又黄 | 精品日韩人妻视频| 东北丰满熟女国产一区| 欧美成va视频网站| 不卡超碰护士AV在线免费播放| 麻花传媒免费网站在线观看| 亚洲一区二区三区AV无码| 99操碰| 激情综合五月| 啊啊啊好舒服好爽啊啊啊视频| 熟妇熟女视频一区二区三区| 又黄又粗又硬又长又大| 九九色精品| 日本久操视频| 久久黄色性爱视频| 亚洲小电影免费涩涩成人在线高清 | 国产一区免费午夜视频| 国产精点久久久成人| 麻豆天美国美国产| 毛片视频白嫩| 国产精品乱码久久久久久| 日韩精品午夜操呦呦不卡影院| 人人澡人人澡人人| 日韩欧美性爱电影在线观看| 在线观看黄色电话| 无码人妻丰满熟妇奶水区毛片| 91在线综合网| 中文字幕日韩人妻视频一区二区三区交换夫妻| 亚洲精品蜜桃久久久| 亚洲无码一区成人免费午夜 | 欧美色图亚洲特色| 天天综合网~91入口| 夜色综合| 久久老子无码午夜伦不卡| 久久免费看高潮毛片韩国| 在线观看啊啊啊啊啊| www.acm成人黄色毛片| 欧美成人免费在线观看| 人妻乱仑一区二区三区| 婷婷丁香一区二区三区| 校园春色亚洲| 久久久久久AV无码免费网站| 人妻少妇精品久久久| 亚洲激情片| 国产视频一区二区免费| 亚欧国产无码精品在线| 99热免费| 欧美最婬乱婬爆婬牲视频| 激情小说亚洲| 日韩一区二区三区四区五区| 神马久久久久眼| 超碰伊人在线| 国产在线激情视频| 三级片大波波| 色悠久久久av| 高潮毛片无遮挡高清免费| 95精品在线| 亚洲色性| 精品亚洲国产成人AV制服丝袜 | {男男暴菊gay无套网站| 国产精品一二三免费网站| 97视频900| 少妇高潮流水av免费| 亚洲国产一级精品毛一级精品看免费视频 | 亚洲免费在线探花| 亚洲另类色图片| 超碰欧美97| 99精彩视频| 色与欲影视天天看综合网| 多乙久久久久久| 物业黑人 AV一区| 尤物黄色在线观看网站| 国产精品女同| 超碰97护士| 99热在线播放| 欧美激情高清性猛交| AV九九| 欧美色九九| 九九亚洲视频| 精品999一区二区| 91黑丝在线播放| 亚洲精品97中文字幕| 亚洲精品国产精品成人| 97色欧州| 午夜.DJ高清在线观看免费7| 91高跟美女在线播放| 亚洲成人黄色在线观看| 操死我了嗯嗯嗯| www熟女乱伦com| 午夜天堂精品久久| 好爽视频在线观看| 日产狠狠干| 麻豆久久精品亚洲精品88| 国产伦精品一区二区三区在线观 | 人人操人人插人人摸人人干| 成人久久无码www| 日韩一区二区精彩视频| 欧美在线视频99| 欧美色就是色| 97久久久精品| 在线观看黄色电话| 成人天天爽| 自拍鲍鱼一区在线高清观看免费| 人妻素股| 99色在线| 亚洲国产精品无码AV久久久| 天美传媒av在线| 免费av在线播放二区| 91Chinese在线| 人妻喷水| 长长久久曰曰夜夜成人网| 日日夜夜摸| 天天干天天中出av| 婷婷色网| 中文字幕日韩精品久久| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 精品久久久中文字幕不| 欧美一级久久久丰满| 亚洲乱熟女一区二区| 蜜臀国产AV中文字幕| 国产成人拍国产亚洲精品| 999九九精品| 五月丁香啪| 黄色免费网| 色婷婷A V一二三四区麻豆综合| 3d成人精品一区二区| 国产精品熟女九九九| 亚洲黄色网址视频| 久久春色| 日韩素人无码一区二区三区三州| 超碰午夜| 国产蜜臀精品一区二区尤物| 色诱中文字幕| 色九区| 国模无码人体一区二区三| 中文字幕乱碼在线| 4399成人黄A片| 国产亚洲精品精AV.| 男人的天堂三级| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 久久精品99| 久久久久免费看少妇A片特黄| 欧美激情久| 免费观看欧美日韩操逼视频| 看黄片视频免费| 91天天看| 欧美大的香蕉有线电视视频| 蜜桃视频一区二区三区| 亚洲精品三区在线观看| 97在线免费视频观看| 亚洲人成网www| 日本丝袜人妻内射| 影音先锋乱伦资源| 日本操逼视频免费| 亚洲综合性网址| 日韩乱伦视频| 午夜毛片亚洲精品片国产久久久| 亚洲图片欧美制度| 久久五月份| 六月激情婷婷| 亚洲精品亚洲人成在线麻豆| 亚洲欧洲日韩中文字幕一区| 韩日精品福利视频一区不卡在线免 | 日本肉体xxxx裸交| 97在线精品观看视频| 久久一区二区三区四区五区| 3P丝袜熟女 色综合| 嗯~啊~快点 死我视频免费看网站| 午夜精品视频777| 亚洲一区日韩精品中文字幕| 美女诱惑久久| 欧美精品黑人猛交高潮| 91精品人妻一品二品三品| 日本高清一本二本免费不卡| 91丨精品丨国产丨丝袜| 欧洲亚洲人妻无码中字久久三区四区| 家庭乱伦网站国产| 少妇xx精品| 精品国产一区二区三区香蕉欧美| 国产精品一区二区密臀| 97ai亚洲| 人妻熟女一区二区三区视频| 女生看匆91网站| 校园春色 亚洲| 91精品国| 久热这里只有精品9| 亚洲操操操无码| 欧美线天码中字| 青青草原综合久久大伊人精品| 亚洲人妻中文在线视频| 黄片com.| 国产av激情无码久久天堂| 天天射日日干| 伊人天天久久动态图| 91free福利| 上海一级黄片| 国产成人亚洲精品无码古代早漏男| 欧美黑人168页欧美黑人167| 色老汉色| 懂色AV中文| 欧美成人A√在线一区二区| 天美传媒av一区二区| 亚洲男人天堂网站| 黄色AAAAAAAAAAA大片| 欧美精品另类人妖xxxx| 91偷拍欧美亚洲| 99在线精品视频| 亚洲二区精品在线观看| 久久国99999| 97香蕉网| 欧美色棕合| 精品少妇一区二区| 国产成人一级av88| 蜜臀人妻少妇久久在线观看| 色妇综合网| 丁香五月天啪啪| 国产人妻精品久久久一区二区三区 | 啊…啊…操我用力操我 | 天天综合网~69| 一区二区三区男人的天堂| 亚洲无码?第一页| 精品性爱久久视频| 密乳AV免费观看| 蜜臀久久99精品久久久久久成人小说 | 女人被添高潮免费视频| 99re热有精品视频国产| 精品国产乱码久久久久久蜜臀| 国产高清精品福利| 欧美一级特黄淫片在线观看| 干美女人妻| 少妇无码太爽| 日韩青久久| 日韩成人精品| 久草综合京东| 亚欧高清| 亚洲色棕合| 男人天堂久久精品不卡| 中文字幕激情小说| 嫖老熟女A片一二三区| 手机在线A片| 熟女啪啪视频| 亚春色色| 日韩中文字幕二区| 黑人天8A∨高清网站| 精品人妻一区二区三区免费视频| 色97欧美| 一区二区三区四区免费视频| 91黑丝少妇| 欧美综合亚洲综合| 五月丁香色婷婷| 国产乱不卡| 国产熟女乱论| …中文字幕亚洲乱,97人妻无码费视… | 久久av色| 少妇99| 亚洲精品一二区| 少妇天堂网络| 蜜臀无码一区二区| 精品中文字幕第一页| 色色色综合| 黄站在线免费观看| 韩国一级婬片A片AAAAA| 成片免费播放| 亚洲男人天堂2017| 91狠| 2018天天日天天日| 免费αⅴ在线观看| 亚洲91综合| 香蕉久久国产AV一区二区| 国产又粗又长的视频| 久久亚洲不卡| 在线播放成人高清免费视频| 五月天伊人| 97久久久久| 91久久精品中文字幕| 性感美女啊啊啊在线| 97久久视频| 搡老女人911熟妇老熟女| 少妇500双飞99| 亚洲国产成人精品无码专区| 韩日欧亚a级| 熟妇视频一区二区三区在线观看| 美女网站91| 91jk色拍| 国产 日韩,欧美 自拍| 亚洲限制级| 91国产操逼视频| 天天欧美欧美亚洲网| 日韩中文字幕视频| 啪啪啪综合| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊| 国产不卡免费在线视频| 天天色欧美| 麻豆精品三区视频| 黄页大片在线观看| 午夜福利视频在线一区| 99精品国产户外露出| 日韩99神马视频播放片在线播放| 91殴美| 久久久99999久网站| 丰满美女一级毛片在线播放| 啊啊啊啊啊操我视频| 国产一区在线观看无码AV| 欧美亚洲天天| 欧美情色贴图| 2001天天操| www狠狠| 91快色色色色色| 一二三四视频中文字幕在线看| 久久久久久久 九九九九九九九| 麻豆传媒一区二区在线观看| 国内精品999| 久久艹逼视频| 伦理片秋霞免费影院| av最新免费中文字幕| 国产福利精品98视频| 亚洲在线欧美| 日日操夜夜操天天操免费观看麻豆| 婷婷五月天色| 97人人干人人操| 一区二区三区精品视频| 九九探花视频在线观看| 欧美日韩亚洲少妇寂寞影院正在播放| 色婷亚洲五月在线观看| 素人一区二区三区日韩| 老女人综合| 欧美日韩制服| www.91久久| 久久伊人五月天| 中文字幕在线观看丝袜| 天天射网| 日本一二区免费| 欧美色图 人妻| 久久人妻少妇| 日本一卡二区在线| 97精品免费| 国产乱伦视频污| 色婷婷六月丁香七月婷婷| 精品人妻一区二区免费看| 91日韩网站| 午夜精品久久一区二区| 久久久久久久久久va| 精品国产丝袜一区二区三区乱码| 色九久| 亚洲影院无码在线| 亚洲九月丁香| 不卡在线一区,精品一区二区三区中| 国产综合网站在线播放 | 乱伦av麻豆| 啊啊啊爽爽| 精品日韩人妻精品一二三区| 黄色网址在线免费观看| 91亚洲黑人| 欧亚成人在线视频| 美欧色综合| 日韩欧美天天爽爽爽天天爽爽| 伊人综合色网| 超碰97玖玖爱| 久久久久久久唑| 美女极品一区二区三区| 亚欧无码在线| 在线观看AV不卡| 日本精品九九九| 91视频综合在线| 老熟妇乱轮| 亚洲欧洲另类| 久久精品男人的天堂| JIZZJIZZ亚洲女人被躁| 九月丁香| 亚洲玖玖爱| jk白丝没脱就开始啪啪| 久悠悠av| 97精品久久| 97色碰| 蜜臀99久久精品久久久久久| 国产精品人人爽人人做可爱福利| 免费家庭乱伦视频| 亚洲青青青视频在线| 人人操人人摸超碰| 亚洲操人| 欧美午夜熟妇黑人精品91| 日韩人成网站在线播放| 日韩AV一起草| 中文字幕精品专区搜索结果91| 天天干1区2区在线| 高清成年美女黄网站免费大全 | 国产h小视频在线观看免费| 麻豆国产精品午夜视频| 五月天春色激情网| 在线亚洲欧美| 欧色综合| 草草影院最新网址| 天美传媒av一区二区| 国产亚洲女v在线观看| 色哟哟1区2区| 亚洲国产午夜真人一级片中文字幕精品黄网站| 欧美天堂亚洲电影院一区在线播放| K8久久久久| 久热婷婷| 91精品91久久久久77777俄罗斯老妇姓x| 91亚州| 亚洲人妻熟妇三十三区| 午夜无遮挡男女啪啪视频| 天美传媒av在线| 色噜噜人妻丝袜a∨先锋影 | 亚洲乱妇p22| 亚洲熟妇丝袜在线观看| 久久妇| 五月婷婷六月色| 国产精品不卡av免费在线观看| 日本天天色| 国产精品分类在线观看| 久久99精品九九久久久婷婷| 色婷视频| 国产精品4p在线观看| 91久久国外网| 91xingse| 欧洲一级性爱视频在线观看| 国产吹潮女在线观看| 91亚洲欧洲| 色爱综合网| 香蕉热人人精品| 78超碰| 中文字幕精品亚洲熟女| 黄色小说亚洲| 99久久综合| 乱伦图一区| av网站免费线看| 91欧美情色| 人妻超碰青青草98| 亚洲日本男人天堂网| av网页一区二区三区| 亚春色色| 欧美亚洲AN| 97视频在线播放| 国产少妇与亚洲av| 日本中文字幕在线视频| 日韩在线一区二区| 亚洲无码超碰免费| 乱人乱色一区二区三区免费 | 欧美日韩大陆黑人少妇99| 五月天婷婷久久| 一区二区三区激情在线观看| 色嗨嗨在线| 国产精品久久久久亚洲av | 中文字幕一区二区韩| 黑人精品一区二区在线播放| 狠狠操狠狠操操| 百度百度日本操逼| 麻豆天美91| 啪啪自拍九九综合| 国产熟妇 码视频户外直播| 97操b| av影片在线观看不卡| 无码78| 免费人成毛片乱码| 后入式视频国产自| 国产后入内射| chaopen97久久| 欧美九九99久久精品| 97超碰色屌| 91九色在线| 能看的AV| 91在线限制级| 强奸熟女一区二区三区| 97天天插| 精品久久九| 日韩91网| 国产熟女自拍| 日韩欧美中文字| 久久精品一区| av情色影音| 亚洲精品熟妇1区2区3区。| 在线观看黄色电话| 91久久久久久久久18| 青青在线视频日韩欧美| 国产精品岛国片在线观看| 日韩ab网| 天天欲望网| 青青草丝袜在线视频| 日日噜噜夜夜久久亚洲一区二区 | 一区,二区,三区网站| 97久久超碰| 蜜桃臀av一区二区| 成人性爱美曰韩| 天美一区在线| 四虎国产精品永久地址入口| 蜜臀AV成人精品蜜臀AV久久| 无码男人天堂| www.av在线视频| 伊人影院综合是一个与深夜成人在线| 国产黄色 A 片免费看| 欧美专区在线| av毛片aaaaa免费看| 日本一二区免费| 国产福利一区二| 91高跟美女在线播放| 热热色AV| 激情五月综合| 欧洲综合色图| 中文字幕天天天天天| 欧美中文字幕日韩在线| 国产精品视频精品一二| 蜜臀久久99'精品久久久| 欧美色综合影院| 三级色影综合网| 日本一区二区三区欧美日韩中文字幕| 欧美一区二区成人一卡| 日本操大逼| 久久99干一本高清| 婷婷丁香五月综合| 欧美高清18A片| 一区二区三区精品黑丝白丝酒店对鸡| 亚洲综合贴图91| 欧美性爱精品一区二区| 精品一区二区三区丰满熟女-亚洲欧美一区| 日韩强奸av| 偷拍亚洲情色| 日韩激情中文字幕有码| 久久久久久久久久黄色网| 久久AV无码网址| a级免费在线观看| 欧美极品女人的天堂| 一本精品日本在线视频精品| 极品出轨视频网站| 久久久精品视频免费观看| 骚女天天综合网| 亭亭在线资源| 91人妻视频在线| 十八禁啪啦拍视频无遮挡| a片 xxxx受爽视频| 欧美综合综合| 中文字幕女同在线| 中文字幕性感少妇av| 大但人体久久久久| 婷婷四五区| 久久丁香五月婷婷| 国内亚洲精彩视频在线| 亚洲无码精品AV久久久| 九九九九精品精| 97超碰国产亚洲精品| 天天综合网入口~91| 久久久草成人网站久久久草成人久久久草久久久 | 777超碰| 99最新日韩偷拍视频| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 2020中文字幕| 日韩操人| 六月激情婷婷| 女人被添高潮免费视频| 色香综合| 99re这里只有精品2| 曰本道人妻久久久在线不卡色视频| 天天躁日日躁AAA片李宗瑞| 国产人伦a片信息免费片| 99re在线视频这里只有精品| 国产精品熟女丝袜一区二区| 精品人妻一区二区蜜桃视频| 久视频在线观看| 污到发麻的视频 国产| 99r九九| 97色诱| 精品人妻一二三四区视频| 欧美色图人妻| 久久久少妇诱惑精品视频| 亚洲骚男同com| 亚洲情欲| 天天躁日日躁成人字幕aⅴ| 国产AV色黄看到爽| 综合欧美色图| 欧美在线天堂| 在线小视频| 欧美日韩不卡传媒| 男人亚洲天堂| 国产一区免费午夜视频| 午夜爽爽爽在线观看永久入口姬片| 色眯眯av| 欧美亚洲首页| 大逼色网站| 人人人干干人人干| 国产一级操B视频| 色婷婷小说| 亚洲棕合电彰| 久久婷婷苹果| 欧美十八禁视频| 黑人娇小av在线播放| 女人被男人桶爽视频网站| 久久午夜鲁丝片| 国产欧美在线观看免费观看| 风流老熟女一区二区三区l| 五月丁香综合激情| 国产成人主播| 1234区中文字幕在线观看_青青草国产在线_日韩一区二区 | 日韩人妻一区二区| 精品国产人成在线| 国产伦精品免编号公布| 精品综合久久久久久97| 色牛aV| 五月婷婷五月天| 亚洲熟久久| 大香蕉乱级| 中文字幕日韩精品久久| 一区二区三区一亚洲中文字幕、综合区灬 | 美女久久久| 国语精品对白| 亚洲性高潮| 欧美美女视频| 97在线观视频免费观看| 亚洲欧美综合网站| 人人妻人人玩人人澡人人爽| 久久草草亚洲蜜桃臀| 久久 亚洲 日韩 人妻| 欧美精品久久| 青娱乐91| 国产精品久久久久久无码红治院| 91在线免费精品视频| 熟女精品日韩一区二区三区| AAAA级日本片免费视频 | 一级啊性爱在线视频| 国产精品久久妻无码网站| 欧美三级中文字幕hd| 久操高青| 97se亚洲| 国产精品久久久久久久黄无码| 欧美在线天堂| 亚洲国产麻豆一区二区三区| 国产精品福利资源在线尤物| 青青草福利视频| 久久国内| 日韩78m视频| 激情小说在线视频| 综合色99| 久久久久人| 操人人| 欧美 中文字幕 一区| 国产白丝AV| 国产日韩欧美三级片| 欧美传媒一区| 精品久久久久av影院| 国产福利夜| 84YTCOM性无码| 日韩一级二级| 亚洲资源站| 久久综合99| 国产熟女一区二区| 婷婷综合| 色汉综合| 久久香蕉国产传媒一区剧情天美| 久久精品亚洲东京热色播| 欧美99999| 亚洲成人一二三区| 可以免费看黄片的视频| 国产久久久久久久久一区二区| 午夜免费福利视频一区| 国产日韩中文字幕欧美| 黄aaaaaaaaaaaaaaaaaa色网站| 91精品大奶人妻| 少妇激情一区二区三区视频| 深爱五月婷婷| 久久二| 污啪啪啪视频| 国产91精品福利在线| 91国产操逼视频| 免费看污网站| 精品久久久久瑟瑟| A片大香蕉在线| 丝袜狠狠草尤物 91| 国产精品无码AV网站| 91l欧美在线| 抽插无码高清一区| 午夜爽爽爽| 亚洲自拍一区夜夜操| 亚洲色图一区二区三区| 日韩二级| 色婷婷五月综合激情中文字幕| 天天摸天天舔天天操| 在线啊v一区| 强奸乱伦AV一天堂网| 激情五月天丁香| 俺去啦俺来也久久综合| 国产欧美日产一区二区三区 - 国产欧美日 | 亚洲日韩青青草色月| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 国模限制级电影| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 欧洲色色| 国内亚洲高清无码| 色老久久| 欧洲中文字幕| www.99热| 最新国产亚洲精品精品国产亚洲综合| av亚洲天堂资源网站| 情色日播放AV| 六月激情婷婷| 国产区91柔拿会所技师| 人妻人妻天天碰| 中文字幕欧美日韩三级| 久久黄色性爱视频| 爽极品影院| 中文字幕人成乱码熟女香港| 91偷拍欧美亚洲| 欧美第一页| 禁十八久久| 九色 人妻 大香蕉| 国产高清亚洲日韩一区| 99热在线不卡| 日韩情色AV| 九九亚洲精品| 亚州综合AⅤ| 爱妻综合网| 99热在线播放| 狠狠综合网| 伊人影院在线理论播放| 国产精品91一样| www.久久99| 操人无码| 日韩/97| 大香蕉欧美国产日韩高潮| 久久久男人的天堂| 亚洲双插| 久久精品人妻一区| 国产精品人人爽人人做可爱福利| 亚洲人久久久网| 九九五月天| www国产无码| 中文字幕亚洲热播人妻| 欧美成人性爱视频在线播放| 最新的亚洲无吗| 99热66| 国产av热热色| 欧美九九九九九| 欧美aa一级片| 亚洲日本加勒比在线| 国产白丝在线| 亚洲全色网| 岛国黄| oumeisetu综合| www.av不卡中文字幕| 操逼操2| 国产树林里野战在线看| 天堂日本亚洲欧美| 国产精品不卡少妇白| 强奸乱伦AV网站| 国产一级黄色片在线观看| 日欧美色| 欧美黑人熟妇精品91| 亚洲一欧洲中文字幕在线| 久久久com| 欧美熟妇色| 操比国产| 大香蕉啪啪啪啪在线| 99自拍B亚洲 | 97干天天| 国产在线能看的你懂的| 强奸乱伦中文字幕AV| 国产真实野战在线视频| 韩国手机不卡无码三级视频| 丁香五月天啪啪| 久久极品一区二区| 色九九综合AV| 久久久久亚洲AV无码专区少妇| 天天做日日做| 夜夜爽妓女| 男人天堂网站| 97视频在线免费看| 91精品国产91久久青草 | 精品性爱无码在线播放| 亚洲熟妇图片| 日日夜夜免费| 超碰调教97|