国产成人欧美一区二区三区vr_久久国产精品人人爽人人爽_国产精品永久免费播放_肉欲啪啪a∨无码精品一区二区_国产超短裙jk丝袜在线_亚洲AV片高清资源在线观看_国模无码一区二区三区久久_国产成年人未进视频_中文字幕无码精品夜_一区二区三区在线视频免费看_亚洲成AV人片在线观看网址_日本激情视频高清综合久久_亚洲午夜视频福利_国内大量揄拍人妻精品視_久久国产精品福利二区三区

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Docker與K8S入門指南:從容器部署到監(jiān)控排查的完整路徑

Docker與K8S入門指南:從容器部署到監(jiān)控排查的完整路徑 Docker 和 K8S 一直是 Linux 運(yùn)維繞不開的兩個(gè)關(guān)鍵詞。如果你剛接觸運(yùn)維崗位或者正準(zhǔn)備從傳統(tǒng)虛擬機(jī)轉(zhuǎn)向容器化部署大概率會(huì)在面試和日常工作中被這兩個(gè)詞反復(fù)轟炸。很多人在學(xué)習(xí)時(shí)最大的問題不是找不到資料而是資料太多不知道先裝哪個(gè)、先學(xué)哪個(gè)、跑到哪一步算學(xué)會(huì)。這篇文章按我實(shí)際帶人的順序來寫先搞清楚 Docker 和 K8S 各自解決了什么問題再把環(huán)境裝起來跑通第一個(gè)容器然后進(jìn)入 K8S 的 Pod、Service、監(jiān)控和故障排查最后給一份可以直接照著做的學(xué)習(xí)落地清單。如果你只有一臺(tái)普通機(jī)器甚至 Windows 筆記本也可以跟著走完大部分流程。1. 先理清概念Docker 和 K8S 到底解決什么問題很多新手一上來就急著裝環(huán)境結(jié)果被一堆鏡像、容器、YAML 文件繞暈。我建議先花 20 分鐘把概念理順因?yàn)楹竺嫠胁僮鞫冀⒃凇盀槭裁匆盟鼈儭边@個(gè)基礎(chǔ)上。1.1 沒有容器之前運(yùn)維最頭疼的是什么傳統(tǒng)的部署方式是直接在服務(wù)器上裝環(huán)境。Java 應(yīng)用要裝 JDKPython 應(yīng)用要裝特定版本的依賴數(shù)據(jù)庫(kù)要單獨(dú)維護(hù)實(shí)例。第一次部署還好第二次、第三次只要機(jī)器環(huán)境稍微不一樣就會(huì)出現(xiàn)“開發(fā)環(huán)境能跑測(cè)試環(huán)境跑不起來生產(chǎn)環(huán)境更跑不起來”的問題。這種“環(huán)境不一致”是最消耗時(shí)間的事情。你可能為了一個(gè)依賴版本差異排查一整天。虛擬機(jī)能解決一部分問題但虛擬機(jī)很重一個(gè)基礎(chǔ)系統(tǒng)鏡像要幾個(gè) GB啟動(dòng)要幾十秒甚至幾分鐘每臺(tái)虛擬機(jī)還要單獨(dú)分配 CPU、內(nèi)存和磁盤資源。容器化解決的就是“把應(yīng)用和它的運(yùn)行環(huán)境一起打包”。Docker 把程序、依賴、配置文件、啟動(dòng)命令都寫進(jìn)一個(gè)鏡像鏡像在任何裝有 Docker 的機(jī)器上都能以同樣的方式啟動(dòng)。啟動(dòng)一個(gè)容器通常只需要一兩秒比虛擬機(jī)輕量得多。隔離性是有的但不是完整的操作系統(tǒng)級(jí)隔離而是共享宿主機(jī)內(nèi)核。用一句話理解Docker 的核心價(jià)值是“一次構(gòu)建到處運(yùn)行”。它把過去繁瑣的環(huán)境配置工作提前打包好了。1.2 容器多了以后為什么需要 K8S單機(jī)環(huán)境下Docker 管理幾十個(gè)容器還勉強(qiáng)可以。容器少的時(shí)候你用docker run一條一條啟動(dòng)再配合 docker compose 編排基本夠用。但一旦應(yīng)用到多臺(tái)服務(wù)器問題就來了某臺(tái)機(jī)器掛了容器怎么自動(dòng)遷移到另一臺(tái)機(jī)器流量高峰期需要擴(kuò)容是手動(dòng)再啟動(dòng)幾個(gè)容器還是能自動(dòng)伸縮多個(gè)容器分布在多臺(tái)機(jī)器上它們之間怎么互相訪問發(fā)布新版本的時(shí)候能不能滾動(dòng)更新且不中斷服務(wù)這些問題 Docker 單機(jī)版都給不了完整答案。K8S 就是用來解決“多機(jī)環(huán)境下容器怎么調(diào)度、怎么管理、怎么恢復(fù)”的編排系統(tǒng)。K8S 里有一個(gè)核心思想叫“聲明式管理”你告訴它期望的狀態(tài)比如“我要運(yùn)行 3 個(gè) nginx 副本”它會(huì)自己去創(chuàng)建 Pod、調(diào)度到合適的節(jié)點(diǎn)、保持副本數(shù)始終是 3。節(jié)點(diǎn)掛了它會(huì)自動(dòng)在另一臺(tái)節(jié)點(diǎn)上重新創(chuàng)建 Pod直到集群恢復(fù)期望狀態(tài)。一個(gè)容易理解的比喻是Docker 像打包和拉貨的車負(fù)責(zé)把貨物打包成標(biāo)準(zhǔn)箱子并啟動(dòng)運(yùn)輸K8S 像物流調(diào)度中心它不負(fù)責(zé)造箱子但負(fù)責(zé)決定箱子放哪臺(tái)車、怎么分配路線、車壞了以后怎么補(bǔ)貨。1.3 Docker 和 K8S 的關(guān)系與區(qū)別很多資料會(huì)把 Docker 和 K8S 放在一起講導(dǎo)致新手誤以為它們是替代關(guān)系學(xué)了 K8S 就不需要 Docker。實(shí)際不是這樣。Docker 是一個(gè)容器管理工具負(fù)責(zé)構(gòu)建鏡像、啟動(dòng)容器、管理容器生命周期。K8S 是一個(gè)容器編排平臺(tái)負(fù)責(zé)管理多個(gè)節(jié)點(diǎn)上的容器調(diào)度。K8S 本身不直接啟動(dòng)容器它需要一個(gè)容器運(yùn)行時(shí)來執(zhí)行真正的容器操作。早期 K8S 經(jīng)常用 Docker 作為運(yùn)行時(shí)所以“Docker K8S”成了默認(rèn)組合。但現(xiàn)在 K8S 默認(rèn)使用 containerd 作為運(yùn)行時(shí)這是 Kubernetes 社區(qū)逐步演進(jìn)出來的方向。containerd 更輕量專門為容器運(yùn)行時(shí)設(shè)計(jì)而 Docker 更偏向端到端的開發(fā)者體驗(yàn)。學(xué)習(xí)時(shí)建議從 Docker 入手因?yàn)?Docker 的命令足夠直觀能幫你快速理解鏡像、容器、數(shù)據(jù)卷、端口映射這些基礎(chǔ)概念。進(jìn)入 K8S 后再逐步切換到 containerd、Pod、Service 這些新的表達(dá)方式。記住一點(diǎn)K8S 和 Docker 是不同層級(jí)的東西不是同一類工具的替代而是“編排調(diào)度”和“容器管理”的分工關(guān)系。2. Docker 落地裝好環(huán)境、跑通 MySQL 和 Redis概念清楚后進(jìn)入動(dòng)手環(huán)節(jié)。Docker 的落地路徑比較固定安裝、配置鏡像源、跑容器、管理容器。這里我按不同系統(tǒng)分別說明并給出兩個(gè)常見生產(chǎn)任務(wù)的完整案例。2.1 不同系統(tǒng)的安裝路徑如果你用的是 Windows 或 macOS最簡(jiǎn)單的方案是安裝 Docker Desktop。Docker Desktop 自帶圖形界面適合學(xué)習(xí)階段使用。但它對(duì)系統(tǒng)版本有要求安裝前先確認(rèn)兩點(diǎn)系統(tǒng)版本是否在支持范圍內(nèi)。Windows 上如果提示 incompatible version of windows說明當(dāng)前系統(tǒng)版本太舊要么升級(jí)系統(tǒng)要么換用 Linux 環(huán)境練習(xí)。是否開啟虛擬化。Windows 常見報(bào)錯(cuò)是virtualization support not detectedDocker Desktop 無法啟動(dòng)錯(cuò)誤信息里會(huì)直接提示沒有檢測(cè)到虛擬化支持。這時(shí)去 BIOS/UEFI 里找 Intel VT-x 或 AMD SVM 開關(guān)開啟后重啟。Linux 環(huán)境下安裝 Docker 更直接。Ubuntu 上可以用 apt 安裝docker.io也可以用 Docker 官方倉(cāng)庫(kù)安裝推薦用官方倉(cāng)庫(kù)版本更新更及時(shí)。CentOS 7 想升級(jí)到新版 Docker不能只靠yum update docker一般需要先卸載舊包再配置 Docker 官方或鏡像站倉(cāng)庫(kù)然后裝新版本。這里給的是通用排查順序?qū)嶋H命令要以當(dāng)前系統(tǒng)的官方文檔為準(zhǔn)。安裝完先跑一次驗(yàn)證docker --version docker run hello-worlddocker run hello-world會(huì)拉取一個(gè)很小的測(cè)試鏡像并打印一段成功信息。如果這一步能跑通說明 Docker 守護(hù)進(jìn)程和命令行都能正常工作。如果卡在拉取鏡像說明鏡像下載網(wǎng)絡(luò)有問題先進(jìn)入下一步配置鏡像源。2.2 安裝之后先配鏡像源Docker Hub 是默認(rèn)鏡像倉(cāng)庫(kù)但拉取慢是很多新手遇到的第一個(gè)問題。一個(gè)常見解決辦法是在 Docker 配置里設(shè)置鏡像加速源。在 Linux 下修改/etc/docker/daemon.json{ registry-mirrors: [ https://your-mirror-source.example.com ] }修改后重啟 Dockersudo systemctl restart docker在 Docker Desktop 里設(shè)置項(xiàng)中一般有 registry mirrors 配置填入可用地址后應(yīng)用并重啟。注意事項(xiàng)不同云廠商的鏡像源地址可能變化落地時(shí)以你所用環(huán)境對(duì)應(yīng)的官方文檔為準(zhǔn)不要照抄幾年前文章里的地址。配置鏡像源不保證所有鏡像都能加速個(gè)別鏡像可能仍然很慢或者不穩(wěn)定。如果鏡像拉取失敗先看報(bào)錯(cuò)是超時(shí)、連接拒絕還是 404。超時(shí)優(yōu)先檢查鏡像源連通性404 優(yōu)先確認(rèn)鏡像名和 tag 是否正確。配好之后重新執(zhí)行docker run hello-world能正常輸出版本信息說明鏡像源生效了。2.3 用 Docker 部署 MySQL 8.0MySQL 是運(yùn)維中最高頻的中間件之一。Docker 部署 MySQL 8.0 特別適合本地開發(fā)、測(cè)試環(huán)境快速起實(shí)例。先拉鏡像并運(yùn)行docker run -d \ --name mysql8 \ -p 3306:3306 \ -e MYSQL_ROOT_PASSWORDyourpassword \ mysql:8.0參數(shù)含義-d后臺(tái)運(yùn)行。--name mysql8容器名稱方便后續(xù)用 docker 命令管理。-p 3306:3306宿主機(jī) 3306 端口映射到容器 3306 端口。-e MYSQL_ROOT_PASSWORDyourpassword設(shè)置 root 密碼。這是 MySQL 官方鏡像支持的初始化環(huán)境變量。mysql:8.0鏡像名和標(biāo)簽表示 MySQL 8.0 系列。啟動(dòng)后先不要急著連庫(kù)先看狀態(tài)和日志docker ps docker logs mysql8如果docker ps里沒有這個(gè)容器說明容器啟動(dòng)后立刻退出了這時(shí)必須看日志。常見情況是密碼策略、端口被占用、初始化腳本報(bào)錯(cuò)。日志會(huì)給出線索。進(jìn)入容器執(zhí)行命令驗(yàn)證docker exec -it mysql8 mysql -uroot -p輸入上面設(shè)置的密碼能進(jìn)入 MySQL Shell 說明服務(wù)正常。一個(gè)容易踩的坑是數(shù)據(jù)持久化。如果直接用上面的命令啟動(dòng)容器刪除后/var/lib/mysql里的數(shù)據(jù)也會(huì)一起刪除。正確做法是掛載數(shù)據(jù)卷docker run -d \ --name mysql8 \ -p 3306:3306 \ -e MYSQL_ROOT_PASSWORDyourpassword \ -v $PWD/mysql-data:/var/lib/mysql \ mysql:8.0這樣數(shù)據(jù)會(huì)落到宿主機(jī)當(dāng)前目錄的mysql-data文件夾里。容器重建后只要掛載到同一個(gè)目錄數(shù)據(jù)就不會(huì)丟。另一個(gè)常見問題是 3306 端口沖突。如果本機(jī)已經(jīng)裝了 MySQL或者別的主機(jī)占用該端口可以換個(gè)端口docker run -d \ --name mysql8 \ -p 3307:3306 \ -e MYSQL_ROOT_PASSWORDyourpassword \ -v $PWD/mysql-data:/var/lib/mysql \ mysql:8.0連接時(shí)就要連127.0.0.1:3307連接工具和代碼里的端口都要跟著改。2.4 用 docker compose 部署 Redis 主從單個(gè) MySQL 用 docker run 還能接受如果要用 Docker 部署一整套 Redis 主從我建議直接上 docker compose。compose 把多個(gè)容器的配置寫進(jìn)一個(gè) YAML 文件一條命令就能啟動(dòng)和停止整套服務(wù)。先創(chuàng)建一個(gè)工作目錄比如redis-cluster里面放一個(gè)docker-compose.ymlservices: redis-master: image: redis:7.0 container_name: redis-master ports: - 6379:6379 command: redis-server --appendonly yes redis-slave: image: redis:7.0 container_name: redis-slave ports: - 6380:6379 command: redis-server --slaveof redis-master 6379 depends_on: - redis-master這個(gè)配置里有兩個(gè)服務(wù)master 和 slave。slave 啟動(dòng)時(shí)通過--slaveof redis-master 6379指定主節(jié)點(diǎn)地址和端口。在 compose 網(wǎng)絡(luò)里服務(wù)名redis-master可以直接作為域名訪問。啟動(dòng)整套服務(wù)docker compose up -d查看運(yùn)行狀態(tài)docker compose ps驗(yàn)證主從關(guān)系docker exec -it redis-master redis-cli info replication看到role:master并且有slave0連接信息說明主節(jié)點(diǎn)正常。再檢查從節(jié)點(diǎn)docker exec -it redis-slave redis-cli info replication看到role:slave并且master_link_status:up說明主從同步正常。這里有一個(gè)版本差異問題老版本 compose 使用獨(dú)立的docker-compose命令新版本 Docker 直接支持docker compose子命令。如果你執(zhí)行docker compose報(bào)錯(cuò)先確認(rèn) Docker 和 Docker Compose 的安裝版本不要強(qiáng)行套命令。數(shù)據(jù)掛載在 Redis 集群里同樣重要??梢栽诿總€(gè)服務(wù)下加volumes配置把/data目錄掛載到宿主機(jī)避免容器重建后數(shù)據(jù)丟失。除此之外Redis 主從只解決讀擴(kuò)展問題不解決自動(dòng)故障切換生產(chǎn)環(huán)境要考慮哨兵或 Redis Cluster這是另一個(gè)話題。3. K8S 入門從集群搭建到 Pod、Service 和啟動(dòng)命令Docker 跑順之后開始進(jìn)入 K8S。K8S 的入門曲線比 Docker 陡因?yàn)樗肓艘慌赂拍睢2灰噲D一次全看懂先掌握最常見的幾個(gè)再通過實(shí)際操作加深理解。3.1 先記住核心概念K8S 里的最小調(diào)度單元不是容器而是 Pod。Pod 是“一組容器的集合”通常一個(gè) Pod 里放一個(gè)主容器也可以放邊車容器。Pod 里的容器共享網(wǎng)絡(luò)命名空間和存儲(chǔ)卷所以它們之間可以通過 localhost 通信。Deployment 負(fù)責(zé)管理 Pod 的副本數(shù)。它告訴你“我要運(yùn)行幾個(gè)副本”實(shí)際創(chuàng)建、更新和刪除 Pod 都是 Deployment 去做。Service 是服務(wù)入口。Pod 的 IP 會(huì)隨著重啟變化直接訪問 Pod IP 不現(xiàn)實(shí)。Service 提供一個(gè)固定虛擬 IP 和域名把流量轉(zhuǎn)發(fā)到后端一組 Pod 上。Namespace 用于隔離資源。團(tuán)隊(duì)多、項(xiàng)目多的時(shí)候用 Namespace 區(qū)分環(huán)境或團(tuán)隊(duì)。不指定時(shí)默認(rèn)在 default 命名空間。控制平面組件里你最先要理解 API Server、etcd 和 kubelet。API Server 是所有請(qǐng)求的入口etcd 保存集群狀態(tài)kubelet 負(fù)責(zé)在節(jié)點(diǎn)上管理 Pod。理解這三個(gè)后面看任何報(bào)錯(cuò)都會(huì)更容易定位。一個(gè)關(guān)鍵思維方式是“聲明式”你聲明的不是一個(gè)動(dòng)作而是一個(gè)期望狀態(tài)。比如你寫清楚“副本數(shù) 3”K8S 會(huì)自己判斷當(dāng)前有幾個(gè)副本不夠就去創(chuàng)建多了就回收。3.2 本地或測(cè)試環(huán)境怎么搭學(xué)習(xí) K8S 有兩類路徑。如果只有一臺(tái)筆記本或者只想體驗(yàn)基礎(chǔ)功能推薦 minikube。minikube 會(huì)在本地創(chuàng)建一個(gè)小型 K8S 集群可以是單節(jié)點(diǎn)常用作學(xué)習(xí)環(huán)境。啟動(dòng)命令一般類似minikube start啟動(dòng)后可以用kubectl get nodes查看節(jié)點(diǎn)狀態(tài)。如果你對(duì)資源要求不高minikube 是成本最低的入門方式。如果想模擬真實(shí)集群建議準(zhǔn)備三臺(tái) Linux 虛擬機(jī)或云主機(jī)一臺(tái) master兩臺(tái) worker。系統(tǒng)建議選擇較新的長(zhǎng)期支持版本。搭建流程大致是關(guān)閉 swap保證 kubelet 能正常工作。加載內(nèi)核模塊調(diào)整網(wǎng)絡(luò)參數(shù)讓容器流量能正常轉(zhuǎn)發(fā)。安裝 kubeadm、kubelet、kubectl 三個(gè)核心組件。master 節(jié)點(diǎn)執(zhí)行kubeadm init初始化集群。初始化完成后按提示配置 kubeconfig并記錄生成的 join token。worker 節(jié)點(diǎn)執(zhí)行kubeadm join加入集群。安裝一個(gè)容器網(wǎng)絡(luò)插件讓不同節(jié)點(diǎn)上的 Pod 能互相通信。這里有一個(gè)容易忽略的點(diǎn)不同網(wǎng)絡(luò)插件對(duì)--pod-network-cidr參數(shù)的要求不同。不要盲目照搬某個(gè)教程里的 CIDR 值一定要看你實(shí)際選擇的網(wǎng)絡(luò)插件文檔。我在實(shí)際測(cè)試中見過很多次初始化失敗不是因?yàn)榧号渲缅e(cuò)而是 CIDR 和網(wǎng)絡(luò)插件對(duì)不上。初始化完成后驗(yàn)證kubectl get nodes能看到 master 和 worker 節(jié)點(diǎn)狀態(tài)為Ready說明集群基礎(chǔ)可用。3.3 用 YAML 描述 Pod 和 ServiceK8S 里最常用的是 YAML 文件。下面是一個(gè)最簡(jiǎn)單的 nginx Pod 示例apiVersion: v1 kind: Pod metadata: name: my-nginx spec: containers: - name: nginx image: nginx:1.25 ports: - containerPort: 80執(zhí)行kubectl apply -f pod-nginx.yaml kubectl get pods kubectl describe pod my-nginxkubectl describe是排查問題的第一入口。它會(huì)把 Pod 的事件、容器狀態(tài)、鏡像拉取情況全部列出來。如果 Pod 一直 Pending先看 describe 輸出里有沒有節(jié)點(diǎn)資源不足、鏡像拉取失敗等提示。直接訪問 Pod IP 不方便所以通常再創(chuàng)建一個(gè) ServiceapiVersion: v1 kind: Service metadata: name: my-nginx-service spec: selector: app: my-nginx ports: - port: 80 targetPort: 80 type: ClusterIP如果你想在本地瀏覽器直接訪問可以把 Service 類型改成NodePort或者用kubectl port-forward做端口轉(zhuǎn)發(fā)。學(xué)習(xí)階段我常用kubectl port-forward不用改 Service 類型也不用關(guān)心集群外的防火墻規(guī)則。kubectl port-forward service/my-nginx-service 8080:80然后訪問http://localhost:8080看到 nginx 默認(rèn)頁面說明 Pod 和 Service 都通了。3.4 entrypoint 和 cmd 在 K8S 中代表什么Dockerfile 里有 ENTRYPOINT 和 CMDK8S 的容器定義里有 command 和 args。很多人會(huì)混淆它們。Dockerfile 中的 CMD 是默認(rèn)啟動(dòng)命令ENTRYPOINT 是固定入口。運(yùn)行時(shí)最終執(zhí)行的命令是 ENTRYPOINT 加上 CMD 作為默認(rèn)參數(shù)。K8S 里可以通過command覆蓋 Dockerfile 的 ENTRYPOINT通過args覆蓋 Dockerfile 的 CMD。它們的關(guān)系是K8S 的command對(duì)應(yīng) Dockerfile 的 ENTRYPOINT。K8S 的args對(duì)應(yīng) Dockerfile 的 CMD。舉個(gè)例子鏡像默認(rèn)通過 ENTRYPOINT 啟動(dòng)某個(gè)腳本你希望在 K8S 里加一個(gè)額外參數(shù)就可以在 Pod 的 YAML 里只寫args不寫command這樣保留鏡像里的 ENTRYPOINT只覆蓋默認(rèn)參數(shù)spec: containers: - name: my-app image: my-app:latest args: [--config-file/etc/my-app/config.yaml]如果你同時(shí)寫了command和args就會(huì)完全覆蓋鏡像里的默認(rèn)設(shè)置。遇到啟動(dòng)命令不生效先看容器的啟動(dòng)命令和日志再確認(rèn)是 command 寫錯(cuò)了還是 args 里的路徑、參數(shù)名不對(duì)。4. 監(jiān)控告警與故障排查進(jìn)入真實(shí)運(yùn)維場(chǎng)景后不能只會(huì)在命令行里跑 pod、看日志。容器集群一旦多起來你更需要一套監(jiān)控體系來發(fā)現(xiàn)資源問題而不是等用戶報(bào)障才知道服務(wù)掛了。4.1 常用命令速查我不建議背命令而是建議按“查狀態(tài)、查日志、查資源”三個(gè)動(dòng)作去記命令。Linux 系統(tǒng)層面查系統(tǒng)運(yùn)行狀態(tài)top、free -h、df -h、du -sh *查服務(wù)和日志systemctl status 服務(wù)名、journalctl -u 服務(wù)名 -f查端口和連接ss -tlnp、netstat -tlnpDocker 層面查容器狀態(tài)docker ps -a查日志docker logs -f 容器名進(jìn)入容器docker exec -it 容器名 bash查資源占用docker stats查鏡像和容器詳情docker inspect 容器名K8S 層面查集群節(jié)點(diǎn)kubectl get nodes查資源對(duì)象kubectl get pods -A查詳細(xì)事件kubectl describe pod 名稱查容器日志kubectl logs -f pod名稱進(jìn)容器調(diào)試kubectl exec -it pod名稱 -- bash查資源用量kubectl top nodes、kubectl top pods實(shí)際排查時(shí)我發(fā)現(xiàn)很多新手會(huì)在命令本身上浪費(fèi)時(shí)間比如糾結(jié)kubectl logs和kubectl describe該用哪個(gè)。原則很簡(jiǎn)單先 describe 看事件再 logs 看應(yīng)用輸出。事件負(fù)責(zé)告訴你“K8S 層面發(fā)生了什么”日志負(fù)責(zé)告訴你“應(yīng)用內(nèi)部發(fā)生了什么”。4.2 監(jiān)控告警體系node-exporter Prometheus Grafana容器化環(huán)境里靠 ssh 到每臺(tái)機(jī)器去看top和df不現(xiàn)實(shí)。標(biāo)準(zhǔn)做法是搭建一套監(jiān)控告警體系常見組合是 node-exporter、Prometheus 和 Grafana。node-exporter 負(fù)責(zé)在每臺(tái)節(jié)點(diǎn)上采集系統(tǒng)指標(biāo)比如 CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)。Prometheus 負(fù)責(zé)定時(shí)抓取這些指標(biāo)并存儲(chǔ)。Grafana 負(fù)責(zé)把指標(biāo)可視化并配置告警規(guī)則。這套體系可以用 docker compose 在單機(jī)跑通也可以部署進(jìn) K8S 集群。學(xué)習(xí)階段我建議先用 docker compose 跑一遍理解“采集、存儲(chǔ)、展示”三個(gè)環(huán)節(jié)再考慮部署到 K8S。一個(gè)最簡(jiǎn)單的鏈路是在目標(biāo)機(jī)器運(yùn)行 node-exporter默認(rèn)監(jiān)聽 9100 端口。Prometheus 配置文件里添加這個(gè) node-exporter 作為 scrape target。打開 Prometheus 的 targets 頁面看到該節(jié)點(diǎn)狀態(tài)為 UP。Grafana 添加 Prometheus 數(shù)據(jù)源導(dǎo)入一個(gè) Node Exporter 的儀表盤。在 Grafana 里配置告警規(guī)則或者通過 Alertmanager 發(fā)送通知。驗(yàn)證鏈路是否正常先看兩個(gè)地方Prometheus 的 targets 是否 UPGrafana 的 Dashboard 是否有數(shù)據(jù)。如果 target 是 DOWN先檢查 node-exporter 進(jìn)程和 9100 端口而不是急著改 Grafana。4.3 磁盤告警規(guī)則怎么寫磁盤告警是最常見的需求因?yàn)殓R像、容器日志、數(shù)據(jù)卷都會(huì)迅速消耗磁盤空間。只靠人工巡檢很被動(dòng)最好配置自動(dòng)告警。在 Prometheus 或 Grafana 里寫告警規(guī)則時(shí)核心是判斷“磁盤剩余空間是否低于閾值”。下面是 Prometheus 告警規(guī)則的常見寫法示例groups: - name: node-disk-alert rules: - alert: DiskUsageHigh expr: (1 - (node_filesystem_avail_bytes{fstype!~tmpfs|overlay} / node_filesystem_size_bytes{fstype!~tmpfs|overlay})) 0.9 for: 10m labels: severity: warning annotations: summary: 磁盤使用率超過 90%這段規(guī)則的作用是篩選出非 tmpfs、非 overlay 的文件系統(tǒng)計(jì)算磁盤使用率是否超過 90%持續(xù) 10 分鐘就觸發(fā)告警。需要提醒的是node-exporter 的指標(biāo)名會(huì)隨版本變化。有些版本里相關(guān)指標(biāo)可能叫node_filesystem_avail_bytes還有可能存在node_filesystem_avail之類的歷史指標(biāo)。寫規(guī)則前先在 Prometheus 的 Graph 頁面用 PromQL 查詢確認(rèn)指標(biāo)名否則規(guī)則可能永遠(yuǎn)不會(huì)觸發(fā)。告警通知渠道取決于你的部署方式。Grafana 支持郵件、釘釘、企業(yè)微信、Webhook 等Alertmanager 也能做更復(fù)雜的路由和收斂。關(guān)鍵是先保證“規(guī)則能觸發(fā)、通知能發(fā)出去”不要一開始就追求復(fù)雜的告警路由。4.4 常見故障排查鏈路K8S 和 Docker 的故障很多但排查思路是固定的先看現(xiàn)象再查輸入再查環(huán)境最后查參數(shù)。Docker Desktop 虛擬化報(bào)錯(cuò)。如果啟動(dòng)時(shí)提示virtualization support not detected優(yōu)先檢查 BIOS/UEFI 里的 CPU 虛擬化開關(guān)再檢查 Windows 虛擬機(jī)平臺(tái)功能是否開啟。報(bào)錯(cuò)信息本身一般已經(jīng)給了修復(fù)方向。容器啟動(dòng)后立刻退出。先docker logs看日志再docker ps -a看退出狀態(tài)。常見原因是端口被占、數(shù)據(jù)目錄權(quán)限不足、啟動(dòng)命令依賴的配置不存在。不要反復(fù)重啟容器先看退出前的日志。K8S Pod 一直 Pending。用kubectl describe pod看事件常見原因是節(jié)點(diǎn) CPU 或內(nèi)存不足或者節(jié)點(diǎn)有 taint 導(dǎo)致沒有可用節(jié)點(diǎn)。先解決資源問題或調(diào)整調(diào)度配置。K8S Pod 進(jìn)入 CrashLoopBackOff。說明容器啟動(dòng)后又崩潰了看kubectl logs是最直接的排查方式。常見原因是啟動(dòng)命令參數(shù)錯(cuò)誤、依賴服務(wù)沒就緒、環(huán)境變量缺失。K8S CPU throttling。這是一個(gè)比較隱蔽的問題。表現(xiàn)是 Pod 的 CPU 使用率看起來不高但接口響應(yīng)很慢日志里有大量延遲提升。原因是 Pod 設(shè)置了 CPU limit但業(yè)務(wù)在實(shí)際運(yùn)行時(shí)超過了 limit導(dǎo)致 CPU 被限流。排查時(shí)可以查看 Prometheus 里container_cpu_cfs_throttled_periods_total相關(guān)指標(biāo)判斷是否存在大量 throttled 周期。解決思路不是簡(jiǎn)單地取消 limit而是根據(jù)業(yè)務(wù)真實(shí)負(fù)載合理設(shè)置 requests 和 limits并在容量規(guī)劃時(shí)留出緩沖。權(quán)限問題。比如想給團(tuán)隊(duì)成員只讀權(quán)限查看 K8S 資源很多人會(huì)直接把管理員 kubeconfig 發(fā)出去這是非常危險(xiǎn)的。正確做法是創(chuàng)建一個(gè)只讀用戶或 ServiceAccount綁定只包含get、list、watch權(quán)限的 RBAC 角色。最小化權(quán)限是運(yùn)維的基本功。5. 學(xué)習(xí)落地清單和邊界最后這部分給新手一條可以照著走的路徑也把最容易踩的坑集中說一遍。5.1 建議的學(xué)習(xí)順序我的建議是分四個(gè)階段走不要跳級(jí)。第一階段Linux 基礎(chǔ)。至少會(huì)用cd、ls、top、free、df、journalctl、systemctl能看懂系統(tǒng)報(bào)錯(cuò)。沒有這個(gè)基礎(chǔ)Docker 和 K8S 的很多問題會(huì)卡在系統(tǒng)層面。第二階段Docker 單機(jī)。從安裝、拉鏡像、跑容器開始理解鏡像、容器、數(shù)據(jù)卷、端口映射。重點(diǎn)練習(xí)docker run、docker exec、docker logs、docker inspect。第三階段docker compose 和多服務(wù)編排。把 MySQL、Redis、Nginx 等常見組件用 docker compose 編排起來理解容器之間的網(wǎng)絡(luò)通信和數(shù)據(jù)持久化。第四階段K8S。先掌握 Pod、Deployment、Service、Namespace再往上加監(jiān)控、日志、持久化存儲(chǔ)。不要一開始就去研究 Operator、service mesh 這些進(jìn)階內(nèi)容。5.2 典型踩坑記錄鏡像下載慢配置鏡像源確認(rèn)網(wǎng)絡(luò)連通性不要反復(fù)重試同一個(gè)失敗任務(wù)。容器數(shù)據(jù)丟失沒有掛載數(shù)據(jù)卷。無論 MySQL、Redis 還是業(yè)務(wù)應(yīng)用只要需要持久化都要先規(guī)劃數(shù)據(jù)目錄。端口沖突啟動(dòng)前先看端口占用不要等bind failed才去改端口。版本不匹配Docker Compose 新老命令差異、MySQL 8.0 初始化參數(shù)變化、K8S 鏡像版本過多都會(huì)導(dǎo)致照搬教程失敗。遇到版本報(bào)錯(cuò)第一反應(yīng)是核對(duì)版本。權(quán)限問題K8S 不要隨便發(fā) admin kubeconfig云主機(jī)不要隨意放行所有端口。權(quán)限最小化操作留日志。資源耗盡容器不設(shè)置 requests/limitsK8S 集群容易被某個(gè)異常服務(wù)拖垮。學(xué)習(xí)階段可以不調(diào)但生產(chǎn)環(huán)境一定要設(shè)置。5.3 學(xué)習(xí)環(huán)境和生產(chǎn)環(huán)境的邊界學(xué)習(xí)環(huán)境可以用單節(jié)點(diǎn)、可以不開資源限制、可以隨便刪除重建。生產(chǎn)環(huán)境要考慮的東西更多etcd 備份、Master 高可用、網(wǎng)絡(luò)插件選型、Ingress 規(guī)劃、數(shù)據(jù)持久化、日志采集、監(jiān)控告警、權(quán)限審計(jì)、鏡像倉(cāng)庫(kù)安全。低配置機(jī)器能跑 K8S不代表它能扛住生產(chǎn)流量。學(xué)習(xí)時(shí)用 minikube 或單節(jié)點(diǎn)集群沒問題放到生產(chǎn)環(huán)境要按實(shí)際負(fù)載和可用性要求設(shè)計(jì)。默認(rèn)配置適合入門不適合生產(chǎn)。很多教程里的“一鍵部署”只是為了教學(xué)生產(chǎn)環(huán)境必須有明確的參數(shù)、容量、監(jiān)控和回滾方案。如果只是學(xué)習(xí)默認(rèn)配置夠用。如果要長(zhǎng)期維護(hù)就要把日志、輸出目錄、任務(wù)隊(duì)列、監(jiān)控規(guī)則提前整理好。不是等出事之后才補(bǔ)而是第一天就把基礎(chǔ)打牢。踩過幾次之后我發(fā)現(xiàn)很多問題不是工具能力不夠而是前置環(huán)境和輸入材料沒有處理干凈。先把 Docker 單機(jī)跑順再進(jìn)入 K8S 編排先把監(jiān)控鏈路搭通再談告警閾值先學(xué)會(huì)看日志和事件再去找參數(shù)和配置。這套順序看起來慢但實(shí)際落地時(shí)能省下大量返工時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲淫色网中文| 精品人妻一二三四区视频| 久久夜精品一区二区三区| 日韩视频中文字幕| 99热| 精品久操| 精品久久一区二区三区四区五区| 色香色欲天天综合网天天来吧| 欧美日本国产日韩激情视频| 大吊色| 青娱乐老司机视频| 亚洲丝袜B诱惑| 人妻欧美| 亚洲福利影院一区久久| 精品福利视频| 无码操逼视频一下| 丰满少妇高潮无码| 亚洲一区二区三区播放在线| 久久熟女嫩草成人片免费 | 欧美日韩999| 亚洲AV色图一区| 欧美午夜一区二区三区| 久久精品91| 中文字幕 国产 精品| 土豪酒店各种姿势玩弄极品幼稚| 日韩中文字幕国产| 天堂涩涩| 我要看免费韩日黄片| 97久久超碰国产精品| 天天干天天干天天干| 国产精品久久久久久久久AV大片| 国产乱伦性爱AV| 亚洲欧美变态| 你操综合| 老司机天天操| 性生活性生大爱77AV国产| 99精品久久| 久久久久少妇| 日韩精品三级片长长久久| 亚洲精品xxx| 亚洲欧美清纯| 国产AV超爽| 色婷婷一区二区三区久久| 成人 日韩欧美一区| 99在线精品观看视频中文| 十八禁视频一区二区| 国产福利合集| 亚洲综合小视频小说在线观看| 德国一二三不卡| 免费精品国偷自产在线在线| 九九亚洲精品| 国产精品自产拍在线观看社区| 伊人影院在线理论播放| 欧美十八禁视频| 色娱乐色呦呦夜夜夜夜av| 国产一区在线观看无码AV| 久久人妻一区二区三区高清| 在线观看一卡二卡| 永久免费发布性爱网| 久久精品中文字幕女同| 91久青| 日本性爱欧美性爱| 欧美色综合网| 骚女高跟AV在线| 国产原创剧情在线丝袜 | 偷拍伦理视频| 亚洲成aⅴ人片不卡无码| 亚洲欧美国产中文视频| 亚洲污污网站| 33044男人的天堂深夜备| 9国产超碰| 97超碰免费人人性爱| 午夜黄色免费在线观看| 亚洲人妻中文在线视频| 日韩91网| 九九九九免费视频| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 69AV女优男人的天堂| 亚川综合视频| 欧美色图91| av72网| 影音先锋国产精品| 国产日韩在线播放av| 密臀在线一区尤物| 人妻精品一区一区三区蜜桃91| 在线综合 亚洲 欧美中文字幕| 九九九九九九亚洲| 欧美丰满熟妇XXXX性ppX人交| 毛片99-全集电影手机免费观看完整-B029AV | 亚洲综合在线高清| 国产欧美精品日韩区二区麻豆天美| 淫纸中9区| 亚洲97p| 中文字幕加勒比海高清无码免费视频| 偷拍 欧美 日韩| 国内外毛片在线观看| 亚洲综合性感在线| 狠狠躁AV| 伊人五月天青青草婷婷| 五月综合久久| 婷婷色中文字幕| 亚洲制服aⅴ中文字幕| 亚洲黑人在线| 不卡av免费在线网址| 欧美黑人与女人91| 韩日欧亚a级| 精品人妻一区二区三区视频| 国产吹潮女在线观看| 99热97| 中文自拍欧美影视| 青青久久手机线视频| 内射夫妻三片| 免费操逼视频下载| 91站街按摩店老熟女熟女| 福利伊人玖玖国产| 五月综合婷婷久久网站| 一二三四日本视频高清| 久久午夜伦| 久久久久久中文字幕中文字幕最新| 久久欲| 欧美97se| 高清无码人妻久久久一区二区三区aⅴ| 99热啪啪| Julia在线播放亚洲久久| av婷婷色婷婷色六月| 去干网最新版| 久久免费中文字幕在线观看| 骚逼一区二区| 好爽要喷了| 插入粉嫩少妇视频| 亚欧美无遮挡| 欧美天天弄| 综合久久97| 2011国产精品| 性爱综合网| 九九在线精品| 综合干干干av久久久综合网| 99热8| 免费超碰97久久| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 色 婷97| 蜜桃成人1区2区3区| 好淫网一二三视区| 啊啊啊啊啊好舒服视频| 久久久久久99999国产精品| 国产精品视频播放| 一区二三区四区视频大全套| 91熟女视频网| 久久精品一区二区三区四区五区| 不卡六六在线91| 欲女人妻性色av| 亚洲女优有码无码高清| 天天插网| 丁香婷婷色五月| 91人妻超碰| 国精综合一二三区影视| 热热色综合网| 亚洲无线码欧洲精品区别| 国产 无码 一区二区| 99啪啪| 国产丝袜美腿美女麻豆| 老司机香蕉| 国模无码人体一区二区三| 熟女五十路一区二区三| 久久久草成人网站久久久草成人久久久草久久久 | 加勒比大香蕉视频在线| 四虎免费看黄| 97国产精品一区二区传媒公司| 精品二999| 亚洲欧美骚| 日韩av不卡在线看| 国产91乱伦| 亚洲国产午夜真人一级片中文字幕精品黄网站 | 精品久久久久久AV无码| 91精品久久久久久77777| 按摩中文字幕| 色婷婷日韩精品一区二区三区| AV丝袜少妇| 中国熟妇| 国产精品久久伊人| 日本一久是| 97视频播放| 激情抓乳插进去啪啪啪日韩| 91美女视屏| 精品无码产区一区二| 日本影视久久免费| 五月丁香色综合| 国产精品电| 人妻丰满熟妇一区二区三| 狠狠干,狠狠操| 后入式视频国产自| 国产一区二区三区久久久精品| 日韩欧美大片免费高清啪啪| 日本 欧美 亚中文字幕| 91日韩网站| 大学生口爆吞精| 日本一级一级一级一级| 超碰9 7女人| 大香网站| 91AV天美在线视频| 日本一区二区做爱的视频| 久久少妇视频| 黄人人操人人操| 96AV精品| 欧美AB在线| 色色色热| 精品高潮| 人妻插插人妻人| 无码高清操逼| JULIA人妻风俗店中出电影| 欧美一级在线观看成人| 嗯嗯啊啊视频在线看| 久热精品在线| 亚洲天堂区| 欧美se综合| 99久久久99久久91熟女| 九久久九九久视频| 九九久久九九久久| 国产一级舔足在线观看| 蜜桃视频一区二区三区在线观看| 亚洲女人毛茸茸91| 激情六月婷婷| 日本黄色精品专区网站| 射丝袜大香蕉| 色色色99| 啊啊啊啊啊啊啊啊在线观看| 亚洲国产精品无码AV久久| 91麻豆天美国产欧美| 精品人妻一区二区免费蜜桃视频| 看黄片视频免费| 亚洲图片 激情小说| 一区二区三区探花在线观看| 99re在线精品78| 手机在线看片免费人成视频| 一二三区精品视频| 国产九九久久久精品| 久久国产AⅤ| 久草在| 黄色高清无码无码破解免费暗网| 午夜啊啊| 国产精品午夜成人福利| 日本一线产区和二线产区伦理片| 中文字幕三四五区| 人人摸人人干| 亚洲 日韩 丝袜 熟女 变态| 日韩日韩日韩-国产乱码精品一区二区| 精品白丝一区| 好淫网一二三视区| 国语精品内射在线观看| 日韩人妻无码不卡网站| 好淫网一二三视区| 一区二区三区欧美激情| 午夜乱轮操逼视频免费看| 伊人久久亚洲色欲综合网站 | 麻豆国产尤物AV| 爱爱动态60秒| 日日干夜夜欢| 欧美日韩国产男人| 玖玖综合.com| 极品后入免费视频| 六月婷激情福利天堂69| 国产区91柔拿会所技师| 老子午夜伦不卡影院| 综合少妇网| 91丝袜美女| 亚洲国产高清福利视频| 亚洲成a人v欧美综合天堂下载| 精品久久99| 日韩极品无码B| 蜜臀Av一区二区三区| 97色涩| 色婷婷九月| 婷婷色网| 五月天久久综合网| 青青草综合在线| 你草精品在线视频| 二色av| 黄色激情电影在线观看| 亚洲人妻五月丁香婷婷| 欧美玖玖爱免费玖玖| 国产这里只有精品| 中文字幕一区日韩精| wwwxxx日本爽| 91在线免费精品视频| 97精品网站| 韩国女主播青草在线| 九月婷婷| 亚洲人成在线放东京热| 中文字幕精品久久久久人妻红杏ⅰ| 国产Av超碰| 久久久9 9 9精品| 大鸡吧尹人在线| 综合色久欲| 人人操天天爽| 97午夜剧场日韩| 99re视频在线观看这里只有精品| 成人区人妻精品一| 韩国女主播青草在线| 婷婷丁香熟妇综合网| 啪啪资源网| 日韩性爱啪啪视频| 91亚洲欧美激情| 97精品一区二区三区免费| 噜噜瑟| 久草成人影片| 78超碰| 综合网天天| 97爱啪| 蜜桃臀久久| 国产精品夜夜夜| 成人情色综合网| 久久一二三四五六七八九区| 果冻传媒A片一二三区| 色婷婷淫色网| 青青草久久在线| 熟妇激情| 青青草公开在线免费不卡视频| 久久激情综合| 五月婷婷色色| 中文字暮97| AV综合中文字幕干| 小少妇| 九九热免费国产视频婷婷伊人五月| 影音先锋每日最新资源在线观看 | 白丝被操91| 12一15性XXXX粉嫩国产| 国产精品久久妻无码网站| 看日韩黄片| 国产乱伦性爱区| 又粗又长又爽在线观看| 亚洲日韩精品一区视频在线| 激情综合亚洲| 少妇免费视频| 级品肉射| 久久99干一本高清| 精品视频一区二区| 国产高清免费不卡av| 色成人Www精品永久观看| 日本三级A片网站com| 性久久| 一区二区娱乐网站| 2019AV天堂| 中文欧丝袜诱惑| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区 | 高潮的A片激情扒开一区| 亚洲A曰本VA欧美VA视频| 强奸乱伦AV网址| 一区二区三区精品视频| 欧美另类色| 91黑丝在线播放| 久青草影院| 超碰97资源大奶| 91n免费处女| 久热网| 亚洲人成在线放东京热| 97一区二区三区视频| 中国熟女91| 97久久久久| 99热这里只有精品18| 日韩免费福利在线观看| 日亚韩精品视频二区三| 91在线免费观看处女| 97久久国产亚洲精品超碰热| 日韩欧视频| 欧美色图下一页| 欧美综色欧| 2018天天日天天日| 欧美精品日韩一区二区| 久久欲| 操屄日韩| 乱论91| 久久久婷婷| 日韩三级在线观看mp4| 精品国产乱码久久久久久免费| 国产精品成人无码av| 天天干一区二区| 伊人9| 奇米四色影视777久久久| 亚洲精品丝袜-不卡成人免费……| 激情综合婷婷| 天天综合网~91综合网| 日韩在线地址一| 日本色婷婷| 2019亚洲男人天堂| 亚洲最新中文字幕免费| 日影院久久婷婷夜夜网| 国产探花日韩援交| 婷婷伊人一区| 国产操逼网站亚洲一级黄色| 五月天色五月| 丝袜高跟澳门91视频| 国产无码三级视频在线观看| 丰满的三级少妇欧美久久久| 白嫩妹子国产骚| 久久九七| 日本成人免费一区二区三区| 丰满少妇人妻久久久久久| 天天亚洲| 国产成人亚洲精品自产在线| AV女优男人的天堂| 欧美色图天堂在线| 日本精品五区| 人妻无码后入| 国内精品a| 99www.bibizy香蕉资源国产一区二区三区高清 | 91丝袜人妻| 草草网站影院白丝内射| 91日产欧美| 久久av一级av少妇av高潮| 亚洲春色激情小说| 97超碰碰| 蜜臀久久99精品久久久久免费观| 另类欧美| 久久久婷婷婷| 一区二区高清视频| 校园春色亚洲欧洲| A 在线网址| 91爱看| 操逼www.| 91成人18| 国产亚洲精品无码三区| 欧美91精彩| 人人插人人摸人人| av天堂电影网| 欧美成人亚洲精品| 人妻 中文 日韩| 男女香蕉一区二区| 99热这里是精品| 欧美激情综合网| 96AV久久久| 人妻少妇被猛烈进入中| 亚洲女优有码无码高清| 超碰成人公开| 日本天堂在线播放| 加勒比中文av| 久操视频在线观看| 久久99精品国产| 大香蕉乱伦视频网| 在线视频免费观看午夜| 日日夜夜青青草母狗| 欧美日韩国内不卡| v91av| 91撸色网 玖玖网 欧美| 久久精视频美日韩在线视频| 欧美亚洲91| 大香蕉一人在线| 久久久久久AⅤ无码免费肉站| 国模限制级电影| 国产一区二区免费福利片| 久久色AV线| 青青草原人妻| 国产97视频免费观看| 欧美综合第一页| 欧美色日本| 大香蕉黄色一区| 亚洲高清无毛一区二区| 国产精品农村妇女| 天天摸天天舔天天操| 亚洲性爱高潮影院| 日韩av乱伦| 黄视频免费| 蜜臀99久久国产| 欧美变态激情网| 草b在线| 五月香婷婷| 啪啪综合网| 人妻喷水| 亚洲精品白丝| 超碰久久草| 国产伊人自拍| 啊啊啊啊嗯嗯嗯用力好爽| 两性色网| 国产一在线观看| 日韩性爱一级片| 午夜操一视频一区| 九九九精品一区二区无码| 日本三级久| 99热最新网址| 婷婷视频在线免费观看| 26uuu性| av爱爱爱| 伊人久久综合影院精品久久久 | 人人操人人93| 日本女人久久久| 久久久三区二区一区| 亚洲天堂第一页| 欧美三级一级| 久久免费老司机精品| 91狠狠综合久久久| 综合色色网| 3p国产色噜噜一区| 亚洲欧美国产其他二区| 成人免费福利在线观看| 在线观看黄色电话| 免费综合亚洲中文| 免费毛片在线播放| 伊人久久婷婷| 久久久久久午夜男人的天堂| 免费夜夜爱黄色视频毛片| AV综合中文字幕干| 亚洲第一综合| 日韩精品.久久精品.AV女优.天美传媒| 日韩性爱啪啪视频| 久久精品国产精品一区| 最新日本中文字幕| 狠狠色噜噜狠狠狠狠2018| 蜜臀久久一区二区| 麻豆人妻精品一区二区| 18一区二区三区| 九九热免费国产视频婷婷伊人| 亚洲,日韩,欧美,成人播放| 日B操| 最新岛国大片| 97欧美性爱| 婷婷五月天激情网| 大香蕉啪啪啪| 天天做天天爽| 青青青操| 加勒比海成人视频网| 日韩精品电影| 98超碰欧美| 2021国产成人精品久久| 亚洲无码成人精品| 日本精品成人无码| 久久国产99精品72福利| 天天干天天日天天射黄色片| 日韩亚洲97| 国产9l 大屁股| 老司机午夜精品视频| 日本免费中文字幕在线| 一区二区娱乐网站| 欧洲乱码视频| 殴美色网| 欧美 亚洲| 欧美色偷拍 | 天天做天天爱天天爽| 无码99| 久久夜嗨| 97欧美色综合| 日本操逼视频免费| 无码乱人伦中文视频| 麻豆人妻精品一区二区| 欧美中文狠| 伊人九九九| 日韩黄片视频试看| 五月天婷婷小说| 日本欧美色| 三及片网站| 国产91啪| 色狠狠综合噜一二三区| 快播久久人人aV| a男人的天堂久久一级A毛片| 亚洲福利中文字幕在线| 99啪啪| 亚洲丝袜综合| 国产精品久久久久久久久AV大片| 欧美强奸乱| 四季AV综合网址| 欧美在线亚洲| 搡老人老9丨女老熟人| 亚洲AV无码天美传媒一区| 欧美日韩在线小说| 草莓精品视频| 麻豆一区二区三区精品| 国产h小视频在线观看免费| 免费在线观看国内色片网站网址| 顶级丝袜熟女一区二区三区| 国产视频一区二区在线观看| 国产成人五月天丁香花| 无码高清专| 少妇三P| 精品91日日夜夜超清资源| 国产版a级片直播在线| 久久啊啊啊视频| 91色s| 天天视频网站黄| 亚洲熟妇图片| 超碰色综合| 91精品久久久久久综合五月天| 999岛国大片| 极品色电影院| 欧美人与性动交a美精品| 久久一留热品黄| 亚洲在线网站| 日本三级久| 天堂网亚洲区手机版| 精品黑人一区二区| 成人一级二级| 亚洲综合中文字幕有码| 亚洲影视高清第一页| 国产精品自在线发布| 91久久久老司机| 亚洲精品无码成人久久久99| 在线中文字幕视频| 日韩成人免费电影| 夜夜欧美 | 狠狠狠狠狠狠| 男人的天堂免费| 97九色人妻| 日本一区不卡| 中文字幕在在线观看网站| 欧洲综合色图| 麻豆人妻精品一区二区| 久久超碰97| 亚洲AV乱码专区国产噜噜亚洲| 亚洲自拍欧美国产首页网曝| 人妻干天天| 91精品电影18| 国产成年女黄特黄| 青青草日本中文字幕| 99国产精品视频尤物| 国产视频一区二区三区久久亚洲天堂| 91天天美女| 99无码视频| 欧美色图20p| 国产亚洲欧洲在线观看| 欧美十八禁导航成人| 国产日韩中文字幕欧美| 亚洲精品男人的天堂| av网站免费看| 久久国产精品熟女人妻| 26uuu国产免费观看| 日韩内| 无码欧美有限公司| 日本性爰一道本| 日韩国产九九精品一区二区三区毛片| 黄骗免费网站| 欧美后入视频| 97人人模人人爽人人| 91成人18| 操淫穴亚洲五月丁香| 伊人黄色视频免费观看| 91丝袜在线播放| 亚洲自拍欧美国产首页网曝| 伊人色综合网电影| 日本操逼视频免费| 爱丝福利| 狠狠搞 亚洲91| 无码伊人久久大杳蕉中文无码| 超碰地址97| 日韩性爱播放| 性色AV蜜色av色欲av| 亚洲综合大片| 男人天堂久久日韩| 亚洲激情av| 一区不卡在线观看av| 欧美se综合| 欧美成人色| 中文字幕大片三级狠狠干| 国产大学生口爆吞精合集| 成人三级片一区二区三区视频| 色婷婷导航| 日韩免费福利在线观看| 欧美激情内射| 97久久精品不卡| 色天天野狼综合社区| 久久久久久大| 91 综合 色| 激情丁香五月| 日美免费黄片| 操操逼视频| 欧美se综合| 欧美日韩美女精品久草一区二区三区| 少妇无码av专区线| 一本久道久久综合狠狠爱一密臀精| 99热综合| 第一高清av中文字幕| 天天视频黄| 久久线上视频免费看| 天天舔天天日天天射| 男人的天堂2018.| 五月天色综合| www色婷婷| 日本一区二区成人在线| 日本免费一级AAA大片器 | 中国国产精品一区视频| 久久久久国产精品久久久| 日韩欧美~中文字| 97视频新免费| 97精品久久久久中文字幕| 香蕉久久精品| 久久夜色一区二区| 欧美欲色| 嗯嗯嗯不要不要免费视频| 色爱综合网| 噜噜在线| 午夜天堂精品久久久久91| 久久婷综合| 色色色99| 精品人妻伦一二三区久久| www.色综合| 国产伦乱91| 玖玖婷婷五月天| 久久这里只精品99re66图| 亚洲AV成人无码久久精品播放| 一二三区视频在线观看| 96国产精品| 日韩精品午夜操呦呦不卡影院| 丝袜熟女2P| 亚洲欧美一区二区三区在钱蜜桃| 欧美性爱91| 欧美少妇性爱网站| 国产AV无码AV| 干婷婷综合网| 性爱av网站| 亚洲精品99| 天美国产精品| AV老汉| 欧美青青视频| 人妻喷水| 射综合网| 少妇厨房愉情理伦片bd在线观看| 精品人妻久久久久一区二区三区| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 日韩欧美大片免费高清啪啪| 一区二区三区亚洲| 欧美熟女丝袜| 欧美日韩人妻精品一区二区三区 | 亚洲色欲天天天堂色欲网女| 96精品久久久久久久久久| 丰满人妻-区二区三区免费看 | 夜夜高潮夜夜爽| 五月天激情四射| 亚洲精品中文字幕一区在线视频 | 91粉芽高清在线一区二区| 久久精品国产精品一区| 青青草色情网站视频| 色婷婷丁香| 乱伦日本中文自拍| 亚洲欧美变态| 快点操死我| 美国日韩黄色片| 欧美亚洲激情| 久久偷偷色综合蜜桃| 东京日日夜夜| 伦伦成年午夜免费视频| 色色九区| 91久久国产综合精品| 丁香六月天| 人人操人人插人人摸人人干| 一区二区三区一亚洲中文字幕、综合区灬 | 久久r精品| 老女人日韩美91| 另类小色呦| 欧美日韩国产成人高清| 久久成人精品| 日韩精品熟妇| 日韩性爱视频免费在线| 2017av无码免费无线播| 热热色综合网| 啊啊啊好舒服好爽啊啊啊视频| 欧美黄色手机在线观看| 一本色道久久综合亚洲二区三区| ?亚洲伊人伊成久久人综合网| 久久久9 9 9精品| 一个人在线看的黄色电影网站| 懂色aV一区二区天美传媒| 伊人色综合欧美| 91亚洲青青草原精品1区| 国产成人bd在线观看| 精品国产Av无码久久久亚洲| 99福利社| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 强奸乱伦Av网| 大学生美女口爆| 东北操逼| 一区二区首页| 精品妇女一区二区三区| 人看人人摸人人操| 久久男人精品| 色吧 综合| 色色九区| 热G综合热G中文| 操死我了嗯嗯嗯| 内射中出日韩在线观看视频| 九九热最新| 欧美疯狂做爰xxxx| 乱论91| 被男人添B超爽视频| 亚洲国产丝袜熟女av| 熟女91网站| 久久久无码精品人妻二区 | 4虎在线观看| 日韩特一级久久| 加勒比海成人视频网| 久久成年精品| 亚乱色| 男人的天堂 在线一区| 91热| 色香综合天天影视综合 | 欧美日产国产在线成人第一区| 九九九九九精品十六| 国产午夜福利视频在线| 蜜桃精品一区二区三区ww| 欧日韩不卡视.频| 国产小u女在线观看| 曰韩精品视频一区二区| 一个色导综合| 日韩福利综合一区| 国产成人拍国产亚洲精品| 日本αv| 9国产超碰| 人妻一区二区三区视频| 成人无码在线视频网站| 摸奶性爱视频网站在线免费播放| 欧美人妻一区二区| 嗯嗯嗯啊啊在线观看| 久草电影网| 骚熟女AV网| 骚货操死你| 欧美亚洲丝袜人妻制服中文99| 青青草精品| 亚洲 图片 欧美 色图| 亚洲不卡av在线| 18岁禁 茉莉成人久久| 最新精品久久蜜桃| 天美一区在线| 精品人妻一区二区蜜桃视频 | 伊人天天久久动态图| 少妇综合| 国产一区二区免费福利片| 午夜.DJ高清在线观看免费7| 精品久久9| 亚洲综合色在线| 日本道人妻久久久在线不卡色视频| 欧美在线色图| 人人超碰在线观看黄| 日日日骚女人精品| 一区二区三区四区五区久久久久久| 丝袜性亚洲| 天天天天天超碰| 蜜桃臀AV在线| 欧美精品97| 色婷婷六月丁香七月婷婷| 97在线观看播放视频| 国产福利精品最新在线 | 五月天春色激情网| 精品一区二区麻豆| 日本天堂在线播放| 97欧美在线| 久久性爱精品一区| 人人插人人摸人人| 激情婷婷丁香| 美女91在线观看| 啊啊啊啊啊舒服| 欧美性色网| 人人贴人人摸| 国产粉嫩出水在线播放| 欧州色图区| 91丝袜在线视频| 密臀在线视频| 1769一区| 国产亚洲精品玖玖玖在线观看| 久久久久亚洲AV无码专区少妇| dy888午夜老子影视达达兔| 国产视频一区二区三区在线免费观看| 亚洲天堂2020| 日韩福利综合一区| 思思热在线cao| 欧美v亚洲v日韩v最新在线二区| 在线观看亚洲专区| 国产av尤物| 久插综合| 91精品导航| 男女激烈网站最新| 99热这里是精品| 熟女AV一区| 91欧美经典| 3028国产精品| 91色鬼| 偷窥自拍亚洲| 久热在线精品免费观看| 91色情黑丝搞鸡在线观看一区二区三区三州| 欧美国产日韩高清在线| 色好看av| 欧美色图欧美| 国产午夜激片Av毛片不卡| 日韩一999精品| 天天综合站| 1769国内精品视频| 国产亚洲一黄| 干美女人妻| 色y情视频免费看| 激情文学网伊人| 激情婷婷丁香网| 国产亚洲性生活视频播放| 久久精品人体AV| 精品人妻视频一区二区在线播放 | 综合久久99亚洲人妻中文在线| 91AV天堂| 国产精品久久久吖| 麻豆国产尤物AV| 久久久久921| 欧美日韩插逼视频| 99激情| 日本久久久久久久久久| 脫衣舞一区二区三区| 天天看片天天爽| 91精品丝袜久久久久久| 亚洲少妇中文字幕网址| 综合色拍| gogogo免费高清看中国国语| 亚洲一区二区三区久久 亚洲一区二区| 色综合中文字幕不卡| 欧美热图99| 69精品久久久久中文字幕| 久久中文色图| 国产毛片毛片4p懂色| h4610国产人妻| 日本有码久久| 日本黄色精品| 青青草天天亲夜夜操网| 天美传媒av一区二区| 亚洲无线码欧洲精品区别| 91在线限制级| 精品九九九| 97亚洲综合电影| 欧在线一二区| 中文字幕日韩综合| 人妻少妇精品无码专区二区密桃| 欧美日韩在线小说| 天天流夜夜操| 中文有码9| 色五月首页| 春色91| 啪啪综合网| 欧美日韩欧美| 国产原创自拍| 午夜九九九九九九| 欧苏综合色综合| 999热这里只有精品| 丁香五月综合| 国产精品天堂| 久久男人的天堂国产| 欧美日韩在线小说| 九九天堂| 亚洲无码国产探花在线观看| 无码人妻丰满熟妇奶水区毛片| 国产农村妇女毛片精品久久| 亚洲乱熟女一区二区三区大香蕉| 国产视频一区二区三区久久亚洲天堂| 激情小说亚洲图片| 乱伦AVxx| 超碰97综合网| 91九色精品熟女内射| 日韩欧美女求操每天更新| 激情自拍 校园春色| 欧美色欧美| 久久超碰、| 午夜毛片亚洲精品片国产久久久| 乱伦1色页| 久久精品中文| 女人高潮大叫一级毛片| 色欲久久99国产精品久久久久久| 国产真实野战在线视频| 97久久久网站| 国产蜜臀精品一区免费尤物| 国产色综合亚洲色综合吹潮| 天堂涩涩| 激情小说五月天| 色天使大香蕉| 久久精品高清AV| 九九精品网| 99久久无色码| 乱伦一区二区三区‘| 亚洲诱惑天堂 | 一区二区高清视频| 国产久久日韩网站导航| 伊人网综合在线视频| av天堂加勒比| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 伊人网免费视频| 欧美激情久| 91精品黄在线观看| 最新亚洲黄色免费电影| 日韩国产十八禁| 爽 好舒服 无码刺激久久| 高颜值美女口爆高潮浪叫| 91精品电影18| 黄片com.| 久久超碰日韩精品| 秋霞午夜视频一区二区| 岛国视频免费在线观看| 91模特在线观看| 极品粉嫩一区二区| 一区二区三区 日韩欧美| 人妻丝袜二区| 色噜噜国产在线| 五月天婷精品激情| 国产成人91一区二区三区| 我想要啊 啊 啊| 日韩丝袜人妻AV| 伊人久操| 国产精品不卡一区二区电影| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | heyZO天然素人无码AⅤ专区| 五十路熟女,国产欧美精品区一区二区三区| 国产精品ⅴ无码大片在线看.| 91色噜噜狠狠| 亚洲AV无码国产成人| www.99色| 亚洲欧美校园| 精品乱码久久久久| 骚货人妻偷情自拍在线视频| blacked精品一区国产| 色姑娘综合网| 日韩青久久| 久久久性爱视频| 亚洲欧洲偷拍一区| 日本操BAV| 男女做爰猛烈动高潮A片免费应用| 97久久久精品| www.zbzhongsen.com| 富女玩鸭子一级毛片| 日本一卡二区在线| 九九九精品一区二区无码| 白丝1区2区3区| 色五月婷婷久久| 国产一区二区精品久久99| 日本操逼视频免费| 亚91网| 成人精品水蜜桃久久久久久久| 色狠狠综合| 东北丰满熟女国产一区| 免费视频在线一区二区不卡| juliaann丝袜| 清纯唯美综合亚洲| 香蕉色网| 日欧毛片久久| 91美女在线视频| 欧美日韩性感| 中文字幕亚洲在线一区| 欧美亚洲一级在线观看| 极品肉射| 传媒在线观看一区二区三区| 成人精品水蜜桃久久久久久久| 九热视频| 性做久久久久久免费观看软件| 热热色中文无码| 78m成人视线| 日韩青久久| 日韩三级性| 蜜乳av一区二区三区四区不卡| 日本污ww视频网站| 国产精品色片一区二区| 亚洲一区二区三区不卡国产欧美| 97一区二区三区视频| 国产九九久久久精品| 97精品国产97久久久久久免费| 丰满岳乱妇一区二区三区| 成人97人人超碰人人| 亚洲欧美电影| 欧美色图20p| 精品国产乱码久久| 五月丁香激情四射| 91少妇| 老女人综合网| 黄色无码高清黄色无码网站| 亚洲天堂久久久久久粉红视频| 久久婷婷欧美| 亚洲精品1区| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 97精品全部| 日韩本不卡视频在线观看 | 国产精品宅男免费| 芊芊操逼视频无码| 多毛小伙内射老太婆| 男女猛烈无遮掩视频免费软件| 国产成人五月天丁香花| 大香蕉草草| 另类图片五月天| 中文字幕视频二区| 欧美日韩在线小说| 天天看天天日| 人人操,人人插| av在线观看不卡网站| 国产AV无码AV| 欧美中出1| 97色色网| 欧美久久婷| 日韩无码极品| 超碰色大香蕉| 好吊色综合| 国产精品人妻免费精品| 97精品一区二区视频| 日本1区2区不卡视频| 激情无码日韩| 一区不卡在线观看av| 亚洲av综合伊人久久| 啪啪AV导航| 国模精品一区二区三区苹果色戒| 人人模人人看| 精品一区二区在线针对华人免费观看这里只有精品免费观看 | 中文字幕日本久久| 日本三级久| 美女啪欧美一区| 九九九九九九九九九九九蜜桃| 欧美日韩高潮喷水91| 色婷婷综合久久中文字幕雪峰| 亚洲国男人的天堂| 99免费视频| 国模不卡一本二本三电影| 伦理日韩国产久久| 男人精品区| 国产精品毛片?v一区二区三区| 成年人黄色视频免费| 乱伦日本色图AⅤ| 欧洲免费一区二| 老司机福利社视频在线观看| 狠狠久久手机视频精品| 免费毛片在线播放| 亚洲中文电影| 一二三区精品视频| 能在线播放的国产三级| 青青草原人妻| 精品白丝一区| 国产强奸乱伦xd| 吻戏激情性巴克| 91AV天美在线视频| 毛片久久| 爱射综合| AV色图| 奇米四色网| 日韩人妻少妇 一区二区三区| 综合久草| 怡红院网站在线视频| 久久久久久人妻一区精品色欧美| 伊人久久综合精品欧美| 色呦呦、国产精品| 蜜桃香蕉久草精品在线| 亚洲色图欧美色图日韩色图| 日本综合久久| 九月丁香婷婷色| 五月天春色激情网| 日本2020一区二区| 五月丁香拍拍激情综合三级| 久久9亚洲| 夜夜躁狠狠躁日日躁av| 国人欧美精品一区二区| 男人久久精品| 美女天天干| 久久,精品一二三| 精品少妇人妻一区二区三区| 国产高清精品一区二区三区毛片 | 丝袜熟女2P| 国产精品另类一区大香蕉| 综合在线导航一区| 日韩精品99久久久久久中文字幕| 中文一区二区| 亚洲天堂中文字| 亚洲熟妇熟在线电影视频| 欧美综合自拍| 韩国一区二区精品亚洲| 九九九九精品精| 操一区| 婷婷探花久久精品一区| 欧美顶级黄色大片免费| 日本新免费二区三区| 免費人妻夜夜爽天天爽爽一区| 欧洲精品区|