日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

IoT邊緣服務(wù)器:分布式設(shè)備接入與管理架構(gòu)實踐

IoT邊緣服務(wù)器:分布式設(shè)備接入與管理架構(gòu)實踐 做 IoT 設(shè)備接入這個事最開始的坑基本都踩在“設(shè)備太多、離云端太遠”這兩件事上。我接手過一套分散在十多個廠區(qū)的工業(yè)設(shè)備系統(tǒng)設(shè)備類型五花八門有 PLC、傳感器、智能電表、還有幾個陳舊型號的串口采集器。最初方案是讓所有設(shè)備直接往云平臺上報數(shù)據(jù)結(jié)果上線第四個月就出問題高峰時段云端入口帶寬被打滿設(shè)備斷線重連風(fēng)暴直接把接入層拖垮恢復(fù)花了整整六個小時。后來改造成“IoT Edge Server 統(tǒng)一接管分布式設(shè)備”的架構(gòu)才算把這些問題從根上按住。這篇東西就是把我在這類項目里的完整拆解思路、實施步驟、以及踩坑后的復(fù)盤整理出來給正在做同類邊緣接入方案的人做個參考。這套系統(tǒng)解決的問題很清晰大量設(shè)備分散在不同物理位置、網(wǎng)絡(luò)條件參差不齊、數(shù)據(jù)上報頻繁且格式不統(tǒng)一云端直連既不穩(wěn)定也不經(jīng)濟。邊緣服務(wù)器部署在靠近設(shè)備的機房或者現(xiàn)場側(cè)負責(zé)設(shè)備接入、協(xié)議解析、數(shù)據(jù)緩存、本地規(guī)則判斷再把處理后的關(guān)鍵數(shù)據(jù)同步到云端平臺。適合正在做工業(yè)物聯(lián)網(wǎng)、智慧園區(qū)、能源監(jiān)控這類項目的朋友參考尤其適合那些設(shè)備規(guī)模不大但數(shù)量多、類型雜、現(xiàn)場網(wǎng)絡(luò)經(jīng)常不靠譜的場景。1. 邊緣服務(wù)器在分布式設(shè)備管理中的定位與核心價值1.1 為什么不能讓設(shè)備直接連云端很多剛接觸 IoT 的人會有一個樸素想法設(shè)備端裝個 MQTT 客戶端云平臺開好接入點設(shè)備直接上報不就行了。小規(guī)模試點完全沒問題二三十臺設(shè)備每臺每秒報一條數(shù)據(jù)云端隨便接。但當(dāng)設(shè)備真正鋪開問題就會連續(xù)冒出來。第一個是帶寬成本。一批設(shè)備每小時產(chǎn)生的原始數(shù)據(jù)量如果在現(xiàn)場側(cè)做一次過濾、聚合、壓縮后再上傳往往能減少 80% 以上的網(wǎng)絡(luò)開銷。工廠里一個采集點位原始數(shù)據(jù)是每秒一條一天就是 86400 條幾十個點位就是幾十萬條全量上云既浪費帶寬也無必要。第二個是延遲。云端直連模式下設(shè)備到云端往返耗時取決于鏈路質(zhì)量跨地域網(wǎng)絡(luò)抖動輕松超過 200 毫秒對需要快速響應(yīng)的控制類指令來說這個延遲不可接受。第三個是可靠性。設(shè)備到云端的鏈路一旦中斷如果設(shè)備本身儲存能力有限數(shù)據(jù)就會直接丟失。而邊緣服務(wù)器靠現(xiàn)場網(wǎng)絡(luò)接入設(shè)備本地有存儲斷網(wǎng)后可以把數(shù)據(jù)暫存起來等鏈路恢復(fù)再補傳。第四個是安全問題工業(yè)設(shè)備很多使用老舊協(xié)議直接暴露在公網(wǎng)風(fēng)險很高邊緣服務(wù)器做統(tǒng)一接入和協(xié)議轉(zhuǎn)換相當(dāng)于給設(shè)備加了一層隔離。我之前遇到過最典型的場景某個廠區(qū)網(wǎng)絡(luò)每周都會瞬斷幾次云直連設(shè)備在斷線重連時會同時發(fā)起連接服務(wù)端被上百個 TCP 重連請求打滿這就是所謂的重連風(fēng)暴。把邊緣網(wǎng)關(guān)放在現(xiàn)場后設(shè)備只跟局域網(wǎng)內(nèi)的邊緣服務(wù)器通信外網(wǎng)斷了對現(xiàn)場采集完全沒有影響。1.2 邊緣服務(wù)器負責(zé)哪些具體工作邊緣服務(wù)器在整套體系里做的事可以歸納為四個方面接入、解析、緩存、轉(zhuǎn)發(fā)。接入是指接受設(shè)備的網(wǎng)絡(luò)連接。不同設(shè)備有不同的通信接口和協(xié)議常見的有 MQTT、Modbus TCP、OPC UA、CoAP老設(shè)備還有走串口轉(zhuǎn)網(wǎng)絡(luò)模塊的。邊緣服務(wù)器要把這些異構(gòu)協(xié)議的連接統(tǒng)一管理起來不管設(shè)備用什么方式接入對上層業(yè)務(wù)都呈現(xiàn)為統(tǒng)一的數(shù)據(jù)模型。解析是指將設(shè)備上報的原始報文轉(zhuǎn)換成標(biāo)準(zhǔn)格式。例如一個 Modbus 報文讀出來的寄存器值可能是原始電壓數(shù)據(jù)需要按變比換算成真實電壓值再打上設(shè)備 ID、時間戳和點位編號變成一條標(biāo)準(zhǔn)的 JSON 或時序數(shù)據(jù)記錄。緩存是指當(dāng)數(shù)據(jù)暫時無法上云或者云端不可用時在邊緣側(cè)把數(shù)據(jù)寫到本地存儲中。邊緣服務(wù)器通常配備 SSD 或 TF 卡可以保留數(shù)天乃至數(shù)周的本地數(shù)據(jù)。轉(zhuǎn)發(fā)是指將處理后的數(shù)據(jù)通過 MQTT、HTTP、gRPC 等協(xié)議同步到上層云平臺同時接收云端下發(fā)的控制指令再反向轉(zhuǎn)發(fā)給對應(yīng)的設(shè)備。2. 邊緣服務(wù)器的架構(gòu)設(shè)計與關(guān)鍵模塊拆解2.1 硬件選型與部署形態(tài)邊緣服務(wù)器的形態(tài)很靈活。簡單場景下一臺工業(yè)級迷你主機N5105 或 i3 級別的 CPU8G 內(nèi)存256G SSD就足夠管理數(shù)百臺設(shè)備的數(shù)據(jù)采集。如果點位更多、計算任務(wù)更重可以上到 i5 甚至 Xeon搭配 GPU 做視覺類的邊緣推理。對一般的數(shù)據(jù)采集類項目沒必要盲目追求高配置邊緣服務(wù)器的瓶頸往往不在 CPU而在設(shè)備連接數(shù)和網(wǎng)絡(luò)帶寬。操作系統(tǒng)方面Linux 發(fā)行版是主流選擇Ubuntu Server 或 Debian 都很好用驅(qū)動兼容性和遠程管理能力都優(yōu)于桌面系統(tǒng)。有一些場景要求更穩(wěn)定的運行環(huán)境和更精簡的系統(tǒng)也可以考慮 Windows IoT Enterprise LTSC尤其當(dāng)上位機軟件或者設(shè)備 SDK 只提供 Windows 驅(qū)動時這個方案反而省事。我之前見過一個老項目采集設(shè)備用的是某個國產(chǎn)廠商的串口控件只有 Windows 版本最后邊緣服務(wù)器裝的就是 Win10 IoT Enterprise 2016 LTSB跑三四年沒出過系統(tǒng)級故障。選操作系統(tǒng)不用跟風(fēng)關(guān)鍵是看設(shè)備 SDK 兼容性、遠程維護便利性和現(xiàn)場人員的熟悉程度。如果項目以標(biāo)準(zhǔn)協(xié)議如 MQTT、Modbus為主優(yōu)先上 Linux如果依賴特定廠商驅(qū)動就老實按驅(qū)動要求選 Windows。通訊鏈路也要考慮冗余。現(xiàn)場如果只有一條寬帶線路最好準(zhǔn)備一張 4G 或 5G 流量卡做備份網(wǎng)絡(luò)模塊在邊緣服務(wù)器里做成主備自動切換WAN1 故障自動切到 WAN2避免因為單條線路故障導(dǎo)致整片設(shè)備失聯(lián)。2.2 軟件層的基礎(chǔ)框架與協(xié)議適配層邊緣服務(wù)器軟件層的第一件大事是選擇一套基礎(chǔ)框架。自研全套的成本很高在成熟項目里通常使用開源組件疊加少量定制開發(fā)。設(shè)備接入層老牌 MQTT Broker 是 EMQX 或者 Mosquitto其中 EMQX 支持海量連接、集群部署、規(guī)則引擎適合規(guī)模比較大的場景。如果設(shè)備的接入?yún)f(xié)議不止 MQTT還有 Modbus TCP、OPC UA、BACnet 這些工業(yè)協(xié)議就需要一個協(xié)議適配層常用的方案是 Node-RED 或者基于 Java/Go 自研協(xié)議解析模塊。Node-RED 的圖形化編排上手很快適合快速實現(xiàn)協(xié)議轉(zhuǎn)換、數(shù)據(jù)過濾、觸發(fā)控制邏輯。但節(jié)點多了以后流編排會變得很亂內(nèi)存管理也不太好生產(chǎn)環(huán)境長期跑建議用 Go 或 Java 寫?yīng)毩⒌膮f(xié)議接入服務(wù)。我當(dāng)時采用的是“EMQX Go 自研協(xié)議適配服務(wù) TDengine 時序庫”的組合。設(shè)備按照協(xié)議類型分發(fā)到不同的接入服務(wù)例如現(xiàn)場的智能電表走 Modbus TCP溫度傳感器走 MQTT改造后的數(shù)據(jù)統(tǒng)一寫到本地時序庫同時通過轉(zhuǎn)發(fā)模塊同步到云平臺。這個架構(gòu)的好處是每一層職責(zé)單一出問題容易定位。2.3 數(shù)據(jù)模型與設(shè)備影子機制管理分布式設(shè)備最重要的是建立一套統(tǒng)一的設(shè)備數(shù)據(jù)模型。設(shè)備數(shù)據(jù)模型就是用來描述一臺設(shè)備有哪些屬性、哪些功能的數(shù)據(jù)結(jié)構(gòu)可以理解為給設(shè)備定義一套標(biāo)準(zhǔn)接口。一個典型的數(shù)據(jù)模型包含三個維度設(shè)備元信息設(shè)備 ID、設(shè)備類型、所屬站點、固件版本、安裝位置屬性數(shù)據(jù)設(shè)備的實時數(shù)據(jù)例如電壓、溫度、累計電量服務(wù)能力設(shè)備支持的操作例如遠程重啟、調(diào)整采集頻率、開關(guān)控制實際實現(xiàn)時在邊緣服務(wù)器維護一份“設(shè)備影子”即云端下發(fā)的期望狀態(tài)和設(shè)備的實際狀態(tài)。設(shè)備上報真實狀態(tài)寫入 reported 區(qū)云端或本地下發(fā)的目標(biāo)狀態(tài)寫入 desired 區(qū)協(xié)調(diào)器對比兩個區(qū)如果有差異就下發(fā)指令讓設(shè)備趨近目標(biāo)狀態(tài)。這套思路在 AWS IoT、阿里云 IoT 都有對應(yīng)實現(xiàn)。邊緣服務(wù)器里的設(shè)備影子機制即使在云端斷網(wǎng)期間也能讓本地應(yīng)用正常操作設(shè)備恢復(fù)連接后再和云端同步狀態(tài)。3. 分布式設(shè)備接入與管理的核心功能實操3.1 設(shè)備注冊與認(rèn)證流程先講設(shè)備怎么進入邊緣服務(wù)器。每臺設(shè)備在正式接入之前必須先完成注冊。注冊過程需要分配一個全局唯一的設(shè)備 ID建議格式使用站點編碼加設(shè)備類型加序列號例如 SZ-PLANT01-TEMP-0001不要再加無意義的隨機字符串否則現(xiàn)場排查問題時根本看不出是哪臺設(shè)備。設(shè)備注冊時還要錄入設(shè)備密鑰密鑰可以是動態(tài)生成的 Token也可以預(yù)置證書。工業(yè)現(xiàn)場設(shè)備性能差異很大有些 MCU 算力很弱跑不動 TLS 雙向認(rèn)證這種情況下用 Token 認(rèn)證更合適。Token 在網(wǎng)絡(luò)傳輸時需要加密最穩(wěn)妥的方式是走 TLS 加密通道再疊加 Token 認(rèn)證形成雙重保障。具體流程是邊緣服務(wù)器預(yù)生成一批設(shè)備憑據(jù)批量導(dǎo)入設(shè)備管理系統(tǒng)設(shè)備首次上線時攜帶憑據(jù)發(fā)起連接接入服務(wù)校驗通過后將設(shè)備和連接綁定然后讀取該設(shè)備的最新配置包括采集頻率、上報周期、點位映射表。如果認(rèn)證失敗接入服務(wù)記錄失敗原因并拒絕連接。我建議把認(rèn)證失敗的日志單獨存儲一份萬一現(xiàn)場有非法設(shè)備試圖接入排查起來會非常省事。3.2 數(shù)據(jù)上報的批量策略與格式規(guī)范設(shè)備連接成功之后接著就是數(shù)據(jù)上報。這里最核心的一個原則是不要逐條上拋數(shù)據(jù)要批量上報。邊緣服務(wù)器收到的每一條原始數(shù)據(jù)先打到本地緩沖區(qū)按時間窗口或條數(shù)窗口聚合后再異步上報。例如設(shè)備的溫度數(shù)據(jù)每 5 秒采集一次一天產(chǎn)生 17280 條記錄云端并不需要每 5 秒收到一條數(shù)據(jù)只需要每分鐘或者每五分鐘收到一條聚合數(shù)據(jù)。聚合時可以附帶最大值、最小值、平均值、采樣點數(shù)等統(tǒng)計字段這樣既減少流量又保留業(yè)務(wù)價值。數(shù)據(jù)格式方面建議使用統(tǒng)一的 JSON 結(jié)構(gòu)大體如下{ device_id: SZ-PLANT01-TEMP-0001, ts: 1743400000, points: { temp: 35.6, humidity: 48.2 }, quality: 1 }字段里加上 quality 質(zhì)量戳值為 0 表示異常數(shù)據(jù)1 表示正常數(shù)據(jù)。數(shù)據(jù)質(zhì)量標(biāo)記很重要后面做數(shù)據(jù)分析和告警時可以避免把異常數(shù)據(jù)誤當(dāng)成真實值。另外每個設(shè)備上報的時間戳必須以設(shè)備本地時間為準(zhǔn)還是以邊緣服務(wù)器時間為準(zhǔn)這個問題必須提前定好。我的經(jīng)驗是邊緣服務(wù)器收到數(shù)據(jù)后立即用服務(wù)器時間覆蓋設(shè)備時間戳然后保留設(shè)備原始時間戳到另一個字段。因為設(shè)備時鐘漂移太常見了統(tǒng)一用邊緣服務(wù)器時間可以對所有設(shè)備的數(shù)據(jù)按統(tǒng)一時間軸存儲和查詢。3.3 指令下發(fā)與命令確認(rèn)機制管理設(shè)備不只是收數(shù)據(jù)還需要下發(fā)指令。例如遠程控制一道閘門、調(diào)整空調(diào)設(shè)定溫度、重新校準(zhǔn)儀表。這個過程比數(shù)據(jù)上報更容易出問題因為指令是雙向的邊緣服務(wù)器下發(fā)指令設(shè)備需要回復(fù)確認(rèn)執(zhí)行完畢后還要上報執(zhí)行結(jié)果。實現(xiàn)指令下發(fā)時要特別注意下發(fā)鏈路不能是簡單的“發(fā)出去就不管”。因為現(xiàn)場網(wǎng)絡(luò)經(jīng)常不穩(wěn)定設(shè)備可能離線指令發(fā)不出去或者指令到了設(shè)備設(shè)備執(zhí)行后返回結(jié)果時鏈路斷了服務(wù)器誤以為設(shè)備沒執(zhí)行。這就需要一套命令狀態(tài)機指令從創(chuàng)建、下發(fā)、確認(rèn)、執(zhí)行、回執(zhí)每一步都要有狀態(tài)記錄。我在邊緣服務(wù)器里用一張指令表來保存這些狀態(tài)指令I(lǐng)D目標(biāo)設(shè)備指令內(nèi)容狀態(tài)創(chuàng)建時間超時時間CMD-001SZ-PLANT01-0003重啟采集器已確認(rèn)2025-04-01 10:00:002025-04-01 10:00:30CMD-002SZ-PLANT01-0003修改采集周期為30s已執(zhí)行2025-04-01 10:01:002025-04-01 10:01:30指令下發(fā)后如果超過設(shè)定的超時時間還沒收到確認(rèn)邊緣服務(wù)器要自動重發(fā)。重試次數(shù)超過限制后把指令標(biāo)記為失敗并通知云端。這個流程看似簡單卻是分布式設(shè)備管理中最重要的可靠性保障。3.4 斷網(wǎng)容錯與離線數(shù)據(jù)緩存現(xiàn)場網(wǎng)絡(luò)中斷是不可避免的。尤其工業(yè)廠區(qū)偶爾停電、光纜被挖斷、交換機死機各種情況都遇到過。邊緣服務(wù)器作為靠近設(shè)備的一層最大的價值就是“天塌下來數(shù)據(jù)也不能丟”。以我的方案為例邊緣服務(wù)器上有一個本地數(shù)據(jù)緩沖模塊設(shè)備上報的數(shù)據(jù)先寫到 TDengine 時序庫然后轉(zhuǎn)發(fā)模塊按時間順序讀取本地數(shù)據(jù)并同步到云端。云端收到數(shù)據(jù)后回一個確認(rèn)轉(zhuǎn)發(fā)模塊收到確認(rèn)后才刪除本地記錄。如果云端無響應(yīng)或者本地到云端的鏈路斷開轉(zhuǎn)發(fā)模塊自動暫停并重試數(shù)據(jù)繼續(xù)保存在本地緩沖區(qū)。本地緩沖區(qū)的容量要按最壞情況估算。假設(shè)每臺設(shè)備一天產(chǎn)生 2MB 數(shù)據(jù)現(xiàn)場有 500 臺設(shè)備一天就是 1GB斷網(wǎng) 7 天就需要 7GB 存儲空間。這個量級在普通 SSD 上完全沒壓力所以不用擔(dān)心斷網(wǎng)時間長但要每天檢查磁盤用量避免日志或者系統(tǒng)文件把磁盤占滿后緩沖區(qū)寫不進去。3.5 OTA 升級與設(shè)備策略管理分布式設(shè)備規(guī)模大了之后遠程升級就成了剛需。邊緣服務(wù)器可以承擔(dān)設(shè)備升級的“分發(fā)中心”角色。云端把新的固件包推送到邊緣服務(wù)器邊緣服務(wù)器再分批推送給現(xiàn)場設(shè)備。這樣做的好處是云端只需要跟少數(shù)邊緣服務(wù)器通信不需要感知每一臺終端設(shè)備終端設(shè)備即使不在公網(wǎng)環(huán)境只要和邊緣服務(wù)器在同一個局域網(wǎng)內(nèi)就能完成升級。OTA 升級需要重點考慮三件事斷點續(xù)傳、版本回滾、分批灰度。斷點續(xù)傳解決設(shè)備升級到一半網(wǎng)絡(luò)斷開的問題版本回滾解決新版固件不兼容導(dǎo)致設(shè)備變磚的問題分批灰度解決大批量升級同時進行導(dǎo)致現(xiàn)場網(wǎng)絡(luò)擁堵的問題。邊緣服務(wù)器的升級策略按站點維度去控制每個站點設(shè)定一個最大并發(fā)數(shù)。最好在凌晨業(yè)務(wù)低峰期自動執(zhí)行執(zhí)行前自動備份當(dāng)前固件版本。4. 海量數(shù)據(jù)采集場景的 P0 事故復(fù)盤4.1 事故現(xiàn)場還原前面講了很多設(shè)計方案但真正教會你怎么把系統(tǒng)做穩(wěn)的往往是一次事故。我做這套系統(tǒng)時就經(jīng)歷過一次典型的 P0 事故背景和過程非常有代表性拿出來復(fù)盤一下。當(dāng)時邊緣服務(wù)器系統(tǒng)剛上線三個月前期只接入了一個站點的 200 臺設(shè)備運行挺穩(wěn)定。后來項目擴量在兩周內(nèi)陸續(xù)接入了 7 個新站點設(shè)備總量從 200 臺漲到 5000 臺以上。新的站點接入后數(shù)據(jù)量暴增但我沒有對邊緣服務(wù)器的資源配額做調(diào)整導(dǎo)致一臺邊緣服務(wù)器上接的設(shè)備數(shù)量超出了設(shè)計上限。事故當(dāng)天上午十點左右監(jiān)控平臺報警邊緣服務(wù)器的 CPU 使用率持續(xù) 100%內(nèi)存占用率超過 90%大量設(shè)備連接斷開且重連失敗。我登錄服務(wù)器查看時發(fā)現(xiàn) EMQX 進程占了大部分 CPU日志里刷滿了連接超時的報錯。更嚴(yán)重的是由于邊緣服務(wù)器到云端的同步線程一直無法獲取 CPU 時間片本地時序庫的寫入積壓越來越嚴(yán)重最終磁盤 IO 也達到瓶頸。整個事故持續(xù)了將近兩個小時期間一部分設(shè)備上報的數(shù)據(jù)丟失現(xiàn)場工控人員無法通過平臺看到實時數(shù)據(jù)影響范圍覆蓋了三個廠區(qū)。4.2 根因定位與修復(fù)過程事故后的排查分為三個步驟先看資源占用曲線再看日志最后做壓測復(fù)現(xiàn)。從資源曲線可以看出CPU 從上午 9 點開始快速攀升正好對應(yīng)第二個站點的設(shè)備批量上線時間。日志里出現(xiàn)大量 MQTT CONNECT 報文設(shè)備連接建立后連接管理模塊的定時心跳任務(wù)數(shù)量也同步激增。問題根因是接入服務(wù)的連接管理模塊使用了“每連接一個 goroutine”模型每臺設(shè)備建立連接后都常駐一個業(yè)務(wù)處理協(xié)程同時還有一套心跳超時定時器。設(shè)備數(shù)量超過 3000 臺后定時器數(shù)量級增長Go 調(diào)度器開銷飆升最終拖垮整個進程。修復(fù)方案分兩步走。第一步是緊急擴容在邊緣服務(wù)器資源允許范圍內(nèi)限制單臺設(shè)備的連接并發(fā)數(shù)把非必要下線的設(shè)備暫時斷開先恢復(fù)核心采集鏈路。第二步是代碼層面重構(gòu)連接管理模型將“每連接一個 goroutine”改為事件驅(qū)動模型使用連接池統(tǒng)一管理連接讀寫同時將心跳檢查從每連接一個定時器改為統(tǒng)一的時間輪掃表。重構(gòu)完成后我在測試環(huán)境模擬了 6000 臺設(shè)備同時連接的場景CPU 占用率從重構(gòu)前的 90% 降到 25% 左右內(nèi)存占用也明顯下降。此后邊緣服務(wù)器又接入了更多設(shè)備再沒出現(xiàn)過同類問題。4.3 生產(chǎn)環(huán)境的血淚教訓(xùn)這個事故給我留下了幾條非常實際的教訓(xùn)設(shè)備接入數(shù)量不能拍腦袋定要有測試數(shù)據(jù)支撐。任何邊緣服務(wù)器在正式上線之前都要做一次模擬滿負荷壓測確認(rèn) CPU、內(nèi)存、文件句柄、連接數(shù)等指標(biāo)的極限在哪里然后設(shè)置告警閾值建議使用連接數(shù)達到設(shè)計上限的 70% 就觸發(fā)預(yù)留擴容提醒。限流和熔斷機制必須提前寫進系統(tǒng)而不是等到出問題再臨時加。邊緣服務(wù)器需要對超出處理能力的請求做排隊或拒絕否則大量并發(fā)連接涌進來會把系統(tǒng)直接打死??梢岳斫獬筛咚偈召M站如果車流量太大必須人工限流否則整個收費系統(tǒng)會癱瘓。設(shè)備規(guī)模增長時監(jiān)控指標(biāo)也要跟著調(diào)整。之前我只監(jiān)控了 CPU、內(nèi)存、磁盤這些基礎(chǔ)項沒有監(jiān)控連接數(shù)增量、消息積壓量、上下線頻率。這三個指標(biāo)才是海量設(shè)備接入場景下最需要盯的一旦異常往往就是系統(tǒng)崩潰的前兆。5. 現(xiàn)場運維的常見問題與排查技巧5.1 高頻故障排查速查表在日常運行維護中有幾類問題反復(fù)出現(xiàn)我把它們整理成速查表方便現(xiàn)場排查時對照操作。常見問題可能原因排查思路設(shè)備頻繁掉線重連設(shè)備心跳間隔太短或網(wǎng)絡(luò)抖動查看邊緣服務(wù)器端日志統(tǒng)計斷連時間點檢查是否與網(wǎng)絡(luò)設(shè)備重啟時間重合某型號設(shè)備上報數(shù)據(jù)亂碼協(xié)議解析字節(jié)序或進制轉(zhuǎn)換錯誤抓包對比原始報文字節(jié)流檢查數(shù)據(jù)模型中的點位映射關(guān)系設(shè)備離線但邊緣服務(wù)器未告警心跳超時時間配置過長酌情調(diào)小心跳超時時間例如從 120 秒調(diào)到 30 秒邊緣服務(wù)器磁盤寫滿日志文件過大或本地緩沖區(qū)未及時清理檢查日志輪轉(zhuǎn)策略檢查云同步模塊是否阻塞導(dǎo)致本地數(shù)據(jù)積壓云端收不到歷史補傳數(shù)據(jù)云端的消息去重 ID 沖突檢查補傳消息的消息 ID 生成規(guī)則確保每條消息 ID 全局唯一設(shè)備時間戳跳變設(shè)備端時鐘漂移或 NTP 失效檢查現(xiàn)場 NTP 服務(wù)改為邊緣服務(wù)器統(tǒng)一校時數(shù)據(jù)上報延遲增大網(wǎng)絡(luò)擁塞或邊緣服務(wù)器 IO 瓶頸查看消息隊列積壓數(shù)據(jù)量檢查磁盤和網(wǎng)絡(luò)帶寬利用率5.2 排查工具的合理使用建議排查物聯(lián)網(wǎng)問題用對工具往往能省一半時間。設(shè)備接入層問題首選抓包工具。比如設(shè)備通過 Modbus TCP 上報數(shù)據(jù)邊緣服務(wù)器這邊直接用 tcpdump 或 Wireshark 抓包把設(shè)備發(fā)出來的原始報文和解析后的數(shù)據(jù)模型對照很快就能定位是設(shè)備側(cè)異常還是轉(zhuǎn)換邏輯異常。這個習(xí)慣很值得養(yǎng)成我在現(xiàn)場解決過多次類似問題基本都是通過抓包對比一次性定位。服務(wù)端運行狀態(tài)排查用 Prometheus Grafana 組合最直觀。我在邊緣服務(wù)器上部署了 node_exporter 和 JMX exporter把 CPU、內(nèi)存、磁盤 IO、網(wǎng)絡(luò)連接數(shù)、MQTT 連接數(shù)、消息積壓量這些指標(biāo)都采集起來做成 dashboard。頁面上一眼就能看出哪一項異常不用等到故障發(fā)生后再登錄服務(wù)器敲命令。日志是另一個重要突破口。邊緣服務(wù)程序要把日志分級打印info 級記錄正常流程warn 級記錄異常但可恢復(fù)的情況error 級記錄需要人工介入的事件。生產(chǎn)環(huán)境千萬別把調(diào)試日志全部打開日志量過大會嚴(yán)重影響系統(tǒng)性能。建議只有問題復(fù)現(xiàn)時動態(tài)開啟對應(yīng)模塊的 debug 日志問題定位完立刻關(guān)閉。5.3 日常巡檢與健康檢查清單為運維減少麻煩我列一份日常巡檢清單可以做參考也可以按場景裁剪每臺邊緣服務(wù)器的 CPU、內(nèi)存、磁盤使用率是否在合理區(qū)間設(shè)備在線率是否穩(wěn)定波動超過 5% 時需要關(guān)注云端接收數(shù)據(jù)的延遲是否持續(xù)走高本地緩沖區(qū)的數(shù)據(jù)積壓量是否在下降邊緣服務(wù)器與云端的同步鏈路是否有連接重連記錄定時檢查設(shè)備認(rèn)證失敗日志防止非法接入嘗試檢查 OTA 升級任務(wù)的完成情況確認(rèn)失敗任務(wù)未卡住隊列這份清單我建議通過自動化腳本輸出成每日日報不用人工手動一條條去看??梢栽谶吘壏?wù)器上寫一個定時任務(wù)每天凌晨調(diào)用健康檢查腳本把結(jié)果推送到運維群。發(fā)現(xiàn)問題再人工介入效率會高很多。6. 系統(tǒng)擴展與架構(gòu)演進建議6.1 從單邊緣節(jié)點到多邊緣節(jié)點的橫向擴展單臺邊緣服務(wù)器的管理能力總是有限的。當(dāng)設(shè)備規(guī)模超過數(shù)千臺或者廠區(qū)之間距離很遠需要把多臺邊緣服務(wù)器組成一個分布式管理集群。多邊緣節(jié)點的架構(gòu)里每臺邊緣服務(wù)器負責(zé)一個片區(qū)的設(shè)備片區(qū)之間不共享設(shè)備連接。設(shè)備歸屬關(guān)系由云端統(tǒng)一管理云端負責(zé)下發(fā)全局配置到各邊緣節(jié)點。這樣設(shè)計的好處是故障隔離一臺邊緣節(jié)點掛了只影響一個片區(qū)不會影響全局。節(jié)點之間的數(shù)據(jù)同步需要一種輕量級通信機制。我采用的方式是各邊緣節(jié)點定時上報設(shè)備摘要信息到云平臺云平臺匯總后通過存儲轉(zhuǎn)發(fā)的方案下發(fā)全量設(shè)備狀態(tài)視圖。簡單說設(shè)備狀態(tài)的“最終一致性”由云平臺保證各節(jié)點不需要實時同步全部數(shù)據(jù)避免網(wǎng)絡(luò)壓力過大。6.2 邊緣服務(wù)器的本地規(guī)則引擎與自治能力邊緣服務(wù)器不應(yīng)該只是一個數(shù)據(jù)轉(zhuǎn)發(fā)管道它更應(yīng)該具備本地自治能力。當(dāng)云端斷連或者云端響應(yīng)超時時邊緣服務(wù)器應(yīng)能獨立判斷一些簡單的業(yè)務(wù)規(guī)則并執(zhí)行。例如當(dāng)廠區(qū)溫度超過某個閾值時本地直接關(guān)閉制冷設(shè)備當(dāng)設(shè)備連續(xù)三次上報異常數(shù)據(jù)時本地重啟該設(shè)備的采集模塊。這些操作甚至不需要經(jīng)過云端因為在工業(yè)現(xiàn)場網(wǎng)絡(luò)延遲或斷連是家常便飯等待云端決策會錯過最佳處理時機。實現(xiàn)本地規(guī)則引擎時要特別注意規(guī)則的可配置化。不要把規(guī)則寫死在代碼里最好提供一個規(guī)則配置界面或者配置文件運維人員可以隨時調(diào)整閾值、動作、生效時間。我用的是 yaml 格式的規(guī)則文件加自動加載機制修改規(guī)則文件后服務(wù)自動加載不用重啟進程。這種方案簡便有效也便于不同站點的差異化配置。6.3 數(shù)據(jù)治理與時序數(shù)據(jù)的二次價值邊緣服務(wù)器不僅是為云端減輕壓力更是現(xiàn)場數(shù)據(jù)的第一道“清洗車間”。在邊緣側(cè)完成設(shè)備級的數(shù)據(jù)質(zhì)量檢查、異常值剔除、單位換算、標(biāo)簽添加能明顯提升后續(xù)數(shù)據(jù)分析的可靠性。數(shù)據(jù)上云后這些經(jīng)過清洗的數(shù)據(jù)可用于預(yù)測性維護、設(shè)備能耗分析、產(chǎn)線效率評估等場景。很多項目在前期只關(guān)注實時監(jiān)控和告警忽略了設(shè)備產(chǎn)生的時序數(shù)據(jù)本身具有巨大價值。如果要讓數(shù)據(jù)產(chǎn)生更多價值建議從一開始就保留原始數(shù)據(jù)的完整采樣軌跡為后續(xù)算法模型積累足夠的歷史數(shù)據(jù)同時結(jié)合邊緣服務(wù)器本地算力在邊緣側(cè)直接運行輕量級預(yù)測算法大幅度降低云端算力開銷。我在實際項目中加入了軸承振動分析的邊緣推理模塊。在邊緣服務(wù)器上運行一個輕量級故障診斷模型對采集到的振動數(shù)據(jù)進行實時特征提取和異常分類。當(dāng)模型判斷設(shè)備出現(xiàn)異常時立刻在本地上報告警并保存完整振動波形供后續(xù)深度分析。這個功能投入產(chǎn)出比極高遠比單純的上報原始數(shù)據(jù)有業(yè)務(wù)價值。7. 長期維護中的幾點個人體會這套 IoT Edge Server 系統(tǒng)從設(shè)計、開發(fā)到上線運維前后跑了快兩年。中間踩過很多坑也積累了一些不一定寫在官方文檔里的經(jīng)驗最后分享幾個個人體會。設(shè)備接入層一定要留足可觀測性。我見過不少系統(tǒng)設(shè)備連接失敗時只打印一條日志沒有任何指標(biāo)上報。這個習(xí)慣在天災(zāi)人禍時非常吃虧設(shè)備批量掉線時如果連“掉線多少臺、掉線原因是什么”都不知道排查就像大海撈針。給接入層加上連接失敗原因計數(shù)、設(shè)備在線數(shù)、消息流量等基礎(chǔ)指標(biāo)這些投入不會白費。邊緣服務(wù)器的網(wǎng)絡(luò)配置要簡單、可預(yù)測。不要使用動態(tài) IP 或者復(fù)雜路由規(guī)則設(shè)備接入的局域網(wǎng)網(wǎng)段要固定邊緣服務(wù)器到云端的出口走靜態(tài)路由避免重啟后網(wǎng)絡(luò)配置漂移導(dǎo)致設(shè)備失聯(lián)。我遇到過邊緣服務(wù)器重啟后系統(tǒng)自動獲取的 IP 與設(shè)備配置的服務(wù)器地址不一致所有設(shè)備全部離線恢復(fù)起來非常麻煩。OTA 升級流程要嚴(yán)禁“一把梭”。即使只有幾十臺設(shè)備也建議分批次升級。先升級一臺確認(rèn)設(shè)備運行正常再放量升級 10%最后再全量。很多固件問題只在某些設(shè)備型號上觸發(fā)小批量灰度才能及時擋住問題擴大。云端下發(fā)升級任務(wù)時要支持隨時撤銷未執(zhí)行的升級任務(wù)防止異常版本繼續(xù)擴散。最后文檔和網(wǎng)絡(luò)拓撲圖要同步維護。分布式設(shè)備管理系統(tǒng)的拓撲結(jié)構(gòu)包括設(shè)備-邊緣服務(wù)器-云平臺三層其中任何一個節(jié)點變化都要及時更新文檔?,F(xiàn)場排查問題時有一張準(zhǔn)確的網(wǎng)絡(luò)拓撲圖能節(jié)省大量時間。這些工作看起來并不起眼卻是整個系統(tǒng)長期穩(wěn)定運行的基礎(chǔ)保障之一。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
中文字幕一区二区视频在线观看| 看黑丝美女操逼青青网站| 长久操视频| 26uuu国产免费观看| 黄站在线免费观看| 国产污视频麻豆传媒一区二区 | 91久久久久久| AV乱伦专区| 色悠久久久av| 99超级碰免费视频| 亚洲国产成人7777| 亚欧无码线免费观看视频| 久久日本熟女精品一区| 狠狠穞A片一區二區三區| 国产av激情无码久久天堂| 91男人天堂网| 久久久婷婷| 插欧洲美女欧美精品| 精品十八在线观看| 99黄页网站| 人妻啊啊人妻啊啊| 日韩操人| 人人操人人操草草| 91在线超高颜值国产| 天堂亚洲精品| 国产九月婷婷| 97精品综合久久| 豆花视频操逼网址| 国产午夜精品理论片a大结局| 大香蕉2017| 色哟哟-国产专区| 九九香蕉网| 国产曰批免费观看久久久| 91精品成人| 青青草天天亲夜夜操网| 青椒国产97在线熟女| 99热| 黑人精品欧美一区二区蜜桃| 久久久专区| 97人人爱人人做人人乐| 久久极品一区二区| 欧美日韩99精品麻豆传媒| 久久无码成人| 久久亚洲AV无码专区国产精品| 加勒比aⅴ| 久久中文字幕女同性恋一区| 亚州色图片在线色| 综合激情一一91| 亚洲熟女乱色一区二区三区| 国产九区| 亚州色站 日韩电影| 一区二区你上我| 成人免费福利在线观看| 国产三级多多影院2022国产AA一级毛片无码 | 欧美一二三级精品在线| 亚洲春色欧美| 成人AV在线网站| 亚洲文学偷乱拍啪啪啪啪 | 亚洲啪啪视频免费| 国产精品白丝在线播放| 欧美乱伦专区| 国产精品午夜AV完会免费 | 97色视频在线| 91 国产丝袜在线放观看| 2001天天操| 9l视频自拍9l九色成人| www.色婷婷.com| 国产一区96在线| 久jiu久神马影院| 天综合网| 看黑丝美女操逼青青网站| 久久九七| 日本幼女18+| 日韩精品午夜操呦呦不卡影院| 97在线播放 | 人人做人人妻人人夜视频| 97在线视频观看网站| 蜜乳av一区二区| 十八禁的黄污污免费网站| 成人午夜小视频手机在线看| 国产AV激情无码久久无码| av绯色| 国产AV无码AV| 欧美成人性爱视频在线播放| 99热只有这里有精品| 青娱乐久久艹| 三级三级三级日本99| 精品精品精品| 久草综合视频| 亚洲怡春院| 欧美丝袜91| 伊色久人大在线| 久久在线观看免费视频| 中国国国产一级特黄毛片| 九九久久99| 老鸭窝亚洲毛片| 中文字幕人乱码中文字的预防方法 | 不卡免费av在线播放| 色蜜AV| 天堂射| 欧美亚洲特P| 美女裸体无遮挡永久免费观看网站| 欧美色www亚洲国产阿娇要播| 国产自产一区视频在线| 免费9 1久久| 青青操日韩| 亚洲电影中字一区二区| 97精品综合久久| 伊蕉97蜜桃97狠狠综合干 | 萌白酱自拍视频| 性爱视频久久| 欧美黑人与女人91| 日韩免费中文字幕视频| 成人在线视频网| 欧美日韩人人早| 久久精品操| 亚洲资源吧| 最新亚洲黄色免费电影| 能看的av| 91观看 国产白丝| 亚洲男人电影天堂| 99操视频| 99超碰网| 亚欧高清v| 日夜久久久九九九久| 亚洲精品熟妇1区2区3区。| 日本高清视频xxxx| 伦在线97| 久久直播国产| 乱精品一区字幕二区| 亚洲欧洲色情高清| 韩国一级婬片A片无码天美| 婷婷探花久久精品一区| 欧美色图天堂网m| 中文字幕无码不卡啪啪| 亚洲高清综合网| 五月婷婷综合激情| 91最新综合| 97伊人| 强奸乱伦大香蕉| 色5月婷婷| 亚洲AV无码久久精品蜜桃小说| 超碰天天久久79| 超碰97人妻| 超硑97精品| 100啪啪视频大全| 91在线|亚| 亚洲女优有码无码高清| 爱做久久久久久| 青青操视频在线| 日本色色色色色视频| AV99热18这里只有精品| 国模无码一区二区三区在线| 亚洲第二页| 人、人、摸,人、人、草| 91精品婷婷国产综合久久| 国模精品娜娜一二三区| 青青草原伊人网| 日本熟妇一区二区三区| 国产午夜精品理论片a大结局| 激情自拍 校园春色| 91高潮| 综合一区中亚洲国产成人综合精品 | 天美传媒精品久久视频| 福利视频一区二区微拍| 久久久久久久97| 丰满少妇一区二区三区四区观看| 大香蕉视频一二三区| 91精品国久久久久久无码| 欧美成人A天堂片在线观看| 日韩色女精品| 超碰久久中文| 欧美日韩香蕉| 天天综合网~91| 夜夜夜久久| heyZO天然素人无码AⅤ专区| 久久9精品网站| 999久久久九| 亚洲国产精品99久久久| 欧美国产伊人久久久久| 91爱啪| 啊啊啊啊二区好大| 免费黄色片子| 欧美爱三级日韩久久| 亚洲综合一| 97天天摸天天碰| 吖在线不卡一区二区国产剧情| 99最新日韩偷拍视频| www.91色综合| 免费在线黄片视频| a'v在线资源| 91美女视频电影| 五月黑AⅤ| 草草影院最新网址| 丝袜亚洲综合| 青青青在线高清视频在线一二三四区| 日韩精品系列| 无码操逼天堂| 久久综合精品一区二区三区| 九九aV| 久久91精品国产9丨久久分亭| 色九久| 中出后入| 亚州欧美一区| 国产精品一区人妻精品阁在线| 少妇一级婬片免费放一级a性色.| 人人妻人人玩人人澡人人爽| 大屁股熟女一区二区三区| 九九在线精品| 97超碰美女| 麻豆区久久久久亚| 青青欧美| 成人久久精品| 欧美少妇性乱| 亚洲自拍一区夜夜操| 800zy一区二区| 婷婷五月天福利| 国产吞精a级片激情电影| 国产精品免费1区2区视频| 欧美碰碰综合色| 97久久天天综合色天天综合色电影| 影音综合网| 校园春色制服丝袜中文字亚洲| 99性视频| 国产超碰| 激情网色| 国产一区二区视频在线播放| 婷婷亚洲综合| 97舔舔| 伊色综合天堂色97| 一区二区三区 丝袜 高跟 美腿| 凹凸视频特色日本特黄| 国产成人bd在线观看| 强免费黄色网址| 久久女婷| 欲色影视综合吧| 亚洲熟女综合| 超碰1024久久| 日韩精品人妻中文字幕有码午| 色色99| 1024香蕉视频| 色色国产| 韩国女主播青草在线| 日韩中文字幕av在线播放| 亚洲老司机123专区| 综合性视频99| 好吊色综合| 免费A片三p视频| 黄色大片免费在线| 免费人成?大片在线播放| 99爱爱| 日韩天美| 亚洲免费97免费| 啊啊啊男女| 亚洲色图欧洲| 伊人久操| 欧美三级一级| 无码9区| 人妻夜夜爽天天爽麻豆三区网站 | 啊啊啊啊无码| 人妻丰满熟妇一区二区三| 欧美激情性爱视频网站| 日本午夜福利影院| 亚洲人成色9999精品久久 | 亚洲综合中文字幕有码| 不卡超碰护士AV在线免费播放| 亚洲情色一区综合| 亚洲,欧美,综合网| 韩国免费播放一级毛片| av最新免费中文字幕| a一区二区三区乱码在线| 激情小说成人日本无码一| 亚州精品人妻一二三区| 91丝袜| 综合网亚洲在线| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 日韩精品视频在线观看一卡二卡| 999狠狠综合| 亚洲天天影视色综合| 伦理第一页| 亚洲AV无线| 欧美色图天堂在线| 久久国产精品视频| 被窝影院午夜看片无码| 午夜影美女日鸡鸡天天视频国产| 一区黄二区黄| 九七毛片九九毛片| 人人操人人摸avav| 91九色丨国产丨爆乳| 亚洲欧美激情小说| 留下AⅤ黄色片| 亚洲网自拍| 精品人妻一区二区三区免费视频| 一区二区三区免费岛国片| 亚洲天堂性爱| 久久久久深夜无码| 丁香五月激情综合国产| 人人爽人人精品乱人伦AV| 国产精品夜夜| 久久秀这里有精品| 少妇69中文| 国产精品白丝| 日本免费不卡二区| 天天欧美| 蜜桃臀av在线观看| 美女91色黄18| 亚洲中文字幕三级在线| 精品传媒在线一区| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 日韩三级在线观看mp4| 亚洲丝袜99| 色在线视频导航| 免费一级毛片在线视频观看| 嗯~啊~快点 死我视频免费看网站| 亚洲精品九九九| 婷婷综合在线| 欧美AB在线| 成人在线视频二区| 三级日本一区二区三区| 日欧美色| 亚洲免费在线探花| 青青草黑寡妇男人天堂| 翔田千里AⅤHD无码| 亚洲一区二区麻豆影院| 97免费在线视频| 婷婷香蕉欧美在线一区二区三区| 欧美亚洲图片| 欧美大码在线视频| 久艾草在线精品视频在线观看| www.婷婷五月天| 91美女小视频| 综合网久久| 日本成人A片网站| 韩日精品福利视频一区不卡在线免| 亚洲av噜噜噜噜噜噜| 人妻精品4K4K4K4K4| 国产精品不卡一区二区三区av| 岛国AV一区二区电影| 国产偷拍网站| 使劲用力艹少妇视频一区二区| 黄色网址在线免费观看| 加勒比海人人操超碰在线| 长长久久曰曰夜夜成人网| 欧美色图99| 长长久久曰曰夜夜成人网| 国产亚洲福利第一页丝袜| 冬京热男人的天堂| 亚洲高清无码在线桃色| 蜜臀99久久国产| 青娱乐亚洲热| 91成人精品在线播放| 97久久超碰日韩精品| av资源在线播放天堂| 欧美日韩97| 色网在线| 色97| 很很热性爱视频| 干超碰碰熟女| 欧美一二级| 东京热激情视频一二三区| 26uuu性| 99999这里都精品| 99热婷婷| 欧美日韩国内不卡| 亚洲电影中字一区二区| 日本中文字幕一区| 激情丁香五月| 色综合国产在线观看| 天天干人妻| 日韩偷拍色图| 久操操| 五十路三级片| 国模不卡| 亚洲无码太久| 麻豆久久一区二区三区| 中文字幕av一区二区三区人妻少妇| 五月激情啪啪| 六月丁香啪啪啪| 成年人三级黄色片视频| 成·人免费午夜在线观看| 欧美九一精品久久久熟妇| 国内毛片国产专区二| 伊人网青青| 青草精品视频日本久久久久网站在线| 久久久久国产精品人妻aⅴ天堂| 口爆欧美91| 熟女人妇一区二区三区| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 免费综合亚洲中文| 超碰午夜| 日韩人妻一区二区| 中英熟女操女| 亚洲影院成人| 78精品| 天天色综合影视网| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 日韩一性一交一A片俄罗斯| 秋霞一集毛片观看| 97无码视频在线播放| 亚洲欧美清纯| 综合五月天| 欧洲人妻视频| 亚洲色图大香| 屌逼传媒| 荡小穴在线观看| 日韩精品三区四区| 求求你操操我| h色99999| 超碰人人干天天射| 蜜桃中文字日产乱幕4区| 熟女性视频| 欧美特大黄一级片片免费| 欧美日本一区二区a人| 肉动漫无遮挡h在线观看| 欧美夜夜草视频| 国产二区三区免费视频| 欧美性生活免费网| 国产免费久久久久| 91精品电影18| 亚洲AV无码久久精品蜜桃小说| 日韩一级二级| 内射黑人| 中文字幕av一区二区三区人妻少妇 | 国产福利一区二| 欧美大香蕉久| 天天干天天舔| 丝袜美腿制服人妻二区中文字幕 | 亚洲一区亚洲天堂| 成人夜夜| 91肉片| 国产91精品福利在线| 国内精品久久久久影院亚洲| 精品在线观看视频在线| 国产精品国产拍高清AV| 久热色情精品| 中文字幕精品专区搜索结果91| 日韩无码第3页| 久久精品一区二区一8| 韩国一级婬片A片无码天美| ji熟女.com| 91丨人妻丨国产丨丝袜| 黄片免费看的| 91婷婷伊人狠人| 超碰97最新人妻| 久久精品成人| 久久久九九九| 在线观看黄色电话| 婷婷五月天福利| 久久久久久久久久久999| 啊嗯嗯啊好大好爽| 超碰97人妻免费在线| 婷婷视频在线免费观看| 欧美成人精品一区二区三区| 亚洲 欧美 日本 国内 首页| 强被迫伦姧在线观看无码网站| 欧美日韩国产色图在线| 情色av电影| 一二三四视频在线社区中文字幕| 超碰九7| 日韩欧美俄罗斯A片| 97久久视频| 中文字幕片| 91男人综合| 日韩Va亚洲va欧美Ⅴa久久| 欧美激情精品| 亚洲av无线观看| 青青草在线成人视频| 色与欲影视天天看综合网| 亚洲婷婷丁香在线| 久久精品国产精品亚洲艾通辽熟妇 | 青青草吊丝| 2017天天插| AV无码久久久精品| 久超超碰| 亚洲自拍欧美色综合| 我爱大香蕉| 欧美十八禁视频| 午夜a成v人电影| 久久婷婷五月天| 日韩av电影网站| 密乳AV免费观看| 国产精品91ai| 91欧美色| 國產尤物AV尤物在線觀看| 丁香六月婷| 日1区2区3区2020| 精品亚洲黄色片 国产精品导航一区二区| 日韩成人精品中文字幕| 中文精品少妇天堂| 中文字幕乱在线伦视频中文字幕乱码在线 | 五月天婷精品激情| 97超碰免费生活| 大香蕉综合网| 天天操女人| 精品一区二区三区丰满熟女-亚洲欧美一区| 日韩一级片在线看| 亚洲宗合网| 日韩综合成人免费视频| 色综合超碰超| 国产亚洲日本精品在线| 色综合加勒比四四季| 亚洲āv网址在线观看| 日韩性爱网址| 天美传媒AV在线播放| 日本天天吊| 狠狠色噜噜狠狠狠狠2018| 极品内射| 日韩日本欧美在线观看| 大香蕉综合| 蜜乳Av成人片网站| 亚洲双插| 亚洲人妻AV| 色香欲影| 久久久久网站-538在线视频-欧美永久乱码| 日本免费中文字幕在线 | 日韩精品一区二区人人人| 很很干很很操| 370p日韩欧美亚洲精品| 熟妇女伦乱视频视频| 99热精品在线观看| 97天天摸天天爽| 9久综合网| 欧洲综合无码| 在线看污网站| 激情五月天婷婷| 内射夫妻三片| 中日韩久久久免费看| 极品色社| 欧美色图综合| 黑人粗大V S日韩女优视频| 99综合网| 亚洲另类欧美精品| 久草精品一区 | 色五月激情AV在线| 另类综合另类| 久久精品福利影院| 欧美偷偷网| 不卡超碰护士AV在线免费播放| 国产成年免费大片黄在线观看| 97超碰中文| 久久综合18p| 国产九九九九九九九九| 国产97在线视频| 第45页一区二区| 性在久久久久久| 人人妻人人玩人人澡人人爽| 91精品婷婷国产综合久久| 嗯……啊…嗯嗯…啊…好舒服| 26uuu最新| 综合欧美色图| 欧美 亚洲 综合 制服 另类| 六六久久日韩不卡| 91精品女厕偷拍视频| 俺去啦自拍| 人人搡人人肉久久精品| 用力操死我| 少妇超碰在线| 草草草视频在线免费看| 久草午夜| 超碰在线1234区| 国产精品久久久久久久久久久久久久久久久久| 人妻少妇久久久| 曰韩av中文字幕专区| 麻豆一区二区AV天美| 亚洲超碰综合网| 九九九九九九九九九五码| 天天看片天天爽| 亚洲欧美精品91| 欧美成人A天堂片在线观看| 久久久精品| 久久精品99久久久久久| 亚洲av总站| 婷婷五月天色色| 制服乱伦| 国产尤物AV尤物在线观看不卡| 婷婷超| 欧美 亚洲 第一页| 久久久久深夜无码| 亚洲国男人的天堂| 91精品丝袜久久久久久| 日韩亚洲国产视频| 天天操夜夜嗨| 黄色欧美性爱视频| 操逼天美3区| 超碰成人公开| 操比国产| 5278欧美一区二区三区| 翔田千里av一区二区三区| 91快色色色色色| 新版天堂中文资源8在线| 日韩无限资源| 丰满美女一级毛片在线播放| 99久久久无码精品国产人| 人人操肉肉| 每日更新AV| 激情五月天色色| 麻豆60秒| ai欧美亚洲小说| 久久社区一区二区三区| 国产av波波国产精品| 又黄又硬又粗又长国产视频| 亚洲日韩精品一区二区| 国产毛片片精品天天看视频| 久久性生大片免费观看性| 2023天天操夜夜操| 国产综合永久精品日韩鬼片| 99热这里只有精| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 1024久久高清视频| 人妻人人澡人人爽人人| av天堂加勒比| 亚洲欧美国产中文视频| 免费操逼视频下载| 久久蜜色情在线视频xxx免费观看| 狠狠2050在线观看| 精品对白久久不卡| 一本大道不卡一二三区| 天天日老熟妇| 欧美骚少妇| 久久久97| 丁香五月激情综合| 欧美 综合 亚洲| 97干色| 操逼操逼视频操逼| 老熟女熟妇| 久伊人网78| 综合伊人激情| 久久国产精品91| 欧美青青草视频| 日韩性爱一级片| 欧洲熟妇xxXx欧美老妇裸体| 亚洲 欧美 小说| 欧美se综合| 九色在线熟女国产黑人| 爱爱动态试试看6 0秒| 九九九国产| 在线观看岛国有码| 亚洲 另类 丝袜 自拍 动漫| 欧美性天天| 女人高潮抽搐喷水视频网站| 亚洲 日本 一 二 三| 玖玖资源视频一区二区三区| 狠狠中文字幕| 中文字幕丝袜美腿| 日韩免费簧片| 亚洲……91| 大香蕉人妻久久| 91黑丝露脚| 丝袜视频网国产90| 91精品啪在线观看国产城中村| 一区二区影视| 秋霞视频一区二区| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 亚洲乱码精品一区二区| 亚洲操逼无码| 日韩青久久| 91人妻中文| 中文字幕超碰CAO| 99国产精品视频尤物| 精爱久久| 成人AV超碰免费在线| 欧美72网页| 91亚洲色人| 久久久久亚洲精品| 国产三级中文有码在线视频| 裸体1区| 久久首页| 操操操操网黑人| 国产精品视频麻豆入口| 福利一级版子| 999亚洲国产视频| 欧美日韩大陆黑人少妇99| 国产精品激情久久久久久久| 裸体美女久久久| 久久精品国产亚洲AV嘿嘿| 成熟熟女国产精品一区二区| 色就色综合| 国产精品国产| 国产99 中文字幕日韩小视频| 欧美97免费| 久久9精品视频| 国产亚洲福利第一页丝袜| 亚州综合图片| 黄片在线免费在线观看| 91日韩国产欧美亚洲另类精盘州至城都| 97天天爽| 中国一级特黄大片护士| 天天爱综合网| 亚州成人A√| 97在线视频观看网站| 精国久久一区二区三区98| 天天综合网站| 在线观看一级α片刺激高潮视频| 九九亚洲精品| 啪啪一区| 大香蕉乱级| 精品一区99999| 91色五月俺来也| 国产欧美一级在线观看| 中文字幕乱妇免费视频| 歐美性天天| 在线国产探花| 国产精品又黄又猛又粗| 亚洲双插| 久草资源在线视频官方总站日韩丝袜美腿 | 久操黄色视频| 性在久久久久久| 2010男人的天堂| 国产AV色黄看到爽| 亚洲一区二区av| 欧洲精品久久| 18精品一区| 精品一区二区成人动漫| ji熟女.com| 国产sv美女内射| 国产精品视频| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 丝袜狠狠草尤物人妻av91| 欧美精品xxxwww| 久久久久久久性爱| 人妻天天爽夜夜爽2| 麻豆区99999| 裸体美女国产免费久久久网站| 国内精品久久人妻性色av| 欧美色九九| 高清孕妇孕交 交孕妇| 色好看av| 裸体美女免费看网站青草| 69精品久久久久中文字幕| 女欧美一区二三区| 91性网| 色香伊人| 亚洲影院小综合| 久久婷婷一区二| 日韩一级二级| 三级片网站在线播放| 巨爆乳一区二区爆乳区| 人人摸.人人色| 国产偷人伦激情在线观看| 97色操| 国产在线激情| 尤物AV免费网站| 男人精品天堂一区| 龙兴卡官方查询| 亚洲自拍一区夜夜操| 欧洲亚洲人妻无码中字久久三区四区| 综合自拍| 六月丁香啪啪| 九九热免费视频| 天天天天干| 九九色婷婷| 激情综合婷婷| 床上啊啊啊一区二区三区| 亚洲啪啪性视频| 曰韩无码777| 亚洲综合五月天| 欧美性爱精品一区二区| 亚洲国产午夜真人一级片中文字幕精品黄网站 | 国产成人在线观看综合| 中国一区二区亚洲人妻| 国产成人精品亚洲日本| 色色色99| 人妻日日干| 强奸a片网| 粉嫩粉嫩一区性色AV片| 在线中文字幕极品av| 婷色五月| 亚洲天堂性爱| 欧美黄色图片| 狠狠干妹子| 玖玖无码超碰| 啊啊啊啊好爽好舒服一区二区易域| 午夜小电影在线插入淫高潮| 欧美操人视频| 一区二区影院| 久久久爆乳翘臀一线天伦理视频| 国产在线76页| 五月天伊人| 国产农村妇女精品1区二区| 激情欧美日韩女同久久| www.久久超碰| 91内射| 超碰人人操97碰| 九九热AV| 蜜伊人色综合97| 国产精品密臀网在线观看| 日韩欧美麻豆 | 色妺妺AⅤ| 中文字幕精品一区欧美| 被体育老师抱着c到高潮| 黑丝少妇麻豆| 欧美最大综合网| 亚洲欧美清纯| 午夜120视频在线观看| www.yw尤物| 97色色色综合网站| 欧美激情精品久久久久久| 蜜臀久久99精品久久久| A 在线网址| 青草视频在线看看看看看看看看看| 不卡九肏| 揉揉日日日日| 亚洲天堂AV在线播放| 激情综合五月| 超碰伊人在线| 国内毛片欧美香蕉精品| 亚洲好看强奸乱伦| 人妻天天爽夜夜爽爽| 国产欧洲精品亚洲午夜拍精品| 久久精品国产亚洲5555| 天天日B夜夜干B时时操B| 综合 亚洲 欧美| 久久‘黄片视频| 蜜臀亚洲中文| 男人天堂2030| 亚洲精品亚洲人成人网| 亚洲Av噜噜一区二区三区妖精| 国产激情视频一区区三区| 性色av网站| 狠插 制服 自拍| 沈阳熟女高潮对白视频| 九月丁香| 国产熟妇一区二区| 国产拍偷精品网站| 五月色综合| av影院十区| 亚洲成人免费中文字幕| 成年男人的天堂| 91精片| 丁香五月天啪啪| 亚洲高潮影院| 中文字幕123| 亚洲少妇色图自慰直播| 国产综合在线视频网站| 黄色乱论网站| www国产精品| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 国产日韩中文字幕欧美| 亚洲一欧洲中文字幕在线 | 九九九草| 无码久久国产| 一区二区三区国产精产| 五月天伊人网| 黄色网址久久精品欧美喷水| 亚洲伊人青青草| 精品v日韩欧美国产| 亭亭在线资源| 日韩人妻播放| 91插B网站| 在线性黄高清免费视频| 欧美91久久久久| 黑丝自慰喷水网站| 中文字幕乱偷人妻久久艾草网| 亚洲天堂精品日韩电影| 狼人综合婷婷激情四射| 中文字幕一区二区视频在线观看| 夜夜夜夜夜夜夜夜夜狠狠狠狠狠狠狠| 女性91网站| 天天欧美色| 黑人美精品 A片| 麻豆伊人网| 亚洲一本色道中文无码aV天美| 国产一区二区久久| 能在线播放的国产三级| 国产熟码AV| 九九热精品| 亚洲成人黄色在线观看| 亚洲自拍欧美国产首页网曝| 亚洲国产一区二区日韩专区| 国产91专区| 午夜精品视频777| 国产深夜福利| 香港成人一级视频在线青青草| 久久国产熟女影院| 中文无线日韩一区| 99热这里只有精品9| 五月亭亭六月丁香| 国产美女激情| 欧美黄色片AAAAA| 亚洲黑人在线| 亚洲一本色码中文字幕| 六月色色| 国产拍偷精品网站| 亚洲欧美日韩电影网站一区 | 97资源站国产精品| 中文字幕视频2区| 日韩亚洲中文字幕在线| 欧美色自拍| 色av中文字| 久操凹凸视频| 蜜桃av色偷偷av老熟女| 久久久不卡区一区二区三区久久久| 亚洲偷拍自拍在线视频| 亚洲欧美伦综合| 成人五月天色网| 五月丁香啪| 影音先锋日本乱伦| 91观看 国产白丝| 中文字日本乱码| 日韩中文字幕在线视频观看| a片久久久久久久久久久久| 欧美在线视频播放| 亚洲日产专区| 中国东北熟女老太婆内谢| 久久美女福利是上海美女| 久久精品熟妇丰满人妻99| 天天综合香 ld视频| 大香蕉啪啪啪| 九月丁香婷婷色| 精品少妇人妻一区二区三区| 97玖玖人妻| 丁香六月啪| 国产乱人伦AVA麻豆软件.| 亚洲超碰97| 999精品女人| 狠狠干妹子| 综合国产97| 六月激情网| 黄片免费久久久久久久| 少妇三P| 九九香蕉网| 成人97人人超碰人人| 女优大全 - 91n| 欧美中字不卡| 粉嫩国产精品久久粉嫩| 福利色色| 精品一区二区人妖| A一区片| 国产日韩久久| 亚洲日韩美女丝袜美腿人妻视频| 九九九精品一区二区无码| 国产精品网站www| 中文高清一区二区的| 啊…啊…操我用力操我| 久久久久国产精品片区无码直播 | 免费的av网| 五月丁香六月| 天天干少妇| www色婷婷| 99精品在线观看| 日韩在线观看中文字幕视频| 操操操日本的逼| 日韩欧美午夜视频在线| 免费一级精品啪啪视频| 人妻丰满熟妇一区二区三| 国产偷人伦激情在线观看| a片在线播放| 国产无码精品久久久久久| 欧美日韩亚洲天堂| 国产精品久久久久9999小说| 国产丁香精品露脸视频| 九t超碰| 96麻豆精品一区二区三区| 人人妻人人爱人人玩| 亚州性色| 成人毛片免费| 国产乱伦视频污| 一区二区三区高清天码| 四虎午夜影院| 尤物网址| 日韩中文字幕在线视频观看| 亚洲欧美日韩精品久久久一区二区 | 天天看天天日天天操| 亚洲中文字幕在现观看| 18禁看网站一区| 内射老妇BBWX0C0CK| 国产精品国产精品国产| 天美传媒精品一区二区| 国产精品人妻无码久久久老鸭窝| 国产精品盗摄 偷窥盗摄| 丁香九月 婷婷| 亚州熟女乱伦| 午夜欧美女人操逼| 亚洲国产无码精品首页久久久| 青青网三级视频| 五月天色图| 亚洲综合校园春色| 蜜桃AV天堂| 久久AV无码AV| 国产又黄又爽又刺激久久久久久| 天天干天天操天天干天天操| 91精品大奶人妻| 久久仑合| 亚洲精品国产熟女久久久| 老熟妇91| 国产精品亚洲无码| 午夜激情成人在线观看| 日本欧美成人片AAAA| 亚洲、日韩、综合、另类| 啊啊啊啊啊舒服| 91精品丝袜久久久久久| 婷婷丁香九月| 九九综合色| av天堂手机版追回| 啪啪91| 啊啊啊啊啊操我视频| 91丝袜美腿网站| 日韩99神马视频播放| 97精选久久| 97免费视频在线观看| 99re99在线视频| 国产五码丝袜屁眼| 好属操| 小草av不卡亚洲二区| 欧美日韩中文字幕不卡| 100啪啪视频大全| 92午夜免费福利视频| 婷婷在线视频| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 亚洲永久永久永久永久一级一级一级精品| 春色综合免费| 999久久久免费精品国产牛牛| 日韩精品一区二区三区色欲| 伊人97色天使| 好吊色综合| A片 AV一级在线播放观看免费| 啊啊啊啊嗯嗯嗯用力好爽 | 91丝袜在线视频| 亚洲一级黄色毛片| 日本 欧美 国产一区| 精品乱码久久久久| 国产传媒日韩| 色色色热| 亚洲综合草草| 女人喷水视频在线观看| 美女淫穴| 丁香五六月啪啪| 欧美男人一区| 91色亚洲| 国产欧美亚洲精品a第2页| 鸥美极品| 久久久亚洲Av| 亚洲在高跟鞋自慰久久在色线| 无码78| 九色 人妻 大香蕉| 上床啊啊啊| 五月丁香啪啪| 久久华人网| 国产福利影视| 超碰午夜| 国产一区二区在线电影| 亚洲91网站| 人人摸人人添人人操| 成人五月天色网| 日韩免费在线视频观看| 黄色成品网站| 老司机深夜18禁污污网站| 久久发布国产伦子伦精品| 日本国产欧美一区三区二区 | 欧美日韩人妻婷婷一区| 久草国产在线视频| 怡春苑东京热| 人妻aa| 青青久久久| 蜜桃久久综合视频| 久久亚洲一区女同性恋中文字幕| 国产强奸乱伦xd| 欧美老妇女内射网址| 国产理论视频在线播放| 欧美久久人妻少妇一区二区| 久久精品国产亚洲AV片多多| 九九九九九九九九九九九蜜桃| 天美麻花大全视频| 91久热| 久久久精品日本一道| 3PAV乱伦视频| 亚州熟妇精品| 强奸乱伦资源| 大奶的诱惑| 91网亚洲| 影音先锋视频在线| 综合亚州欧美| 国语人妻精彩刺激| 夜夜操青青草| 蜜桃精品视频一区二区三区| 99热这里是精品| 麻豆美女丝袜人妻中文| 91精品成人| 欧美丝袜制服久久| 亚州男人天堂| 色诱中文字幕| 色香色欲天天综合网天天来吧| 又黄又硬又粗又长国产视频| 欧美最婬乱婬爆婬性视频 | 超碰无码五月97| 中文字幕在线第二页| 9 9精品一区二区三区| 99少妇| 久久精品老司| 国产又色又爽又舒服的三级视频 | 综合久草| 黄色片A级一区二区三区| 综合婷婷| 午夜精品久久一区二区| 夜夜操美女| 新怡红院| 久久超碰、| www超碰| 亚洲成a人v欧美综合天堂下载| 色九九九综合| 9九九九九视频在线观看| 91色插| 日本性一区| 久草精品国产蜜臀 | 伊人影院在线理论播放| 黑人黄片在线免费观看| 久久性爱视频99| 嗯嗯啊啊好大好爽| 干婷婷综合网| 婷婷丁香在线| 欧美日韩制服| 综合97亚洲| 91婷婷| 国产综合网站在线播放 | 丰满人妻一区二区三区色-百度| 日韩 欧美 国产 麻豆| 久久久工口| 强奸a片网| 国产亚洲中文不卡二区| 丝袜人妻av一区二区| 久久久久ab| 人夜夜精品网站香蕉嫩草| 久久性爱城| 操我无码| 精品熟女呻吟久久91| 久久精品人妻一区二区三区| 精品九九九九九九九九九| 色女网日韩| 亚州伊人色综台| 国产吞精a级片激情电影| 欧美一级国产一级| 国产av激情无码久久天堂| 五月丁香激情四射| nuu12国产麻豆精品| 亚洲青色欧美| 欧亚久久偷拍视频| 成人AV素股で擦久久| 夜夜草网站| 国产版a级片直播在线| 久久人人舔人人爽舔人人av片| 超碰国产精品无码| 一区二区三| 999综合网| 亚洲天堂精品日韩电影| 亚州性9| 中文字幕视频二区| 99re6在线视频播放免费精品| 黑人精品欧美一区二区蜜桃| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 日本色色网| 久久久久人妻| 色婷婷五月天| 欧美黄页在线| 婷婷性爱| 久久五月份| 1区2区3区在线视频| 蜜桃久久久久久久| 可以看的av| 图片区小说区| 欧美日韩性爱操大逼|