用：從YOLOX模型到RK3568邊緣部署的TaoToken配置實(shí)踐)
1. 垃圾分類應(yīng)用在 RK3568 上跑通為什么還要折騰 TaoToken把 YOLOX 訓(xùn)練好的垃圾分類模型塞進(jìn) RK3568 邊緣盒子用 OpenVINO 做推理加速、oneAPI AI Analytics Toolkit 做數(shù)據(jù)預(yù)處理和性能分析、ModelBox 串起整條視頻流推理鏈路這套組合本身已經(jīng)能跑出一個能用的 demo。但真正落地到項(xiàng)目里問題往往不在模型精度而在調(diào)用鏈路怎么統(tǒng)一管理——本地調(diào)試用一套 Key邊緣設(shè)備上線又換一套Cline 里配一次、CC Switch 里再配一次模型對話、代碼補(bǔ)全、Agent 任務(wù)各走各的通道最后連自己都記不清哪個 Key 對應(yīng)哪個環(huán)境。這篇就聚焦這個痛點(diǎn)在 OpenVINO oneAPI YOLOX ModelBox RK3568 這條邊緣推理鏈路上用 TaoToken 把模型調(diào)用的 Key 和 API 通道統(tǒng)一起來給出可以直接復(fù)制的config.toml和settings.json骨架再用 Cline 和 CC Switch 做接入驗(yàn)證確保邊緣端模型調(diào)用鏈路可復(fù)現(xiàn)。適合已經(jīng)在做邊緣 AI 部署、被多套 Key 管理搞煩的開發(fā)者也適合剛接觸 RK3568 ModelBox 想少踩坑的新手。整條鏈路的分工是這樣的YOLOX 負(fù)責(zé)垃圾分類檢測OpenVINO 負(fù)責(zé)在 RK3568 的 NPU/CPU 上加速推理oneAPI AI Analytics Toolkit 負(fù)責(zé)數(shù)據(jù)預(yù)處理和性能剖析ModelBox 負(fù)責(zé)把數(shù)據(jù)源、預(yù)處理、推理、后處理、輸出串成流程圖。TaoToken 則在這條鏈路之外統(tǒng)一管理你調(diào)用大模型能力比如讓模型幫你生成后處理代碼、解釋報錯、優(yōu)化流程圖配置時的 Key 和通道。兩者不沖突一個是推理引擎一個是調(diào)用入口。2. TaoToken 前置準(zhǔn)備Key、通道與配置文件位置在動手改 ModelBox 工程之前先把 TaoToken 這邊的準(zhǔn)備工作做完。官網(wǎng)入口是 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 地址是 https://taotoken.net/api 注意 API 地址不帶 UTM 參數(shù)配置里填這個就行。第一步是拿 Key。進(jìn)入控制臺后創(chuàng)建 API Key建議按環(huán)境分本地調(diào)試一個、RK3568 邊緣設(shè)備一個。這樣后面排查問題時能快速定位是哪個環(huán)境出的錯?？刂婆_地址走這個 deep linkhttps://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewrite API Keys 管理頁在這里https://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi-keysutm_campaignrewrite 。第二步是確認(rèn)你要用的模型通道。垃圾分類應(yīng)用本身不依賴大模型推理但你在開發(fā)過程中會用到模型對話來生成后處理代碼、解釋 OpenVINO 轉(zhuǎn)換報錯、優(yōu)化 ModelBox 流程圖。模型對話入口https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite 。如果你打算長期用 Cline 做編碼輔助或者跑 Agent 任務(wù)自動生成 flowunit那 Coding Plan 更合適https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 。第三步是確認(rèn)接入文檔不同工具的配置字段名不一樣別憑記憶填。文檔入口https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 。如果你用的是 Claude Code 這類 Anthropic 協(xié)議的工具單獨(dú)看這個https://taotoken.net/claudecode-anthropic?utm_sourcetaotoken_aicg_blog_endutm_contentclaudecode-anthropicutm_campaignrewrite 。注意Key 不要硬編碼進(jìn) ModelBox 工程的graph/*.toml或bin/mock_task.toml這些文件會跟著 rpm 打包走。統(tǒng)一放在獨(dú)立的config.toml和settings.json里用環(huán)境變量或本地配置文件引用。3. 可復(fù)制配置config.toml 與 settings.json 骨架先給config.toml骨架。這個文件放在工程根目錄或者你的工具配置目錄下用來統(tǒng)一管理 TaoToken 的通道信息。字段名按你實(shí)際使用的工具調(diào)整下面這份是通用骨架# config.toml - TaoToken 統(tǒng)一通道配置 # 放在工程根目錄不要提交到公開倉庫 [taotoken] base_url https://taotoken.net/api api_key sk-你的Key timeout 60 max_retries 3 [taotoken.models] # 模型對話通道用于生成后處理代碼、解釋報錯 chat claude-sonnet # 編碼輔助通道用于 Cline 生成 flowunit coding claude-sonnet [taotoken.env] # 按環(huán)境區(qū)分RK3568 邊緣設(shè)備用 edge name edge-rk3568 device rk3568 note 垃圾分類應(yīng)用邊緣部署環(huán)境再給settings.json骨架。這個文件主要給 Cline、CC Switch 這類工具用字段名按工具要求來下面是通用結(jié)構(gòu){ taotoken: { baseUrl: https://taotoken.net/api, apiKey: sk-你的Key, defaultModel: claude-sonnet, timeout: 60000, retries: 3 }, cline: { provider: taotoken, model: claude-sonnet, autoApprove: false }, ccSwitch: { profiles: { local: { baseUrl: https://taotoken.net/api, apiKey: sk-本地Key }, edge: { baseUrl: https://taotoken.net/api, apiKey: sk-邊緣Key } }, active: local } }兩個文件的分工要清楚config.toml管通道和模型選擇settings.json管工具側(cè)的接入?yún)?shù)。改 Key 只改一處工具側(cè)引用變量不要每個工具各填一遍。提示如果你在 RK3568 上跑的是 ModelBox 的 rpm 包配置文件建議放在/etc/garbage_det/下權(quán)限設(shè)成 600避免打包時被帶進(jìn) rpm。4. 驗(yàn)證請求Cline 與 CC Switch 接入動作配置寫完不算完得驗(yàn)證通道真的通。先驗(yàn)證模型對話通道用 curl 發(fā)一個最小請求curl -X POST https://taotoken.net/api/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer sk-你的Key \ -d { model: claude-sonnet, messages: [{role: user, content: 用一句話說明 YOLOX 的解耦頭作用}], max_tokens: 100 }返回里能看到choices[0].message.content就說明通道通了。如果返回 401檢查 Key 有沒有復(fù)制全返回 404檢查 base_url 是不是多寫了/v1或者少寫了。接著驗(yàn)證 Cline 接入。打開 VS Code在 Cline 設(shè)置里把 provider 選成自定義base URL 填https://taotoken.net/apiAPI Key 填你的 Key模型填claude-sonnet。然后在 Cline 對話框里輸入幫我寫一個 ModelBox flowunit 的 toml 配置模板看它能不能正常返回。能返回就說明 Cline 通道通了。再驗(yàn)證 CC Switch。CC Switch 的作用是快速切換不同環(huán)境的 Key你在settings.json里配了local和edge兩個 profile切到edge后重新發(fā)一次請求確認(rèn)返回正常。這一步很關(guān)鍵因?yàn)?RK3568 邊緣設(shè)備上線時用的就是edge這個 profile本地驗(yàn)證通過不代表邊緣端也通。最后驗(yàn)證邊緣端。把config.toml和settings.json拷到 RK3568 上用同樣的 curl 命令發(fā)一次請求。如果邊緣設(shè)備網(wǎng)絡(luò)受限先確認(rèn)能不能訪問https://taotoken.net/api再確認(rèn) Key 有沒有過期。5. 本篇常見錯排查從 OpenVINO 轉(zhuǎn)換到 ModelBox 流程圖第一個高頻錯OpenVINO 轉(zhuǎn)換 YOLOX 模型時報Unsupported operation: DecoupledHead。YOLOX 的解耦頭在 OpenVINO 里需要額外處理不能直接轉(zhuǎn)。解決辦法是先用 ONNX 導(dǎo)出再用 OpenVINO 的mo工具轉(zhuǎn)轉(zhuǎn)換時加--input_shape [1,3,640,640]和--mean_values [123.675,116.28,103.53]如果還報錯把解耦頭拆成獨(dú)立子圖再轉(zhuǎn)。第二個高頻錯ModelBox 流程圖里yolox_post的類別數(shù)和模型輸出對不上。垃圾分類數(shù)據(jù)集是 44 類但模板默認(rèn)是手部檢測的類別數(shù)。改yolox_post.toml時把class_num改成 44同時改yolox_post.py里的clss_to_text字典確保 0 到 43 都有對應(yīng)中文或英文標(biāo)簽。漏改一個就會出現(xiàn)檢測框畫出來但標(biāo)簽是空的。第三個高頻錯RK3568 上跑 ModelBox 報libopenvino.so not found。這是 OpenVINO 運(yùn)行時庫沒裝全。在 RK3568 上執(zhí)行l(wèi)dconfig -p | grep openvino看有沒有庫沒有的話把 OpenVINO 的 runtime 庫拷到/usr/lib/下再執(zhí)行l(wèi)dconfig。第四個高頻錯TaoToken 請求返回 429。這是觸發(fā)了限流檢查config.toml里的max_retries和timeout把重試次數(shù)調(diào)到 3 次以上timeout 調(diào)到 60 秒。如果還是 429說明短時間內(nèi)請求太密集加個 sleep 或者降低并發(fā)。第五個高頻錯Cline 里填了 Key 但一直轉(zhuǎn)圈。先確認(rèn) base URL 是不是https://taotoken.net/api不要帶/v1Cline 會自己拼。再確認(rèn)模型名是不是claude-sonnet填錯模型名會一直等超時。注意排查時優(yōu)先用 curl 驗(yàn)證通道curl 通了再查工具配置curl 不通先查 Key 和網(wǎng)絡(luò)。這樣能快速定位是通道問題還是工具問題。6. 邊緣端模型調(diào)用鏈路復(fù)現(xiàn)從配置到驗(yàn)證的完整動作把上面的步驟串起來復(fù)現(xiàn)動作是這樣的先在本地把config.toml和settings.json寫好用 curl 驗(yàn)證模型對話通道再用 Cline 驗(yàn)證編碼輔助通道再用 CC Switch 切換 profile 驗(yàn)證多環(huán)境。本地全通之后把兩個配置文件拷到 RK3568在邊緣設(shè)備上再跑一次 curl 驗(yàn)證。邊緣端通了再把 ModelBox 工程打包成 rpm部署到 RK3568 上跑垃圾分類推理。這條鏈路的關(guān)鍵在于配置和推理分離TaoToken 管調(diào)用通道OpenVINO oneAPI YOLOX ModelBox 管推理鏈路兩者通過配置文件解耦。這樣你換 Key、換模型、換環(huán)境都不用動推理代碼反過來優(yōu)化推理性能也不用動調(diào)用配置。如果你在 RK3568 上跑的是長期 Agent 任務(wù)比如自動生成 flowunit 代碼、自動優(yōu)化流程圖配置那 Coding Plan 比按次調(diào)用更劃算入口在這里https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 。如果只是偶爾用模型對話解釋報錯模型對話通道就夠了https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite 。最后一步驗(yàn)證在 RK3568 上跑完垃圾分類推理打開hilens_data_dir/garbage_detection_result.mp4確認(rèn)檢測框和標(biāo)簽都正常。同時確認(rèn) TaoToken 的 curl 請求也正常返回。兩個都通說明整條鏈路可復(fù)現(xiàn)。如果推理正常但 TaoToken 請求失敗查邊緣設(shè)備網(wǎng)絡(luò)如果 TaoToken 正常但推理失敗查 OpenVINO 庫和 ModelBox 流程圖配置。 基于OpenVINO與oneAPI AI Analytics Toolkit的垃圾分類應(yīng)用：從YOLOX模型到RK3568邊緣部署的TaoToken配置實(shí)踐
1. 垃圾分類應(yīng)用在 RK3568 上跑通為什么還要折騰 TaoToken把 YOLOX 訓(xùn)練好的垃圾分類模型塞進(jìn) RK3568 邊緣盒子用 OpenVINO 做推理加速、oneAPI AI Analytics Toolkit 做數(shù)據(jù)預(yù)處理和性能分析、ModelBox 串起整條視頻流推理鏈路這套組合本身已經(jīng)能跑出一個能用的 demo。但真正落地到項(xiàng)目里問題往往不在模型精度而在調(diào)用鏈路怎么統(tǒng)一管理——本地調(diào)試用一套 Key邊緣設(shè)備上線又換一套Cline 里配一次、CC Switch 里再配一次模型對話、代碼補(bǔ)全、Agent 任務(wù)各走各的通道最后連自己都記不清哪個 Key 對應(yīng)哪個環(huán)境。這篇就聚焦這個痛點(diǎn)在 OpenVINO oneAPI YOLOX ModelBox RK3568 這條邊緣推理鏈路上用 TaoToken 把模型調(diào)用的 Key 和 API 通道統(tǒng)一起來給出可以直接復(fù)制的config.toml和settings.json骨架再用 Cline 和 CC Switch 做接入驗(yàn)證確保邊緣端模型調(diào)用鏈路可復(fù)現(xiàn)。適合已經(jīng)在做邊緣 AI 部署、被多套 Key 管理搞煩的開發(fā)者也適合剛接觸 RK3568 ModelBox 想少踩坑的新手。整條鏈路的分工是這樣的YOLOX 負(fù)責(zé)垃圾分類檢測OpenVINO 負(fù)責(zé)在 RK3568 的 NPU/CPU 上加速推理oneAPI AI Analytics Toolkit 負(fù)責(zé)數(shù)據(jù)預(yù)處理和性能剖析ModelBox 負(fù)責(zé)把數(shù)據(jù)源、預(yù)處理、推理、后處理、輸出串成流程圖。TaoToken 則在這條鏈路之外統(tǒng)一管理你調(diào)用大模型能力比如讓模型幫你生成后處理代碼、解釋報錯、優(yōu)化流程圖配置時的 Key 和通道。兩者不沖突一個是推理引擎一個是調(diào)用入口。2. TaoToken 前置準(zhǔn)備Key、通道與配置文件位置在動手改 ModelBox 工程之前先把 TaoToken 這邊的準(zhǔn)備工作做完。官網(wǎng)入口是 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 地址是 https://taotoken.net/api 注意 API 地址不帶 UTM 參數(shù)配置里填這個就行。第一步是拿 Key。進(jìn)入控制臺后創(chuàng)建 API Key建議按環(huán)境分本地調(diào)試一個、RK3568 邊緣設(shè)備一個。這樣后面排查問題時能快速定位是哪個環(huán)境出的錯?？刂婆_地址走這個 deep linkhttps://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewrite API Keys 管理頁在這里https://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi-keysutm_campaignrewrite 。第二步是確認(rèn)你要用的模型通道。垃圾分類應(yīng)用本身不依賴大模型推理但你在開發(fā)過程中會用到模型對話來生成后處理代碼、解釋 OpenVINO 轉(zhuǎn)換報錯、優(yōu)化 ModelBox 流程圖。模型對話入口https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite 。如果你打算長期用 Cline 做編碼輔助或者跑 Agent 任務(wù)自動生成 flowunit那 Coding Plan 更合適https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 。第三步是確認(rèn)接入文檔不同工具的配置字段名不一樣別憑記憶填。文檔入口https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite 。如果你用的是 Claude Code 這類 Anthropic 協(xié)議的工具單獨(dú)看這個https://taotoken.net/claudecode-anthropic?utm_sourcetaotoken_aicg_blog_endutm_contentclaudecode-anthropicutm_campaignrewrite 。注意Key 不要硬編碼進(jìn) ModelBox 工程的graph/*.toml或bin/mock_task.toml這些文件會跟著 rpm 打包走。統(tǒng)一放在獨(dú)立的config.toml和settings.json里用環(huán)境變量或本地配置文件引用。3. 可復(fù)制配置config.toml 與 settings.json 骨架先給config.toml骨架。這個文件放在工程根目錄或者你的工具配置目錄下用來統(tǒng)一管理 TaoToken 的通道信息。字段名按你實(shí)際使用的工具調(diào)整下面這份是通用骨架# config.toml - TaoToken 統(tǒng)一通道配置 # 放在工程根目錄不要提交到公開倉庫 [taotoken] base_url https://taotoken.net/api api_key sk-你的Key timeout 60 max_retries 3 [taotoken.models] # 模型對話通道用于生成后處理代碼、解釋報錯 chat claude-sonnet # 編碼輔助通道用于 Cline 生成 flowunit coding claude-sonnet [taotoken.env] # 按環(huán)境區(qū)分RK3568 邊緣設(shè)備用 edge name edge-rk3568 device rk3568 note 垃圾分類應(yīng)用邊緣部署環(huán)境再給settings.json骨架。這個文件主要給 Cline、CC Switch 這類工具用字段名按工具要求來下面是通用結(jié)構(gòu){ taotoken: { baseUrl: https://taotoken.net/api, apiKey: sk-你的Key, defaultModel: claude-sonnet, timeout: 60000, retries: 3 }, cline: { provider: taotoken, model: claude-sonnet, autoApprove: false }, ccSwitch: { profiles: { local: { baseUrl: https://taotoken.net/api, apiKey: sk-本地Key }, edge: { baseUrl: https://taotoken.net/api, apiKey: sk-邊緣Key } }, active: local } }兩個文件的分工要清楚config.toml管通道和模型選擇settings.json管工具側(cè)的接入?yún)?shù)。改 Key 只改一處工具側(cè)引用變量不要每個工具各填一遍。提示如果你在 RK3568 上跑的是 ModelBox 的 rpm 包配置文件建議放在/etc/garbage_det/下權(quán)限設(shè)成 600避免打包時被帶進(jìn) rpm。4. 驗(yàn)證請求Cline 與 CC Switch 接入動作配置寫完不算完得驗(yàn)證通道真的通。先驗(yàn)證模型對話通道用 curl 發(fā)一個最小請求curl -X POST https://taotoken.net/api/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer sk-你的Key \ -d { model: claude-sonnet, messages: [{role: user, content: 用一句話說明 YOLOX 的解耦頭作用}], max_tokens: 100 }返回里能看到choices[0].message.content就說明通道通了。如果返回 401檢查 Key 有沒有復(fù)制全返回 404檢查 base_url 是不是多寫了/v1或者少寫了。接著驗(yàn)證 Cline 接入。打開 VS Code在 Cline 設(shè)置里把 provider 選成自定義base URL 填https://taotoken.net/apiAPI Key 填你的 Key模型填claude-sonnet。然后在 Cline 對話框里輸入幫我寫一個 ModelBox flowunit 的 toml 配置模板看它能不能正常返回。能返回就說明 Cline 通道通了。再驗(yàn)證 CC Switch。CC Switch 的作用是快速切換不同環(huán)境的 Key你在settings.json里配了local和edge兩個 profile切到edge后重新發(fā)一次請求確認(rèn)返回正常。這一步很關(guān)鍵因?yàn)?RK3568 邊緣設(shè)備上線時用的就是edge這個 profile本地驗(yàn)證通過不代表邊緣端也通。最后驗(yàn)證邊緣端。把config.toml和settings.json拷到 RK3568 上用同樣的 curl 命令發(fā)一次請求。如果邊緣設(shè)備網(wǎng)絡(luò)受限先確認(rèn)能不能訪問https://taotoken.net/api再確認(rèn) Key 有沒有過期。5. 本篇常見錯排查從 OpenVINO 轉(zhuǎn)換到 ModelBox 流程圖第一個高頻錯OpenVINO 轉(zhuǎn)換 YOLOX 模型時報Unsupported operation: DecoupledHead。YOLOX 的解耦頭在 OpenVINO 里需要額外處理不能直接轉(zhuǎn)。解決辦法是先用 ONNX 導(dǎo)出再用 OpenVINO 的mo工具轉(zhuǎn)轉(zhuǎn)換時加--input_shape [1,3,640,640]和--mean_values [123.675,116.28,103.53]如果還報錯把解耦頭拆成獨(dú)立子圖再轉(zhuǎn)。第二個高頻錯ModelBox 流程圖里yolox_post的類別數(shù)和模型輸出對不上。垃圾分類數(shù)據(jù)集是 44 類但模板默認(rèn)是手部檢測的類別數(shù)。改yolox_post.toml時把class_num改成 44同時改yolox_post.py里的clss_to_text字典確保 0 到 43 都有對應(yīng)中文或英文標(biāo)簽。漏改一個就會出現(xiàn)檢測框畫出來但標(biāo)簽是空的。第三個高頻錯RK3568 上跑 ModelBox 報libopenvino.so not found。這是 OpenVINO 運(yùn)行時庫沒裝全。在 RK3568 上執(zhí)行l(wèi)dconfig -p | grep openvino看有沒有庫沒有的話把 OpenVINO 的 runtime 庫拷到/usr/lib/下再執(zhí)行l(wèi)dconfig。第四個高頻錯TaoToken 請求返回 429。這是觸發(fā)了限流檢查config.toml里的max_retries和timeout把重試次數(shù)調(diào)到 3 次以上timeout 調(diào)到 60 秒。如果還是 429說明短時間內(nèi)請求太密集加個 sleep 或者降低并發(fā)。第五個高頻錯Cline 里填了 Key 但一直轉(zhuǎn)圈。先確認(rèn) base URL 是不是https://taotoken.net/api不要帶/v1Cline 會自己拼。再確認(rèn)模型名是不是claude-sonnet填錯模型名會一直等超時。注意排查時優(yōu)先用 curl 驗(yàn)證通道curl 通了再查工具配置curl 不通先查 Key 和網(wǎng)絡(luò)。這樣能快速定位是通道問題還是工具問題。6. 邊緣端模型調(diào)用鏈路復(fù)現(xiàn)從配置到驗(yàn)證的完整動作把上面的步驟串起來復(fù)現(xiàn)動作是這樣的先在本地把config.toml和settings.json寫好用 curl 驗(yàn)證模型對話通道再用 Cline 驗(yàn)證編碼輔助通道再用 CC Switch 切換 profile 驗(yàn)證多環(huán)境。本地全通之后把兩個配置文件拷到 RK3568在邊緣設(shè)備上再跑一次 curl 驗(yàn)證。邊緣端通了再把 ModelBox 工程打包成 rpm部署到 RK3568 上跑垃圾分類推理。這條鏈路的關(guān)鍵在于配置和推理分離TaoToken 管調(diào)用通道OpenVINO oneAPI YOLOX ModelBox 管推理鏈路兩者通過配置文件解耦。這樣你換 Key、換模型、換環(huán)境都不用動推理代碼反過來優(yōu)化推理性能也不用動調(diào)用配置。如果你在 RK3568 上跑的是長期 Agent 任務(wù)比如自動生成 flowunit 代碼、自動優(yōu)化流程圖配置那 Coding Plan 比按次調(diào)用更劃算入口在這里https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite 。如果只是偶爾用模型對話解釋報錯模型對話通道就夠了https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_contentmodelsutm_campaignrewrite 。最后一步驗(yàn)證在 RK3568 上跑完垃圾分類推理打開hilens_data_dir/garbage_detection_result.mp4確認(rèn)檢測框和標(biāo)簽都正常。同時確認(rèn) TaoToken 的 curl 請求也正常返回。兩個都通說明整條鏈路可復(fù)現(xiàn)。如果推理正常但 TaoToken 請求失敗查邊緣設(shè)備網(wǎng)絡(luò)如果 TaoToken 正常但推理失敗查 OpenVINO 庫和 ModelBox 流程圖配置。