视觉部署与C++ 系统实践
我是无名，记录视觉模型部署与 C++ 网络服务的实现、调试和性能验证，也整理 RAG / Agent 应用的工程笔记。
30.11 FPS有效检测速率
12.17 MiB混合精度模型
2026-10-19 · Hybrid · 800×608 · 单路 JPEG 回放 10 分钟，检测速率受约 30 FPS 输入限制。查看实测记录 ↗
RK3588 / VISIONTRACK
摄像头到轨迹输出
YUYV 采集V4L2
共享图像缓冲DMA-BUF
不同帧分发至 3 个 Worker
- Worker 0RGA → RKNNContext 0
NPU Core0 - Worker 1RGA → RKNNContext 1
NPU Core1 - Worker 2RGA → RKNNContext 2
NPU Core2
按序汇合 · 拒绝迟到结果
ByteTrack目标跟踪 → 轨迹 / JSONL
01 / 项目
项目
最近做的几个项目，代码和实现笔记都在这里。
01
目标检测与跟踪
VisionTrack / YOLO Tracking
将 YOLO 检测与跟踪部署到 RK3588，结合混合精度量化和设备间共享缓冲处理摄像头视频。
- PTQ INT8 + 部分 FP16，缩小模型与运行内存占用
- DMA-BUF 零拷贝路径，MPP / RGA / NPU 协同处理
02
知识库问答
RAG Gateway Stack
导入文件和网页后，可以检索文档、提问，并查看回答引用和工具调用记录。
- C++ 网关接入 Python 服务，异步处理文档和索引
- 检索结果重排、Agent 工具调用和流式回答
03
TCP 聊天服务
Libevent Chat Server
用 libevent 写的 TCP 聊天服务器，支持房间消息和私信，处理多线程连接分发与慢客户端积压。
- 一个线程接受连接，多个 Worker 分别处理读写
- 按行传输 JSON，限制每个连接的发送缓冲
04
动作游戏同步
Fighting Netcode
C++20 动作游戏同步 Demo，客户端先响应输入，再根据服务器状态修正预测。
- 服务器以 60Hz 推进模拟，UDP 重复携带近期输入
- 客户端回滚并重放输入，用状态哈希检查一致性
05
图像尺寸测量
ScrewMetrology
用 OpenCV 定位离线图片中的螺钉，测量长度、头宽和杆宽。
- 分割工件轮廓，确定主轴和测量方向
- 亚像素边缘测量，输出叠加图、尺寸与公差结果