RAG / AGENT GATEWAY
ClientWeb / App
GATEWAY
QueryRouter
RetrieverVector / Rerank
LLMAgent Loop
RedisCache / Session
LanceDBVector Store
TraceAudit Log
01 / 项目
项目
最近做的几个项目，代码和实现笔记都在这里。
01
知识库问答
RAG Gateway Stack
导入文件和网页后，可以检索文档、提问，并查看回答引用和工具调用记录。
- C++ 网关接入 Python 服务，异步处理文档和索引
- 检索结果重排、Agent 工具调用和流式回答
02
目标检测与跟踪
VisionTrack / YOLO Tracking
将 YOLO 检测与跟踪部署到 RK3588，结合混合精度量化和设备间共享缓冲处理摄像头视频。
- PTQ INT8 + 部分 FP16，缩小模型与运行内存占用
- DMA-BUF 零拷贝路径，MPP / RGA / NPU 协同处理
03
TCP 聊天服务
Libevent Chat Server
用 libevent 写的 TCP 聊天服务器，支持房间消息和私信，处理多线程连接分发与慢客户端积压。
- 一个线程接受连接，多个 Worker 分别处理读写
- 按行传输 JSON，限制每个连接的发送缓冲
04
动作游戏同步
Fighting Netcode
C++20 动作游戏同步 Demo，客户端先响应输入，再根据服务器状态修正预测。
- 服务器以 60Hz 推进模拟，UDP 重复携带近期输入
- 客户端回滚并重放输入，用状态哈希检查一致性
05
图像尺寸测量
ScrewMetrology
用 OpenCV 定位离线图片中的螺钉，测量长度、头宽和杆宽。
- 分割工件轮廓，确定主轴和测量方向
- 亚像素边缘测量，输出叠加图、尺寸与公差结果