Chutian Duan
AI Application & C++ Vision Deployment Engineer
RAG / Agent · C++ Backend · Linux · ONNX Runtime · Computer Vision
构建从模型训练、检索增强、异步任务到 Linux 服务部署的端到端 AI 系统。
Core Projects
三个核心项目
01
RAG / Agent 平台
面向知识库问答与工具调用场景的 AI 应用平台,采用 C++ Drogon 网关承接对外请求,FastAPI / Celery 负责任务编排,Redis / MySQL 管理状态、会话与元数据。
系统覆盖向量检索、BM25、重排序、SSE 流式输出与 Agent Trace,重点是把 RAG 链路做成可追踪、可评估、可部署的后端系统。
02
YOLO ONNX Tracking Service
基于 ONNX Runtime C++、OpenCV、ByteTrack 和 LK 光流的 Linux CPU 视频目标检测与跟踪服务。
实现动态抽帧检测、光流中间帧传播、轨迹管理与 HTTP 推理接口,在保证跟踪效果的同时降低 ONNX 推理次数。
| 模式 | ONNX 调用次数 | 加速比 | F1 |
|---|---|---|---|
| Full ONNX | 962 | 1.0x | 1.000 |
| Dynamic ONNX + Flow | 278 | 2.99x | 0.937 |
| Fixed ONNX + Flow | 161 | 4.59x | 0.910 |
Technical Focus
技术能力地图
AI Application
RAG · Agent · Retrieval · Rerank · SSE · vLLM
C++ Backend
Drogon · libevent · CMake · Redis · MySQL · Linux
Vision Deployment
YOLO · ONNX Runtime · OpenCV · ByteTrack · Optical Flow
Engineering
CTest · GoogleTest · CI · Benchmark · Docker Basics
Writing
技术文章入口
博客仍然保留,但它的角色是证明项目理解:记录架构拆解、性能权衡、测试设计和部署经验。