CIS Test Engine: 高分辨率 CMOS 图像传感器测试系统
Published:
面向工业产线的 50MP CMOS 图像传感器测试系统，基于 C++17 + CUDA 实现异构加速，单组数据处理仅需 0.51 秒。
Projects
Multimodal RAG Agent: 多模态客服智能体
Published:
面向产品客服场景的多模态智能体系统，基于 RAG 检索增强生成，支持中英文双语、情感感知、幻觉抑制，处理 20 万字以上产品说明书。
vLLM Inference: 高并发 LLM 推理服务系统
Published:
基于 vLLM + FastAPI 构建的生产级推理服务，自研 Dynamic Batching（Leader/Follower 模式），支持 OpenAI 兼容 API 和 SSE 流式输出。
Mini vLLM: 从零实现 LLM 推理引擎
Published:
系统性复现 vLLM 核心模块，包括 PagedAttention、Continuous Batching、KV Cache Manager 等，深入理解大模型推理系统底层原理。