上下文没有超长，为什么 LLM 并发一上来仍然 OOM？

知识点学习 分类

2026

07-13

上下文没有超长，为什么 LLM 并发一上来仍然 OOM？

07-13

Embedding 模型换了，维度明明一样，为什么召回率仍然崩了？

07-13

Redis 缓存命中了，为什么 RAG 仍返回旧答案，甚至串了租户？

07-13

加上 Ray 后任务更多了，为什么批量 Embedding 反而更慢？

07-13

Pytest 全绿，为什么线上 RAG 仍然一改就坏？

07-13

MySQL 已提交、FAISS 也已保存，为什么 RAG 仍会读到错版本？

07-13

LangChain 链能回答问题，为什么引用却经常对不上？

07-13

FastAPI 写了 `async def`，为什么一个慢请求仍会拖住整个服务？

07-13

FAISS 搜得很快，为什么召回的不是正确答案？

07-13

Drogon 性能很高，为什么一个慢请求仍能拖垮服务？异步 C++ Web 实战