02. 为什么很多大模型系统需要异步任务和消息队列？
整理异步化在大模型系统中的必要性。
简单回答
因为很多任务耗时长、依赖外部服务或不适合阻塞用户请求，异步任务能把高延迟流程从主链路里拆出来。
详细解析
- 例如批量文档解析、离线建索引、长文本总结、复杂 Agent 任务都更适合异步执行。
- 消息队列可以起到削峰填谷、失败重试和任务解耦的作用。
- 如果所有任务都同步执行，接口时延、资源占用和稳定性都会很差。
- 从工程角度看，异步化是系统从 demo 走向生产的常见分水岭。
面试时可以这样答
回答时最好举一个长耗时任务的例子，比如文档入库或批量评测。
常见追问
- 异步任务状态怎么回传给前端？
- 消息队列失败重试要注意什么？