【阿里】-大模型开发-校招一面，俺不中嘞
阿里大模型岗面经
- 什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？
- 什么是 Embedding？词嵌入和句嵌入有何不同？
- 大语言模型中的 Tokenization 是如何工作的？不同模型的分词算法有何差异？
- 简述大语言模型中的 Prompt Engineering 技巧，如何设计有效的提示词提升模型输出质量？
- 对比 Zero-Shot、Few-Shot 和 In-Context Learning，它们在大语言模型中的应用场景和局限性分别是什么？
- 什么是 LoRA？它在大语言模型微调中的优势和原理是什么？
- 大语言模型的 RLHF 训练流程是什么？它存在哪些潜在风险？
- 介绍一下大语言模型中的知识蒸馏，它如何用于压缩模型体积？
- DeepSeek 优化了哪些？为什么不用 PPO，而是用 GRPO？
- 对比大语言模型的增量推理和传统推理方式，增量推理的优势和实现难点是什么？
- 大语言模型在推理时出现幻觉现象的原因是什么？有哪些缓解方法？
- 大语言模型的长文本处理能力有限，目前有哪些技术可以缓解这一问题？
- 什么是大语言模型的上下文窗口？扩展上下文窗口对模型性能有何影响？
- 目前多模态大语言模型是如何融合文本与图像信息的？
- 如何评估大语言模型的性能？常见的评测指标和基准数据集有哪些？
- 单个 LLM 能否帮助用户完成完整行程规划，比如从出行到酒店都订好票？