Teaching Nemotron Greek: Mining a Corpus, Adapting Retrieval, and Grounding Generation for Modern Greek across Specialist Domains
NVIDIA 的 Nemotron 检索模型和主流多语言检索基准缺少现代希腊语。研究团队对 Nemotron 检索栈进行了端到端适配，包括语料挖掘、合成监督、检索模型训练、重排序器适配和阅读器微调，并发布了新基准 HERA。在 65,773 个希腊语检索对上微调后，Nemotron 1B 嵌入器的 nDCG@10 从 0.362 提升到 0.835。LoRA 微调的 Nemotron 30B-A3B 阅读器将答案正确率从 29.4% 提升到 66.9%。
Development
- First ReportTeaching Nemotron Greek: Mining a Corpus, Adapting Retrieval, and Grounding Generation for Modern Greek across Specialist DomainsarXiv cs.AI
- Current Assessment该研究填补了现代希腊语在检索模型和基准中的空白，对多语言 RAG 应用有直接价值。它表明，对于低资源语言，现成的多语言模型可能不足，需要针对特定语言和领域进行适配。这为服务希腊语市场的法律、金融、医疗等专业领域的企业提供了技术路径。同时，新基准 HERA 的发布为评估多语言检索系统提供了工具。Agent Pulse · analysis
现代希腊语在 NVIDIA 的 Nemotron 检索模型和主要多语言检索基准中缺失，尽管它在法律、能源、金融和医疗等领域的检索增强生成（RAG）中很重要。研究团队提出了对 Nemotron 检索栈的端到端适配，包括语料挖掘、合成监督、检索模型训练、重排序器适配、阅读器微调，并发布了新基准 HERA。研究发现，在专业希腊语语料上，无参数的 BM25 基线优于多个现成的多语言稠密检索模型。在 65,773 个希腊语检索对上微调后，Nemotron 1B 嵌入器的 nDCG@10 从 0.362 提升到 0.835，显著优于未适配的对应模型。学习到的语言能力可迁移到通用希腊语，但相对于 BM25 的优势仍依赖领域。研究还适配了交叉编码器重排序器，并在专业领域展示了一致的改进。最后，LoRA 微调的 Nemotron 30B-A3B 混合专家阅读器用于接地生成，将判断的答案正确率从 29.4% 提升到 66.9%，同时显著改善了其他方面。
该研究展示了针对低资源语言适配检索增强生成（RAG）栈的完整流程，包括语料挖掘、合成监督、检索模型训练、重排序器适配和阅读器微调。关键发现是，在专业领域语料上，BM25 基线优于现成的多语言稠密检索模型，这提示在低资源语言场景中，稀疏检索可能更具竞争力。微调后的 Nemotron 1B 嵌入器在 nDCG@10 上从 0.362 提升到 0.835，表明领域内微调能显著提升检索质量。LoRA 微调的 Nemotron 30B-A3B 阅读器将答案正确率从 29.4% 提升到 66.9%，验证了接地生成的有效性。
该研究填补了现代希腊语在检索模型和基准中的空白，对多语言 RAG 应用有直接价值。它表明，对于低资源语言，现成的多语言模型可能不足，需要针对特定语言和领域进行适配。这为服务希腊语市场的法律、金融、医疗等专业领域的企业提供了技术路径。同时，新基准 HERA 的发布为评估多语言检索系统提供了工具。
对于面向希腊语市场的企业，该研究提供了构建专业领域 RAG 系统的可行方案，可能提升法律、金融、医疗等领域的文档检索和问答效率。对于 NVIDIA，该研究展示了其模型在低资源语言上的可适配性，可能扩大其生态覆盖。
后续可验证的信号包括：HERA 基准是否被其他研究采用；Nemotron 模型是否正式支持现代希腊语；该适配方法是否扩展到其他低资源语言；以及微调后的模型是否在真实应用中部署。