通过YaRN方案扩展上下文窗口，让大型模型在prompt中学习更多示例

🆕最新资讯🆕
最近，Nous Research、EleutherAI和日内瓦大学的研究团队提出了一种名为YaRN的方案，旨在通过扩展上下文窗口来解决使用大型语言模型时的输入字符限制问题。传统的限制会限制上下文学习和思维链等技术的发挥，而YaRN方案在实验中展现出了比其他方法更好的效果。它不仅能够让用户提供更多的示例数量，还发布了使用YaRN微调的相关信息。让我们来了解一下这个令人兴奋的方案如何帮助大型模型在prompt中学习更多示例。
来源：https://zhuanlan.zhihu.com/jiqizhixin