deepseek-ai/DeepSeek-R1-Distill-Qwen-14B · Hugging Face

DeepSeek-R1-Distill-Qwen-14B代表了AI推理模型的重大进步，展示了强化学习在不需要监督微调的情况下实现高性能的能力。这个模型是DeepSeek-R1的一个迭代版本，以其在涉及数学、编码和推理任务中匹敌甚至超越OpenAI模型的能力而脱颖而出。值得注意的是，经过提炼的版本DeepSeek-R1-Distill-Qwen-32B为密集模型设定了新的基准，超越了其前身。对于研究社区来说，DeepSeek-R1及其经过提炼的模型的开源是一项重大贡献，为在允许的MIT许可下在本地运行这些模型并将其整合到商业项目中提供了机会。这些模型源自具有自己许可的Qwen-2.5和Llama3系列，为其应用增添了一层多样性。如果您对尖端AI推理模型及其实际应用感兴趣，探索DeepSeek-R1-Distill-Qwen-14B可能是您时间的有价值的投资。- DeepSeek-R1是一个通过大规模强化学习（RL）训练的推理模型，具有出色的推理性能。 - DeepSeek-R1-Zero是DeepSeek-R1的前身，通过RL训练而成，但存在一些问题，如无限重复、可读性差和语言混合。 - DeepSeek-R1通过在RL之前引入冷启动数据来解决这些问题，并进一步提高推理性能。 - DeepSeek-R1在数学、代码和推理任务上的表现与OpenAI-o1相当。 - DeepSeek-R1-Distill-Qwen-32B在各种基准测试中表现优异，成为稠密模型的最新最佳结果。 - DeepSeek-R1和其API的开源将使研究社区能够在未来提炼更好的较小模型。 - DeepSeek-R1-Distill模型是基于DeepSeek-R1生成的样本进行微调的，表现出色。 - DeepSeek-R1系列支持商业使用，并允许进行任何修改和衍生作品，包括用于训练其他LLMs的蒸馏。 - DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B和DeepSeek-R1-Distill-Qwen-32B是基于Qwen-2.5系列进行微调的。 - DeepSeek-R1-Distill-Llama-8B是基于Llama3.1-8B-Base进行微调的。 - DeepSeek-R1-Distill-Llama-70B是基于Llama3.3-70B-Instruct进行微调的。