Unsloth
微调LLMs速度提升2倍,内存减少80%
2025-03-01

Unsloth 可以以两倍的速度微调 LLMs(DeepSeek、Llama 3、Mistral、Gemma、Qwen、Phi 等),内存使用最多减少 80%。开源,提供免费的 Colab 笔记本。现在具备推理能力!
Unsloth 加速了如 DeepSeek、Llama 3 和 Mistral 这样的大型语言模型(LLMs)的微调过程,速度提升了两倍,同时内存使用减少了高达80%。这个开源工具包含免费的Colab笔记本,并现在支持高级推理能力,使其成为优化LLM性能的一个高效且易于使用的解决方案。
Open Source
Artificial Intelligence
GitHub
Development