DBRX

一款新的尖端开放LLM

2024-03-28

DBRX
在一系列标准基准测试中,DBRX为现有的开源大型语言模型设立了新的技术标杆。此外,它还为开源社区和正在构建自己大型语言模型的企业提供了以往仅限于闭源模型API的能力。
DBRX是由Databricks开发的尖端开源大型语言模型(LLM),旨在为性能和效率设定新标准。它超越了如GPT-3.5这样的成熟开源模型,并与Gemini 1.0 Pro竞争,在编程、数学和通用任务方面表现出色。基于细粒度的混合专家(MoE)架构构建,DBRX相比其他模型使用更少的活跃参数,实现了更快的推理速度和更高质量的输出。它在12万亿个精选数据标记上进行了预训练,提供了卓越的标记效率和训练性能。DBRX在Hugging Face上可用,赋能企业和开放社区构建和定制自己的LLM,使先进的人工智能能力对所有人开放。
Open Source Artificial Intelligence GitHub