DBRX
Databricksの文本モデル · リリース日 2024-03
オープンソース
文本
开源
API 可用
模型简介
DBRX は、データプラットフォーム大手 Databricks が発表したオープンソース MoE モデルで、細粒度のエキスパート混合アーキテクチャを採用しています。プログラミング、数学、汎用推論で優れた性能を発揮し、MMLU で 73.7% の精度を達成しています。DBRX は Databricks が 1000万ドルを投じてトレーニングした代表作であり、エンタープライズレベルのプラットフォームの大規模モデル分野における実力を示しています。
核心特性
- 细粒度 MoE 架构
- 132B 总参数
- 36B 活跃参数
- 编程能力强
核心优势
- MoE 架构创新
- 企业级质量
- 开源可商用
技术规格
参数量
132B (36B 激活)
上下文窗口
32K tokens
API 支持
はい
开源状态
オープンソース
发布日期
2024-03
提供商
Databricks
价格信息
免费开源
基准测试
MMLU 73.7%, HumanEval 70.1%, 企业级开源模型标杆