核心规格对比

规格Llama 3.1 405BMistral Large 2
厂商metamistral
版本3.1-405blarge-2
发布日期2024-07-232024-07-24
上下文窗口128000 tokens128000 tokens
输入模态texttext
输出模态texttext
许可Llama 3 Community LicenseMistral Research License
SOC2
HIPAA
GDPR
ISO 27001

基准测试结果

基准Llama 3.1 405BMistral Large 2胜出
BBH82.981Llama 3.1 405B
GSM8K89.293Mistral Large 2
HUMANEVAL8992Mistral Large 2
MATH73.871Llama 3.1 405B
MMLU88.684Llama 3.1 405B

定价对比

项目 (每百万Token)Llama 3.1 405BMistral Large 2
输入$5$2
输出$15$6
缓存读$0$0
缓存写$0$0

Llama 3.1 405B 对比 Mistral Large 2

模型概述

Llama 3.1 405B 与 Mistral Large 2 均为 AI 模型市场的重要选项。本页对比两者在基准、定价与合规性上的差异。

核心规格对比

厂商发布日期上下文窗口许可证
Meta / Mistral2024-07-23 / 2024-07-24128K / 128KLlama 3 Community License / Mistral Research License

基准测试表现

基准Llama 3.1 405BMistral Large 2胜出
BBH (BIG-Bench Hard)82.981.0A
GSM8K (Grade School Math 8K)89.293.0B
HumanEval89.092.0B
MATH73.871.0A
MMLU (Massive Multitask Language Understanding)88.684.0A

定价对比

输入输出缓存读取缓存写入
— / —— / —— / —— / —

每百万 token — A / B

优势 & 劣势

Llama 3.1 405B

  • ✅ MMLU 得分 88.6,知识推理能力强。
  • ✅ HumanEval 89.0,代码生成能力出色。
  • ✅ GSM8K 89.2,数学推理稳健。
  • ⚠️ 闭源专有模型,不支持自托管。

Mistral Large 2

  • ✅ MMLU 得分 84.0,知识推理能力强。
  • ✅ HumanEval 92.0,代码生成能力出色。
  • ✅ GSM8K 93.0,数学推理稳健。
  • ⚠️ 闭源专有模型,不支持自托管。

编辑点评

Llama 3.1 405B 与 Mistral Large 2 各有侧重。建议根据具体场景(代码、长文本、视觉等)选择,参考上方基准与定价表。

常见问题

哪个模型在代码任务上更优?

参考 HumanEval 基准得分表,得分更高者更适合代码任务。

哪个模型价格更低?

参考上方的定价对比表,输入/输出价格更低者更具成本优势。

上下文窗口哪个更长?

参考核心规格对比表,上下文窗口更大的模型适合长文档处理。

参考文献

编辑点评

See Editor's Take section.