Claude 3.5 Haiku vs Gemini 1.5 Flash：基准对比

详细对比 Claude 3.5 Haiku 与 Gemini 1.5 Flash 的基准表现、定价、上下文窗口与合规性。

发布: · 更新:

核心规格对比

规格Claude 3.5 HaikuGemini 1.5 Flash
厂商anthropicgoogle
版本3.5-haiku1.5-flash
发布日期2024-11-042024-05-14
上下文窗口200000 tokens1e+06 tokens
输入模态text, imagetext, image, audio, video
输出模态texttext
许可ProprietaryProprietary
SOC2✓✓
HIPAA✗✗
GDPR✓✓
ISO 27001✗✓

基准测试结果

基准Claude 3.5 HaikuGemini 1.5 Flash胜出
ARC91.893.4Gemini 1.5 Flash
BBH70.271.7Gemini 1.5 Flash
GPQA31.138.5Gemini 1.5 Flash
GSM8K75.575.2Claude 3.5 Haiku
HUMANEVAL73.867.5Claude 3.5 Haiku
IFEVAL73.668Claude 3.5 Haiku
MATH5353.2Gemini 1.5 Flash
MMLU77.676Claude 3.5 Haiku
MUSR52.346.1Claude 3.5 Haiku
WINOGRANDE83.878.9Claude 3.5 Haiku

定价对比

项目 (每百万Token)Claude 3.5 HaikuGemini 1.5 Flash
输入$0.8$0.075
输出$4$0.3
缓存读$0$0
缓存写$0$0

Claude 3.5 Haiku 对比 Gemini 1.5 Flash

模型概述

Claude 3.5 Haiku 与 Gemini 1.5 Flash 均为 AI 模型市场的重要选项。本页对比两者在基准、定价与合规性上的差异。

核心规格对比

厂商发布日期上下文窗口许可证
Anthropic / Google2024-11-04 / 2024-05-14200K / 1000KProprietary / Proprietary

基准测试表现

基准Claude 3.5 HaikuGemini 1.5 Flash胜出
ARC91.893.4B
BBH (BIG-Bench Hard)70.271.7B
GPQA31.138.5B
GSM8K (Grade School Math 8K)75.575.2Tie
HumanEval73.867.5A
IFEval73.668.0A
MATH53.053.2Tie
MMLU (Massive Multitask Language Understanding)77.676.0A
MUSR52.346.1A
WinoGrande83.878.9A

定价对比

输入输出缓存读取缓存写入
— / —— / —— / —— / —

每百万 token — A / B

优势 & 劣势

Claude 3.5 Haiku

  • ✅ 可靠的通用模型。
  • ⚠️ 闭源专有模型，不支持自托管。

Gemini 1.5 Flash

  • ✅ 支持文本、图像、音频多模态输入。
  • ✅ 上下文窗口 1000K，支持长文本。
  • ⚠️ 闭源专有模型，不支持自托管。

编辑点评

Claude 3.5 Haiku 与 Gemini 1.5 Flash 各有侧重。建议根据具体场景（代码、长文本、视觉等）选择，参考上方基准与定价表。

常见问题

哪个模型在代码任务上更优？

参考 HumanEval 基准得分表，得分更高者更适合代码任务。

哪个模型价格更低？

参考上方的定价对比表，输入/输出价格更低者更具成本优势。

上下文窗口哪个更长？

参考核心规格对比表，上下文窗口更大的模型适合长文档处理。

参考文献

编辑点评

See Editor's Take section.