聊天模型对比

此表比较了 Spring AI 支持的各种聊天模型，详细介绍了它们的功能

  • 多模态: 模型可以处理的输入类型（例如，文本、图像、音频、视频）。

  • 工具/函数: 模型是否支持函数调用或工具使用。

  • 流式传输: 模型是否提供流式响应。

  • 重试: 对重试机制的支持。

  • 可观测性: 用于监控和调试的功能。

  • 内置 JSON: 对 JSON 输出的原生支持。

  • 本地部署: 模型是否可以本地运行。

  • OpenAI API 兼容性: 模型是否与 OpenAI 的 API 兼容。

提供商 多模态 工具/函数 流式传输 重试 可观测性 内置 JSON 本地 OpenAI API 兼容

Anthropic Claude

文本，图像
yes
yes
yes
yes
no
no
no

Azure OpenAI

文本，图像
yes
yes
yes
yes
yes
no
yes

Google VertexAI Gemini

文本，图像，音频，视频
yes
yes
yes
yes
yes
no
yes

Groq（OpenAI 代理）

文本，图像
yes
yes
yes
yes
no
no
yes

HuggingFace

文本
no
no
no
no
no
no
no

Mistral AI

文本
yes
yes
yes
yes
yes
no
yes

MiniMax

文本
yes
yes
yes
yes
no
no

Moonshot AI

文本
no
yes
yes
yes
no
no

NVIDIA（OpenAI 代理）

文本，图像
yes
yes
yes
yes
no
no
yes

OCI GenAI/Cohere

文本
no
no
no
yes
no
no
no

Ollama

文本，图像
yes
yes
yes
yes
yes
yes
yes

OpenAI

文本，图像
yes
yes
yes
yes
yes
no
yes

千帆

文本
no
yes
yes
yes
no
no
no

智谱 AI

文本
yes
yes
yes
yes
no
no
no

Watsonx.AI

文本
no
yes
no
no
no
no
no

Amazon Bedrock/Cohere

文本
no
yes
no
no
no
no
no

Amazon Bedrock/Jurassic

文本
no
no
no
no
no
no
no

Amazon Bedrock/Llama

文本
no
yes
no
no
no
no
no

Amazon Bedrock/Titan

文本
no
yes
no
no
no
no
no

Amazon Bedrock/Anthropic 3

文本
no
yes
no
no
no
no
no