Titan Chat
Amazon Titan 基础模型 (FM) 通过完全托管的 API 为客户提供广泛的高性能图像、多模态嵌入和文本模型选择。Amazon Titan 模型由 AWS 创建，并使用大型数据集进行预训练，使其成为功能强大、通用的模型，可用于支持各种用例，同时还支持负责任地使用 AI。您可以按原样使用它们，也可以使用您自己的数据对其进行私有定制。
AWS Bedrock Titan 模型页面 和 Amazon Bedrock 用户指南 包含有关如何使用 AWS 托管模型的详细信息。
先决条件
请参考 Spring AI 关于 Amazon Bedrock 的文档 以设置 API 访问权限。
自动配置
将 `spring-ai-bedrock-ai-spring-boot-starter` 依赖项添加到您项目的 Maven `pom.xml` 文件
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bedrock-ai-spring-boot-starter</artifactId>
</dependency>或您的 Gradle `build.gradle` 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-bedrock-ai-spring-boot-starter'
}| 请参考 依赖项管理 部分，将 Spring AI BOM 添加到您的构建文件中。 |
启用 Titan Chat
默认情况下，Titan 模型处于禁用状态。要启用它，请将 `spring.ai.bedrock.titan.chat.enabled` 属性设置为 `true`。导出环境变量是设置此配置属性的一种方法。
export SPRING_AI_BEDROCK_TITAN_CHAT_ENABLED=true聊天属性
前缀 `spring.ai.bedrock.aws` 是用于配置与 AWS Bedrock 连接的属性前缀。
| 属性 | 描述 | 默认值 |
|---|---|---|
spring.ai.bedrock.aws.region |
要使用的 AWS 区域。 |
us-east-1 |
spring.ai.bedrock.aws.timeout |
要使用的 AWS 超时时间。 |
5m |
spring.ai.bedrock.aws.access-key |
AWS 访问密钥。 |
- |
spring.ai.bedrock.aws.secret-key |
AWS 密钥。 |
- |
前缀 `spring.ai.bedrock.titan.chat` 是用于配置 Titan 的聊天模型实现的属性前缀。
| 属性 | 描述 | 默认值 |
|---|---|---|
spring.ai.bedrock.titan.chat.enabled |
启用 Bedrock Titan 聊天模型。默认情况下禁用。 |
false |
spring.ai.bedrock.titan.chat.model |
要使用的模型 ID。请参阅 TitanChatBedrockApi#TitanChatModel 以了解受支持的模型。 |
amazon.titan-text-lite-v1 |
spring.ai.bedrock.titan.chat.options.temperature |
控制输出的随机性。值范围为 [0.0,1.0] |
0.7 |
spring.ai.bedrock.titan.chat.options.topP |
采样时要考虑的令牌的最大累积概率。 |
AWS Bedrock 默认值 |
spring.ai.bedrock.titan.chat.options.stopSequences |
配置最多四个生成模型识别的序列。在停止序列之后，生成模型停止生成更多令牌。返回的文本不包含停止序列。 |
AWS Bedrock 默认值 |
spring.ai.bedrock.titan.chat.options.maxTokenCount |
指定在生成的响应中使用的令牌的最大数量。请注意，模型可能在达到此最大值之前停止。此参数仅指定要生成的令牌的绝对最大数量。我们建议限制为 4,000 个令牌以获得最佳性能。 |
AWS Bedrock 默认值 |
查看TitanChatBedrockApi#TitanChatModel以获取其他模型ID。支持的值为：amazon.titan-text-lite-v1、amazon.titan-text-express-v1和amazon.titan-text-premier-v1:0。模型ID值也可以在AWS Bedrock 基本模型ID 文档中找到。
所有以spring.ai.bedrock.titan.chat.options为前缀的属性都可以在运行时通过向Prompt调用添加特定于请求的运行时选项来覆盖。 |
运行时选项
BedrockTitanChatOptions.java提供了模型配置，例如温度、topP等。
启动时，可以使用BedrockTitanChatModel(api, options)构造函数或spring.ai.bedrock.titan.chat.options.*属性配置默认选项。
在运行时，您可以通过向Prompt调用添加新的、特定于请求的选项来覆盖默认选项。例如，要覆盖特定请求的默认温度
ChatResponse response = chatModel.call(
new Prompt(
"Generate the names of 5 famous pirates.",
BedrockTitanChatOptions.builder()
.withTemperature(0.4)
.build()
));| 除了特定于模型的BedrockTitanChatOptions之外，您还可以使用可移植的ChatOptions实例，该实例使用ChatOptionsBuilder#builder()创建。 |
示例控制器
创建一个新的Spring Boot项目，并将spring-ai-bedrock-ai-spring-boot-starter添加到您的pom（或gradle）依赖项中。
在src/main/resources目录下添加一个application.properties文件，以启用和配置Titan聊天模型。
spring.ai.bedrock.aws.region=eu-central-1
spring.ai.bedrock.aws.timeout=1000ms
spring.ai.bedrock.aws.access-key=${AWS_ACCESS_KEY_ID}
spring.ai.bedrock.aws.secret-key=${AWS_SECRET_ACCESS_KEY}
spring.ai.bedrock.titan.chat.enabled=true
spring.ai.bedrock.titan.chat.options.temperature=0.8将regions、access-key和secret-key替换为您的AWS凭据。 |
这将创建一个BedrockTitanChatModel实现，您可以将其注入到您的类中。这是一个使用聊天模型进行文本生成的简单@Controller类的示例。
@RestController
public class ChatController {
private final BedrockTitanChatModel chatModel;
@Autowired
public ChatController(BedrockTitanChatModel chatModel) {
this.chatModel = chatModel;
}
@GetMapping("/ai/generate")
public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
return Map.of("generation", this.chatModel.call(message));
}
@GetMapping("/ai/generateStream")
public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
Prompt prompt = new Prompt(new UserMessage(message));
return this.chatModel.stream(prompt);
}
}手动配置
BedrockTitanChatModel实现了ChatModel和StreamingChatModel，并使用低级TitanChatBedrockApi客户端连接到Bedrock Titanic服务。
将spring-ai-bedrock依赖项添加到项目的Maven pom.xml文件中。
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bedrock</artifactId>
</dependency>或您的 Gradle `build.gradle` 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-bedrock'
}| 请参考 依赖项管理 部分，将 Spring AI BOM 添加到您的构建文件中。 |
接下来，创建一个BedrockTitanChatModel并将其用于文本生成。
TitanChatBedrockApi titanApi = new TitanChatBedrockApi(
TitanChatModel.TITAN_TEXT_EXPRESS_V1.id(),
EnvironmentVariableCredentialsProvider.create(),
Region.US_EAST_1.id(),
new ObjectMapper(),
Duration.ofMillis(1000L));
BedrockTitanChatModel chatModel = new BedrockTitanChatModel(this.titanApi,
BedrockTitanChatOptions.builder()
.withTemperature(0.6)
.withTopP(0.8)
.withMaxTokenCount(100)
.build());
ChatResponse response = this.chatModel.call(
new Prompt("Generate the names of 5 famous pirates."));
// Or with streaming responses
Flux<ChatResponse> response = this.chatModel.stream(
new Prompt("Generate the names of 5 famous pirates."));低级TitanChatBedrockApi客户端
TitanChatBedrockApi提供了一个基于AWS Bedrock的轻量级Java客户端Bedrock Titan模型。
下面的类图说明了TitanChatBedrockApi接口和构建块。
客户端支持amazon.titan-text-lite-v1和amazon.titan-text-express-v1模型，用于同步（例如chatCompletion()）和流式（例如chatCompletionStream()）响应。
这是一个关于如何以编程方式使用api的简单片段。
TitanChatBedrockApi titanBedrockApi = new TitanChatBedrockApi(TitanChatCompletionModel.TITAN_TEXT_EXPRESS_V1.id(),
Region.US_EAST_1.id(), Duration.ofMillis(1000L));
TitanChatRequest titanChatRequest = TitanChatRequest.builder("Give me the names of 3 famous pirates?")
.withTemperature(0.5)
.withTopP(0.9)
.withMaxTokenCount(100)
.withStopSequences(List.of("|"))
.build();
TitanChatResponse response = this.titanBedrockApi.chatCompletion(this.titanChatRequest);
Flux<TitanChatResponseChunk> response = this.titanBedrockApi.chatCompletionStream(this.titanChatRequest);
List<TitanChatResponseChunk> results = this.response.collectList().block();请遵循TitanChatBedrockApi的JavaDoc以获取更多信息。
