Jurassic-2 聊天
AI21 Labs Jurassic 在 Amazon Bedrock 上 Jurassic 是 AI21 Labs 为企业提供的可靠大型语言模型系列，可为数千个实时应用程序提供支持，执行复杂的语言生成任务，例如问答、文本生成、搜索和摘要。
先决条件
请参考 Spring AI 关于 Amazon Bedrock 的文档 以设置 API 访问。
自动配置
将 `spring-ai-bedrock-ai-spring-boot-starter` 依赖项添加到项目的 Maven `pom.xml` 文件
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bedrock-ai-spring-boot-starter</artifactId>
</dependency>或 Gradle `build.gradle` 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-bedrock-ai-spring-boot-starter'
}| 请参考 依赖管理 部分，将 Spring AI BOM 添加到您的构建文件中。 |
启用 Jurassic-2
默认情况下，Bedrock Jurassic-2 模型处于禁用状态。要启用它，请将 `spring.ai.bedrock.jurassic2.chat.enabled` 属性设置为 `true`。导出环境变量是设置此配置属性的一种方法。
export SPRING_AI_BEDROCK_JURASSIC2_CHAT_ENABLED=true聊天属性
前缀 `spring.ai.bedrock.aws` 是用于配置与 AWS Bedrock 连接的属性前缀。
| 属性 | 描述 | 默认值 |
|---|---|---|
spring.ai.bedrock.aws.region |
要使用的 AWS 区域。 |
us-east-1 |
spring.ai.bedrock.aws.timeout |
要使用的 AWS 超时时间。 |
5m |
spring.ai.bedrock.aws.access-key |
AWS 访问密钥。 |
- |
spring.ai.bedrock.aws.secret-key |
AWS 密钥。 |
- |
前缀 `spring.ai.bedrock.jurassic2.chat` 是用于配置 Jurassic-2 聊天模型实现的属性前缀。
| 属性 | 描述 | 默认值 |
|---|---|---|
spring.ai.bedrock.jurassic2.chat.enabled |
启用或禁用对 Jurassic-2 的支持 |
false |
spring.ai.bedrock.jurassic2.chat.model |
要使用的模型 ID（见下文） |
ai21.j2-mid-v1 |
spring.ai.bedrock.jurassic2.chat.options.temperature |
控制输出的随机性。值可以介于 [0.0,1.0]（包含）之间。值越接近 1.0，生成的响应变化越大；值越接近 0.0，模型生成的响应越不令人意外。此值指定后端在调用模型时使用的默认值。 |
0.7 |
spring.ai.bedrock.jurassic2.chat.options.top-p |
采样时要考虑的令牌的最大累积概率。模型使用组合的 Top-k 和 nucleus 采样。nucleus 采样考虑概率和至少为 topP 的最小令牌集。 |
AWS Bedrock 默认值 |
spring.ai.bedrock.jurassic2.chat.options.max-tokens |
指定在生成的响应中使用的最大令牌数。一旦生成的文本超过 maxTokens，模型就会截断响应。 |
500 |
查看 Ai21Jurassic2ChatBedrockApi#Ai21Jurassic2ChatModel 以获取其他模型 ID。支持的另一个值是 `ai21.j2-ultra-v1`。模型 ID 值也可以在 AWS Bedrock 基本模型 ID 文档 中找到。
| 所有以 `spring.ai.bedrock.jurassic2.chat.options` 为前缀的属性都可以在运行时通过向 `Prompt` 调用添加特定于请求的 运行时选项 来覆盖。 |
运行时选项
BedrockAi21Jurassic2ChatOptions.java 提供模型配置，例如 temperature、topP、maxTokens 等。
启动时，可以使用 `BedrockAi21Jurassic2ChatModel(api, options)` 构造函数或 `spring.ai.bedrock.jurassic2.chat.options.*` 属性配置默认选项。
在运行时，您可以通过向 `Prompt` 调用添加新的、特定于请求的选项来覆盖默认选项。例如，要为特定请求覆盖默认温度
ChatResponse response = chatModel.call(
new Prompt(
"Generate the names of 5 famous pirates.",
BedrockAi21Jurassic2ChatOptions.builder()
.withTemperature(0.4)
.build()
));| 除了特定于模型的 BedrockAi21Jurassic2ChatOptions 之外，您还可以使用可移植的 ChatOptions 实例，该实例使用 ChatOptionsBuilder#builder() 创建。 |
示例控制器
创建 一个新的 Spring Boot 项目并将 `spring-ai-bedrock-ai-spring-boot-starter` 添加到您的 pom（或 gradle）依赖项中。
在src/main/resources目录下添加一个application.properties文件，以启用和配置Jurassic-2聊天模型。
spring.ai.bedrock.aws.region=eu-central-1
spring.ai.bedrock.aws.timeout=1000ms
spring.ai.bedrock.aws.access-key=${AWS_ACCESS_KEY_ID}
spring.ai.bedrock.aws.secret-key=${AWS_SECRET_ACCESS_KEY}
spring.ai.bedrock.jurassic2.chat.enabled=true
spring.ai.bedrock.jurassic2.chat.options.temperature=0.8将regions、access-key和secret-key替换为您的AWS凭证。 |
这将创建一个BedrockAi21Jurassic2ChatModel实现，您可以将其注入到您的类中。这是一个使用聊天模型进行文本生成的简单@Controller类的示例。
@RestController
public class ChatController {
private final BedrockAi21Jurassic2ChatModel chatModel;
@Autowired
public ChatController(BedrockAi21Jurassic2ChatModel chatModel) {
this.chatModel = chatModel;
}
@GetMapping("/ai/generate")
public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
return Map.of("generation", this.chatModel.call(message));
}
}手动配置
BedrockAi21Jurassic2ChatModel实现了ChatModel接口，并使用低级客户端连接到Bedrock Jurassic-2服务。
将spring-ai-bedrock依赖项添加到您项目的Maven pom.xml文件中。
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bedrock</artifactId>
</dependency>或 Gradle `build.gradle` 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-bedrock'
}| 请参考 依赖管理 部分，将 Spring AI BOM 添加到您的构建文件中。 |
接下来，创建一个BedrockAi21Jurassic2ChatModel并将其用于文本生成。
Ai21Jurassic2ChatBedrockApi api = new Ai21Jurassic2ChatBedrockApi(Ai21Jurassic2ChatModel.AI21_J2_MID_V1.id(),
EnvironmentVariableCredentialsProvider.create(),
Region.US_EAST_1.id(),
new ObjectMapper(),
Duration.ofMillis(1000L));
BedrockAi21Jurassic2ChatModel chatModel = new BedrockAi21Jurassic2ChatModel(this.api,
BedrockAi21Jurassic2ChatOptions.builder()
.withTemperature(0.5)
.withMaxTokens(100)
.withTopP(0.9).build());
ChatResponse response = this.chatModel.call(
new Prompt("Generate the names of 5 famous pirates."));低级客户端
Ai21Jurassic2ChatBedrockApi在AWS Bedrock Jurassic-2和Jurassic-2 Chat模型之上提供了一个轻量级的Java客户端。
Ai21Jurassic2ChatBedrockApi支持ai21.j2-mid-v1和ai21.j2-ultra-v1模型，并且只支持同步(chatCompletion())操作。
这是一个关于如何以编程方式使用API的简单代码片段。
Ai21Jurassic2ChatBedrockApi jurassic2ChatApi = new Ai21Jurassic2ChatBedrockApi(
Ai21Jurassic2ChatModel.AI21_J2_MID_V1.id(),
Region.US_EAST_1.id(),
Duration.ofMillis(1000L));
Ai21Jurassic2ChatRequest request = Ai21Jurassic2ChatRequest.builder("Hello, my name is")
.withTemperature(0.9)
.withTopP(0.9)
.withMaxTokens(20)
.build();
Ai21Jurassic2ChatResponse response = this.jurassic2ChatApi.chatCompletion(this.request);请参阅Ai21Jurassic2ChatBedrockApi.java的Javadoc以获取更多信息。
