警告
服务层级属于旧版功能。
警告
Priority Tier(优先层级)容量承诺已不再提供购买。已有承诺的组织可以在合同到期日之前继续使用 Priority Tier,本页面将继续作为参考保留供其使用。如果您需要有保障的容量,请联系销售。
Anthropic 提供三种服务层级:
- Priority Tier(优先层级): 仅适用于已有容量承诺的组织
- Standard(标准层级): 默认层级,适用于日常用例的试点和规模化扩展
- Batch(批处理层级): 最适合可以等待、或能从脱离您的常规容量中获益的异步工作流
标准层级
标准层级是所有 API 请求的默认服务层级。API 会以尽力而为的可用性,将这些请求与所有其他请求一同进行优先级处理。
Priority Tier
API 会将此层级中的请求优先于所有其他请求进行处理。这种优先处理有助于最大限度地减少“服务器过载”错误,即使在高峰时段也是如此。
有关更多信息,请参阅现有 Priority Tier 承诺。
请求如何被分配层级
在处理请求时,Anthropic 会在以下情况下决定将请求分配到 Priority Tier:
- 您的组织拥有足够的 Priority Tier 容量每分钟输入令牌
- 您的组织拥有足够的 Priority Tier 容量每分钟输出令牌
Anthropic 按如下方式将用量计入 Priority Tier 容量:
输入令牌
- 缓存读取:从缓存中读取的每个令牌计为 0.1 个令牌
- 缓存写入:每写入 5 分钟 TTL 缓存 1 个令牌计为 1.25 个令牌
- 缓存写入:每写入 1 小时 TTL 缓存 1 个令牌计为 2.00 个令牌
- 对于在 Claude 4.6 及更高版本模型上的仅限美国推理(
inference_geo: "us")请求,每个输入令牌计为 1.1 个令牌 - 所有其他输入令牌均为每个令牌计为 1 个令牌
输出令牌
- 对于在 Claude 4.6 及更高版本模型上的仅限美国推理(
inference_geo: "us")请求,每个输出令牌计为 1.1 个令牌 - 所有其他输出令牌均为每个令牌计为 1 个令牌
否则,请求将按标准层级处理。
注意
这些消耗率反映了每种令牌类型的相对定价。例如,仅限美国推理在 Claude 4.6 及更高版本模型上的定价为 1.1 倍,因此使用
inference_geo: "us"消耗的每个令牌会从您的 Priority Tier 容量中扣除 1.1 个令牌。
注意
分配到 Priority Tier 的请求会同时占用 Priority Tier 容量和常规速率限制。 如果处理该请求会超出速率限制,则该请求将被拒绝。
使用服务层级
您可以通过设置 service_tier 参数来控制请求可以使用哪些服务层级:
cURL
curl https://api.anthropic.com/v1/messages \
-H "x-api-key: $ANTHROPIC_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "content-type: application/json" \
-d '{
"model": "claude-opus-4-8",
"max_tokens": 1024,
"messages": [{"role": "user", "content": "Hello, Claude!"}],
"service_tier": "auto"
}'
CLI
ant messages create <<'YAML'
model: claude-opus-4-8
max_tokens: 1024
messages:
- role: user
content: Hello, Claude!
service_tier: auto # Automatically use Priority Tier when available, fall back to standard
YAML
Python
client = anthropic.Anthropic()
message = client.messages.create(
model="claude-opus-4-8",
max_tokens=1024,
messages=[{"role": "user", "content": "Hello, Claude!"}],
service_tier="auto", # Automatically use Priority Tier when available, fall back to standard
)
print(message.usage.service_tier)
TypeScript
const client = new Anthropic();
const message = await client.messages.create({
model: "claude-opus-4-8",
max_tokens: 1024,
messages: [{ role: "user", content: "Hello, Claude!" }],
service_tier: "auto" // Automatically use Priority Tier when available, fall back to standard
});
console.log(message.usage.service_tier);
C#
AnthropicClient client = new();
var message = await client.Messages.Create(new MessageCreateParams
{
Model = Model.ClaudeOpus4_8,
MaxTokens = 1024,
Messages = [new UserMessageParam { Content = "Hello, Claude!" }],
ServiceTier = ServiceTier.Auto, // Automatically use Priority Tier when available, fall back to standard
});
Console.WriteLine(message.Usage.ServiceTier);
Go
client := anthropic.NewClient()
message, err := client.Messages.New(context.TODO(), anthropic.MessageNewParams{
Model: anthropic.ModelClaudeOpus4_8,
MaxTokens: 1024,
Messages: []anthropic.MessageParam{
anthropic.NewUserMessage(anthropic.NewTextBlock("Hello, Claude!")),
},
// 在可用时自动使用 Priority Tier(优先级层级),否则回退到标准层级
ServiceTier: anthropic.MessageNewParamsServiceTierAuto,
})
if err != nil {
log.Fatal(err)
}
fmt.Println(message.Usage.ServiceTier)
Java
AnthropicClient client = AnthropicOkHttpClient.fromEnv();
MessageCreateParams params = MessageCreateParams.builder()
.model(Model.CLAUDE_OPUS_4_8)
.maxTokens(1024L)
.addUserMessage("Hello, Claude!")
// 在可用时自动使用 Priority Tier,否则回退到标准层级
.serviceTier(MessageCreateParams.ServiceTier.AUTO)
.build();
Message message = client.messages().create(params);
IO.println(message.usage().serviceTier().orElseThrow());
PHP
$client = new Client();
$message = $client->messages->create(
model: Model::CLAUDE_OPUS_4_8,
maxTokens: 1024,
messages: [['role' => 'user', 'content' => 'Hello, Claude!']],
serviceTier: 'auto', // Automatically use Priority Tier when available, fall back to standard
);
echo $message->usage->serviceTier;
Ruby
client = Anthropic::Client.new
message = client.messages.create(
model: Anthropic::Model::CLAUDE_OPUS_4_8,
max_tokens: 1024,
messages: [{ role: "user", content: "Hello, Claude!" }],
service_tier: :auto # Automatically use Priority Tier when available, fall back to standard
)
puts(message.usage.service_tier)
service_tier 参数接受以下值:
"auto"(默认)- 如果可用则使用 Priority Tier 容量,否则回退到您的其他容量"standard_only"- 仅使用 Standard 层级容量,适用于您不想使用 Priority Tier 容量的情况
响应的 usage 对象还包含分配给该请求的服务层级:
{
"usage": {
"input_tokens": 410,
"cache_creation_input_tokens": 0,
"cache_read_input_tokens": 0,
"output_tokens": 585,
"service_tier": "priority"
}
}
这使您能够确定请求被分配到了哪个服务层级。
当对具有 Priority Tier 承诺的模型请求 service_tier="auto" 时,以下响应头会提供相关信息:
anthropic-priority-input-tokens-limit: 10000
anthropic-priority-input-tokens-remaining: 9618
anthropic-priority-input-tokens-reset: 2025-01-12T23:11:59Z
anthropic-priority-output-tokens-limit: 10000
anthropic-priority-output-tokens-remaining: 6000
anthropic-priority-output-tokens-reset: 2025-01-12T23:12:21Z
您可以通过这些响应头是否存在来检测您的请求是否符合 Priority Tier 的条件,即使它已超出限制。
现有 Priority Tier 承诺
Priority Tier 承诺包括:
- 每分钟输入令牌数量
- 每分钟输出令牌数量
- 承诺期限(1、3、6 或 12 个月)
- 特定的模型版本
Priority Tier 的目标是借助优先分配的计算资源实现 99.5% 的正常运行时间。超出您承诺容量的请求会自动回退到 Standard 层级。
支持的模型
除 Claude Fable 5.1、Claude Haiku 5.5、Claude Mythos 5.1、Claude Mythos 5、Claude Mythos Preview、Claude Opus 5.5、Claude Opus 5、Claude Sonnet 5.5 和 Claude Sonnet 5 之外,所有可用的 Claude 模型均支持 Priority Tier。
有关可用模型的更多详细信息,请查看模型概览。
可用性
服务层级在所有模型上可用。
API 支持
Messages API
- 可用性:可用
- 用法:需要 Priority Tier 承诺,该承诺已停止销售。拥有承诺时,请求默认使用 Priority Tier;将
service_tier设置为"standard_only"可仅使用标准容量。
| 状态 | 云平台 |
|---|---|
| 可用 | Claude API |
Managed Agents
- 可用性:不可用