Claude两类API请求上限升至128 MB,超限要分接口看
Claude的Messages API和Token Counting API,现在能接收更大的请求体了。Anthropic在10月28日的更新中,把官方直连API这两类请求的上限从32 MB提高到128 MB。
受影响的是整次HTTP请求的字节数。长对话历史、文本、内嵌的base64图片都会占这部分空间;图片编码后还会比原文件更大,不能只把磁盘上的图片大小相加来判断是否超限。128 MB也不能直接当作单张图片的大小上限。
截至10月30日,官方直连API的容量说明如下:
| 接口 | 请求体上限 |
|---|---|
| Messages、Token Counting | 128 MB |
| Message Batches | 256 MB |
| Files | 500 MB |
| Sessions、Agents、Environments | 32 MB |
256 MB是Message Batches整份提交请求体的上限;单独调用Messages仍按128 MB检查。Files的500 MB请求体上限也不适用于Messages。本次提高的是Messages和Token Counting,不是所有端点一起扩容。
如果碰到413 request_too_large,先检查实际发出去的完整请求体,以及报错来自哪一层。官方直连API的超限请求会在边缘层被挡下,还没到API服务器;经过自己的网关或其他云平台时,中间也可能有单独的容量限制,不能直接套用这张表。同一份超大请求原样重试,不会把它变小。
请求体过了这一关,后面仍有模型上下文长度、图片规格等检查。128 MB是传输容量,token是模型处理输入的计量,两者不能直接换算成“现在能塞多少字”。对以前被32 MB挡住的图文请求,这次放宽有用;已经报上下文超长的请求,仍要按所选模型的上下文限制处理。