Anthropic最近发布了一项名为Message Batches API的新功能，旨在帮助开发者更高效地异步处理大量查询任务。
Message Batches API的特点：
- 批量处理：开发者现在可以一次性发送高达10,000个查询。
- 处理时间：所有查询将在24小时内得到处理。
- 成本效益：与标准API调用相比，使用该API可以节省高达50%的成本，特别适合非时效性任务。
目前支持的服务：
- Claude 3.5 Sonnet
- Claude 3 Opus
- Claude 3 Haiku
云服务集成：
- Amazon Bedrock：使用Amazon Bedrock的客户已经可以利用这项批量推理功能。
- Google Cloud Vertex AI：计划很快也将支持在Google Cloud Vertex AI上使用。
行业竞争：
这一新功能的推出，使Anthropic能更好地与AI领域的其他主要玩家竞争，比如OpenAI。OpenAI在今年早些时候也推出了类似的批量处理功能。
随着AI技术的不断进步和创新，企业之间的竞争也日趋激烈。Anthropic的Message Batches API无疑为开发者提供了一个处理大量查询的高效、经济的选择。
0条评论