|
近日，Anthropic公司宣布推出其最新的消息批处理API（Message Batches API），该API目前处于公开测试阶段。此举旨在通过异步处理大量消息请求，显著提高处理效率并降低成本。
消息批处理API允许用户在不需要即时响应的情况下，批量处理多达10,000条消息请求或32MB的数据量。通过这种方式，用户可以在24小时内完成大规模评估、内容审核、数据分析和批量内容生成等任务。Anthropic表示，这种方法不仅能将成本降低50%，还能够显著提高处理吞吐量。
该API支持多种模型，包括Claude 3.5 Sonnet、Claude 3 Haiku等，用户可以在单个批处理中混合不同类型的请求。为了使用这一功能，用户需要在API请求中包含特定的标头或使用SDK调用。
Anthropic公司表示，他们将根据用户反馈不断优化这一公开测试版API，并鼓励用户通过指定的表单分享意见和建议。
| 
