关于 async-inference 的中文软件包

一个批量推导合同,涉及供应商 Batch APIs(Anthropic Message Batches, OpenRouter Batch) , 外加一个本地排队模拟, 供没有用户的供应商使用 – 提交 N Messages 形状的请求, 民意调查, 并收集按自定义 id 键的结果, 所有驱动程序解析器