跳到正文
Vercel Blog· Susan Aziz·· 14 天前AI 评分38

Mercor 如何在 Vercel 一个平台上交付内部应用与数十亿生产 tokens

How Mercor ships internal apps and billions of production tokens on one platform

AI 导读

Mercor 在 Vercel 平台上统一管理模型访问与内部应用建设。接入 AI Gateway 后,批处理任务从超过 12 小时缩短到 2 至 3 小时,上线前 10 天内路由了 1800 万次请求和 630 亿 tokens 且未触及速率限制;数百名工程师通过带过期时间与消费上限的 per-user keys 使用开源模型。

每天 1 到 4 条出海新工具

Telegram 频道 @IndieRadarPro · 只发精选

在 Telegram 订阅

来源:Vercel Blog · vercel.com