Vercel Blog· Susan Aziz·· 14 天前AI 评分38
Mercor 如何在 Vercel 一个平台上交付内部应用与数十亿生产 tokens
How Mercor ships internal apps and billions of production tokens on one platform
AI 导读
Mercor 在 Vercel 平台上统一管理模型访问与内部应用建设。接入 AI Gateway 后,批处理任务从超过 12 小时缩短到 2 至 3 小时,上线前 10 天内路由了 1800 万次请求和 630 亿 tokens 且未触及速率限制;数百名工程师通过带过期时间与消费上限的 per-user keys 使用开源模型。
每天 1 到 4 条出海新工具
Telegram 频道 @IndieRadarPro · 只发精选
来源:Vercel Blog · vercel.com