作为平台 AI 基础设施与算力调度的“交通指挥官”,你将主导 AI 模型中转站及 Multi-LLM 聚合平台的整体规划与矩阵演进。该岗位直接面对多模型适配、高并发流量调度、金融级Token计费等高壁垒场景。你将拥有极高的架构设计自主权,与顶尖的算法专家、基础架构(Infra)工程师和数据科学家协同攻坚,亲手打造一个高可用、低延迟、具备强商业化变现能力的全球化 AI 路由中台。
【你会做什么】
多模型聚合与标准化(Multi-LLM Hub):负责海量通用大模型(如 OpenAI, Anthropic, DeepSeek 等)的标准化接入、适配与封装,统一输出高兼容性的标准化 API 接口,彻底解决多模型版本兼容与调用不一致痛点。
智能流量调度(Smart Routing & High Availability):设计并持续迭代 AI 流量路由策略,主导智能路由、动态负载均衡(Load Balancing)、并发限流(Rate Limiting)、模型降级与故障熔断机制的设计,保障平台在极端高并发下的绝对稳定性。
商业化中台与权限管控(Token Metering & Monetization):构建企业级 AI 权限体系、多租户账号体系、调用配额管理以及精细化的 Token 计费账单(Metering & Billing)、日志审计与风控防刷系统,支撑 B 端企业与 C 端用户的大规模商业化接入。