先按任务分类

• 固定格式抽取、分类和低风险批处理，可能适合本地小模型。
• 复杂推理、图像或最新能力，可能适合托管 API。
• 含高敏感数据且不能脱敏的任务，应先满足数据和合规边界，再比较质量。
• 关键业务不应只看平均质量，还要测试超时、限流、降级和人工接管。

混合架构最容易被低估的成本

同一任务在不同模型间的行为、格式和安全边界可能不一致。路由器需要版本化策略、回归评测、结果标记和失败回退，不能只依据“哪个便宜”随机切换。

结论不是三选一，而是给每类任务找到可解释的执行路径，并保留替换能力。

编辑说明：2026-08-15，本文是架构比较框架，不代表对任何具体服务的价格或能力作实时断言。AI 协助起草，项目负责人复核。