AI成本的隐性部分有哪些？
数据清洗与标注（占预算30%~50%）、模型调优与版本迭代、推理GPU闲置成本、人工复核输出、合规审计与日志存储。忽略这些会导致TCO低估40%以上。
如何优化推理成本？
采用模型路由：简单任务用小模型（如1B参数），复杂任务用大模型；缓存重复请求；使用INT4量化或批处理推理。可降低推理成本50%~70%，精度损失<2%。
API调用还是自托管？
月请求<200万次、波动大选API；>500万次、数据敏感选自托管。盈亏平衡点：API月费超过同等性能服务器月租80%时切换。混合策略更灵活。