- 为什么可解释性对于企业AI落地至关重要？
三大驱动力：① 监管合规——金融、医疗、保险行业法规要求“拒绝理由”或“重大决策解释”，欧盟GDPR第22条赋予用户反对纯自动化决策的权利；② 模型调试——当模型在真实场景中表现异常时，可解释性帮助定位是数据漂移、特征缺失还是逻辑错误；③ 用户信任——医生、信贷员等最终用户需要理解AI的建议依据才会采纳，特别是当AI输出与专家直觉相悖时。缺乏解释的AI系统容易被边缘化或遭遇“算法厌恶”。此外，内部审计和风险管理也需要可解释性来评估模型稳定性。
- 主流的可解释性技术有哪些？各自适用场景是什么？
分为固有可解释（模型自解释）和事后解释（对黑箱模型分析）。固有可解释模型包括：线性回归、决策树、逻辑回归——适用于低维度、高监管要求场景（如信用评分）。事后解释技术：① 特征归因（SHAP、LIME）——为每个预测计算每个特征的贡献分数，适用于表格数据，但计算成本较高；② 注意力机制——在Transformer模型中可视化哪些输入token对输出影响最大，适用于文本和图像；③ 概念激活向量（TCAV）——用高层概念（如“纹理”、“颜色”）解释模型决策，适用于图像分类；④ 反事实解释——生成最小改动使预测翻转，适用于需要行动指导的场景（如“增加收入2000元即可获批”）。选择原则：优先使用与模型架构匹配且计算开销可接受的方法。 - 如何在生产环境中部署可解释性模块？
设计“解释即服务”（XAIaaS）架构：① 离线阶段——对每个模型，预先计算全局解释（特征重要性排序、部分依赖图）并存储到知识库；② 在线阶段——当API收到预测请求时，同时触发解释生成器，根据请求类型返回不同粒度的解释：用户端返回简洁的自然语言解释（如“因为您的消费频率较低”），专家端返回SHAP值或注意力热图；③ 缓存策略——对于相似的输入（嵌入距离小于阈值），复用历史解释结果，降低计算开销。性能要求：解释生成延迟不应超过预测延迟的2倍。同时需要记录解释的审计日志，包括请求时间、返回的解释类型、用户是否采纳，用于后续改进解释质量。建议每月抽样评估解释的“可理解性”——请业务用户评分（1~5分），低于3分的解释需优化。