05｜模型融合：从 OOF 对齐到抗过拟合权重

目标：在完全对齐的 OOF 上验证互补性，只引入有证据的融合自由度。先保存每个候选的 row_id、fold、label、预测值和模型版本。 01｜对齐比分数更优先 按 row_id 一对一连接，检查缺行、重复、标签、折号和正类列；预测文件每次都重排 id 后再输出。对概率分类用 OOF 的 p−y 看残差相关性，回归用同尺度残差。低相关只代表不同，不保证更好；候选必须在部分切片有可重复收益。对每个候选报告移除它后融合分数的变化。 02｜按评分选择融合空间 LogLoss/Brier 优先试概率均值，并报告可靠性；混合 logits 是不同运算，需要单独验证。AUC 仅看排序，可比较概率均值与秩均值。秩融合可能丢掉概率校准，并列要用平均秩；注意训练、验证和提交各自排名规则必须一致。先试等权，再试非负和为一的低分辨率网格，避免小样本上给几十个模型各拟一个权重。 03｜融合器和基模型都要防过拟合 拿整份 OOF 拟合权重，再用它报告同一份 OOF，是开发得分。低成本做法：只用开发 OOF 选权重，在真正独立的未来集冻结验收。做严格 stacking 时，每个外层折内部重新生成基模型 OOF 训练二层；外层验证预测只能来自外层训练数据拟合的基模型。直接二次切同一份全量 OOF 不一定隔离外层验证标签，因为其它折的基模型可能已经见过这些标签。 实例｜这份合成数据上，调权把开发集 LogLoss 从等权的 0.6251 降到 0.6249，但保留集反而从 0.5766 上升到 0.5816。两种融合都优于保留集最好的单模型。这个实验支持保留融合，却没有证据支持使用拟合权重。 练习｜附件按 id 对齐合成预测，用开发块选权重，再在独立块验收。改大共享误差或削弱第二模型，观察融合是否仍稳健。交付一行实验表：开发分、独立分、切片分、推理成本。