机器学习任务攻略

训练数据

损失(loss)大

1. 模型偏差：
   1. 原因：模型太过简单
   2. 重新设计模型，使模型复杂，让模型拥有更大的弹性
2. 优化(optimization)
   1. 原因：仅仅找到了局部最小值
3. 如何分辨是模型偏差问题还是优化问题？
   • 比较不同的模型

测试数据

损失(loss)大

1. 过拟合(overfitting)
   1. 概念：训练数据表现良好，测试数据表现差
   2. 方案：
      1. 更多的测试数据
      2. 数据扩充（一变多）
      3. 限制模型
         1. 使用较少的参数
         2. 使用较少的特征
         3. 提前结束训练（模型进步小）
         4. Dropout
         5. 共用参数（限制模型）
2. 不匹配