李宏毅机器学习2022-HW1

---

前言

文章仅起到一个记录作用，当然有参考大佬的思路ヾ(•ω•`)o

---

作业介绍

---

kaggle链接: link1
Google Colab链接:link2
根据美国各个州前4天提供的疫情相关数据，预测第5天的确诊率

评分标准

提示

---

Feature selection

---

这一部分可以先在 jupyter 或 pycharm中的python 控制台中做会比较方便
读入训练集和测试集，查看一下列数

当然了，训练集要比测试集多出一列，这一列就是需要预测的信息，找出这一列的列名 ‘tested_positive.4’，对应列索引为117，也就是最后一列

通过介绍我们知道前37列数据是所处州的相关信息，这部分是用独热编码表示的，这里使用pandas的corr函数分析一下从第38列之后的数据与‘tested_positive.4’之间的相关性

这里我将相关性大于0.8的特征选择出来，注意最后一个‘tested_positive.4’不能选择进去，在训练阶段这个是要用来算loss的

进一步得到它们的索引

对select_feat部分的代码进行修改

---

Different model architectures and optimizers

---

由于算不上大数据，增加模型的深度可能导致过拟合、泛化性差等问题(我猜的)，这里只改变了一下模型的宽度

优化器由原本的SGD改成了Adam，沐神说过可以带来减小学习率带来的影响等，李宏毅老师之后的课程中也有相关的讲解

---

L2 regularization and try more parameters

L2 regularization还不是很了解，稍微调一下参数

---

提交结果

---

做完以上的步骤过个strong baseline应该是没问题的，再调调参数可能会更好？不过不建议通过反复调参来达到更好的结果，这样可能导致模型的泛化性变差