机器学习答案2023

第四章测试

1.梯度下降算法的正确步骤是什么？
(a)计算预测值和真实值之间的误差；(b)迭代更新，直到找到最佳权重；(c)把输入传入网络，得到输出值；(d)初始化随机权重和偏差；(e)对每一个产生误差的神经元，改变相应的（权重）值以减少误差。（ ）
A:c,b,a,e,d B:e,d,c,b,a C:d,c,a,e,b D:a,b,c,d,e
答案:C
2.随机梯度下降法缺点在于每次更新可能并不会按照正确的方向进行，参数更新具有高方差，从而导致损失函数剧烈波动。（ ）
A:错 B:对 3.牛顿法是梯度下降法的进一步发展，牛顿法不仅使用目标函数的一阶偏导数，还进一步利用了目标函数的二阶偏导数，这样就考虑了梯度变化的趋势，因而能更全面地确定合适的搜索方向加快收敛，它具二阶收敛速度。（ ）
A:对 B:错 4.坐标下降算法的优点是容易计算,同时收敛很快;缺点是当loss比较复杂时,会很明显的降低速度。（ ）
A:错 B:对 5.

通过梯度下降算法，计算方程取最小值（极小值）时候的最优解x。

求解过程主要通过迭代优化方法完成

迭代的方程为：

其中x为要求的解，为梯度（也就是导数或偏导，我们在这里用最简单的一元函数演示，所以直接写成导数），a为学习率（或称步长，是一个重要的参数，a的选择直接影响这着算法的效率）