专注于快乐的事情

凸函数

概念

凸函数,一种函数,函数图像以上的区域为凸集。典型凸函数的形状类似于字母 U。

凸集

凸集,欧几里得空间的一个子集,其中任意两点之间的连线仍完全落在该子集内。例如,下面的两个图形都是凸集。

很多常见的损失函数(包括下列函数)都是凸函数:

  • L2 损失函数
  • 对数损失函数
  • L1 正则化
  • L2 正则化

凸优化 (convex optimization)

使用数学方法(例如梯度下降法)寻找凸函数最小值的过程。机器学习方面的大量研究都是专注于如何通过公式将各种问题表示成凸优化问题,以及如何更高效地解决这些问题。

评论系统未开启,无法评论!