HAIVAug 17, 2020ComputationOfLearning学习问题的计算复杂度 在PAC那一篇中,我们提到VC维只对样本复杂度有刻画,但没有对计算复杂度作描述。在这一篇中,我们探讨有效的可能近似正确的学习(Efficient PAC Learning),就是不仅可学习,而且能有效学习。换句话,我们尝试回答什么时候可以有效学习?什么...
HAIVAug 17, 2020ConvexLearning凸学习算法 凸学习(Convex Learning) 凸光滑有界(convex smooth bounded)是针对一个假设H可学习性的一个定义,有关但有别于凸函数的定义(具体到凸优化算法,我们后面会涉及凸损失函数)。一个凸光滑有界的学习问题一定是可学习的。...
HAIVAug 17, 2020PAC可能近似正确(PAC)理论 本质上,机器学习也是假设验证。为了帮助理解这个理论的含义,我们解释“近似正确”:在泛化误差足够小(最好0)的情况下,我们就把泛化误差限定在一个很小的数之内。即只要假设满足这个条件,我们就认为这个假设是正确的。上一篇解释了经验误差;...