编辑:
2014-05-12
其中为样本个数 3.2 估计相对一致收敛速率的不等式
bousquet[2]利用函数集“大小”的测量新方法,即局部rademacher平均,得到了相对误差的泛化性能。
定理2:
1、q为函数集,对于所有的,.当时,下述不等式以至少的概率成立。任意,
2、q为函数集,对于所有的,.设是非负的,非递减函数。对于,是非增函数。
是方程的解。当时,下述不等式以至少的概率成立。
任意,
以上结论都是基于独立同分布序列下对学习机器推广性能的研究。随着随机变量的相依性概念的提出,引起许多概率统计学家的兴趣和研究。对于基于相依序列下的学习机器推广性能的研究也取得了不少的研究成果。
zou[3-5]研究了相依序列下采用erm算法的学习机器的推广性能。
定理3:
1、设是概率空间上的-混合序列,满足 假设对所有和,方差,则对任意,
(5)
其中,为函数集q的覆盖数,n为样本个数。
2、设是概率空间上的-混合序列,满足 对于任意的,下述不等式以至少的概率对函数集q中的所有函数成立。
其中, ,,n为样本个数。
定理3建立了基于指数强混合序列的学习机器一致收敛和相对一致收敛的界。定理3中用覆盖数来度量函数集的容量。覆盖数,vc维和局部rademacher平均都是度量函数集容量的工具。对于实数集来说用覆盖数来度量更为合适,能够得到更好的界。
相关推荐:
标签:统计学论文
精品学习网(51edu.com)在建设过程中引用了互联网上的一些信息资源并对有明确来源的信息注明了出处,版权归原作者及原网站所有,如果您对本站信息资源版权的归属问题存有异议,请您致信qinquan#51edu.com(将#换成@),我们会立即做出答复并及时解决。如果您认为本站有侵犯您权益的行为,请通知我们,我们一定根据实际情况及时处理。