公告:
变换编码 您当前所在位置:pk10人工免费计划软件 > 变换编码 > 正文

局部最小值出现在两个臂间隙的中间附近

来源:未知作者:admin 更新时间:2018-04-19 16:18
去噪自编码器(denoising autoencoder, DAE)是一类接收毁坏数据作为输入,并熬炼来猜测原始未被毁坏数据作为输入的自编码器。 去噪自编码器价钱函数的计算图。去噪自编码器被熬炼为从毁坏的版本~x 重构干净数据点x。这可以或许经由过程最小化丢失L = -log p

  去噪自编码器(denoising autoencoder, DAE)是一类接收毁坏数据作为输入,并熬炼来猜测原始未被毁坏数据作为输入的自编码器。

  去噪自编码器价钱函数的计算图。去噪自编码器被熬炼为从毁坏的版本~x 重构干净数据点x。这可以或许经由过程最小化丢失L = -log pdecoder(xh = f(~x)) 完成,其中~x 是样本x 颠末毁坏进程C(~x x) 后得到的毁坏版本。

  得分匹配是最大似然的代替。它供给了几率散布的不同估计,促使模型在各个数据点x 上得到与数据散布不异的得分(score)。

  对一类采纳高斯噪声和均方偏差作为重构偏差的特定去噪自编码器(具备sig-moid 潜藏单元和线性重构单元)的去噪熬炼进程,与熬炼一类特定的被称为RBM 的无向几率模型是等价的。

  将熬炼样本x 表示为位于低维流形(粗黑线)邻近的红叉。咱们用灰色圆圈表示等几率的毁坏进程C(~xx)。灰色箭头演示了如何将一个熬炼样本转换为颠末此毁坏进程的样本。

  由去噪自编码器围绕1 维曲折流形学习的向量场,其中数据会合在2 维空间中。每一个箭头与重构向量减去自编码器的输入向量后的向量成比例,并且依照隐式估计的几率散布指向较高的几率。向量场在估计的密度函数的最大值处(在数据流形上)和密度函数的最小值处都为零。比方,螺旋臂组成部分最大值互相连接的1维流形。部分最小值出现在两个臂间隙的两端邻近。当重构偏差的范数(由箭头的长度示出)很大时,在箭头的标的目标上移动可以或许明显增加几率,并且在低几率的地方大多也是如此。自编码器将这些低几率点映照到较高的几率重构。在几率最大的情况下,重构变得更准确,因此箭头会压缩。

  今朝仅限于去噪自编码器如何学习表示一个几率散布。更一样平常的,咱们能够希望应用自编码器作为天生模型,并从其散布中停止采样。前去搜狐,检查更多《新版彩票秘籍》500彩票网福利彩票中奖规矩图

 

关于我们
联系我们
  • 杭州浩博建筑装饰工程有限公司
  • 联系地址:杭州市益乐路方家花苑43号2楼
  • 电 话:0571-85360638
  • 传 真:0571-85360638