对于t-SNE代价函数,以下陈述中的哪一个正确?

1117 次浏览
  • A、本质上是不对称的
  • B、本质上是对称的
  • C、与SNE的代价函数相同
SNE代价函数是不对称的,这使得使用梯度下降难以收敛。对称是SNE和t-SNE代价函数之间的主要区别之一。 为了测量条件概率SNE差值的总和的最小化,在全体数据点中使用梯度下降法使所有数据点的Kullback-Leibler散度总和减小到最小。 我们必须知道,K-L散度本质上是不对称的。换句话说,SNE代价函数重点在映射中保留数据的局部结构(为了高斯方差在高维空间的合理性)除此之外,优化该代价函数是非常困难的(计算效率低)。因此,t-SNE也尝试最小化条件概率之差的总和值。 但它通过使用对称版本的SNE代价函数,使用简单的梯度。此外,t-SNE在低维空间中采用长尾分布,以减轻拥挤问题(参考下面译者解释)和SNE的优化问题。
挑战成功
1年前
挑战失败
1年前
挑战成功
2年前
挑战成功
3年前

微信公众号

有课学公众号
  • 微信公众号: geekdaxue