论文研究 - 平方神经元，幂神经元及其学习算法

在本文中，我们介绍了平方神经元，幂神经元以及基于平方神经元和幂神经元的新学习算法的概念。 首先，我们简要回顾一下玻尔兹曼机的基本思想，特别是玻尔兹曼机的不变分布产生马尔可夫链。 我们将进一步回顾ABM（Attrasoft玻尔兹曼机）。 接下来，我们回顾一下θ变换及其完整性，即，可以通过θ变换来扩展任何函数。 ABM的不变分布是θ变换。 因此，ABM可以模拟任何分布。 我们回顾了线性神经元和相关的学习算法。 然后，我们讨论了不稳定的ABM中使用的指数神经元的问题以及线性神经元的问题，线性神经元的问题并没有像指数神经元那样清楚地区分正确答案中的错误答案。 最后，我们介绍方形神经元和幂神经元的概念。 我们还讨论了基于平方神经元和幂神经元的学习算法的优势，它们具有线性神经元的稳定性和对指数神经元的清晰区分。