DL之HNN：Hopfield神经网络(HNN)的简介(两类DHNN/CHNN)、简介、使用案例之详细攻略

HNN的两个类别DHNN和CHNN

离散型DHNN（Discrete Hopfiled Neural Network）：Hopfield最早提出的网络是二值神经网络，各神经元的激励函数为阶跃函数或双极值函数,神经元的输入、输出只取{0，1}或者{ -1，1}，所以也称为离散型Hopfield神经网络DHNN。在DHNN中，所采用的神经元是二值神经元；因此，所输出的离散值1和0或者1和-1分别表示神经元处于激活状态和抑制状态。

离散Hopfield神经网络DHNN是一个单层网络，有n个神经元节点，每个神经元的输出均接到其它神经元的输入。各节点没有自反馈。每个节点都可处于一种可能的状态（1或－1），即当该神经元所受的刺激超过其阀值时，神经元就处于一种状态（比如1），否则神经元就始终处于另一状态（比如－1）。

1、DHNN的特点：

DHNN是一种多输入、含有阈值的二值非线性动态系统—能量函数。在动态系统中，平衡稳定状态可以理解为系统某种形式的能量函数（energy function）在系统运行过程中，其能量不断减少，最后处于最小值。

DHNN稳定的充分条件是权重系数矩阵W是一个对称矩阵且对角线元素为0：如果DHNN的权系数矩阵W是一个对称矩阵，并且对角线元素为0，则这个网络是稳定的。W是一个对称矩阵仅是充分条件，不是必要条件。

DHNN的类人类的联想记忆功能：DHNN一个重要功能是可以用于联想记忆，即联想存储器，这是人类的智能特点之一。

DHNN实现联想记忆过程分为两个阶段：

>> 学习记忆阶段: 设计者通过某一设计方法确定一组合适的权值，使DHNN记忆期望的稳定平衡点。

>> 联想回忆阶段: DHNN的工作过程。

2、DHNN局限性：

DHNN记忆容量的有限性—无混沌状态：由于网络状态是有限的，不可能出现混沌状态。

DHNN的伪稳定点的联想与记忆；

DHNN对于近似样本容易出错：当记忆样本较接近时，网络不能始终回忆出正确的记忆等；

DHNN平衡稳定点不可以任意设置：也没有一个通用的方式来事先知道平衡稳定点。