連想記憶

ホップフィールドは彼のモデルが連想記憶に適用できることを示しました。 ネットワークが記名すべきパターンベクトルを 0,1 ではなく -1,1 をとるものとする。 ネットワークに記憶させたいパターン数を P 個、s 番目のパターンを とする。 パターン s を記憶するとは、そのパターンに対するエネルギー関数を最小化す ることに相当する。しきい値を 0 としたときパターン に関するエ ネルギー関数

を最小化するもっとも簡単な方法は、 が に依存するように を設定するばよい。 とすれば

となる(相関行列)。

すべてのパターンについての結合係数は、

によって近似的に求めるめることができる。 記憶すべきパターンが似ていたり、パターンベクトルの次元数 n に対して パターン数 P の数が多すぎると正しき記憶できないことがある。 このパターン間の相互干渉のことをクロストークという。 ホップフィールドは記憶できるパターン数はユニット数の 15 % 程度である ことを示した。

相関行列を用いてホップフィールドネットの結合強度を決定する方法に対し、 一般化逆行列 generalized inverse matrix の概念を導入し、クロ ストークを生じさせないようパターンを直交化して記憶する方法が提案されてい る。一般化逆行列にはいくつかの定義があるが、ムーア-ペンローズ Moore-Penrose の定義を用いることにすれば、

記名するパターンを のように並べて できる 行列を としたとき は一般化逆行列を 用いて以下のように求められる。

なおネットワークの状態変化を行なうには、W を結合強度行列として 1 を用いればよい。