شبکه های هاپفیلد

حافظه انجمنی به عنوان یکی از توابع اولیه مغز است. انسان به آسانی می‌تواند تصویر یک دوست را با نام دوست یا یک نام را با یک شماره تلفن ارتباط دهد. خیلی از دستگاهها خصوصیات حافظه انجمنی را ارائه می‌دهند. برای مثال بانک حافظه در یک کامپیوتر یک نوع از این حافظه است که آدرس ها را با داده ارتباط می‌دهد. برنامه شیء گرا هم می‌تواند یک نوع دیگر از این حافظه را ارائه دهد. این نوع از حافظه به نام CAM یا Content Addressable Memory یا حافظه با محتوای قابل‌ آدرس دهی نامیده می‌شود.  CAM داده را با آدرس هایی به دیگر داده‌ها ارتباط می‌دهد که بر عکس بانک حافظه کامپیوتر است.
حافظه هاپفیلد در عمل نقش بسیار مهمی در زمینه شبکه های عصبی بازی می‌کند. تلاش John Hopfield از موسسه تکنولوژی California تاثیر عمیقی روی ارتباطات علمی در حوزه شبکه عصبی داشته است.
در زیر، چند مفهوم مرتبط با حافظه های انجمنی مطرح می‌گردد:

فاصله همینگ

شکل ۳-۱ یک مجموعه از نقاطی که مکعب همینگ سه بعدی را تشکیل می‌دهند، نشان می‌دهد. در کل، فاصله همینگ می‌تواند به صورت زیر تعریف شود:
به عبارتی دیگر یک فضای همینگ n بعدی، مجموعه ای از بردارهای n بعدی است که هر عضو آن جزء یک عنصر از اعداد حقیقی ، است، که دارای این محدودیت هستند که هر جزء، مقادیر  دارند. این فضا  نقطه دارد. بسیاری از مدل های شبکه عصبی از مفهوم فاصله بین دو بردار استفاده می‌کنند. اگر چه معیارهای متفاوتی برای فاصله وجود دارد. در اینجا، معیار فاصله معروف همینگ تعریف می‌شود و ارتباط آن با فاصله اقلیدسی بین نقاط بیان می‌شود:
اگر  و  دو بردار در فضای اقلیدسی n بعدی باشند، با توجه به محدودیت اینکه  هستند، در نتیجه  و  هم بردارهایی در فضای همینگ n بعدی خواهند بود.
فاصله اقلیدسی بین دو بردار (نقاط انتهایی) به صورت زیر بدست می‌آید:
و چون  هستند، در نتیجه  می‌باشد و نتیجه می‌شود :

در نتیجه فاصله اقلیدسی می‌تواند به صورت زیر نوشته شود: