Sudah menjadi kebiasaan untuk memanggil memori cache memori yang dimasukkan ke dalam pemproses, yang dicirikan oleh kelajuan tinggi dan digunakan untuk menyimpan data yang paling sering digunakan buat sementara waktu.
Keperluan untuk menggunakan memori cache dijelaskan oleh perbezaan kelajuan pertukaran maklumat antara pemproses dan pelbagai bahagian memori komputer. Kerja mana-mana aplikasi bermula dengan memindahkan data yang diperlukan dari cakera keras yang agak perlahan ke dalam RAM (memori akses rawak komputer) ke bahagian akses rawak dinamik. Dari sana, mereka dapat dipindahkan ke cache L2 (memori L2) yang terletak di cip pemproses atau pada cip SRAM terpisah berkelajuan tinggi khusus yang terletak di sebelah pemproses. Akhirnya, maklumat yang paling banyak digunakan dapat dipindahkan ke cache L1 (memori tahap pertama), yang merupakan bahagian pemproses khusus. Ukuran cache tahap pertama hanya sekitar 128 KB, tahap kedua sudah 512 KB. Sebagai perbandingan, ukuran RAM boleh menjadi 1 GB. Pelaksanaan perintah berlaku mengikut skema tertentu: - analisis data daftar maklumat; - pengimbasan data cache tingkat pertama; - memeriksa maklumat cache tahap kedua; - menganalisis data memori utama; - akses ke memori cakera keras. Masa yang dihabiskan oleh pemproses untuk mendapatkan data yang diperlukan adalah berkadar langsung dengan tempat di mana maklumat itu disimpan. Oleh itu, akses ke cache tahap pertama memerlukan 1 hingga 3 kitaran, tahap kedua - dari enam hingga dua belas kitaran, dan ke memori utama - puluhan, dan dalam beberapa kes - beratus-ratus kitaran. Memori cache memainkan peranan khas dalam proses operasi pelayan, kerana trafik pemproses ke memori boleh menjadi signifikan dalam kes-kes ini. Struktur cache juga berfungsi untuk merapatkan jurang antara kelajuan pemproses, yang meningkat 50 persen setiap tahun, dan kadar data RAM, yang hanya tumbuh 5 persen. Perkembangan berterusan memori cache tahap ketiga dan keempat nampaknya merupakan langkah logik ke arah ini. Satu lagi arah pengembangan yang mungkin adalah peralihan kepada pengurusan memori cache secara terprogram.
