Hiérarchie mémoire
Le processeur accède aux instructions du programme à exécuter ainsi que les données nécessaires à son exécution depuis la mémoire.
Il existe une hiérarchie des mémoires informatiques : les plus rapides sont les plus coûteuses, donc en nombre limité, et placées le plus près du processeur (les registres font partie intégrante du processeur). Les plus lentes sont les moins coûteuses et sont éloignées du processeur.
Hm1.png
Le matériel et le système d'exploitation sont responsables du déplacement des objets le long de cette hiérarchie. Par exemple, dans un système de mémoire virtuelle, une faute de page va probablement faire déplacer un bloc de données depuis un niveau assez bas (disque dur) vers la mémoire centrale, puis l'accès à ces adresses en mémoire vont à nouveau initier une recopie vers des caches plus proche du processeur.
C'est la technologie et l'organisation des mémoires qui vont influer sur ses temps d'accès. Par exemple la mémoire SRAM à un temps d'accès de quelque nanosecondes, tandis ce que la DRAM est 5 à 10 fois plus lente. Un disque dur peut avoir un taux de transfert de 75 Mo/seconde, mais qui peut se voir plus que doublé si l'on fait appel à un châssis RAID.
Les coûts ne suivent pas une échelle linéaire : le Go sur disque dur coûte environ 0,6 euros (2005), versus 200 euros pour de la mémoire centrale.