La jerarqu�a de memoria se refiere a los diferentes tipos de memoria disponibles en un sistema. Estos diferentes tipos de memoria se colocan en una pir�mide Mientras m�s abajo en la jerarqu�a de memoria se encuentra el tipo de memoria, m�s lenta y barata es, pero hay mayor cantidad de ella en un sistema.
Una jerarqu�a de memoria normalmente consta de muchos niveles, pero en cada momento se gestiona entre dos niveles adyacentes. El nivel superior (el m�s cercano al procesador) es m�s peque�o y m�s r�pido que el nivel inferior.
La m�nima unidad de informaci�n que puede estar presente o no presente en la jerarqu�a de dos niveles se denomina bloque. El tama�o de un bloque puede ser fijo o variable. Si es fijo, el tama�o de memoria es un m�ltiplo de ese tama�o de bloque.
El �xito o fracaso de un acceso a un nivel superior se designa como acierto o fallo: un acierto (hit) es un acceso a memoria que se encuentra en nivel superior, mientras que un fallo (miss) significa que no se encuentra en ese nivel. La frecuencia de aciertos es la fracci�n de accesos a memoria encontrados en el nivel superior. La frecuencia de fallos es la fracci�n de accesos a memoria no encontrados en el nivel superior.
Como el rendimiento es la principal raz�n para tener una jerarqu�a de memoria, la velocidad de aciertos y fallos es importante. El tiempo de acierto es el tiempo para acceder al nivel superior de la jerarqu�a de memoria, que incluye el tiempo para determinar si el acceso es un acierto o un fallo.
Penalizaci�n de fallo es el tiempo para sustituir un bloque a nivel superior por el bloque correspondiente al nivel m�s bajo, m�s el tiempo en proporcional este bloque al dispositivo que lo ha pedido. La penalizaci�n de fallos se divide adem�s en dos componentes: tiempo acceso (el tiempo para acceder a la primera palabra de un bloque en un fallo) y el tiempo de transferencia (el tiempo adicional para transferir las restantes palabras del bloque).
El tiempo de acceso est� relacionado con la latencia del nivel m�s bajo de memoria, mientras que el tiempo de transferencia est� relacionado con el ancho de banda entre las memorias del nivel superior y nivel inferior. La direcci�n de memoria est� dividida en piezas que acceden a cada parte de la jerarqu�a. La elecci�n de la estructura del bloque es la parte de orden superior de la direcci�n, que identifica un bloque en ese nivel de la jerarqu�a.
La direcci�n del desplazamiento del bloque es la parte de orden inferior de la direcci�n e identifica un elemento en un bloque. El tama�o de la direcci�n del desplazamiento del bloque es log2(tama�o del bloque); el tama�o de la direcci�n de la estructura del bloque es entonces el tama�o de la direcci�n completa en este nivel menos el tama�o de la direcci�n de desplazamiento de bloque.
