Las arquitecturas paralelas tienen un notable incremento en la velocidad de procesamiento.
El procesamiento paralelo ofrece una gran ventaja en cuanto a costos. Sin embargo, su principal beneficio, la escalabilidad (crecer hacia arquitecturas de mayor capacidad), puede ser dif�cil de alcanzar a�n. Esto se debe a que conforme se a�aden procesadores, las disputas por los recursos compartidos se intensifican.
Algunos dise�os diferentes de procesamiento paralelo enfrentan este problema fundamental:
Cada dise�o tiene sus propias ventajas y desventajas.
MULTIPROCESAMIENTO SIMETRICO
Debido a que SMP comparte globalmente la memoria RAM, tiene solamente un espacio de memoria, lo que simplifica tanto el sistema f�sico como la programaci�n de aplicaciones. Este espacio de memoria �nico permite que un Sistema Operativo con Multiconexi�n (multithreaded operating system) distribuya las tareas entre varios procesadores, o permite que una aplicaci�n obtenga la memoria que necesita para una simulaci�n compleja. La memoria globalmente compartida tambi�n vuelve f�cil la sincronizaci�n de los datos.
SMP es uno de los dise�os de procesamiento paralelo m�s maduro. Apareci� en los supercomputadores Cray X-MP y en sistemas similares hace d�cada y media (en 1983).
Sin embargo, esta memoria global contribuye el problema m�s grande de SMP: conforme se a�aden procesadores, el tr�fico en el bus de memoria se satura. Al a�adir memoria cach� a cada procesador se puede reducir algo del tr�fico en el bus, pero el bus generalmente se convierte en un cuello de botella al manejarse alrededor de ocho o m�s procesadores. SMP es considerada una tecnolog�a no escalable.
PROCESAMIENTO MASIVAMENTE PARALELO
Para tener acceso a la memoria fuera de su propia RAM, los procesadores utilizan un esquema de paso de mensajes an�logo a los paquetes de datos en redes. Este sistema reduce el tr�fico del bus, debido a que cada secci�n de memoria observa �nicamente aquellos accesos que le est�n destinados, en lugar de observar todos los accesos, como ocurre en un sistema SMP. �nicamente cuando un procesador no dispone de la memoria RAM suficiente, utiliza la memoria RAM sobrante de los otros procesadores. Esto permite sistemas MPP de gran tama�o con cientos y a�n miles de procesadores. MPP es una tecnolog�a escalable.
El RS/6000 Scalable Powerparallel System de IBM (SP2) es un ejemplo de sistema MPP, que presenta una ligera variante respecto al esquema gen�rico anteriormente planteado. Los procesadores del RS/6000 se agrupan en nodos de 8 procesadores, los que utilizan una �nica memoria compartida (tecnolog�a SMP). A su vez estos nodos se agrupan entre s� utilizando memoria distribuida para cada nodo (tecnolog�a MPP). De este modo se consigue un dise�o m�s econ�mico y con mayor capacidad de crecimiento.
Escribir una aplicaci�n MPP tambi�n requiere estar al tanto de la organizaci�n de la memoria manejada por el programa.
Donde sea necesario, se requieren insertar comandos de paso de mensajes dentro del c�digo del programa. Adem�s de complicar el dise�o del programa, tales comandos pueden crear dependencias de hardware en las aplicaciones. Sin embargo, la mayor parte de vendedores de computadores han salvaguardado la portabilidad de las aplicaciones adoptando, sea un mecanismo de dominio p�blico para paso de mensajes conocido como M�quina virtual paralela (parallel virtual machine / PVM), o un est�ndar en fase de desarrollo llamado Interfaz de Paso de Mensajes (Message Passing Interface / MPI), para implementar el mecanismo de paso de mensajes.
El Multiprocesamiento sim�trico (symmetric multiprocessing / SMP) tiene un dise�o simple pero a�n as� efectivo. En SMP, m�ltiples procesadores comparten la memoria RAM y el bus del sistema. Este dise�o es tambi�n conocido como estrechamente acoplado (tightly coupled), o compartiendo todo (shared everything).
El Procesamiento masivamente paralelo (Massively parallel processing / MPP) es otro dise�o de procesamiento paralelo. Para evitar los cuellos de botella en el bus de memoria, MPP no utiliza memoria compartida. En su lugar, distribuye la memoria RAM entre los procesadores de modo que se semeja a una red (cada procesador con su memoria distribuida asociada es similar a un computador dentro de una red de procesamiento distribuido). Debido a la distribuci�n dispersa de los recursos RAM, esta arquitectura es tambi�n conocida como dispersamente acoplada (loosely coupled), o compartiendo nada (shared nothing).
La parte negativa de MPP es que la programaci�n se vuelve dif�cil, debido a que la memoria se rompe en peque�os espacios separados. Sin la existencia de un espacio de memoria globalmente compartido, correr (y escribir) una aplicaci�n que requiere una gran cantidad de RAM (comparada con la memoria local), puede ser dif�cil. La sincronizaci�n de datos entre tareas ampliamente distribuidas tambi�n se vuelve dif�cil, particularmente si un mensaje debe pasar por muchas fases hasta alcanzar la memoria del procesador destino.
�C�mo superar las dificultades de SMP y MPP? La �ltima arquitectura paralela, el Procesamiento paralelo escalable (Scalable parallel processing / SPP), es un h�brido de SMP y MPP, que utiliza una memoria jer�rquica de dos niveles para alcanzar la escalabilidad. La primera capa de memoria consiste de un nodo que es esencialmente un sistema SMP completo, con m�ltiples procesadores y su memoria globalmente compartida.
