El BSC-CNS ha heredat el llegat del conegut Centre Europeu de Paralel·lisme de Barcelona (CEPBA). Aquesta institució va ser un centre de recerca, desenvolupament i innovació en tecnologies computacionals eficients tant per la universitat com per a la indústria. El CEPBA va pertànyer a la Universitat Politècnica de Catalunya (UPC).
El 1991, el CEPBA va començar la seva activitat, recopilant l'experiència i les necessitats de diversos departaments de la UPC. El Departament d'Arquitectura de Computadors (DAC) va proporcionar experiència en el nivell inferior d'un sistema informàtic (nuclis numèrics, sistemes operatius, eines i arquitectura).
Altres cinc departaments de la UPC amb una elevada demanda de computació es van unir al DAC per establir el CEPBA.
Aquests departaments van ser:
Del 1995 al 2000, el CEPBA va coordinar les activitats de servei amb el CESCA (Centre de Supercomputacioó de Catalunya) a través del C4 (Centre d'Informàtica i Comunicacions de Catalunya) fundat pel CIRIT, la Fundació Catalana per a la Recerca i la UPC.
El 2000, el CEPBA va signar un acord amb IBM per a llençar el Centre de Recerca CEPBA-IBM. ELs objectius d'aquest acord van ser unificar la recerca en temes relacionats amb el Deep Computing i l'arquitectura computacional, i donar suport a la recerca local en altres àrees de la ciència i l'enginyeria. Aquesta Aliança de Recerca i Desenvolupament entre la UPC i IBM va tenir un compromís inicial de 4 anys.
El 2004, el Ministeri d'Educació, la Generalitat de Catalunya i la UPC van prendre la iniciativa de crear un Centre Nacional de Supercomputació de Barcelona.
El 2005, el BSC-CNS es va establir oficialment i va començar la seva activitat. El MareNostrum va ser constituït com la màquina més potent d'Europa.