性能並行計算機系統由多個CPU進行緊耦合,通過匯流排或交又開關來共享存儲器,這種處理機系統屬於多指令流多數據流(MIMD)結構範疇,可形成大型機和巨型機,例如我國研製的曙光一號並行計算機。另外,大規模並行處理巨型機(MassivelyParallel Processing Super Computers,簡稱MPP)由一組相對並不昂貴的CPU構成,由一個高速網際網路將它們組成一個單元,利用一套系統套用軟體使這些器件像一個系統那樣運行。MPP能夠提供強大的計算能力,已越來越成為高速科學計算的主要硬體平台,是巨型機的發展方向。