Data Parallelism Task Parallelism GPGPU vs MPI GPGPU

  • Slides: 18
Download presentation

Είδη Παραλληλισμού Data Parallelism Task Parallelism

Είδη Παραλληλισμού Data Parallelism Task Parallelism

GPGPU vs MPI GPGPU Devices MPI Slave Nodes Network Master Node

GPGPU vs MPI GPGPU Devices MPI Slave Nodes Network Master Node

Διαδικασία εκτέλεσης πειραμάτων Open. CL Work Group Size = 10 Work Group Size =

Διαδικασία εκτέλεσης πειραμάτων Open. CL Work Group Size = 10 Work Group Size = 5, offset = 5

Διαδικασία εκτέλεσης πειραμάτων MPI 1 Node 2 Nodes Node #1 Node #2 5 Nodes

Διαδικασία εκτέλεσης πειραμάτων MPI 1 Node 2 Nodes Node #1 Node #2 5 Nodes Node #1 Node #2 Node #4 Node #3 Node #5

Αποτελέσματα εκτέλεσης πειραμάτων Open. CL Matrix Dimensions 2560 x 2560 450 3000 400 2500

Αποτελέσματα εκτέλεσης πειραμάτων Open. CL Matrix Dimensions 2560 x 2560 450 3000 400 2500 Execution Time 300 2000 250 1500 200 150 100 500 50 0 GPU Open. CLCPU Open. CL CPU Normal #1 #2 #3 #4 Seconds Global Work Size 0 Global Work Size 350

Αποτελέσματα εκτέλεσης πειραμάτων Open. CL Matrix Dimensions 3072 x 3072 1000 3500 900 3000

Αποτελέσματα εκτέλεσης πειραμάτων Open. CL Matrix Dimensions 3072 x 3072 1000 3500 900 3000 2500 700 600 2000 500 1500 400 300 1000 200 500 100 0 GPU CPU CPU CPU Normal Open. CL #1 Open. CL #2 Open. CL #3 Open. CL #4 Open. CL #5 Seconds Global Work Size 0 Global Work Size Execution Time 800

Αποτελέσματα εκτέλεσης πειραμάτων Open. CL Matrix Dimensions 4092 x 4092 2500 4000 2000 Execution

Αποτελέσματα εκτέλεσης πειραμάτων Open. CL Matrix Dimensions 4092 x 4092 2500 4000 2000 Execution Time 3000 1500 2000 1500 1000 500 0 GPU CPU CPU CPU Normal Open. CL #1 Open. CL #2 Open. CL #3 Open. CL #4 Open. CL #5 Seconds Global Work Size 0 Global Work Size 3500

Αποτελέσματα εκτέλεσης πειραμάτων MPI Matrix Dimensions 2560 x 2560 600 4, 5 4 500

Αποτελέσματα εκτέλεσης πειραμάτων MPI Matrix Dimensions 2560 x 2560 600 4, 5 4 500 Execution Time 400 3 2, 5 300 2 200 1, 5 1 100 0 0, 5 MPI 1 node MPI 2 nodes Seconds MPI virtual nodes Nodes CPU Normal 0 Number of nodes 3, 5

Αποτελέσματα εκτέλεσης πειραμάτων MPI Matrix Dimensions 3072 x 3072 1600 4 1400 3, 5

Αποτελέσματα εκτέλεσης πειραμάτων MPI Matrix Dimensions 3072 x 3072 1600 4 1400 3, 5 Execution Time 4, 5 1200 3 1000 2, 5 800 2 600 1, 5 400 1 200 0, 5 0 MPI 1 node MPI 2 nodes Seconds MPI virtual nodes Nodes CPU Normal 0 Number of nodes 1800

Αποτελέσματα εκτέλεσης πειραμάτων MPI Matrix Dimensions 4092 x 4092 3500 4, 5 4 3000

Αποτελέσματα εκτέλεσης πειραμάτων MPI Matrix Dimensions 4092 x 4092 3500 4, 5 4 3000 Execution Time 3 2000 2, 5 1500 2 1, 5 1000 1 500 0 0, 5 MPI 1 node MPI 2 nodes Seconds MPI virtual nodes Nodes CPU Normal 0 Number of nodes 3, 5 2500