Pemrosesan Paralel

OAK
Parallel Processing

Daeng L.
Dhimas P.A.W.
Sholikah W.
Vijay P.S.
Yanuar P.P.
Jawaban no. 1
HT (Hyper-Threading) meningkatkan performa kerja paralel prosesor mencapai 1,3 kalinya. Terapkan hukum Amdahl untuk ini.
S latensi = 11 0,75 + 0,751,3
1,21
Jadi peningkatan kecepatannya sekitar 1,21 kali.
 
Hukum-hukum parallel processing
Hukum Gustafson
Merupakan evaluasi ulang hukum Amdahl, istillah ini diambil dari ilmuwan komputer John L. Gustafson dan koleganya yang dipresentasikan dalam artikel Reevaluating Amdahl's Law tahun 1988. Dalam pemikirannya, komputasi paralel berjalan menggunakan dua atau lebih mesin untuk mempercepat penyelesaian masalah dengan memperhatikan faktor eksternal, seperti kemampuan dan kecepatan proses tiap-tiap komputer yang digunakan. Mesin adalah komputer itu sendiri.
Hukum-hukum parallel processing
Grafiknya...
Dari garis bagian atas (hijau) ke bawah: 90%, 75%, dan 60% dari keseluruhan tugas / program yang parallelizable. Semakin paralel maka akan ada peningkatan kecepatan. Jika 100%-nya paralel, maka peningkatan kecepatan akan sejalan dengan jumlah prosesor.
Hukum-hukum parallel processing
Rumus hukum Amdahl
Slatensi = 11 p + ps
Slatensi adalah potensi peningkatan kecepatan dalam latensi pada eksekusi semua tugas / program,
s adalah peningkatan kecepatan dalam latensi saat eksekusi dari sebagian tugas yang menguntungkan. Sederhananya peningkatan jumlah / kemampuan prosesornya,
p adalah persentasi dari waktu eksekusi semua tugas / program paralel yang akan ditingkatkan sumber daya sistemnya. Sederhananya bagian program yang parallelizable.
 
Hukum-hukum parallel processing
Hukum Amdahl
Dalam arsitektur komputer, hukum ini berupa peningkatan kecepatan (speedup) secara teoritis latensi eksekusi tugas pada waktu tetap yang diharapkan dari sistem dengan peningkatan sumber daya. Dinamai dari ilmuwan komputer Gene Amdahl yang dipresentasikan pada konferensi tahun 1967. Pendapatnya mengatakan, "Peningkatan kecepatan secara paralel akan menjadi linear, melipatgandakan kemampuan proses sebuah komputer dan mengurangi separuh waktu proses yang diperlukan untuk menyelesaikan sebuah masalah.".
Pengertian dasar
Pemrosesan paralel adalah kemampuan mengeksekusi lebih dari satu tugas / aplikasi secara simultan / bersamaan pada sebuah komputer / CPU. Secara umum, ini berupa teknik dimana sebuah masalah dibagi menjadi kecil / beberapa untuk mempercepat proses penyelesaiannya. Sejalan dengan itu komputasi paralel adalah teknik perhitungan dimana kalkulasi dijalankan secara simultan. Untuk mengeksekusi secara paralel programnya harus memakai hardware berdukungan multiprocessing. Ada beberapa tingkatan komputasinya antara lain paralelisme bit-level, instruction-level, tugas, dan data.
Tujuan utama pemrosesan paralel untuk meningkatkan performa komputasi. Ada 3 hukum yang berlaku pada pemrosesan paralel yaitu sebagai berikut.
Hukum-hukum parallel processing
Hukum Sun dan Ni
Hukum Amdahl berpendapat ukuran masalah tetap konstan dengan peningkatan kecepatan sistem. Hukum Gustafson mengusulkan ukuran masalah harus berskala tetapi terikat dengan waktu tetap. Sejalan dengan keduanya, hukum Sun-Ni menyatakan daya komputasi / ukuran masalah berskala sesuai dengan ukuran masalah yang dibatasi / terikat oleh kapasitas memori sistem. Diajukan oleh Xian-He Sun dan Lionel Ni pada konferensi tahun 1990.
Hukum-hukum parallel processing
Rumus hukum Gustafson
Slatensi = 1 p + sp
Slatensi adalah potensi peningkatan kecepatan dalam latensi pada eksekusi semua tugas / program,
s adalah peningkatan kecepatan latensi saat eksekusi dari sebagian tugas yang menguntungkan / sederhananya jumlah mesin / komputernya,
p adalah persentasi dari waktu eksekusi semua tugas / program paralel yang akan ditingkatkan sumber daya sistemnya. Sederhananya bagian program yang parallelizable.
Grafik yang dihasilkan berupa fungsi linear.
 
Hukum-hukum parallel processing
Perbandingan antara ketiganya:








Serta untuk prosesor-prosesor ketiganya bisa berskala.
Parameter
Hukum Amdahl
Hukum Gustafson
Hukum Sun-Ni
Ide
Waktu eksekusi yang cepat
Peningkatan beban kerja
Eksekusi masalah yang paling besar
Kendala
Beban kerja
Waktu
Memori
Beban kerja
Tetap
Berskala

Memori
Tidak berskala


Waktu eksekusi
Menurun
Tetap
Sedikit meningkat
Hukum-hukum parallel processing
Sederhananya dalam perspektif masing-masing:
Amdahl's law is fixed-workload / problem-sized,
Gustafson's law is fixed-time,
Sun-Ni law is fixed-memory.
Jawaban no. 2 dst.
MIMD menggunakan banyak inti processor dengan masing-masingnya berinstruksi dan mengolah data yang berbeda pula / independen. Namun banyak komputer dengan model MIMD juga memasukkan komponen untuk SIMD. Bisa digunakan pada CAD, permodelan 3D, simulasi detail, dsb. karena lebih cepat. MIMD dikategorikan menjadi SPMD (Single Program, Multiple Data streams) dan MPMD (Multiple Programs, Multiple Data streams).
Singkatan dari Compute Unified Device Architecture, yaitu platform komputasi paralel dan model antarmuka pemrograman yang dibuat oleh NVIDIA. Platform ini berupa software layer yang memberi akses langsung ke set instruksi virtual dan elemen komputasi paralel GPU khusus terutama GPGPU. Didesain bekerja dengan bahasa pemrograman seperti C, C++, Fortran, dsb.
Lebih murah / hemat SIMD karena tidak sekompleks MIMD menurut Kaur (2013).
Ya, paralelisme dapat menghemat sumber daya misal pada CMOS, karena mempersingkat waktu kerja.
Terima kasih
Taksonomi Flynn
Adalah sistem klasifikasi komputer untuk program paralel (dan sekuensial) pada arsitektur komputer. Diajukan oleh Michael J. Flynn tahun 1966. Sistem klasifikasi ini diterapkan pada desain dan fungsi prosesor modern. Ada 4 klasifikasinya berdasarkan stream instruksi dan data pada arsitektur komputer:
SISD (Single Instruction stream, Single Data stream)
SIMD (Single Instruction stream, Multiple Data streams)
MISD (Multiple Instruction streams, Single Data stream)
MIMD (Multiple Instruction streams, Multiple Data streams)

Soal:
75% dari seluruh kode program dieksekusi secara paralel. Jika fitur HT diaktifkan pada prosesor (performanya meningkat 30%), berapa kalikah speedup eksekusinya?
Jelaskan tentang MIMD dan sebutkan 2 kategorinya.
Jelaskan tentang platform CUDA.
Manakah yang lebih murah, arsitektur SIMD atau MIMD? Sertakan alasannya.
Apakah paralelisme dapat menghemat daya? Sertakan alasannya.
Sesi tanya-jawab
Tingkatan (level) komputasi paralel
Paralelisme bit-level
Adalah bentuk komputasi paralel berdasarkan peningkatan ukuran word prosesor. Word adalah sejenis tipe data berukuran tetap sebagai unit oleh set instruksi atau perangkat keras prosesor. Misalkan prosesor saat ini lebar word-nya antara lain 32 dan 64 bit.
Paralelisme instruction-level
Adalah bentuk komputasi paralel berupa pengukuran sebarapa banyak operasi / instruksi program komputer dapat dijalankan secara simultan. Berupa potensi paralel yang tumpang tindih (overlap) antar instruksi. Tingkatan ini mengakhiri era bit-level pada pembuatan prosesor pertengahan 1980-an sebelum adanya thread-level.
Paralelisme tugas
Adalah bentuk komputasi paralel antar multiprocessor dalam lingkungannya. Sejumlah komputasi yang berlainan dijalankan pada set data yang sama atau berbeda. Biasanya tidak berskala dengan ukuran masalah.
Paralelisme data
Penjelasannya seperti paralelisme tugas. Namun sejumlah komputasi yang mirip dijalankan pada set data yang sama atau berbeda.
Click to edit Master title style
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
3/5/2016

#
Click to edit Master title style
Click to edit Master subtitle style
3/5/2016

#
Click to edit Master title style
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
3/5/2016

#
Click to edit Master title style
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
3/5/2016

#

2

4
Click to edit Master title style

Click to edit Master text styles
3/5/2016

#
Click to edit Master title style
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
Click to edit Master text styles
3/5/2016

#
3/5/2016

#
Click to edit Master title style
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
3/5/2016

#
Click to edit Master title style
Click to edit Master text styles
3/5/2016

#
Click to edit Master title style
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
3/5/2016

#
Click to edit Master title style
Click to edit Master text styles
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
Click to edit Master text styles
Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level
3/5/2016

#
Click to edit Master title style
3/5/2016

#

5
AFIPS Spring Joint Computer Conference
3

7

12

11

10
Pertanyaan audiens:
Jelaskan kelemahan tabel ketiga hukum tersebut.
Kombinasi ketiga hukum tersebut.


13
Proceedings of IEEE Supercomputer Conference
Ukuran masalah: pengukuran sumber daya yang diperlukan (seperti waktu dan penyimpanan) untuk mengeksekusinya.
8

3/5/2016

Click to edit Master text styles
Second level
Third level
Fourth level
Fifth level

#