-

Εισαγωγικά στοιχεία. Ιστορική ανασκόπηση της παράλληλης και κατανεμημένης επεξεργασίας. Πρότυπο von Neumann. Κατηγοριοποίηση κατά Flynn. Διασωλήνωση. Πολύ-επεξεργαστές, Πολύ-υπολογιστές. Συστήματα κατανεμημένης και κοινόχρηστης μνήμης. Αρχιτεκτονικές μνήμης  ενιαίου και μη-ενιαίου χρόνου πρόσβασης. Υπολογισμός απόδοσης. Κλιμάκωση. Δίκτυα διασύνδεσης παράλληλων υπολογιστών. Νόμος του Grosch, του Amdahl, των Gustafson Barsis. Σχεδιασμός παράλληλων εφαρμογών. Παραλληλοποίηση προγραμμάτων - MPI. Συγχρονισμός. Γράφοι εξάρτησης. Χρονοδρομολόγηση. Συνάφεια διαμοιραζόμενης μνήμη. MESI. Παράλληλη Επεξεργασία σε GPU. Μοντέλα και μηχανισμοί επικοινωνίας διεργασιών. Διανυσματική Επεξεργασία. Συστοιχίες και υπολογιστική πλέγματος. Παραδείγματα παραλληλοποίησης εφαρμογών. Θέματα συγχρονισμού.

Εργαστηριακές ασκήσεις σε προγραμματισμό παράλληλων εφαρμογών σε OpenMPI, Openmp, threads και CUDA.

Με την επιτυχή ολοκλήρωση του μαθήματος, οι φοιτητές  αποκτούν γνώση και κατανόηση των παρακάτω θεμάτων:

• τους λόγους που οδήγησαν στην παράλληλη επεξεργασία,
• τις ομοιότητες και τις διαφορές ανάμεσα στα είδη της παράλληλης επεξεργασίας,
• τα πλεονεκτήματα και τα μειονεκτήματα της παράλληλης επεξεργασίας,
• τους τρόπους διασύνδεσης των επεξεργαστών,
• τα προβλήματα συνέπειας της μνήμης και τα πρωτόκολλα αντιμετώπισης προβλημάτων,
• τη σημασία του συγχρονισμού ρολογιού σε κατανεμημένα συστήματα,
• τα δυνατά και αδύνατα σημεία της παράλληλης επεξεργασίας σε πολυ-πύρηνα συστήματα ή σε GPU,
• τα επίπεδα επίτευξης παραλληλίας.

Με την επιτυχή ολοκλήρωση του εργαστηριακού τμήματος του μαθήματος, οι φοιτητές  αποκτούν γνώση και κατανόηση των παρακάτω θεμάτων:

• της κλιμάκωσης μιας παράλληλης εφαρμογής,
• της σημασία της συγγραφής μιας εφαρμογής για παράλληλα συστήματα,
• της συγγραφής και αποσφαλμάτωσης παράλληλων προγραμμάτων,
• των τεχνικών αύξησης της παραλληλίας,
• της χρήσης του openmpi για τον προγραμματισμό σε κατανεμημένα συστήματα,
• της χρήσης του openmp για τον προγραμματισμό σε πολυπύρηνα συστήματα,
• της χρήσης του cuda για προγραμματισμό πολυπύρηνων καρτών γραφικών,
• της χρήσης των νημάτων Posix για πολύ-νηματικές εφαρμογές,
• της χρήσης των εργαλείων υποβολής εργασιών σε πλέγμα,
• της χρήστης των εργαλείων υποβολής εργασιών σε συστοιχία,
• της ανάλυσης και του προσδιορισμού των σημαντικών τμημάτων μιας εφαρμογής,
• της μέτρησης της απόδοσης των παράλληλων και κατανεμημένων εφαρμογών,
• της αναγνώρισης της καλύτερης αρχιτεκτονικής για την παραλληλοποίηση ενός προβλήματος.

Λειτουργικά Συστήματα, Προγραμματισμός C (δεν είναι υποχρεωτικό).

-

-

Διαλέξεις, διαφάνειες powerpoint, σημειώσεις από τον διδάσκοντα, quiz μέσα στην τάξη, αυτοματοποιημένο σύστημα πολλαπλών ερωτήσεων I-exams, μαγνητοσκοπημένες διαλέξεις opencourses, ασκήσεις εργαστηρίου, εξαμηνιαία ομαδική εργασία.

Τελικές εξετάσεις θεωρίας 50%, τελική εξέταση εργαστηρίου 10%, τρεις σύντομες εξετάσεις 15%, 12 εργαστηριακές ασκήσεις 10%, 1 ομαδική εργασία εξαμήνου 15%.

1. ANDREW S. TANENBAUM, MAARTEN VAN STEEN, ΚΑΤΑΝΕΜΗΜΕΝΑ ΣΥΣΤΗΜΑΤΑ: ΑΡΧΕΣ ΚΑΙ ΥΠΟΔΕΙΓΜΑΤΑ, ΕΚΔΟΣΕΙΣ ΚΛΕΙΔΑΡΙΘΜΟΣ, 2006. [13777]  https://service.eudoxus.gr/search/#a/id:13777/0
2. DAVID B. KIRK, WEN-MEI W. HWU, ΠΡΟΓΡΑΜΜΑΤΙΣΜΟΣ ΜΑΖΙΚΑ ΠΑΡΑΛΛΗΛΩΝ ΕΠΕΞΕΡΓΑΣΤΩΝ, ΕΚΔΟΣΕΙΣ ΚΛΕΙΔΑΡΙΘΜΟΣ, 2010.  [12279261] https://service.eudoxus.gr/search/#a/id:12279261/0
3. ΣΤΕΛΙΟΣ ΠΑΠΑΔΑΚΗΣ, ΚΩΣΤΑΣ ΔΙΑΜΑΝΤΑΡΑΣ, ΠΡΟΓΡΑΜΜΑΤΙΣΜΟΣ ΚΑΙ ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΣΥΣΤΗΜΑΤΩΝ ΠΑΡΑΛΛΗΛΗΣ ΕΠΕΞΕΡΓΑΣΙΑΣ, ΕΚΔΟΣΕΙΣ ΚΛΕΙΔΑΡΙΘΜΟΣ, 2012. [12532275]  https://service.eudoxus.gr/search/#a/id:12532275/0