Παράλληλος και Κατανεμημένος Υπολογισμός

Το μάθημα περιλαμβάνει σειρά θεωρητικών παραδόσεων και εργαστηριακών ασκήσεων που αφορούν την παρακάτω θεματολογία:
Η έννοια του παράλληλου αλγορίθμου, Πρότυπα παράλληλων αλγορίθμων, Βασικά Στοιχεία Αρχιτεκτονικής Παράλληλων Μηχανών, Τοπολογίες Δικτύων Διασύνδεσης, Βασικές Τεχνικές Σχεδιασμού Παράλληλων Αλγορίθμων Κοινής και Κατανεμημένης Μνήμης, Παράλληλοι Αλγόριθμοι για Συγκεκριμένα Προβλήματα σε Περιβάλλον Κοινής Μνήμης (αλγόριθμοι ταξινόμησης και συγχώνευσης, υπολογισμός προθεμάτων, υπολογισμοί σε λίστες κ.α.). Τα μοντέλα PRAM, BSP, κ.ά. Βασικές έννοιες κατανεμημένων συστημάτων, στόχοι, θέματα υλικού, θέματα λογισμικού (δικτυακά συστήματα αρχείων, προσάρτηση, πραγματικά κατανεμημένα συστήματα), θέματα σχεδίασης, ενδιάμεσο λογισμικό, πολυστρωματικές αρχιτεκτονικές, επικοινωνία στα κατανεμημένα συστήματα, το μοντέλο πελάτη – εξυπηρετητή, κλήση διαδικασίας από απόσταση, επικοινωνία σε ομάδες, αρχιτεκτονικές κατανεμημένων αντικειμένων, θέματα διεργασιών και νημάτων στα λειτουργικά συστήματα.
Το εργαστηριακό μέρος του μαθήματος περιλαμβάνει προγραμματισμό σε περιβάλλον κοινής μνήμης με OpenMP και σε περιβάλλον κατανεμημένης μνήμης με MPI. Σαν γλώσσα προγραμματισμού χρησιμοποιείται η C και η Python.
Για το OpenMP το εργαστήριο περιλαμβάνει: το μοντέλο fork-join του OpenMP, βασικές εντολές παραλληλισμού, εντολές διαμοιρασμού εργασίας, εντολές συγχρονισμού και κλειδώματος, μέθοδος reduce, μέθοδος collapse.
Για το MPI το εργαστήριο περιλαμβάνει: βασικά στοιχεία του MPI, μοντέλα, τύποι δεδομένων, εντολές επικοινωνίας point-to-point, εντολές επικοινωνίας σε ομάδες, τοπολογίες.

[Σύντομα θα προστεθεί η σχετική πληροφορία]