Algebraic Multigrid on a Dragonfly Network: First Experiences on a Cray XC30

Communication performance prediction on large - scale systems

“…Thesis contributions multiple features that well describe the traffic pattern, in order to incorporate the complex effects of communication over a large-scale system. We compare the predictive ability of our models against a baseline analytical model and semi-empirical models, following the methodology proposed by Ghavari et al [Gahvari et al, , 2014. Our empirical approach outperforms any other approach in terms of prediction accuracy and provides accurate and meaningful predictions in scenarios of communication-aware decision-making.…”

“…A semi-empirical approach is taken by Gah-27 2. Background and problem definition vari et al [Gahvari et al, , 2014, where the latency-bandwidth model is extended with empirical parameters for the modeling of the Algebraic Multigrid. This approach enhances the accuracy of the latency-bandwidth model by adding awareness of the process mapping, network architecture, and topology, and its time of prediction is at runtime prior to the execution, for many applications that expose point-to-point communication patterns, as the Fast Multipole Method [Ibeid et al, 2016].…”

“…Στην πειραματική αποτίμηση των αποτελεσμάτων μας, επιβεβαιώνουμε δύο σημαντικές υποθέσεις που καθοδήγησαν την παρούσα εργασία: α) η συλλογή μετρήσεων αναφοράς με γενικό τρόπο, που καθιστά τη μεθοδολογία μας εφαρμόφισμη σε πολλαπλές εφαρμογές, είναι επαρκής για την κατασκευή ενός μοντέλου με υψηλή ακρίβεια πρόβλεψης σε οποιοδήποτε σύστημα και β) ένα μοντέλο πρόβλεψης της επικοινωνίας πρέπει να εξετάζει πολλαπλά χαρακτηριστικά που περιγράφουν καλά το σχήμα κίνησης δεδομένων, προκειμένου να ενσωματώνει τα πολύπλοκα φαινόμενα της επικοινωνίας σε ένα σύστημα μεγάλης κλίμακας. Συγκρίνουμε την προβλεπτική ικανότητα των μοντέλων μας με ένα αναλυτικό μοντέλο βάσης και ημι-εμπειρικά μοντέλα, ακολουθώντας τη μεθοδολογία που προτείνεται από τον Ghavari και τους συνεργάτες του [Gahvari et al, , 2014. Η εμπειρική μας προσέγγιση ξεπερνά κάθε άλλη προσέγγιση στην ακρίβεια της πρόβλεψης και παρέχει ακριβείς και ουσιαστικές προβλέψεις σε σενάρια λήψης αποφάσεων με επίγνωση της επικοινωνίας.…”

“…Επιπλέον, η μεθοδολογία τους περιορίζεται σε συστήματα όπως το BlueGene/Q, όπου τα δικτυακά στοιχεία που χρησιμοποιεί μια κατανομή κόμβων για την εκτέλεση μιας εφαρμογής αποτελούν μέρος της κατανομής και δε χρησιμοποιούνται από άλλες εφαρμογές, επομένως και οι τιμές που λαμβάνονται από τους μετρητές επίδοσης αντιστοιχούν στην κίνηση δεδομένων της συγκεκριμένης εφαρμογής. Μια ημι-εμπειρική προσέγγιση ακολουθείται από τον Gahvari και τους συνεργάτες του [Gahvari et al, , 2014, οι οποίοι επεκτείνουν το μοντέλο του Hockney προσθέτοντας εμπειρικές παραμέτρους, για την πρόβλεψη της επικοινωνίας της εφαρμογής Algebraic Multigrid. Η συγκεκριμένη προσέγγιση βελτιώνει την ακρίβεια του απλού αναλυτικού μοντέλου του Hockney, ενσωματώνοντας γνώση από την απεικόνιση των διεργασιών, την αρχιτεκτονική του δικτύου και την τοπολογία, ενώ είναι επίσης εφαρμόσιμη πριν την εκτέλεση της εφαρμογής, επομένως και κατάλληλη για πρόβλεψη.…”

“…Για λόγους σύγκρισης, υλοποιήσαμε αναλυτικά και ημι-εμπειρικά μοντέλα όπως προτείνονται από τον Gahvari και τους συνεργάτες του [Gahvari et al, , 2014. Η βασική αναλυτική προσέγγιση είναι το μοντέλο α − β, που είναι αντίστοιχο του μοντέλου χρόνου απόκρισης -εύρους ζώνης του Hockney, όπου α ο χρόνος απόκρισης και β το ανάστροφο του εύρους ζώνης.…”