Exploring the throughput-fairness tradeoff of deadline scheduling in heterogeneous computing environments

Abstract

The scalability and computing power of large-scale computational platforms that harness processing cycles from distributed nodes has made them attractive for hosting compute-intensive time-critical applications. Many of these applications are composed of computational tasks that require specific deadlines to be met for successful completion. In scheduling such tasks, replication becomes necessary due to the heterogeneity and dynamism inherent in these computational platforms. In this paper, we show that combining redundant scheduling with deadline-based scheduling in these systems leads to a fundamental tradeoff between throughput and fairness. We propose a new scheduling algorithm called Limited Resource Earliest Deadline (LRED) that couples redundant scheduling with deadline-driven scheduling in a flexible way by using a simple tunable parameter to exploit this tradeoff. Our evaluation of LRED using trace-driven and synthetic simulations shows that LRED provides a powerful mechanism to achieve desired throughput or fairness under high loads and low timeliness environments, where these tradeoffs are most critical.

Πολιτικές Διαχείρισης Ουρών Για Παροχή Υπηρεσιών Υψηλής Ποιότητας Σε Επίγεια Και Διαστημικά Διαδίκτυα

“…Βάσει των παραπάνω, µπορούµε να εξάγουµε δύο συµπεράσµατα (i) ότι είναι σχετικά δύσκολο να επιτύχουµε σε ένα δίκτυο ταυτόχρονα υψηλή απόδοση και δικαιοσύνη [35] [52] [80] και (ii) ότι ο τρόπος απόρριψης των πακέτων στο δροµολογητή καθορίζει τη συναλλαγή αυτή. Πράγµατι, αν ορίσουµε τις απορρίψεις που κάνει ο δροµολογητής λόγω υπερχείλισης των καταχωρητών ως εξαναγκασµένες (forced) και αυτές που γίνονται χωρίς να υπάρχει τέτοιος λόγος ως µη εξαναγκασµένες (unforced), βλέπουµε ότι οι πολλές εξαναγκασµένες απορρίψεις έχουν ως αποτέλεσµα υψηλή απόδοση, ενώ πολλές µη εξαναγκασµένες απορρίψεις έχουν ως αποτέλεσµα υψηλή δικαιοσύνη.…”