Proposal of a New Swarm Optimization Method Inspired in Bison Behavior

Comparing various metaheuristics based on an equal number of objective function evaluations has become standard practice. Many contemporary publications use a specific number of objective function evaluations by the benchmarking sets definitions. Furthermore, many publications deal with the recurrent theme of late stagnation, which may lead to the impression that continuing the optimization process could be a waste of computational capabilities. But is it? Recently, many challenges, issues, and questions have been raised regarding fair comparisons and recommendations towards good practices for benchmarking metaheuristic algorithms. The aim of this work is not to compare the performance of several well-known algorithms but to investigate the issues that can appear in benchmarking and comparisons of metaheuristics performance (no matter what the problem is). This paper studies the impact of a higher evaluation number on a selection of metaheuristic algorithms. We examine the effect of a raised evaluation budget on overall performance, mean convergence, and population diversity of selected swarm algorithms and IEEE CEC competition winners. Even though the final impact varies based on current algorithm selection, it may significantly affect the final verdict of metaheuristics comparison. This work has picked an important benchmarking issue and made extensive analysis, resulting in conclusions and possible recommendations for users working with real engineering optimization problems or researching the metaheuristics algorithms. Especially nowadays, when metaheuristic algorithms are used for increasingly complex optimization problems, and meet machine learning in AutoML frameworks, we conclude that the objective function evaluation budget should be considered another vital optimization input variable.

show abstract

“…The Bison Algorithm (BIA) (Kazikova, 2018) models bison herds' protecting and running behavior [67]. It divides the population into two groups.…”

Section: E Bison Algorithmmentioning

confidence: 99%

How Does the Number of Objective Function Evaluations Impact Our Understanding of Metaheuristics Behavior?

2021

Self Cite

View full text Add to dashboard Cite

show abstract

“…The former follows the swarming manner of an endangered herd, while the latter finds inspiration in the bison running habit. Both of these practices happen in two separate groups simultaneously throughout the optimization course [7]. While the swarming group is mainly responsible for the exploitation and thus has a high impact on the overall convergence, the exploring running group secures the diversity of the population and keeps on searching the area to prevent the first group from getting stuck in local optima.…”

Section: Introductionmentioning

confidence: 99%

“…However, up to now research suggested, that the running group has rather a limited impact on the overall optimization process [7,8,9]. This discovery provoked a question of the actual influence on the population and whether the runners have, in fact, the potential to affect and improve the final solution.…”

Section: Introductionmentioning

confidence: 99%

Regarding the Behavior of Bison Runners Within the Bison Algorithm

Kazíková¹,

Pluháček²,

Šenkeřík³

2018

mendel

Self Cite

View full text Add to dashboard Cite

This paper proposes a modification of the Bison Algorithm’s running technique, which allows the running group to exploit the areas of discovered promising solutions. It also provides a closer examination of the successful running behavior and its impact on the overall optimization process. The new algorithm is then compared to other optimization algorithms on the IEEE CEC 2017 benchmark solving continuous minimization problems.

show abstract

“…Οι πιο πρόσφατες τεχνικές που ανήκουν σε αυτή την υποκατηγορία είναι ο αλγόριθμος του Βίσωνα (Bison algorithm) (Kazikova et al, 2019), ο Αλγόριθμος Βελτιστοποίησης του Γλάρου (Seagull Optimization Algorithm) (Dhiman and Kumar, 2019), η Βελτιστοποίηση Τραγουδιού της Μεγάπτερης Φάλαινας (Vocalization of Humpback Whale Optimization) (Masadeh, Sharieh and Mahafzah, 2019), ο Βελτιστοποιητής Στρατιωτικού Σκύλου (Military Dog Optimizer) (Tripathi, Sharma and Bala, 2019), ο Βελτιστοποιητής Εξαρτώμενος από την Καταλληλότητα (Fitness Dependent Optimizer) (J. M. Abdullah and T. Ahmed, 2019) και ο επερχόμενος αλγόριθμος Συλλογικής Συμπεριφοράς Ζώων (Collective Animal Behavior) (Cuevas, Fausto and González, 2020).…”

Section: άλλες συμπεριφορές σμήνουςunclassified

“…Αλγόριθμος Λιβελούλας Dragonfly Algorithm (Mirjalili, 2016a) Αλγόριθμος Σμήνους Σάλπας Salp Swarm Algorithm (Mirjalili et al, 2017) Αλγόριθμος Συρροής Βακτηρίων Bacterial Swarming Algorithm (Tang, Wu and Saunders, 2007) Αλγόριθμος Τεχνητής Αναζήτησης Σμήνους Artificial Searching Swarm Algorithm (Chen, 2009b) Αλγόριθμος του Βίσωνα Bison (Kazikova et al, 2019) Αλγόριθμος του Μοντέλου Κληρονομικότητας Κοπαδιού Προβάτων Sheep Flocks Heredity Model Algorithm (Hyunchul Kim and Byungchul Ahn, 2001) Αναζήτηση Κοπαδιού Ψαριών Fish School Search (Filho et al, 2009) Αναζήτηση Στοχαστικής Διάχυσης Stochastic Diffusion Search (J. M. Bishop, 1989) Βελτιστοποίηση Αλμάτων Βατράχων Jumping Frogs Optimization (Garcia and Pérez, 2008) Βελτιστοποίηση Αποικίας Κατσαρίδων Cockroach Colony Optimization (Cheng et al, 2015) Βελτιστοποίηση Εμπνευσμένη από τα Περιστέρια Pigeon-inspired Optimization (Qiao and Duan, 2014) Βελτιστοποίηση Ζευγαρώματος Βομβίνων Bumble Bees Mating Optimization (Marinakis and Marinaki, 2011) Βελτιστοποίηση Κοπαδιού Γκνου Wildebeests Herd Optimization (Motevali et al, 2018) Βελτιστοποίηση Μετανάστευσης Ζώων Animal Migration Optimization (Li, Zhang and Yin, 2014) Βελτιστοποίηση Μετανάστευσης Πτηνών Migrating Birds Optimization (Duman, Uysal and Alkaya, 2011) Βελτιστοποίηση Νυχτοπεταλούδας και Φλόγας Moth Flame Optimization (Mirjalili, 2015a) Βελτιστοποίηση Σμήνους Σωματιδίων Particle Swarm Optimization (Eberhart and Kennedy, 1995) Βελτιστοποίηση της Πεταλούδας Μονάρχη Monarch Butterfly Optimization (Wang, Deb and Cui, 2015) Βελτιστοποίηση Τραγουδιού της Μεγάπτερης Φάλαινας Vocalization of Humpback Whale Optimization Algorithm (Masadeh, Sharieh and Mahafzah, 2019) Βελτιστοποιητής Εγωιστικού Κοπαδιού Selfish Herd Optimizer (Fausto et al, 2017) Βελτιστοποιητής Εξαρτώμενος από την Καταλληλότητα Fitness Dependent Optimizer (J. M. Abdullah and T. Ahmed, 2019) Βελτιστοποιητής Στρατιωτικού Σκύλου Military Dog Optimizer (Tripathi, Sharma and Bala, 2019) Ιεραρχικό Μοντέλο Σμήνους Hierarchical Swarm Model (Chen et al, 2010) 234 (Wang, Yang and Liu, 2018) Αλγοριθμος Θύτη-Θηράματος Prey-Predator Algorithm (Tilahun and Ong, 2013) Αλγόριθμος Ιαγουάρου Jaguar Algorith...…”

Section: παράρτημα I υποκατηγορίες αλγορίθμων εμπνευσμένων από τη φύσηunclassified

Νοήμονες Υπολογιστικές Μέθοδοι Εμπνευσμένες Από Τον Φυσικό Κόσμο Για Την Βελτιστοποίηση Συστημάτων

Τζανέτος¹

View full text Add to dashboard Cite

Η εποχή που διανύουμε φέρνει στο προσκήνιο την Τεχνητή Νοημοσύνη, καθότι διάφοροι κλάδοι ενσωματώνουν εντυπωσιακές εφαρμογές της. Πολλές αναφορές γίνονται στην 4η Βιομηχανική Επανάσταση, η οποία έχει πλέον την Τεχνητή Νοημοσύνη ως κύριο πυλώνα της. Ήδη από τη δεκαετία του 1950 αναπτύσσονταν νοήμονα συστήματα λήψης απόφασης, τα οποία συνήθως είχαν υποστηρικτικό ρόλο για έναν λήπτη απόφασης. Προβλήματα στα οποία έπρεπε να βρεθεί μια βέλτιστη στρατηγική, τα επονομαζόμενα προβλήματα βελτιστοποίησης, εμφανίζονται σε διάφορα πεδία όπως η Χρηματοοικονομική Μηχανική (Financial Engineering), η Μηχανική της Διοίκησης (Management Engineering) και η Επιχειρησιακή Έρευνα (Operational Research). Πολλά εκ των προβλημάτων που καλείται να λύσει ένας Μηχανικός ανήκουν στα προβλήματα βελτιστοποίησης. Και καθώς τα προβλήματα που αντιμετωπίζει η βιομηχανία γίνονται ολοένα και πιο δύσκολα, αυξάνεται η χρησιμότητα των Νοημόνων Υπολογιστικών Μεθόδων και η ενσωμάτωσή τους στους σχετικούς κλάδους της βιομηχανίας. Το φάσμα των Νοημόνων Υπολογιστικών Μεθόδων είναι ευρύ και εκτείνεται από τις μεθόδους Μηχανικής Μάθησης (Machine Learning) μέχρι και τις Νοήμονες Μεθόδους που είναι Εμπνευσμένες από τη Φύση (Nature-inspired Intelligent Methods). Οι τελευταίες, παρόλο που άρχισαν να αναπτύσσονται από τα μέσα της δεκαετίας του ’80, αποτέλεσαν ξεχωριστή κατηγορία Νοημόνων Υπολογιστικών Μεθόδων στη βιβλιογραφία στις αρχές του 2000. Λόγω της ικανότητάς τους να επιλύουν δύσκολα προβλήματα βελτιστοποίησης πολλών διαστάσεων, οι Νοήμονες Υπολογιστικές Μέθοδοι Εμπνευσμένες από τον Φυσικό Κόσμο έχουν προσελκύσει το ενδιαφέρον των ερευνητών διεθνώς ήδη από την προηγούμενη δεκαετία. Στην παρούσα διατριβή συλλέχθηκαν και μελετήθηκαν όλες οι Νοήμονες Υπολογιστικές Μέθοδοι που είναι Εμπνευσμένες από τον Φυσικό Κόσμο με σκοπό να εντοπιστούν τα χαρακτηριστικά που μπορούν να βελτιώσουν την απόδοσή τους. Επιπρόθετα, η μελέτη εστίασε και στα προβλήματα (χώρους εφαρμογής) που εφαρμόζονται οι παραπάνω μέθοδοι. Από αυτή την εκτενή μελέτη της βιβλιογραφίας προέκυψαν κάποιες παρατηρήσεις, οι οποίες αποτυπώθηκαν σε ένα πλαίσιο εργασίας (framework), το οποίο μπορεί να ακολουθήσει ο ενδιαφερόμενος ερευνητής, ώστε να αναπτύξει ή να βελτιώσει κάποια υπάρχουσα Νοήμονα Υπολογιστική Μέθοδος Εμπνευσμένη από τον Φυσικό Κόσμο. Επιπλέον, σε συμφωνία με το προτεινόμενο πλαίσιο εργασίας και με βάση τα προαναφερθέντα χαρακτηριστικά, αναπτύχθηκε μια νέα νοήμων υπολογιστική μέθοδος εμπνευσμένη από τους νόμους της υποθαλάσσιας ακουστικής, η οποία αποδεικνύεται αποτελεσματική στην επίλυση διαφόρων πρακτικών εφαρμογών από το χώρο της Μηχανικής των Αποφάσεων (Βελτιστοποίηση Χαρτοφυλακίου, Βέλτιστη Εξισορρόπηση Πόρων στη Διοίκηση Έργων, Οικονομική Κατανομή Φορτίου, Βελτιστοποίηση Γραμμών Παραγωγής). Μάλιστα, τα αποτελέσματα της προτεινόμενης μεθόδου συγκρίνονται με αυτά άλλων κλασικών μεθόδων της βιβλιογραφίας ή μεθόδων που ανήκουν εξίσου στην κατηγορία των Υπολογιστικών Μεθόδων που είναι Εμπνευσμένες από τον Φυσικό Κόσμο, τις οποίες και ξεπερνάει σε απόδοση. Κατά τη διάρκεια της έρευνας, εφαρμόζοντας την προτεινόμενη μέθοδο σε προβλήματα των χώρων εφαρμογής που αναφέρονται παραπάνω, βελτιώθηκαν μηχανισμοί της μεθόδου, ενώ αναπτύχθηκαν μηχανισμοί που βοήθησαν στην αντιμετώπιση διάφορων προβλημάτων που αντιμετωπίζουν οι Νοήμονες Υπολογιστικές Μέθοδοι που είναι Εμπνευσμένες από τον Φυσικό Κόσμο. Μάλιστα, οι μηχανισμοί που αναπτύχθηκαν αποτελούν και μέρος της συνεισφοράς της παρούσας διατριβής, καθώς μπορούν να υιοθετηθούν και από άλλες μεθόδους Υπολογιστικής Νοημοσύνης. Τέλος, σε ορισμένες περιπτώσεις αναπτύχθηκαν και υβριδικά σχήματα που περιέχουν την υπολογιστική μέθοδο που προτείνεται στην παρούσα διατριβή με σκοπό την βελτίωση της απόδοσής της.

show abstract

Proposal of a New Swarm Optimization Method Inspired in Bison Behavior

Cited by 20 publications

References 7 publications

How Does the Number of Objective Function Evaluations Impact Our Understanding of Metaheuristics Behavior?

How Does the Number of Objective Function Evaluations Impact Our Understanding of Metaheuristics Behavior?

Regarding the Behavior of Bison Runners Within the Bison Algorithm

Νοήμονες Υπολογιστικές Μέθοδοι Εμπνευσμένες Από Τον Φυσικό Κόσμο Για Την Βελτιστοποίηση Συστημάτων

Contact Info

Product

Resources

About