Yapay arı kolonisi ve parçacık sürü optimizasyonu ile YOLO algoritmasının hiperparametrelerinin belirlenmesi

Abstract

Bu tez çalışmasında YOLO algoritmasının beşinci sürümü olan YOLOv5 algoritmasında bulunan hiperparametrelerin optimize edilmesi sürecinde Yapay Arı Kolonisi (ABC) ve Parçacık Sürü Optimizasyonu (PSO) algoritmalarının kullanımı ve etkinliği incelenmiştir. YOLO algoritması nesne tespiti alanında önemli ilerlemeler sağlamış olmasına karşın beraberinde getirdiği hiperparametrelerin uzman bilgisi ve deneme yanılmalar gerektiren ayarlamalara ihtiyaç duyması algoritmanın uygulanmasını karmaşık bir süreç haline getirmektedir. Bu çalışmada algoritmanın hiperparametrelerinden dokuz tanesi seçilerek ABC ve PSO algoritmaları ile optimize edilmiştir. Oxford-IIIT evcil hayvan veri kümesindeki görseller kullanılarak elde edilen modellerin eğitim performansları kıyaslandığında PSO ile optimize edilen modelin zor ve nadir bulunan verileri tespit etme eğiliminde olduğu ve hızlı yakınsama ile eğitildiği görülmüştür. Buna karşılık ABC ile optimize edilen modelin tüm verileri dengeli bir şekilde öğrenerek düşük öğrenme oranlarıyla yavaş ve istikrarlı bir yakınsama yaptığı görülmüştür. Test aşamasında ABC algoritması ile optimize edilen modelin %81,7 mAP skoru aldığı, bu sonucun eğitim sonuçlarına benzer olduğu görülmüşken PSO ile optimize edilen modelin %76,8 mAP skoru aldığı ve eğitim esnasında aşırı uymaya girdiği, test verilerinde başarılı bir performans vermediği görülmüştür. Bu sonuçlar YOLO algoritmasının hiperparametre optimizasyonu probleminde PSO'ya göre daha çok sonuç çeşitliliği üretebilen ABC algoritmasının başarılı sonuçlar elde etmek için daha elverişli olduğunu göstermiştir.

This thesis investigates the application and effectiveness of Artificial Bee Colony (ABC) and Particle Swarm Optimization (PSO) algorithms in the optimization process of hyperparameters found in YOLOv5, the fifth iteration of the YOLO algorithm. Despite the significant advancements that YOLO has brought to the field of object detection, the requirement for expert knowledge and trial-and-error in tuning its numerous hyperparameters adds complexity to its application. In this study, nine hyperparameters of the algorithm were selected and optimized using ABC and PSO algorithms. When the training performance of the resulting models obtained using images from the Oxford-IIIT pet dataset was compared, it was observed that the model optimized with PSO tended to detect rare and challenging data and was trained with rapid convergence. In contrast, the model optimized with ABC learned all data in a balanced manner, achieving slow and steady convergence with low learning rates. During testing, the ABC-optimized model produced %81,7 mAP score which similar to its training outcomes while the PSO-optimized model produced %76,8 mAP score and exhibited overfitting and failed to perform well on the test data. These findings indicate that in the hyperparameter optimization problem of the YOLO algorithm, the ABC algorithm, which can produce a greater variety of results compared to PSO, is more conducive to achieving successful outcomes.