Kasus illegal fishing yang marak di Indonesia menyebabkan kerugian besar bagi industri perikanan. Selain itu, proses klasifikasi jenis ikan dan penentuan beratnya memakan waktu yang lama. Penelitian ini mengembangkan sistem prediksi jenis ikan dan beratnya untuk meningkatkan efisiensi hasil tangkapan. Model object detection dan segmentation menggunakan arsitektur YOLOv8 (You Only Look Once), sementara prediksi berat ikan dilakukan dengan decision tree, random forest, XGBoost, dan ANN. Ada 5 metode eksperimen yang dilakukan untuk mendapatkan model object detection dan instance segmentation terbaik, yaitu yang pertama membandingkan arsitektur small, medium, dan large dari model YOLOv8 untuk mengetahui arsitektur terbaik terhadap kemampuan mendeteksi dan mengsegmentasi objek, yang kedua melakukan tunning hyperparameter dari model terbaik di eksperimen 1 dengan mengubah variasi optimuzer serta dropout, yang ketiga membandingkan algoritma decision tree, random forest, dan XGBoost untuk mengetahui algoritma regresi terbaik untuk melakukan prediksi berat ikan, yang keempat adalah melakukan evaluasi dengan dataset tanpa dan dengan cumi untuk mengetahui pengaruh kelas cumi dalam kemampuan prediksi model, dan yang terakhir adalah melakukan hyperparameter tunning terhadap model terbaik dari eksperimen tiga, yaitu random forest dan ANN. Dari kelima eksperimen yang dilakukan didapatkan hasil model object detection dan instance segmentation terbaik menggunakan YOLOv8seg-m (medium) dengan optimizer SGD dan tanpa dropout mencapai metrics mAP0.5 sebesar 0.994, mAP0.5:0.95 sebesar 0.886, F1-score sebesar 0.985, IoU (mask) sebesar 0.828, dan IoU (box) sebesar 0.846. Model prediksi berat terbaik adalah random forest dengan R2 sebesar 0.994, MAE sebesar 6.051, MSE sebesar 124.058, dan RMSE sebesar 11.138. Kata kunci: fish monitoring, computer vision, deep learning, object detection, instance segmentation, YOLOv8.

---

The widespread occurrence of illegal fishing in Indonesia has caused significant losses to the fishing industry. Additionally, the process of classifying fish species and determining their weight is time-consuming. This study develops a system to predict fish species and weight to improve the efficiency of catch results. The object detection and segmentation model uses the YOLOv8 (You Only Look Once) architecture, while fish weight prediction is performed using decision tree, random forest, XGBoost, and ANN. Five experimental methods were conducted to obtain the best object detection and instance segmentation model: the first compared the small, medium, and large architectures of the YOLOv8 model to determine the best architecture for object detection and segmentation capabilities; the second tuned the hyperparameters of the best model from experiment 1 by varying the optimizer and dropout; the third compared decision tree, random forest, and XGBoost algorithms to determine the best regression algorithm for fish weight prediction; the fourth evaluated the dataset with and without squid to understand the influence of the squid class on the model's prediction ability; and the last performed hyperparameter tuning on the best models from experiment three, namely random forest and ANN. From the five experiments conducted, the best object detection and instance segmentation model was found using YOLOv8seg-m (medium) with the SGD optimizer and no dropout, achieving metrics of mAP0.5 of 0.994, mAP0.5:0.95 of 0.886, F1-score of 0.985, IoU (mask) of 0.828, and IoU (box) of 0.846. The best weight prediction model was random forest with an R2 of 0.994, MAE of 6.051, MSE of 124.058, and RMSE of 11.138.