DANUARTA, MARCELLINUS RYAN (2026) PERBANDINGAN OPTIMASI HYPERPARAMETER GAUSSIAN NAIVE BAYES DAN BERNOULLI NAIVE BAYES MENGGUNAKAN TREE-STRUCTURED PARZEN ESTIMATOR (TPE) DALAM MEMPREDIKSI RISIKO PENYAKIT JANTUNG. S1 thesis, Universitas Mercu Buana Jakarta.
|
Text (HAL COVER)
COVER.pdf Download (636kB) | Preview |
|
![[img]](https://repository.mercubuana.ac.id/style/images/fileicons/text.png) |
Text (BAB I)
BAB 1.pdf Restricted to Registered users only Download (55kB) |
|
|
Text (BAB II)
BAB 2.pdf Restricted to Registered users only Download (253kB) |
|
|
Text (BAB III)
BAB 3.pdf Restricted to Registered users only Download (297kB) |
|
|
Text (BAB IV)
BAB 4.pdf Restricted to Registered users only Download (457kB) |
|
|
Text (BAB V)
BAB 5.pdf Restricted to Registered users only Download (87kB) |
|
|
Text (DAFTAR PUSTAKA)
DAFTAR PUSTAKA.pdf Restricted to Registered users only Download (145kB) |
|
|
Text (LAMPIRAN)
LAMPIRAN.pdf Restricted to Registered users only Download (240kB) |
Abstract
The effectiveness of a Machine learning model in predicting heart Disease risk is influenced by the suitability of the classification algorithm and the selected Hyperparameter configuration. Since medical datasets generally contain both numerical and binary attributes, each Naïve Bayes variant may exhibit different predictive capabilities. Therefore, evaluating the performance of different model variants and examining the contribution of Hyperparameter optimization are important to obtain a more reliable classification model. This study compares the performance of Gaussian Naïve Bayes (GaussianNB) and Bernoulli Naïve Bayes (BernoulliNB) by applying Hyperparameter optimization using the Tree-Structured Parzen Estimator (TPE) . The experiment utilized the Heart Failure Prediction Dataset obtained from Kaggle, which contains patients' clinical information related to heart Disease risk. Prior to model development, the dataset underwent Data Cleaning, categorical feature transformation using One�Hot Encoding, normalization, and train-test splitting. Hyperparameter optimization was then performed to identify the most appropriate configuration before evaluating both models using accuracy, precision, recall, and F1-score. The experimental findings demonstrate that the TPE optimization approach improves the predictive performance of both classifiers. GaussianNB achieved an accuracy of 87%, whereas BernoulliNB reached 89%. In addition to achieving higher accuracy, BernoulliNB also produced superior recall and F1-score values for the Disease class, indicating a stronger capability in identifying patients with a higher risk of heart Disease. The results suggest that Hyperparameter optimization contributes positively to improving the predictive capability of Naïve Bayes classifiers. Among the evaluated models, Bernoulli Naïve Bayes with the optimized Hyperparameter configuration provided the best overall performance for heart Disease risk prediction using the dataset employed in this study. Keywords: Naïve Bayes, GaussianNB, BernoulliNB, Tree-Structured Parzen Estimator (TPE), Hyperparameter optimization, heart Disease, Machine learning. Prediksi risiko penyakit jantung memerlukan model klasifikasi yang mampu mengolah karakteristik data klinis secara akurat. Perbedaan tipe atribut pada dataset kesehatan, mulai dari data numerik hingga data biner, menyebabkan setiap varian algoritma Naïve Bayes memiliki kemampuan prediksi yang berbeda. Selain karakteristik algoritma, konfigurasi Hyperparameter juga berpengaruh terhadap kualitas model yang dihasilkan. Atas dasar tersebut, penelitian ini mengevaluasi efektivitas optimasi Hyperparameter sekaligus membandingkan performa Gaussian Naïve Bayes (GaussianNB) dan Bernoulli Naïve Bayes (BernoulliNB) dalam memprediksi risiko penyakit jantung. Penelitian ini menggunakan Heart Failure Prediction Dataset yang diperoleh melalui platform Kaggle sebagai sumber data eksperimen. Sebelum proses pemodelan dilakukan, data terlebih dahulu melewati tahapan prapemrosesan yang meliputi Data Cleaning, transformasi variabel kategorikal menggunakan teknik One-Hot Encoding, normalisasi nilai fitur, serta pembagian dataset ke dalam data pelatihan dan data pengujian. Selanjutnya, optimasi Hyperparameter diterapkan dengan memanfaatkan metode Tree-Structured Parzen Estimator (TPE) . Kinerja model kemudian dianalisis menggunakan metrik accuracy, precision, recall, dan F1-score untuk menilai kemampuan klasifikasinya. Performa terbaik diperoleh oleh Bernoulli Naïve Bayes setelah proses optimasi diterapkan. Model tersebut menghasilkan accuracy sebesar 89%, sedangkan Gaussian Naïve Bayes memperoleh 87%. Keunggulan Bernoulli Naïve Bayes juga terlihat pada nilai recall dan F1-score untuk kelas Disease, yang menunjukkan kemampuan lebih baik dalam mengenali pasien dengan risiko penyakit jantung. Perbandingan yang dilakukan memperlihatkan bahwa optimasi Hyperparameter menggunakan TPE memberikan kontribusi terhadap peningkatan performa klasifikasi pada kedua model. Berdasarkan hasil evaluasi, Bernoulli Naïve Bayes menjadi algoritma yang paling sesuai untuk dataset yang digunakan dan berpotensi diterapkan sebagai pendekatan dalam pengembangan sistem prediksi risiko penyakit jantung berbasis Machine learning. Kata kunci: Naïve Bayes, GaussianNB, BernoulliNB, Tree-Structured Parzen Estimator (TPE), optimasi Hyperparameter, penyakit jantung, Machine learning.
Actions (login required)
 |
View Item |
