Model Machine Learning Baru Hilangkan Bias dari Koneksi Jejaring Sosial

Liputan6.com, Jakarta - Pernahkah Anda bertanya-tanya bagaimana layanan jejaring sosial seperti Facebook dan LinkedIn membuat rekomendasi tentang orang-orang yang harus Anda temani atau halaman yang harus Anda ikuti?

Di balik itu ada model Machine Learning yang membuat klasifikasi node berdasarkan data yang dikandungnya tentang pengguna. Data itu termasuk tingkat pendidikan, lokasi, atau afiliasi politik mereka.

Model Machine Learning itu kemudian menggunakan klasifikasi ini untuk merekomendasikan orang dan halaman bagi setiap pengguna.

Namun, terdapat bias yang signifikan di dalam rekomendasi yang dibuat oleh model yang dikenal sebagai Graph Neural Networks (GNN) itu. Bias ini muncul karena model itu mengandalkan fitur pengguna yang sangat terkait dengan atribut sensitif seperti jenis kelamin atau warna kulit.

Menyadari bahwa mayoritas pengguna enggan mempublikasikan atribut sensitif mereka, para peneliti di Penn State College of Information Sciences and Technology telah mengembangkan kerangka kerja baru yang memperkirakan atribut sensitif untuk membantu GNN membuat rekomendasi lebih adil.

Tim peneliti pun menemukan bahwa model mereka, yang disebut FairGNN, mempertahankan performa tinggi pada klasifikasi node menggunakan informasi sensitif terbatas yang disediakan pengguna, sekaligus mengurangi bias.

"Telah banyak dilaporkan bahwa orang cenderung membangun hubungan dengan mereka yang memiliki atribut sensitif yang sama seperti usia dan wilayah," kata Enyan Dai, kandidat doktor di bidang informatika dan penulis utama pada makalah penelitian ini.

"Ada beberapa model pembelajaran mesin yang bertujuan untuk menghilangkan bias, tetapi model itu membutuhkan atribut sensitif orang-orang untuk membuatnya adil dan akurat," tutur Dai lebih lanjut.

Oleh karena itu, Dai dan timnya mengusulkan model lain berdasarkan sangat sedikit atribut sensitif yang mereka miliki dan mempertimbangkan hal lain yang dapat memberikan informasi yang diperlukan.