Algoritma pembelajaran mesin telah sukses luar biasa di berbagai bidang, termasuk pengenalan suara, klasifikasi gambar, terjemahan mesin, dll. Namun, kurangnya penjelasan dan pemahaman algoritme ini telah menjadi penghalang terbesar untuk adaptasinya. Algoritme ini juga dapat mengembangkan bias yang tidak diinginkan, yang tidak dapat diterima untuk proses rekrutmen yang adil atau untuk menyetujui produk keuangan.
Algoritme pembelajaran mesin memiliki banyak potensi untuk diterapkan dalam proses rekrutmen. Kredit gambar: Rawpixel melalui di sini, CC0 Domain Publik
Membangun AI untuk Rekrutmen yang dapat dijelaskan bisa lebih efisien dan dapat diterima dengan lebih baik oleh manusia. Alfonso Ortega, Julian Fierrez, Aythami Morales, Zilong Wang, dan Tony Ribeiro telah mengevaluasi Learning From Interpretation Transition (LFIT) dalam makalah penelitian mereka yang berjudul “Symbolic AI for XAI: Evaluating LFIT Inductive Programming for Fair and Explainable Automatic Recruitment” yang menjadi dasar dari teks berikut.
Pentingnya Penelitian ini
Ini adalah fakta bahwa algoritma ML dengan pelatihan yang tepat dapat melakukan pekerjaan yang lebih baik di Rekrutmen daripada manusia biasa. Namun, penjelasan dan pemahaman yang terbatas tentang algoritme kotak hitam ini telah menjadi kendala terbesar dalam penerapannya. Selain itu, algoritme ini menggunakan data pelatihan untuk mengklasifikasikan data aktual dan membangun bias berdasarkan jenis kelamin, ras, warna kulit, dll., jika tidak dipantau secara ketat.
Pemrograman logika induktif (ILP) secara induktif mempelajari program logika dari contoh dan dapat digunakan untuk menghindari bias tersebut. Penelitian ini merupakan batu loncatan untuk mengevaluasi ILP ini untuk menemukan aplikasi di bidang-bidang penting seperti Rekrutmen, e-health, e-learning dan lembaga keuangan.
Tentang penelitian
Algoritma LFIT telah dievaluasi untuk Perekrutan Otomatis yang Adil dan Dapat Dijelaskan dalam makalah penelitian ini. GULA (General Usage LFIT Algorithm) adalah algoritma LFIT yang paling umum, dan PRIDE adalah pendekatan untuk GULA. PRIDE membantu memberikan penjelasan deklaratif untuk algoritme ML kotak hitam. Para peneliti juga telah memverifikasi kekuatan ekspresif dari penjelasan ini.
Aspek lain dari makalah penelitian:
- LFIT, GULA dan PRIDE dibahas secara rinci dalam makalah penelitian
- Kerangka eksperimental termasuk dataset dan eksperimen yang dilakukan dijelaskan.
Hasil penelitian
Pekerjaan penelitian menegaskan bahwa:
- PRIDE memberikan penjelasan ke jaringan saraf
- PRIDE menawarkan wawasan tentang struktur kumpulan data
- Bias dalam data pelatihan terdeteksi oleh PRIDE
Area kerja masa depan juga telah diusulkan dan dibahas dalam penelitian ini.
Kesimpulan
AI memiliki aplikasi yang luar biasa, dan AI yang Dapat Dijelaskan diperlukan untuk memfasilitasi adaptasi mereka di bidang-bidang penting seperti Rekrutmen. Algoritme AI yang dapat dijelaskan ini juga membantu kami memastikan bahwa bias yang tidak adil tidak dibangun oleh algoritme pembelajaran mendalam ini.
Dalam kata-kata para peneliti,
Metode pembelajaran mesin semakin relevan untuk biometrik dan pemrosesan informasi pribadi dalam domain seperti forensik, e-health, rekrutmen, dan e-learning. Dalam domain ini, penjelasan kotak putih (dapat dibaca manusia) dari sistem yang dibangun di atas metode pembelajaran mesin dapat menjadi sangat penting. Pemrograman Logika Induktif (ILP) adalah subbidang AI simbolik yang bertujuan untuk mempelajari teori deklaratif tentang proses data secara otomatis. Learning from Interpretation Transition (LFIT) adalah teknik ILP yang dapat mempelajari teori logika proposisional yang setara dengan sistem blackbox yang diberikan (dalam kondisi tertentu). Pekerjaan saat ini mengambil langkah pertama ke metodologi umum untuk menggabungkan penjelasan deklaratif yang akurat untuk pembelajaran mesin klasik dengan memeriksa kelayakan LFIT dalam skenario aplikasi AI tertentu: perekrutan yang adil berdasarkan alat otomatis yang dihasilkan dengan metode pembelajaran mesin untuk peringkat Curriculum Vitae yang menggabungkan informasi biometrik lunak (gender dan etnis). Kami menunjukkan ekspresi LFIT untuk masalah khusus ini dan mengusulkan skema yang dapat diterapkan ke domain lain
Sumber: Alfonso Ortega, Julian Fierrez, Aythami Morales, Zilong Wang, Tony Ribeiro “AI Simbolik untuk XAI: Mengevaluasi Pemrograman Induktif LFIT untuk Perekrutan Otomatis yang Adil dan Dapat Dijelaskan”. Tautan: https://arxiv.org/pdf/2012.00360.pdf
