Menjelaskan Keputusan yang Dibuat dengan AI: Buku Kerja

  • Whatsapp


Kecerdasan buatan (AI) dan Pembelajaran mesin (ML) telah mengubah hidup kita menjadi lebih baik di berbagai bidang mulai dari perawatan medis, kesehatan masyarakat, pelestarian lingkungan, dan konsumsi energi hingga mempercepat wawasan ilmiah, meningkatkan pertanian, dan membantu pemerintah mengatasi ketidakadilan sosial. Karena kemampuan komputasi kami semakin meningkat dan semakin banyak data tersedia, dampak dari algoritme ini hanya akan memperdalam dalam hidup kita.

Kecerdasan buatan (AI) - konsep artistik.  Kredit gambar: geralt melalui Pixabay (lisensi Pixabay)

Kecerdasan buatan (AI) – konsep artistik. Kredit gambar: geralt melalui Pixabay (lisensi Pixabay)

Meskipun telah membuka berbagai aplikasi yang tidak terbatas, AI perlu dibuat transparan untuk memastikan bahwa algoritme AI/ML yang mendasarinya tidak mendiskriminasi atau memperlakukan orang dengan cara yang tidak adil, dan memungkinkan untuk melacak dan menjelaskan asumsi utama yang dibuat selama proses pengambilan keputusan otomatis. Dr David Leslie dan Morgan Briggs telah membahas masalah ini dalam makalah penelitian mereka yang berjudul “Menjelaskan keputusan yang dibuat dengan AI: Buku kerja (Kasus penggunaan 1: alat rekrutmen berbantuan AI)”

Pentingnya Penelitian ini

Model AI/ML perlu dibuat transparan agar adil. Kita harus diperlengkapi dengan baik untuk menjelaskan algoritme AI dengan cara yang mudah dipahami, bahkan untuk pengguna non-teknis, untuk memastikan bahwa pemrosesan data kuat, andal, dan aman,

Empat Prinsip Penjelasan AI

Empat parameter di bawah ini memberi kami pemahaman yang lebih luas tentang menjelaskan keputusan yang dibantu AI kepada individu.

  1. Bersikaplah transparan
  2. Bertanggung jawab
  3. Pertimbangkan konteks
  4. Merefleksikan dampak

Penjelasan Sadar Desain:

Menjelaskan keputusan AI dapat diklasifikasikan ke dalam Enam jenis penjelasan utama:

Kredit gambar: arXiv:2104.03906 [cs.CY]

Enam tugas untuk desain yang sadar akan penjelasan dan penggunaan Sistem AI

  1. Tugas 1: Memilih penjelasan prioritas dengan mempertimbangkan domain, kasus penggunaan, dan dampaknya pada individu
  2. Tugas 2: Kumpulkan dan pra-proses data Anda dengan cara yang sadar akan penjelasan
  3. Tugas 3: Bangun sistem Anda untuk memastikan Anda dapat mengekstrak informasi yang relevan untuk berbagai jenis penjelasan
  4. Tugas 4: Menerjemahkan alasan hasil sistem Anda menjadi alasan yang dapat digunakan dan mudah dimengerti
  5. Tugas 5: Mempersiapkan pelaksana untuk menerapkan sistem AI Anda
  6. Tugas 6: Pertimbangkan bagaimana membangun dan menyajikan penjelasan Anda

Menggunakan AI/ML dalam Rekrutmen:

Mari kita pertimbangkan kasus penggunaan Rekrutmen untuk membangun aplikasi ML. Keputusan rekrutmen untuk algoritma ini akan membuat keputusan berdasarkan beberapa faktor, seperti data di bawah ini.

Kredit gambar: arXiv:2104.03906 [cs.CY]

Desain algoritma ML akan dimulai dari mengumpulkan data di atas untuk semua pelamar. Seseorang yang berhasil dalam peran yang ada dapat diidentifikasi, dan ini dapat digunakan sebagai data pelatihan (bersama dengan yang tidak berkinerja baik dalam peran, ditambah yang ditolak oleh HR selama proses seleksi).
Dalam aplikasi reject/shortlisting ini, kita dapat memilih model pembelajaran sesuai dengan kebutuhan kita. Kami juga dapat memilih model yang akan digunakan untuk aplikasi spesifik kami. Teknik pembelajaran yang paling umum adalah regresi, klasifikasi, dan teknik pembelajaran mendalam seperti jaringan saraf.

  1. Regresi linier digunakan untuk memodelkan hubungan antara satu (atau lebih) variabel prediktor dan satu variabel hasil—misalnya, variasi gaji seorang individu dengan pengalaman bertahun-tahun.
  2. Klasifikasi: Teknik pembelajaran terawasi ini akan mengklasifikasikan data dalam biner Ya, ATAU Tidak. Dua kasus penggunaan adalah sebagai berikut
    • Untuk pengklasifikasi email yang memfilter email spam, akan bermanfaat untuk mengklasifikasikan kata sebagai spam atau non-spam. Klasifikasi ini dapat digunakan untuk menentukan kemungkinan suatu email adalah SPAM atau bukan.
    • Dalam Rekrutmen, itu bisa terkait dengan kualifikasi pelamar. Untuk beberapa posisi, orang dengan kualifikasi tertentu mungkin berkinerja lebih baik dalam suatu peran daripada yang lain. Pembelajaran yang diawasi, setelah dilatih, dapat mengklasifikasikan resume berdasarkan kualifikasi yang diidentifikasi untuk kinerja tinggi.
  3. Neural Network: Teknik pembelajaran yang diawasi ini akan menetapkan label & perkiraan bobot terkait untuk memprediksi hasil yang mendekati data aktual.

Kredit gambar: arXiv:2104.03906 [cs.CY]

Setelah pelatihan, algoritme yang dibangun dapat mulai menyajikan keluaran (shortlist) kepada manajer perekrutan. Daftar pendek harus dipantau untuk memastikan bahwa tidak ada bias yang tidak adil dalam sistem.

Kesimpulan

Makalah penelitian merangkum panduan ujung ke ujung tentang cara menerapkan prinsip dan praktik terbaik dari kemampuan menjelaskan AI. Dalam kata-kata para peneliti

Selama dua tahun terakhir, The Alan Turing Institute dan Information Commissioner’s Office (ICO) telah bekerja sama untuk menemukan cara mengatasi masalah sulit seputar AI yang dapat dijelaskan. Produk akhir dari upaya bersama ini, Menjelaskan keputusan yang dibuat dengan AI, yang diterbitkan pada Mei 2020, adalah panduan praktis paling komprehensif tentang penjelasan AI yang diproduksi di mana pun hingga saat ini. Kami telah menyusun buku kerja ini untuk membantu mendukung penerapan panduan itu. Tujuan dari buku kerja ini adalah untuk meringkas beberapa tema utama dari Menjelaskan keputusan yang dibuat dengan AI dan kemudian menyediakan materi untuk latihan lokakarya yang telah dibangun di seputar kasus penggunaan yang dibuat untuk membantu Anda memahami cara memasukkan panduan ke dalam praktek. Di tiga bagian pertama, kami membahas dasar-dasar Menjelaskan keputusan yang dibuat dengan AI. Kami menyediakan empat prinsip kemampuan menjelaskan AI, tipologi penjelasan AI, dan tugas yang terlibat dalam desain, pengembangan, dan penggunaan sistem AI/ML yang sadar akan penjelasan. Kami kemudian memberikan beberapa pertanyaan refleksi, yang dimaksudkan sebagai landasan untuk diskusi kelompok, dan titik awal untuk latihan berbasis studi kasus yang telah kami sertakan sebagai Lampiran B. Dalam Lampiran A, kami masuk ke saran yang lebih rinci tentang bagaimana mengatur bengkel.

Sumber: Dr David Leslie dan Morgan Briggs Menjelaskan keputusan yang dibuat dengan AI: Buku kerja (Kasus penggunaan 1: Alat rekrutmen berbantuan AI)




Pos terkait

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Situs ini menggunakan Akismet untuk mengurangi spam. Pelajari bagaimana data komentar Anda diproses.