AI di HR: Rekrutmen, Bias Algoritma, dan Tata Kelola yang Aman

Kamu melamar kerja lewat portal online. Lima menit kemudian, email penolakan masuk. Tidak ada manusia yang sempat membaca CV-mu; sebuah sistem menilai kamu "kurang cocok". Di sisi lain, tim HR perusahaan itu lega: mereka menerima 9.000 lamaran untuk 40 posisi, dan sistem membantu menyaringnya. Dua sudut pandang ini sama-sama nyata, dan HR strategis harus bisa memegang keduanya.

Modul ini membahas di mana AI dan algoritma dipakai dalam HR, kenapa bias algoritma terjadi, cara menghitung tanda bahaya dengan angka, apa itu transparansi dan human-in-the-loop, serta cara menyusun tata kelola AI yang masuk akal untuk perusahaan Indonesia, dari startup sampai BUMN.

Dari filter kata kunci ke AI: kenapa ini urusanmu

Otomatisasi di rekrutmen bukan barang baru. Sejak akhir 1990-an, perusahaan besar memakai applicant tracking system (ATS, sistem pengelola lamaran) yang menyaring CV dengan kata kunci sederhana: ada kata "Excel" atau tidak. Sekitar 2010-an muncul machine learning yang tidak lagi diberi aturan, tapi belajar sendiri dari ribuan data rekrutmen lama. Lalu sejak 2023, AI generatif membuat HR bisa menulis lowongan, merangkum wawancara, dan menjawab pertanyaan karyawan dalam hitungan detik.

Buat kamu yang baru mulai di HR, ini bukan topik khusus tim IT. Staf rekrutmen junior sering jadi orang pertama yang mengoperasikan ATS, membaca skor kandidat, dan menjawab pelamar yang protes. Kalau kamu paham cara kerja dan batas alatnya, kamu bisa melihat masalah lebih awal dan berani bertanya. Kalau tidak, kamu cuma jadi operator yang meneruskan keputusan mesin tanpa tahu dasarnya.

Istilah kunci yang perlu kamu kenal

Di mana AI dipakai dalam HR?

Algorithmic HRM (manajemen SDM berbasis algoritma) adalah penggunaan aturan otomatis, statistik, atau machine learning untuk membantu atau mengambil keputusan tentang karyawan. Kajian tentang HRM berbantuan AI mengusulkan kerangka strategis yang lebih luas: AI tidak cukup dilihat sebagai alat efisiensi, tapi perlu dikaitkan dengan strategi SDM secara keseluruhan [2].

Lalu ada AI generatif, yang paling sering dipakai staf HR sehari-hari: menulis draf iklan lowongan, merangkum catatan wawancara, membuat soal tes, atau menyusun jawaban FAQ karyawan. Risikonya berbeda dari penyaring CV. Teks yang dihasilkan bisa terdengar meyakinkan padahal salah, misalnya menyebut jumlah cuti yang tidak sesuai peraturan perusahaan, atau memakai bahasa lowongan yang tanpa sadar menyaring kelompok tertentu ("usia maksimal 25 tahun, berpenampilan menarik"). Aturan praktisnya: AI boleh menyusun draf, manusia wajib memeriksa fakta dan kepatutannya sebelum dipublikasikan.

Bias algoritma: kenapa mesin bisa tidak adil

Mesin tidak punya niat jahat. Tapi mesin belajar dari data, dan data adalah catatan keputusan manusia di masa lalu. Kalau dulu perusahaan lebih sering menerima lulusan kampus tertentu, model akan menganggap kampus itu tanda "bagus". Penelitian tentang AI dalam rekrutmen menunjukkan bahwa algoritma prediktif bisa dibentuk agar lebih inklusif, tapi itu butuh keputusan sadar dari manusia yang merancangnya [3]. Kajian lain membahas langkah mengatasi bias algoritma dalam sistem HRM berbasis AI dan kaitannya dengan efektivitas strategi SDM [5].

• Bias data historis: pola diskriminasi lama terekam di data pelatihan.
• Variabel proksi: model tidak memakai jenis kelamin, tapi memakai hobi atau nama organisasi yang berkorelasi dengan jenis kelamin.
• Ukuran yang salah: "karyawan bagus" didefinisikan sebagai "jarang cuti", sehingga karyawan dengan tanggungan keluarga dirugikan.
• Data tidak representatif: model dilatih dari data kantor pusat Jakarta, lalu dipakai untuk cabang di daerah.

Contoh hitungan: membaca rasio seleksi

Cara paling sederhana untuk mendeteksi bias adalah membandingkan tingkat lolos tiap kelompok. Rumusnya: tingkat lolos = jumlah lolos ÷ jumlah pelamar. Lalu rasio seleksi = tingkat lolos kelompok terendah ÷ tingkat lolos kelompok tertinggi. Banyak praktisi memakai patokan 0,8 (aturan empat per lima) sebagai tanda awal untuk diselidiki. Ini bukan bukti diskriminasi, tapi alarm yang harus ditindaklanjuti.

Cek ulang hitungannya: 270 ÷ 600 = 0,45; 120 ÷ 400 = 0,30; 95 ÷ 250 = 0,38. Rasio kampus daerah = 0,30 ÷ 0,45 = 0,67, di bawah 0,8. Rasio lulusan SMK = 0,38 ÷ 0,45 = 0,84, masih di atas patokan. Jadi yang perlu diselidiki duluan adalah kelompok kampus daerah.

Transparansi, reaksi pelamar, dan human-in-the-loop

Banyak sistem AI bersifat opaque (buram): sulit dijelaskan kenapa seseorang dapat skor rendah. Kajian tentang opasitas dalam HRM berbasis algoritma menekankan bahwa kebutuhan transparansi berbeda untuk tiap pihak: pelamar, karyawan, manajer, pengembang, dan regulator, sehingga strategi mengurangi keburaman juga perlu disesuaikan [4].

Transparansi juga soal perasaan diperlakukan adil. Meta-analisis terbaru merangkum banyak studi tentang bagaimana orang bereaksi terhadap keputusan HR yang dibuat algoritma dibanding manusia [6]. Studi lain tentang interview video yang dinilai otomatis menguji apakah penjelasan yang diberikan kepada pelamar, misalnya bahwa semua kandidat dinilai dengan cara yang sama, bisa memperbaiki penilaian mereka terhadap proses tersebut [7]. Pelajarannya praktis: email penolakan yang menjelaskan proses seleksi dengan jujur lebih baik daripada template satu kalimat.

Human-in-the-loop berarti manusia tetap terlibat dalam keputusan. Tapi hati-hati dengan versi palsunya: manusia hanya menekan tombol "setuju" untuk 500 rekomendasi per hari tanpa sempat memeriksa. Itu bukan pengawasan, itu stempel. Hitung kasar saja: kalau satu rekruter punya 6 jam efektif dan harus meninjau 500 kandidat, waktunya kurang dari 45 detik per orang. Supaya tinjauan manusia bermakna, batasi yang ditinjau, misalnya hanya kandidat di zona skor tengah dan sampel acak dari yang ditolak.

Contoh email penolakan yang lebih adil

“Terima kasih sudah melamar posisi Staf Admin. Pada tahap awal, semua lamaran dinilai dengan kriteria yang sama: pengalaman administrasi, kemampuan spreadsheet, dan kesediaan bekerja di lokasi. Penilaian awal dibantu sistem otomatis, lalu ditinjau tim rekrutmen kami. Untuk lowongan ini kamu belum lolos ke tahap wawancara. Kalau kamu ingin penilaianmu ditinjau ulang oleh rekruter, balas email ini dalam 14 hari.”

Konteks regulasi di Indonesia

Indonesia belum punya undang-undang khusus AI, tapi bukan berarti kosong aturan. Beberapa yang perlu kamu tahu:

• UU PDP 27/2022 memberi subjek data hak terkait keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk profiling. Data CV, hasil tes, dan rekaman wawancara adalah data pribadi, dan sebagian (misalnya data kesehatan) termasuk data spesifik yang perlindungannya lebih ketat.
• UU Ketenagakerjaan (sebagaimana diubah UU Cipta Kerja) menegaskan hak setiap orang untuk memperoleh pekerjaan dan perlakuan tanpa diskriminasi. Diskriminasi tetap diskriminasi walaupun dilakukan lewat software.
• Pedoman etika AI dari pemerintah: pada 2023 kementerian yang membidangi komunikasi dan informatika menerbitkan surat edaran tentang etika kecerdasan artifisial yang menekankan prinsip seperti inklusivitas, transparansi, akuntabilitas, dan perlindungan data. Sifatnya pedoman, tapi berguna sebagai rujukan kebijakan internal.
• Regulasi luar negeri: regulasi AI Uni Eropa menggolongkan sistem AI untuk rekrutmen dan pengelolaan pekerja sebagai berisiko tinggi. Perusahaan Indonesia yang punya induk atau klien di Eropa perlu memperhatikannya.

Cara menyusun tata kelola AI di HR

Kajian etika tentang AI dalam pengelolaan orang menyoroti bahwa pertanyaan utamanya bukan hanya "apakah akurat", tapi juga "apakah adil, apakah menghormati martabat, dan siapa yang bertanggung jawab" [1]. Berikut langkah praktis yang bisa diterapkan:

Apa saja yang dicek saat audit bias?

• Rasio seleksi per kelompok yang relevan: jenis kelamin, rentang usia, asal daerah atau kampus, dan disabilitas bila datanya tersedia secara sah.
• Validitas: apakah skor tinggi benar-benar berkaitan dengan kinerja atau lolos masa percobaan? Bandingkan skor awal dengan penilaian kinerja 6–12 bulan kemudian.
• Daftar variabel: adakah variabel baru dari pembaruan vendor yang belum pernah diperiksa?
• Keluhan dan permintaan tinjauan: berapa yang masuk, berapa yang keputusannya berubah setelah ditinjau manusia.

Startup, perusahaan besar, dan BUMN: beda cara mulai

Polanya sama: makin besar dampak dan sorotan publik, makin formal dokumentasinya. Tapi startup tetap butuh aturan minimal, karena satu kasus penolakan massal yang viral di media sosial bisa merusak employer branding (citra sebagai tempat kerja) perusahaan kecil jauh lebih parah daripada perusahaan besar.

Daftar pertanyaan sebelum membeli alat AI

Sebagian besar perusahaan di Indonesia tidak membangun AI sendiri, tapi membeli dari vendor. Di sinilah HR punya daya tawar. Sebelum tanda tangan kontrak, ajukan pertanyaan berikut dan minta jawaban tertulis:

1. Data apa yang dipakai untuk melatih model, dari negara dan industri mana?
2. Variabel apa saja yang dipakai untuk menilai kandidat atau karyawan? Adakah variabel yang bisa jadi proksi usia, jenis kelamin, agama, atau asal daerah?
3. Apakah ada hasil uji bias? Kelompok apa saja yang diuji dan bagaimana hasilnya?
4. Bisakah sistem menjelaskan alasan skor untuk tiap orang dalam bahasa yang dimengerti?
5. Di mana data disimpan, siapa yang bisa mengakses, dan berapa lama disimpan? Bagaimana kesesuaiannya dengan UU PDP?
6. Bisakah kami mematikan atau mengubah bobot variabel tertentu?
7. Apa yang terjadi pada data kami kalau kontrak berakhir?

Vendor yang serius akan menjawab dengan dokumen dan angka. Vendor yang hanya menjawab "algoritma kami rahasia dagang" untuk semua pertanyaan perlu dipertimbangkan ulang, terutama untuk keputusan berisiko tinggi seperti seleksi dan penilaian kinerja. Simpan semua jawaban sebagai bagian dari dokumentasi tata kelola, karena akan dibutuhkan saat audit internal atau ketika ada keberatan dari karyawan.

Jangan lupa melibatkan pengguna di lapangan. Rekruter dan manajer yang memakai alat AI setiap hari biasanya paling cepat melihat keanehan, misalnya kandidat bagus yang terus mendapat skor rendah, atau jadwal shift otomatis yang selalu menempatkan orang yang sama di jam malam. Sediakan cara mudah bagi mereka untuk melaporkan kejanggalan, dan jadikan laporan itu bahan audit berkala.

Strategi, kesalahan umum, dan cara meyakinkan manajemen

• Mulai dari masalah, bukan dari alat. "Kita butuh AI" bukan tujuan. "Waktu screening 3 minggu bikin kandidat bagus hilang" adalah tujuan.
• Libatkan banyak pihak. HR, IT, legal, perwakilan karyawan atau serikat pekerja. Tata kelola yang dibuat sendirian oleh HR mudah bolong.
• Jangan percaya klaim "bebas bias". Minta bukti, bukan brosur.
• Hitung biaya kesalahan. Satu kasus diskriminasi yang viral bisa jauh lebih mahal dari penghematan setahun.
• Jangan tempel data karyawan ke chatbot publik. Menyalin CV atau hasil penilaian kinerja ke layanan AI generatif gratis berarti mengirim data pribadi ke pihak ketiga tanpa dasar yang jelas.
• Jangan berhenti setelah peluncuran. Model bisa melenceng seiring waktu ketika pasar kerja, lowongan, atau profil pelamar berubah.

Latihan mandiri dan checklist

• Saya tahu alat AI apa saja yang dipakai di proses HR tempat saya bekerja atau magang.
• Saya bisa menghitung tingkat lolos dan rasio seleksi, serta tahu batas 0,8 hanyalah alarm awal.
• Saya bisa menyebut minimal dua sumber bias: data historis dan variabel proksi.
• Saya tahu keputusan mana yang wajib melibatkan manusia berwenang.
• Saya tahu hak pelamar dan karyawan atas keputusan otomatis menurut UU PDP.