Ingin kerja? Majikan berkata, bercakap dengan komputer
Pandemik telah meningkatkan permintaan untuk perkhidmatan dalam talian yang menemu duga pemohon kerja dari jauh dan menggunakan kecerdasan buatan untuk menilai kemahiran mereka. Tetapi adakah itu satu perkara yang baik?
Sehari selepas temu duganya untuk kerja sambilan di Target tahun lepas, Dana Anthony mendapat e-mel: Dia tidak membuat potongan.
Anthony tidak tahu mengapa, walaupun - situasi biasa bagi kebanyakan pencari kerja pada satu ketika.
Tetapi dia juga tidak tahu sama sekali bagaimana temu duga itu berlaku kerana penemuduganya bukan orang. Ia adalah komputer.
Lebih ramai pencari kerja, termasuk beberapa profesional, mungkin tidak lama lagi terpaksa menerima temu duga dalam talian yang tidak peribadi di mana mereka tidak pernah bercakap dengan manusia lain — atau mengetahui sama ada sistem kecerdasan buatan di belakang tabir mempengaruhi keputusan pengambilan pekerja.
Permintaan untuk perkhidmatan pengambilan pekerja dalam talian, yang menemu duga pemohon kerja dari jauh melalui komputer riba atau telefon, berkembang pesat semasa pandemik COVID-19. Dan ia kekal tinggi di tengah-tengah kekurangan pekerja yang dirasakan apabila ekonomi mula pulih.
Orang di sebalik sistem ini berkata mereka menjimatkan wang majikan, mengetepikan berat sebelah tersembunyi yang boleh mempengaruhi perekrut manusia dan mengembangkan rangkaian calon yang berpotensi. Kebanyakan sistem kini juga menggunakan AI untuk menilai kemahiran calon dengan menganalisis apa yang mereka katakan.
Anthony lebih suka melihat mata penemuduga.
Saya menemu bual lebih baik secara peribadi kerana saya dapat membina hubungan dengan orang itu, katanya.
Tetapi apa yang dia dapat lihat hanyalah wajahnya sendiri yang terpancar di skrin.
Walau bagaimanapun, sesetengah pakar mempersoalkan sama ada mesin boleh menilai dengan tepat dan adil ciri-ciri watak dan isyarat emosi seseorang. Algoritma yang ditugaskan untuk mengetahui siapa yang paling sesuai untuk sesuatu pekerjaan boleh menimbulkan kecenderungan jika mereka mengambil petunjuk daripada industri yang wujudnya perbezaan kaum dan jantina.
Dan apabila komputer menapis beberapa calon dan menaikkan yang lain tanpa penjelasan, lebih sukar untuk mengetahui sama ada ia membuat penilaian yang adil.
Anthony tidak dapat membantu tertanya-tanya sama ada identitinya sebagai wanita kulit hitam mempengaruhi keputusan itu.
Jika anda memohon pekerjaan dan ditolak kerana algoritma yang berat sebelah, anda pasti tidak akan tahu, kata penyelidik Universiti Oxford Aislinn Kelly-Lyth.
Dalam temu bual bersemuka, sebaliknya, pencari kerja mungkin mengambil isyarat diskriminasi daripada penemu duga, katanya.
Peraturan baharu yang dicadangkan oleh Kesatuan Eropah akan meletakkan sistem pengambilan AI sedemikian kepada peraturan yang lebih ketat. Peguambela telah mendesak langkah yang sama di Amerika Syarikat.
Salah satu syarikat terkemuka dalam bidang itu, HireVue, mendapat kemasyhuran dengan menggunakan teknologi AI untuk menilai keupayaan kognitif daripada ekspresi muka pemohon semasa temu duga. Selepas kritikan tertumpu pada kesahihan saintifik dakwaan tersebut dan potensi berat sebelah kaum atau jantina, syarikat Utah mengumumkan ia akan menamatkan amalan tersebut.
Tetapi penilaian berasaskan AInya, yang menilai kemahiran dan keperibadian pemohon untuk menandakan yang paling menjanjikan, masih mempertimbangkan pilihan pertuturan dan perkataan dalam keputusannya.
Syarikat milik persendirian itu membantu mewujudkan pasaran untuk temu bual video atas permintaan. Pelanggannya yang terkenal termasuk Amazon, Target, Ikea, JP Morgan dan Goldman Sachs, gergasi minyak, rangkaian restoran, pasar raya, syarikat penerbangan, laluan pelayaran dan sekolah. Associated Press menghubungi banyak majikan berjenama yang menggunakan teknologi tersebut. Kebanyakan tidak akan membincangkannya.
Ketua Pegawai Eksekutif HireVue Kevin Parker berkata syarikat itu telah berusaha untuk memastikan teknologinya tidak akan mendiskriminasi berdasarkan faktor seperti bangsa, jantina atau loghat serantau. Sistemnya menterjemah pertuturan kepada teks dan menapis petunjuk tentang orientasi pasukan, kebolehsuaian, kebolehpercayaan dan kemahiran lain.
Apa yang kami cuba gantikan ialah naluri usus orang, kata Parker.
Penyedia perisian tertumpu pengambilan pekerja yang lebih luas seperti Modern Hire dan Outmatch telah mula menawarkan temu bual video dan alat penilaian AI mereka sendiri.
HireVue berkata kebanyakan pelanggan sebenarnya tidak menggunakan penilaian berasaskan AI syarikat. Target berkata wabak itu menyebabkannya menggantikan temu bual secara peribadi dengan temu bual HireVue tetapi ia bergantung pada pekerjanya sendiri untuk menonton dan menilai video.
Ketidakjelasan sistem menimbulkan salah satu kebimbangan terbesar tentang pertumbuhan pesat algoritma kompleks dalam pengambilan pekerja, kata Kelly-Lyth.
Dalam satu contoh, Amazon membangunkan alat pengimbasan resume untuk merekrut bakat tetapi meninggalkannya selepas mendapati ia mengutamakan lelaki untuk peranan teknikal - sebahagiannya kerana ia membandingkan calon dengan tenaga kerja teknologi yang didominasi lelaki. Satu kajian yang dikeluarkan pada bulan April mendapati Facebook menunjukkan iklan pekerjaan yang berbeza kepada wanita dan lelaki dengan cara yang mungkin melanggar undang-undang anti-diskriminasi.
Kerajaan di seluruh Amerika Syarikat dan Eropah sedang melihat kemungkinan semakan pada alat pengambilan pekerja ini.
HireVue telah mula menghapuskan alat pengimbasan mukanya secara berperingkat, yang menganalisis ekspresi dan pergerakan mata dan menghadapi cemuhan oleh ahli akademik sebagai pseudosains.
HireVue juga mengeluarkan sebahagian daripada audit pihak ketiga yang mengesyorkan perubahan kecil seperti mengubah suai berat yang diberikan kepada jawapan pendek terutamanya yang disediakan secara tidak seimbang oleh calon minoriti.
Saya tidak fikir sains benar-benar menyokong idea bahawa corak pertuturan akan menjadi penilaian yang bermakna terhadap keperibadian seseorang, kata Sarah Myers West dari Institut AI Now New York University, yang mengkaji implikasi sosial AI.
Sebagai contoh, katanya, sistem sebegini secara sejarah menghadapi masalah untuk memahami suara wanita.
ഭാഗം: