İşe alımlarda kullanılan yapay zekadaki önyargılar bizi nasıl etkiler? Robot benim CV’mi nasıl anlar?
Hayatımızın heryerinde konuşuyoruz. Maillerimizi yazıyor, gerçek zamanlı çevirmenimiz oluyor, karpuzumuzu dahi seçiyor :) Peki bizi nasıl işe alıyor? Önyargısız ve şeffaf bir şekilde bizleri işe alabilir mi?
Yazı İçeriği ;
Giriş
İnsan Önyargılarını Büyütme
İnsanlar Yardımcı Olabilir Mi?
İnsan Kaynaklarının ve Yapay Zeka’nın Birbirleri İle Tanışması
Yapay zekanın işe alım süreçlerinde kullanılmasında ‘önyargı ve IK personellerine’ ek olarak kritik noktalar
Sonuç
şeklinde ilerleyecektir.
Giriş
Yapay zeka devrimi (beyaz yaka çalışanlarını dahi işinden etmesi ile tehdit ettiği söylenen) artık uzmanlarınca başladı şeklinde ieltiliyor ve neredeyse her alana yayılıyor — iş alımlarda da dahil.
Sanatçılar telif hakkı ihlallerinden ya da birçok meslek grubu gibi (tasarımcı, yazılımcı, çevirmen, müşteri hizmetleri, avukat, vb.) işlerinden olmaktan korkarken, iş dünyası ve yöneticiler, tedarik zinciri yönetimi, müşteri hizmetleri, ürün geliştirme ve insan kaynakları gibi farklı alanlarda daha büyük verimlilik fırsatlarının farkına varmaya başladı ve yapay zeka odaklı dijital dönüşümü nasıl gerçekleştirebileceğimiz ile ilgileniyoruz.
Yakında tüm iş kolları ve operasyonlar bir şekilde yapay zekayı kullanmak zorunda kalacak. Ancak yapay zekanın doğası — ve arkasındaki veriler — insan yanlılıklarının teknolojiye işlendiği ve yanlı bir zeka oluşturudğumuz anlamına geliyor.
Birçok haber sitelerinde,bloglarda kurumsal firmaların yol haritalarında bizzat ‘işe alım sürecinde yapay zeka’ kurgusunu araştırıyor ve bizzat içerisinde yer alıyorum. Bugün derlediğim yazım araştırmalar ve kişisel görüşlerimle yapay zekanın işe alım ve personel seçiminde nasıl kullanıldığını incelemek üzere kaleme alındı.
Aslında bu alan global firmalarda özgeçmiş taramasını otomatikleştirmek ve iş başvurusu yapanların video mülakatlarını değerlendirmek için zaten yaygın olarak kullanıyor. Birçok sebebi ve yapay zekanın bize vaatleri var diyebiliriz.
Ancak birçok araştırmaya göre yapay zekanın yanlılıkları( taraf tutma ve adayı o tarafca eleme ) belirsiz bir şekilde — ve bazen açıkça — artırabileceğini gösteriyor. Ve veriden öğrenen sistemimiz yapay zeka düşündüğümüzün aksine insan kaynakları profesyonellerinin müdahalesi ile bu etkileri hafifletmekten ziyade daha da kötüleştirebilir. Bu, insan denetiminin yapay zekayı kontrol edebileceği ve moderatör edebileceği inancımızı da sarsmış oluyor.
İnsan Önyargılarını Büyütme
İşe alımda yapay zeka kullanmanın bir amacı, daha objektif ve tutarlı olmaktır, ancak birçok araştırma, yapay zekanın aslında önyargılı olabileceğini göstermektedir. Bunun nedeni, yapay zekanın onu eğitmek için kullanılan veri kümelerinden öğrenmesidir.
Basit bir matemetik; veriler hatalıysa , yapay zeka da hatalı olacaktır.
Verilerdeki önyargılar, yapay zekayı destekleyen ve tasarımlarında sıklıkla insan önyargıları barındıran insan yapımı algoritmalar tarafından daha da kötü hale getirilebilir .
Bir araştırmanın yaptığı 22 İK profesyoneliyle yaptığı görüşmelerde işe alımlarda iki yaygın önyargı tespit ettiler: “klişe -kalıpyargı önyargı” ve “bana benzeyen önyargı”(“stereotype bias” and “similar-to-me bias”).
— Kalıpyargı önyargısı, kararların belirli gruplar hakkındaki kalıpyargılardan etkilenmesi durumunda ortaya çıkar; örneğin aynı cinsiyetten adayları tercih etmek, cinsiyet eşitsizliğine yol açar.
— “Bana benzer” önyargısı, işe alımcıların kendileriyle benzer geçmişe veya ilgi alanlarına sahip adayları tercih etmesiyle ortaya çıkar.
Bu önyargı ve yanlılıklar, işe alım sürecinin adaletini önemli ölçüde etkileyebilir ve yapay zeka sistemlerini eğitmek için kullanılan tarihsel işe alım verilerine gömülü haldedir ve bu da yanlı yapay zekaya yol açar.
Yani, geçmişteki işe alım uygulamaları belirli demografik özellikleri kayırdıysa, yapay zeka bunu yapmaya devam edecektir. Bu önyargıları azaltmak zordur çünkü algoritmalar, diğer ilişkili bilgilerden gizli verilere dayanarak kişisel bilgileri çıkarabilir.
Örneğin, erkekler ve kadınlar için farklı uzunlukta askerlik hizmeti olan ülkelerde, bir yapay zeka hizmet süresine dayanarak cinsiyeti belirleyebilir. Ya da doğum izin süresi dolayısıyla iş hayatında geri plana bırakılan, işe alınmayan kadınlara karşı önyargıyı taklit edip sürdürebilir. (Bu konuda daha çok konuşmalıyız.)
Bu yanlılığın ve önyargıların devam etmesi, hem insan hem de yapay zeka odaklı işe alım süreçlerinde adaleti sağlamak için dikkatli planlama ve izleme ihtiyacımız olduğunu vurgulamaktadır.
İnsanlar yardımcı olabilir mi?
Aynı araştırmada İK profesyonellerinin yanı sıra, 17 yapay zeka geliştiricisi ile de görüşmeler sağlanıyor. Amaçları işe alım yanlılığını ve önryargısını artırmak yerine hafifletecek bir yapay zeka işe alım sistemi nasıl geliştirilebileceğini detaylı sunmaktır.
Görüşmelere dayanarak, İK profesyonelleri ve yapay zeka programcılarının veri setlerini incelerken ve algoritmalar geliştirirken bilgi alışverişi yapacakları ve önyargıları sorgulayacakları bir model geliştirilmektedir..
Ancak bulguları böyle bir modelin uygulanmasındaki zorluğun, İK profesyonelleri ile yapay zeka geliştiricileri arasındaki eğitimsel, profesyonel ve demografik farklılıklarda yattığını ortaya koymaktadır.
Bu farklılıklar, etkili iletişimi, işbirliğini ve hatta birbirlerini anlama yeteneğini engelliyor. İK profesyonelleri geleneksel olarak insan yönetimi ve örgütsel davranış konularında eğitilmişken, yapay zeka geliştiricileri veri bilimi ve teknolojisi konusunda yeteneklidir.
Bu farklı geçmişler, birlikte çalışırken yanlış anlamalara ve uyumsuzluklara yol açabilir. ( Bu konudaki ayrım yapay zeka projeleirnin neden başarısız olduğunuy anlattığım yazımda da ortaya çıkan bir bulguydu. )
Bu, kaynakların sınırlı ve profesyonel ağların daha az çeşitli olduğu Yeni Zelanda gibi daha küçük ülkelerde özellikle daha büyük bir sorun teşkil edeceği de söylenebilir.
İnsan Kaynaklarının ve Yapay Zeka’nın Birbirleri İle Tanışması
Birçok insan kaynakları noktasında çalışan arkadaşlarımla bu konuyu konuştuğumda yapay zekayı kullanmayı çok arzu ettiklerini fakat yapay zekanın bir’insanın’ yerine geçemeyeceğini ve bu noktada hata yapacağını ve tek başına kullanılmaması gerektiğini ileten büyük oranda yorumu öğrenme şansım da oldu. Bu nokyada şirketler ve İK profesyonelleri, yapay zeka tabanlı işe alım prosedürlerini kullanmakta ‘insan yerine geçme’ olgusu ve düşüncesini ve önyargı sorununu ele almak istiyorsa, bazı değişiklikler yapmalıdır.
Öncelikle, bilgi sistemi geliştirme ve yapay zekaya odaklanan İK profesyonelleri için yapılandırılmış bir eğitim programının uygulanması hayati önem taşımaktadır. Bu eğitim, yapay zekanın temellerini, yapay zeka sistemlerindeki önyargıların belirlenmesini ve bu önyargıları azaltma stratejilerini kapsamalıdır.
Ek olarak, İK profesyonelleri ile AI geliştiricileri arasında daha iyi bir iş birliğinin teşvik edilmesi de önemlidir. Şirketler hem İK hem de AI uzmanlarını içeren ekipler oluşturmayı düşünmelidir. Ekipler, iletişim boşluğunu kapatabilir ve çabalarını daha iyi uyumlu hale getirebilir.
Ayrıca, yapay zeka sistemlerindeki yanlılıkları azaltmak için kültürel olarak ilgili veri setlerinin geliştirilmesi çok önemlidir. İK profesyonelleri ve yapay zeka geliştiricileri, yapay zeka odaklı işe alım süreçlerinde kullanılan verilerin çeşitli ve farklı demografik grupları temsil edecek şekilde olmasını sağlamak için birlikte çalışmalıdır. Bu, daha adil işe alım uygulamaları yaratmaya yardımcı olacak bir uygulamadır.
Yapay zekanın işe alım süreçlerinde kullanılmasında ‘önyargı ve IK personellerine’ ek olarak kritik noktalar
Adil ve Şeffaf Değerlendirme
Yapay zeka sistemlerinin adil ve şeffaf bir şekilde değerlendirme yapması çok önemlidir. Algoritmaların önyargılardan arındırılması ve tüm adayların eşit fırsatlara sahip olması gerekir. Şeffaflık açısından da yapay zeka sistemlerinin nasıl karar verdiğini açıklaması ve insan denetiminden geçmesi çok kritiktir.
Veri Kalitesi ve Güvenliği
Yukarıda da çok ke zbahsettiğimiz gibi işe alım süreçlerinde kullanılan verilerin kalitesi ve güvenliği çok önemlidir. Eksik, yanlış veya önyargılı veriler yapay zeka sistemlerinin hatalı kararlar vermesine yol açabilir. Ayrıca adayların kişisel verilerinin korunması da kritik bir konudur.
İnsan Denetimi ve Etkileşimi
Yapay zeka sistemlerinin tamamen otomatik olarak işe alım kararı vermesi risklidir. İnsan denetimi ve onayı her aşamada olmalıdır. Adaylarla yapay zeka sistemleri arasında etkileşim de sağlanmalıdır.
Yetenek Çeşitliliği
Yapay zeka sistemleri yetenek çeşitliliğini destekleyecek şekilde tasarlanmalıdır. Farklı beceri, deneyim ve arka plana sahip adayların keşfedilmesi ve değerlendirilmesi sağlanmalıdır.
Sürekli İyileştirme
İşe alım süreçlerinde kullanılan yapay zeka sistemleri sürekli olarak izlenmeli ve iyileştirilmelidir. Sistemlerin performansı düzenli olarak değerlendirilmeli ve gerekli güncellemeler yapılmalıdır.
Sonuç
EN ÖNEMLİSİ ülkelerin işe alımda yapay zekanın kullanımına yönelik kılavuzlar ve etik standartlar belirlemesi gerekmektedir. Bu, güven inşa etmeye ve adaleti sağlamaya yardımcı olacaktır. Kuruluşlar, yapay zeka odaklı karar verme süreçlerinde şeffaflığı ve hesap verebilirliği teşvik eden politikaları uygulamalıdır.
Bu adımları atarak hem İK profesyonellerinin hem de yapay zeka geliştiricilerinin güçlü yanlarını harekete geçiren, yukarıda eklediğim kritik noktaları da içerisinde bulunduran daha kapsayıcı ve adil bir işe alım sistemi yaratabiliriz.
Sonraki yazılarda görüşmek üzere!
Lütfen bana bu konuda yazmaktan çekinmeyin, her zaman bir mesaj uzağınızda olacağım.
Beni Linkedin ve Twitter hesaplarımdan da takip edebilirsiniz!🐞
