Yirmi altı Meta çalışanı, on yılın en önemli istihdam davalarından biri olabilecek bir dava açtı. İddialarına göre, şirket, kimin işten çıkarılacağını belirlemek için içsel bir yapay zeka sistemi ağı kullandı ve bu sistemler, tıbbi, anne-baba veya engelli izni alan kişileri hedef alma eğilimindeydiler.
14 Temmuz'da Kaliforniya'nın Kuzey Bölgesi Mahkemesi'nde Oakland'da dosyalanan federal dava, Meta'nın, kitle işten çıkarmaları için çalışanları sistematik olarak belirlemek amacıyla iddia edilen bir "iç yapay zeka sistemleri yıldız kümesi" kullandığını iddia ediyor. Her bir dava veren, önceki 24 ay içinde korumalı izin almış ya da istemişti.
Yapay zekânın iddia edilen yaptığı
Davacılar, Meta'nın yapay zeka araçlarının, çalışanları görevden alma amacıyla verimlilik puanlarını, tuş basımı izlemeyi ve algoritmik olarak desteklenen performans sıralamalarını kullandığını iddia ediyor. Makineler, ne kadar hızlı yazdığınızı, ne kadar çıktı ürettiğinizi gözlemliyor ve ardından meslektaşlarınızla karşılaştırıyorlardı.
Açık sorun nedir? Üç aylik anne/baba izni aldığınızda veya cerrahi müdahaleden iyileşiyorsanız, verimlilik ölçümleriniz her gün çalışan biriyle kıyaslandığında oldukça düşük görünecektir. Dava uyarınca, AI bunu yeterince dikkate almadı.
Davacılar, sürecin içine yeterli insan denetimi dahil edilmediğini savunuyor. Algoritmik sıralamaların, birçok veri noktası arasında biri olarak değil, neredeyse inanç gibi ele alındığını iddia ediyorlar.
Bu işten çıkarma döngüsü, Meta'nın daha geniş yeniden yapılandırmasının bir parçasıdır ve yaklaşık 8.000 pozisyon kesilme tehlikesiyle karşı karşıyadır. Bu, şirketin toplam işgücünün yaklaşık %10'udur.
Bir yargıç, davanın ilerlemesi sırasında istihdam kesimlerini geçici olarak durdurma isteğini reddetti.
Bu, Meta'nın ötesinde neden önemli
Temel yasal çatışma basit ancak karmaşıktır. ABD iş hukuku, Aile ve Tıbbi İzin Yasası gibi yasalar altında tıbbi veya aile izni hakkı kullanan çalışanlara ayrımcılık yapmayı yasaklar. Ancak bu yasalar, bir insan yöneticinin kimin işten çıkarılacağını karar verdiği bir dünyaya yönelik yazılmıştır. Bir algoritma bu kararı verdiğinde, ayrımcı niyeti kanıtlamak katlanarak daha zor hale gelir.
Davacıların görevi, yapay zekânın çıktılarının korunan izne yalnızca ilişkili olmadığını, bunun yerine bununla neden-sonuç ilişkisi içinde olduğunu göstermektir. Meta, sistemlerin nesnel performans verilerini değerlendirdiğini ve herhangi bir farklı etkinin rastlantısal olduğunu, kasıtlı olmadığını savunacaktır.
Yapay zeka, birinin anne/baba izni aldığını “bilmek” zorunda değil; sadece klavye verilerinde üç aylık bir boşluk görüp kendi çıkarımlarını yapması yeterli.
Kripto ve teknoloji yatırımcılarının dikkat etmesi gerekenler
Avrupa Birliği, yüksek riskli yapay zeka sistemleri için şeffaflık gerekliliklerini getiren Yapay Zeka Yasası'na zaten sahiptir ve istihdam kararları tam olarak bu kategoriye girer.
Reddedilen önleme emri açıklayıcı. Mahkemeler, yapay zeka yanlılığı iddiaları olsa bile, kurumsal yeniden yapılandırmada müdahale etmeye isteksizdir. Benzer yapay zeka tabanlı işten çıkarma süreçleri düşünen şirketler bu sinyali açıkça okuyacak: şu anda hukuki sistem, kesimlerin önce gerçekleşmesine ve sorumluluğun daha sonra çözümlenmesine daha olası izin verecektir.
Bu hesaplamanın değişip değişmeyeceği, bu durumda Meta'nın dahili AI sistemleri hakkında hangi keşfin yapıldığına ve verilerin iddiaları savunan tarafların iddia ettiği deseni gösterip göstermediğine tamamen bağlıdır.