Labinlimang empleyado ng Meta ay isinampa ang isang kasong maaaring maging isa sa pinakamalalim na kaso sa paggawa sa dekada. Ang kanilang pananaw: gumamit ang kumpanya ng isang web ng mga loob na AI na sistema upang desisyunan kung sino ang kakalimutan, at mayroong masamang ugali ang mga sistema na ito na targetin ang mga taong nagsagawa ng medical, parental, o disability leave.
Ang pambansang kaso, na isinampa noong Hulyo 14 sa US District Court para sa Northern District ng California sa Oakland, ay nag-aallega na ginamit ni Meta ang mga “constellation ng mga panloob na sistema ng artificial intelligence” upang sistematikong matukoy ang mga manggagawa para sa malawakang pagpapalaya. Ang bawat isang manggagawa ay nakakuha o humiling ng protektadong pahinga sa loob ng nakaraang 24 buwan.
Ano ang sinasabing ginawa ng AI
Ang mga nagsasampa ng kaso ay nagsasabing ang mga AI tool ni Meta ay nakabatay sa mga skor ng produktibidad, pagmamasid sa mga pagpindot sa keyboard, at algorithmically assisted performance rankings upang tukuyin ang mga empleyado para sa pagpapalit. Ang mga makina ay nagmamasid kung gaano kalakas ang iyong paggeto, gaano karaming output ang iyong ginagawa, at pagkatapos ay nagrurank sa iyo kumpara sa iyong mga kasamahan.
Ang malinaw na problema? Kung nag-ambil ng tatlong buwan ng parental leave o nagrerecover mula sa operasyon, ang iyong mga metric ng produktibidad ay magiging maliit kumpara sa isang tao na nagtrabaho araw-araw. Ayon sa kasong-lawsuit, hindi sapat na tinanggap ng AI ang ganitong sitwasyon.
Ang mga nagsasampa ng kaso ay nagpapahiwatig na kulang sa tao ang pagmamasid sa proseso. Ayon sa kanila, ang algorithmic rankings ay tinanggap bilang katulad ng evangelio kaysa isang punto ng data lamang sa gitna ng marami.
Ang pagkakawala ng trabaho na ito ay bahagi ng mas malawak na pagpapabago ni Meta, kung saan humigit-kumulang 8,000 position ang nasa talaan para sa pagkakawala. Ito ay humigit-kumulang 10% ng kabuuang puwersa ng trabaho ng kumpanya.
Nagbalewala na ang hiling ng mga nagsasampa ng kaso upang pansamantalang ipigil ang pagpapalayas habang patuloy ang kaso.
Bakit mahalaga ito sa labas ng Meta
Ang pangunahing legal na tensyon ay simplengunit mahirap. Ang batas sa paggawa ng US ay nagbabawal sa diskriminasyon laban sa mga manggagawa na gumagamit ng kanilang karapatan sa medikal o pamilyang pahinga ayon sa mga batas tulad ng Family and Medical Leave Act. Ngunit ang mga batas na ito ay isinulat para sa isang mundo kung saan ang isang tao na manager ang nagpasya kong sino ang sasalain. Kapag ang isang algorithm ang gumagawa ng desisyon, mas mahirap patunayan ang diskriminatoryong intensyon.
Ang hamon ng mga nagsasampa ng kaso ay ipakita na ang mga output ng AI ay hindi lamang nauugnay sa pinagprotektahang pahinga kundi may direktang ugnayan dito. Malaki ang posibilidad na ipaglalaban ng Meta na ang mga sistema ay nag-evaluate ng mga obhetibong datos sa pagganap at na ang anumang magkakaibang epekto ay pangyayaring pansamantala, hindi intensiyonal.
Hindi kailangan ng AI na “malaman” na nag-take ng parental leave ang isang tao upang parusahan siya dito. Sapat na lang na makita nito ang isang tatlong-monedang puwang sa data ng pagpindot ng pindutan at magkaroon ng sariling konklusyon.
Ano ang dapat panatagin ng mga investor sa crypto at teknolohiya
Mayroon na ang European Union sa AI Act na nagtatadhana ng mga pangangailangan sa transparensya sa mga mataas na panganib na AI system, at ang mga desisyon sa pagtatrabaho ay direktang nasa kategoryang iyon.
Ang pagtanggi sa injunction ay nagpapakita. Ang mga hukuman ay hindi mabilis na magpapakilala sa pagpapalitan ng korporatibong rehistrurisasyon, kahit na ang mga alalahanin tungkol sa bias ng AI ay nasa paligid. Ang mga kumpanya na nag-iisip ng katulad na proseso ng pagpapalayas na nakabatay sa AI ay magkakaroon ng malinaw na signal: ang sistema ng batas, sa kasalukuyan, ay mas malamang na pahintulutan muna ang mga pagpapalayas at paglutas ng pagkakasala mamaya.
Kung babaguhin ng kalkulasyon na iyon ay depende buong-buo sa anong imbestigasyon ang ipapakita tungkol sa mga panloob na AI system ni Meta, at kung ipinapakita ng data ang pattern na sinasabing mayroon ang mga nagsasampa ng kaso.