Двадцять шість працівників Meta подали позов, який може стати одним із найважливіших трудових позовів десятиліття. Їхній іск: компанія використовувала мережу внутрішніх AI-систем, щоб вирішувати, кого звільнити, і ці системи мали звичку цілитися в людей, які брали медичний, батьківський або інвалідний відпусток.
Федеральний позов, поданий 14 липня у федеральному суді США для північного округу Каліфорнії в Окленді, стверджує, що Meta використовувала те, що позивачі описують як «сукупність внутрішніх систем штучного інтелекту», для систематичного визначення працівників для масових звільнень. Кожен з позивачів брав або запитував захищений відпустку протягом останніх 24 місяців.
Що, як стверджують, зробив ІІ
Позивачі стверджують, що інструменти штучного інтелекту Meta використовували показники продуктивності, моніторинг натискань клавіш та алгоритмічно підтримувані рейтингові оцінки продуктивності для виявлення співробітників, яких слід звільнити. Машини спостерігали, як швидко ви друкуєте, яку кількість роботи ви виробляєте, а потім порівнювали вас із вашими колегами.
Очевидна проблема? Якщо ви брали три місяці батьківського відпустки або відновлювалися після хірургічного втручання, ваші метрики продуктивності будуть значно нижчими порівняно з тими, хто працював щодня. За позовом, ІІ не врахувало це належним чином.
Позивачі стверджують, що до процесу недостатньо вбудовано людський контроль. Алгоритмічні рейтингові оцінки, за їхнім твердженням, сприймалися майже як євангеліє, а не як одна з багатьох даних точок.
Цей раунд звільнень є частиною ширшої реструктуризації Meta, при якій приблизно 8 000 позицій підлягають скороченню. Це приблизно 10% загальної кількості працівників компанії.
Суддя вже відхилив прохання позивачів тимчасово призупинити звільнення, поки триває справа.
Чому це має значення далі за Meta
Основна правова напруга проста, але складна. Законодавство США про працю забороняє дискримінацію працівників, які використовують своє право на медичний або сімейний відпусток згідно з такими законами, як Закон про сімейні та медичні відпустки. Але ці закони були написані для світу, де людина-менеджер вирішувала, кого звільнити. Коли рішення приймає алгоритм, довести дискримінаційний намір стає експоненційно складнішим.
Позивачі повинні довести, що вихідні дані ШІ були не просто корельовані з захищеним відпустком, а безпосередньо з ними пов’язані. Meta майже напевно стверджуватиме, що системи оцінювали об’єктивні дані щодо продуктивності, і будь-який нерівний вплив був випадковим, а не намірним.
Штучний інтелект не повинен «знати», що хтось брав батьківський відпусток, щоб покарати за це. Йому достатньо побачити тримісячний розрив у даних натискань клавіш і зробити власні висновки.
Що слід спостерігати крипто- та технологічним інвесторам
Європейський союз вже має Закон про ШІ, який встановлює вимоги до прозорості для систем ШІ високого ризику, і прийняття рішень щодо працевлаштування однозначно входить до цієї категорії.
Відмова у забороні є значущою. Суди неохоче втручатися у корпоративну реструктуризацію, навіть коли йдеться про звинувачення в упередженості ШІ. Компанії, які розглядають подібні процеси звільнень на основі ШІ, чітко сприймуть цей сигнал: наразі правова система, ймовірно, дозволить звільнення спочатку, а відповідальність встановить пізніше.
Чи зміниться цей розрахунок, залежить від того, що виявить цей випадок щодо внутрішніх AI-систем Meta, і чи підтверджують дані шаблон, який стверджують позивачі.