Звільнений алгоритмом: Управління майбутнім

Що, якби ваш начальник був алгоритмом? Уявіть собі світ, в якому штучний інтелект прийшов не для вашої роботи — а для вашого менеджера: будь то найм нового персоналу, управління великою робочою силою чи навіть відбір працівників для звільнення, великі дані та складні алгоритми все частіше беруть на себе традиційне управління завдання. Це не дистопічне бачення майбутнього. За словами професора Джереміаса Адамса-Прассла, алгоритмічне управління швидко утверджується на робочих місцях у всьому світі.

Чи варто хвилюватися? Фіаско рівня минулого місяця показало потенційні ризики сліпого довіряння рішень, що змінюють життя, до автоматизації. І все ж, припускає оксфордський професор права, ми не обов'язково беззахисні чи імпотенти перед машинами — і, можливо, навіть хочемо (обережно) прийняти цю революцію. Щоб з’ясувати, як слід регулювати ШІ на роботі, Європейська наукова рада отримала престижний грант у розмірі 1,5 млн. Євро.

Це вимагатиме серйозного перегляду існуючих структур. Протягом наступних п’яти років проект професора Адамса-Прассла об’єднає міждисциплінарну групу комп’ютерних вчених, юристів та соціологів, щоб зрозуміти, що відбувається, коли ключові рішення приймає вже не ваш начальник, а невтімний алгоритм.

Сьогодні роботодавці можуть отримати доступ до широкого спектру даних про свою робочу силу, від журналів телефонів, електронної пошти та календаря до щоденних пересувань по офісу — і вашого стану. Навіть сумнозвісний теоретик управління 19 століття Фредерік Тейлор не міг і мріяти про такий ступінь моніторингу. Потім ця маса інформації обробляється низкою алгоритмів, часто покладаючись на машинне навчання (або „штучний інтелект“) для відсіювання даних для зразків: які характеристики спільні у сучасних виконавців зірок? А які заявники найбільш відповідають цим профілям?

"Автоматизація управління існує з нами вже деякий час", — зазначає професор. "Але те, що ми бачимо зараз, — це поступова зміна: алгоритми вже давно розгорнуті для управління працівниками в економіці концертів, на складах та в подібних налаштуваннях. Сьогодні вони приходять на робочі місця по всьому спектру, від лікарень та юридичних фірм до банків і навіть до університетів ". Пандемія COVID-19 забезпечила подальший поштовх, коли традиційні менеджери намагаються піклуватися про свої команди. Як результат, начальник-алгоритміст не просто спостерігає за нами на роботі: він прийшов у наші вітальні.

Це не обов’язково погано: алгоритми успішно розгорнуті, щоб розкрити торгівлю інсайдерами або допомогти співробітникам спланувати свою кар’єру та знайти можливості передислокації у великих організаціях. У той же час, застерігає професор Адамс-Прасл, ми повинні бути обережними щодо ненавмисних (але часто цілком передбачуваних) негативних побічних ефектів довіри ключових рішень машинному навчанню. Неодноразово демонструвалося, що програмне забезпечення для відеоінтерв'ю дискримінує заявників на основі їх тону шкіри, а не навичок. І цей складний алгоритм найму може цілком помітити той факт, що ключовою схемою серед вашої нинішньої культури старших інженерів є те, що всі вони чоловіки — і, отже, "навчитися" відкидати резюме перспективних жінок-претенденток. Просто виключення статі, раси чи інших характеристик також не вилікує проблему алгоритмічної дискримінації: існує безліч інших точок даних, від покупок до поштових індексів, з яких можна зробити таку саму інформацію. Однак серед зростаючої літератури, яка досліджує алгоритмічну справедливість та прозорість, робоче місце, схоже, приділяється мало уваги.

Існуючі законодавчі рамки, розроблені для робочих місць минулого століття, намагаються не відставати: вони загрожують придушити інновації — або залишити працівників без захисту. GDPR запобігає одним з найгірших випадків управління людьми (відсутність автоматичного звільнення по електронній пошті, як це має місце в США), — але це далеко не достатньо дрібний інструмент. Розуміння технології є ключовим для вирішення цієї загадки: яка інформація збирається і як вона обробляється?

"У використанні великих даних та штучного інтелекту на роботі немає нічого поганого: остерігайтеся будь-яких фантазій луддитів", — наполягає професор. Але роботодавці повинні ступати обережно: "Так, автоматизація процесів підбору персоналу може заощадити значну кількість часу, і якщо їх правильно налаштувати, це може активно заохотити наймати найкращих та найрізноманітніших кандидатів — але вам також слід стежити: алгоритми машинного навчання, Сама природа, як правило, карає невідомих ".

За підтримки нещодавно нагородженого гранту Європейської дослідницької ради (ERC), його команда запропонує серію наборів інструментів для регулювання алгоритмічного управління. Основною метою є врахування всіх зацікавлених сторін, не в останню чергу, сприяючи важливості соціального діалогу у зміні робочого місця завтрашнього дня: успішне впровадження алгоритмічного управління вимагає співпраці у розробці, як найкраще адаптувати програмне забезпечення до індивідуальних обставин, будь то при вирішенні, які дані повинні бути зафіксовані або які параметри мають бути пріоритетними в процесі набору.

Справа не просто в правовому регулюванні: нам потрібно розглянути ролі розробників програмного забезпечення, менеджерів та робітників. Немає сенсу вводити "ШІ заради ШІ", інвестуючи в складне програмне забезпечення без чіткого випадку використання. Зрозуміло, що працівники будуть стурбовані і намагатимуться чинити опір: від виривання моніторів активності на столі до інвестування в розумні колиски FitBit, які імітують тренування на вибір.

"Майбутнє роботи не існує", — робить висновок професор Адамс-Прасл. "Зіткнувшись із спокусою технологічного зумовленості, завжди пам’ятайте про те, щоб зберігати сильне почуття свободи волі: у розвитку технологій немає нічого — це наш сьогоднішній вибір, який забезпечить інноваційне, справедливе та прозоре робоче місце завтра."

Facebook Comments