4 підходи до оцінки з технологіями штучного інтелекту

4 підходи до оцінки з технологіями штучного інтелекту

Термін "штучний інтелект" (ШІ) сьогодні застосовується повсюдно. В одній тільки сфері оцінки сотні компаній невтомно повторюють про можливості ШІ, але що саме це означає? Наскільки багато в оцінці дійсно роботи ШІ, а який відсоток хайпу? Штучний інтелект - це тільки частина механізму оцінки, або вже сьогодні все віддано на відкуп роботам? Мені непросто відповісти на ці питання, але ж я все своє свідоме життя пропрацював у цій галузі.

Ще менше обізнаності про технології ШІ серед широкої публіки. У коментарях до будь-якої статті про інструменти підбору, заснованих на штучному інтелекті, твориться хаос. Загальна плутанина. Якось раз я наважився вклинитися в потік коментарів до однієї з недавніх статей про те, як застосовується програмне забезпечення з ШІ, і зазначив кілька цікавих коментарів:

«Як компанія може бути впевнена, що їх алгоритм не вибере чарівних соціопатів? Їх досить часто відзначають, як потенційних лідерів».

«Як система оцінить людину з вадами мовлення? Або з порушеннями зору? Що якщо, наприклад, я хворію, і через застуду голос осип? А якщо мій кіт раптом уклиниться в інтерв'ю та вставить пару слів?»

Іншими словами, сьогодні ще надто мало відповідей на безліч питань про складний світ оцінки за допомогою штучного інтелекту. Що ж нам тепер, чекати, поки виникне гучний судовий прецедент, щоб справа зрушила з мертвої точки? Як широка публіка може прийняти й почати довіряти інструментам оцінки з ШІ, якщо професіонали не можуть розібратися, де межі дозволеного для цих технологій?

Думаю, прийшов час знайти якийсь спільний знаменник, і у мене є, що запропонувати.

Це 4 підходи до інструментів оцінки з технологіями ШІ.

№ 1 - Геть «чорний ящик»!

ШІ зрозуміти непросто, це правда. У ході занадто багато жаргонних виразів і абревіатур. Незважаючи на те, що це складно, ми не можемо не вимагати від творців ШІ-оцінки пояснень про те, як вона працює.

Ніхто не повинен створювати ШІ-оцінку без розуміння її функцій і способів підрахунку результатів.

Всі функції та змінні, використовувані в ШІ-оцінці, повинні бути зрозумілі та актуальні для тих цілей, для яких створюються.

№ 2 - Потрібна теоретична база

Ми не можемо дозволити собі бути емпіриками. Теорія - ось, що важливо. Безумовно, можливості ШІ й машинного навчання дозволяють оцінити та розпізнати таке, що й не снилося традиційним аналітичним методикам. При цьому нам не можна здійснювати тільки збір й аналіз інформації без фундаменту теорії. Кореляція - не причинно-наслідковий зв'язок, тому, хоча нові технології і дозволяють нам вибудовувати прогнозні моделі з масивів даних, які вважалися занадто громіздкими для аналізу, такі моделі можуть привести нас до висновків, які не пройдуть перевірку часом.

Наприклад, зараз ви можете взяти всі істотні дані вашої організації, вилити їх в «інтелектуальний аналітичний ефір» і в результаті спрогнозувати щось вражаюче. Однак без теоретичної основи високі шанси, що ви вхопитеся за якийсь статистичний артефакт у вашому масиві даних, а потім спробуєте розтягнути його на всю генеральну сукупність. Це все одно що передбачити за допомогою такого «алгоритму без теорії», що 37% співробітників, які відносять себе до факультету «Гафелпаф*» з більшою ймовірністю збережуть робоче місце, ніж ті, які відносяться до інших факультетів Хогвартса. Але ж це неправильно!

Всі функції й змінні, що застосовуються ШІ при оцінці, повинні відповідати меті їх застосування.

*Факультети Хогвартса в книгах про Гаррі Поттера - це чотири відділення школи чарівництва Хогвартс, в які учнів відбирають за складом характеру. Вони названі іменами засновників Хогвартса, які, власне, і завели такий порядок відбору. Факультети ці: Ґрифіндор, Гафелпаф, Когтевран і Слизерин.

№ 3 - За ШІ потрібно доглядати

Ми пам'ятаємо, що в більшості випадків ми проводимо оцінку за допомогою ШІ, спираючись на дані однієї конкретної організації. Однак у світі не існує компанії, якій вдавалося б приймати рішення по персоналу повністю об'єктивно. Якщо технологію ШІ впровадити в такі дані, є шанс, що вона перетворить наявне відхилення у своє власне програмування, і в результаті вже наявна необ'єктивність може збільшитися.

Виходить, що замість людини, яка приймає рішення виходячи з власних упереджень, так себе буде вести комп'ютер, а це неприйнятно. Над процедурою ШІ-оцінки необхідний контроль навчених, досвідчених, етичних фахівців, залучати до створення такої процедури оцінки. Так, підготовлений професіонал зможе відстежувати функції і змінні, використовувані ШІ, щоб знизити ризик дискримінації за расовою або статевою ознакою. Адже якщо алгоритм не показав ніякої упередженості ШІ за расовою ознакою в організації-творця, це не означає, що у клієнтів він поведе себе так само.

Всі процедури ШІ-оцінки повинні розроблятися під невсипущим контролем досвідчених і етичних фахівців, справжніх професіоналів своєї справи.

Ми несемо моральну відповідальність за те, щоб дати кандидатам можливість показати себе з найкращого боку, не дивлячись ні на що.

№ 4 - Люди важливіше ШІ

Хай там як, а етичним питанням адаптації нових технологій будуть займатися інженери, організаційні психологи, поведінкові економісти та інші фахівці. Не можна забувати, що нові технології впливають на життя мільйонів людей. З одного боку монітора комп'ютера - фахівці, які говорять про статистичні ймовірності, пов'язані з поліпшеними можливостями прогнозування, але по інший бік екрану знаходиться кандидат - наприклад, жінка, якій життєво необхідна робота, щоб прогодувати свою сім'ю, - і наш моральний обов'язок надати їй (і кожному кандидату) можливість показати себе з найкращого боку.

Ми повинні дати можливість роботодавцям і здобувачам пройти чесну, неупереджену, що по-справжньому прогнозує оцінку ефективності їх роботи.

Світ штучного інтелекту хвилює і спантеличує, однак прийшла пора зробити оцінку за допомогою ШІ етичною: пора прийти до згоди в наших власних культурних нормах і не забувати, що головне в розробці технологій оцінки - це міцна наукова база і людина.

Автор: Ленс Ендрюс, керівник напрямку Спеціалізованих Рішень в американському SHL.

Оригінальна версія статті доступна на сайті www.shl.com.

 

 

Слiдкуйте за новинами та подiями HR-спiлноти!