Искусственный интеллект, который может стоить вам работы 🤖💼

Журналист и исследователь Хильке Шеллманн решила проверить на себе, как работают современные AI-инструменты для найма сотрудников. Среди них был сервис myInterview, позволяющий проводить односторонние видеособеседования. Сначала Шеллманн записала свои ответы на вопросы, а система проанализировала их по словам и интонации, выдавая результат соответствия вакансии. Она получила 83% — очень хороший показатель.

Но когда она повторила эксперимент на немецком языке, не отвечая на вопросы, а просто читая статью из Википедии, система всё равно дала 73%. Даже роботизированное чтение английских ответов показало высокий результат (79%). Этот простой тест показал Шеллманн, что такие инструменты могут работать ненадёжно.

В своей книге «Алгоритм» Шеллманн исследует, как AI и сложные алгоритмы всё чаще используются не только для найма, но и для мониторинга сотрудников, оценки их работы и даже для решений о повышении или увольнении. Цель этих инструментов — ускорить обработку огромного количества резюме и повысить эффективность работы, но на практике они часто наносят больше вреда, чем пользы.

Многие из этих систем основаны на спорной псевдонауке. Например, идея, что интонация голоса может предсказывать успех на работе, не имеет научного подтверждения. Кроме того, AI может дискриминировать: проверка резюме или анализ поведения кандидата иногда даёт преимущество определённым группам людей, создавая несправедливость.

Шеллманн выделяет четыре типа AI-инструментов для найма:

1. Односторонние видеособеседования, анализирующие голос и мимику.
2. Онлайн-сканеры резюме, оценивающие кандидатов по ключевым словам.
3. Игровые оценки, которые сравнивают личные качества кандидата с текущими сотрудниками через видеоигры.
4. Анализ соцсетей, предсказывающий черты характера кандидата на основе его активности онлайн.

Все эти инструменты пока не готовы к полноценному использованию. Игровые тесты и анализ соцсетей могут давать разные результаты в зависимости от того, какие данные обрабатываются. Скринеры резюме могут быть предвзятыми — например, система может лучше оценивать мужчин, увлекающихся бейсболом, чем женщин, предпочитающих софтбол.

Многие из этих AI-инструментов — «чёрные ящики»: алгоритмы ищут закономерности в данных, но пользователи и работодатели часто не знают, что именно анализируется. Шеллманн рассказывает историю чернокожей женщины-разработчика, которая подала 146 заявок, пройдя односторонние собеседования и игровые тесты, прежде чем нашла работу через человеческого рекрутера.

Шеллманн призывает HR-отделы быть критичнее к AI-инструментам, проверять их и требовать отчётов от поставщиков технологий. Идеально — чтобы государственные органы проверяли инструменты на работоспособность и отсутствие дискриминации до выхода на рынок.

Пока эти системы используются, у соискателей есть возможность использовать ChatGPT для написания резюме, сопроводительных писем и подготовки к собеседованиям. «Это AI против AI», — говорит Шеллманн. И это немного смещает баланс в пользу соискателей.

💡 Книга: The Algorithm: How AI Can Hijack Your Career and Steal Your Future by Hilke Schellmann.