Скрытые предубеждения при найме на работу с помощью ИИ: Решение проблемы системной дискриминации в алгоритмах найма

Введение

Инструменты для найма, работающие на основе искусственного интеллекта, обещают изменить процесс найма за счет эффективного отбора кандидатов, стандартизированных процессов собеседования и отбора на основе данных. Хотя эти системы хвалят за рационализацию найма - они обрабатывают тысячи заявок за считанные минуты, - они несут в себе глубоко укоренившиеся предубеждения, которые увековечивают системную дискриминацию.

Исследование Вашингтонского университета выявило тревожные расовые и гендерные предубеждения в ведущих моделях искусственного интеллекта при приеме на работу, причем предпочтение отдавалось резюме, связанным с именами белых людей. Аналогичным образом, исследование Института Брукингса выявило признаки дискриминации в девяти профессиях с использованием трех основных языковых моделей.

Поскольку 87 % работодателей сегодня используют ИИ при приеме на работу, эти предубеждения не являются единичными случаями - они институционализированы, автоматизируя дискриминацию в масштабах страны. В этом анализе рассматриваются причины, по которым системы подбора персонала с использованием ИИ кодируют предвзятость, их реальные последствия и практические стратегии для более справедливого подбора персонала.

Как системы искусственного интеллекта усиливают дискриминацию

Корни алгоритмической предвзятости

Предвзятость ИИ возникает, когда модели машинного обучения воспроизводят и усиливают человеческие предрассудки, заложенные в исторических данных. В отличие от индивидуальной предвзятости, алгоритмическая дискриминация действует систематически, затрагивая целые пулы кандидатов без вмешательства человека.

К основным источникам предвзятости относятся:

• Ошибочные данные обучения - системы, обученные на прошлых решениях о найме, наследуют предвзятые модели (например, предпочтение кандидатам-мужчинам, как в случае с прекратившим работу ИИ-рекрутером Amazon).
• Ограниченное разнообразие в командах разработчиков - инженеры часто разрабатывают инструменты с неявными предубеждениями, которые остаются незамеченными.
• Дискриминация по косвенным признакам - "нейтральные" факторы (например, почтовые индексы, названия университетов) могут маскировать расовые или экономические предубеждения.

Яркий пример - инструменты анализа лица, используемые при приеме на работу, которые часто ставят темнокожих кандидатов на более низкие позиции - такая картина наблюдается даже в системах найма ООН.

Как предвзятость проявляется в искусственном интеллекте при найме

1. Анализ видеоинтервью

   • Оценивает тон, мимику и язык тела, но не учитывает нейроразнообразие кандидатов, акцент или культурные особенности речи.
   • Исследования показывают, что женщины, люди, не говорящие на родном языке, и кандидаты в религиозной одежде получают более низкие оценки по показателю "уверенность".

2. Алгоритмы отбора резюме

   • Отсеивают кандидатов по фамилиям (непропорционально влияя на этнические меньшинства), пробелам в трудоустройстве (ущемляя сиделок) или устаревшим техническим навыкам (ущемляя пожилых работников).
   • Часто отсеивают кандидатов по произвольным причинам (например, перечисление хобби или нетрадиционное форматирование).

3. Автоматизированные оценки

   • Приоритет отдается кандидатам, похожим на нынешних сотрудников, что усиливает однородность, а не способствует разнообразию.
   • Отсутствие прозрачности, в результате чего соискатели не знают, почему им было отказано.

Реальные последствия предвзятости ИИ при подборе персонала

Для кандидатов: Системное исключение

• Квалифицированные кандидаты из маргинализированных групп сталкиваются с равномерным отсеиванием у множества работодателей, в отличие от единичных человеческих предубеждений.
• Отсутствие возможности обжалования -инструментыИИредко предоставляют объяснения причин отказа, что приводит кандидатов в замешательство и лишает их прав и возможностей.

Для работодателей: Юридические и репутационные риски

• Нарушение нормативных требований - все больше нормативных актов (например, закон ЕС об искусственном интеллекте, местный закон Нью-Йорка № 144) требуют, чтобы инструменты искусственного интеллекта для найма проходили аудит на предмет предвзятости.
• Судебные иски - громкие дела (например, Workday столкнулась с коллективными исками по поводу дискриминации с помощью ИИ) подчеркивают юридическую уязвимость.
• Неоднородность рабочей силы - чрезмерное увлечение подбором персонала с помощью ИИ снижает уровень разнообразия, препятствуя инновациям и упуская лучшие таланты.

Исправление системы: Рамочная программа для справедливого найма ИИ

Превентивные меры: Аудиты и разнообразные данные

1. Соберите междисциплинарные аудиторские группы

   • Включите в состав групп специалистов по этике, социологов, специалистов по DEI и представителей сообществ, подверженных влиянию, для тщательной проверки моделей ИИ.

2. Используйте репрезентативные учебные данные

   • Активно балансируйте наборы данных по расе, полу, возрасту и социально-экономическому положению. Синтетические данные могут дополнить недопредставленные группы.

3. Внедрение показателей предвзятости

   • Отслеживайте равные возможности (достигают ли квалифицированные кандидаты успеха с одинаковой частотой?) и демографический паритет (справедливы ли показатели отбора в разных группах?).

Технические и политические решения

ИИ должен помогать, а не заменять менеджеров по подбору персонала. Окончательные решения должны приниматься под контролем человека.

Обязательства по обеспечению прозрачности - информируйте кандидатов об использовании ИИ и разрешите подавать апелляции на автоматические отказы.

✔ Регулярное стресс-тестирование - постоянная оценка на предмет новых предубеждений, особенно после обновления моделей.

Новые лучшие практики:

• "Bias Bounties" - вознаграждение исследователей за обнаружение дискриминационных недостатков.
• Оценка влияния алгоритмов - в соответствии с Законом ЕС об искусственном интеллекте, эти проверки позволяют оценить справедливость до развертывания.

Путь вперед

Перспективы ИИ в рекрутинге могут быть реализованы только в том случае, если организации будут отдавать предпочтение справедливости, а не скорости автоматизации. Это означает:

✅ Проактивные аудиты - до того, как предвзятость нанесет вред соискателям или вызовет судебные иски.
✅ Разнородные команды разработчиков - для выявления "слепых пятен" в разработке ИИ.
✅ Прозрачность в общении с кандидатами - никто не должен быть отсеян "черным ящиком".

По мере роста рынка ответственного ИИ компании, которые решают проблему предвзятости, не только соблюдают требования законодательства, но и привлекают лучших специалистов. Те же, кто игнорирует эту проблему, рискуют столкнуться с юридическими последствиями, испортить репутацию и застопорить разнообразие рабочей силы.

Выбор очевиден: будут ли инструменты ИИ для найма персонала отражать наши предубеждения или помогут нам их преодолеть?

Вопросы и ответы

В: Может ли ИИ-рекрутинг быть беспристрастным?
A. Ни одна система не может быть абсолютно нейтральной, но тщательное тестирование, разнообразные данные и постоянный контроль могут значительно снизить уровень дискриминации.

В: Узнают ли кандидаты, если инструмент ИИ отклонил их?
A. Редко. Отсутствие прозрачности является серьезной этической проблемой, поэтому такие нормативные акты, как местный закон Нью-Йорка № 144, теперь требуют раскрытия информации.

В: Как соискатели могут защитить себя?
A. Использовать удобное для ATS форматирование, по возможности избегать пробелов в резюме и добиваться от работодателей раскрытия информации об использовании искусственного интеллекта.

В: Усугубит ли генеративный ИИ (например, ChatGPT) предвзятость при приеме на работу?
A. Potentially-GPT-4 показал расовую предвзятость при оценке резюме. По мере распространения этих инструментов необходимо проводить бдительный аудит.

Будущее найма не должно повторять предвзятость прошлого. Справедливый ИИ-рекрутинг не просто возможен - он необходим.