Первые рекомендации ЮНЕСКО по борьбе с гендерными предубеждениями в приложениях, использующих искусственный интеллект

17.05.2019

Ожидается, что уже в следующем году многие люди будут разговаривать с цифровыми голосовыми помощниками больше, чем со своими супругами.

В настоящее время подавляющее большинство этих помощников – от «Алексы» компании Amazon до «Кортаны» производства Microsoft – позиционируются как женщины: по имени, голосу и «индивидуальности».

Публикация ЮНЕСКО «Я бы покраснела, если бы могла», созданная в сотрудничестве с Германией и Коалицией EQUALS Skills, содержит критическую оценку этой растущей мировой практике, в которой объясняется как такая практика:

  1. отражает, усиливает и содействует гендерной предвзятости;
  2. демонстрирует принятие сексуальных домогательств и словесных оскорблений;
  3. указывает на то, как женщины и девочки должны отвечать на просьбы и выражать свои мысли;
  4. делает женщин ответственными за сбои и ошибки, вызванные ограничениями аппаратного и программного обеспечения, разработанного преимущественно мужчинами; 
  5. создает синтетический «женский» голос и индивидуальность, которая перенаправляет вопросы и команды вышестоящим (и состоящих в основном из мужчин) инстанциям.

Название публикации заимствовано из ответа Сири – голосового ассистента Apple, которым пользуются почти полмиллиарда человек, – на фразу пользователя: «Эй, Сири, ты [ругательное обращение]».

Покорность Сири перед лицом злоупотребления гендерным положением – и подобострастие, проявляемое многими другими цифровыми помощниками, проецируемых в образе молодых женщин, – служит яркой иллюстрацией гендерных предубеждений, закодированных в технологических продуктах, широко распространенных в технологическом секторе и присущих в обучении цифровым навыкам.

По словам Сание Гюльсер Корат, директора ЮНЕСКО по вопросам гендерного равенства, «миру необходимо уделять гораздо больше внимания тому, кто, как и когда разрабатывает технологии с использованием ИИ и определяются ли эти технологии гендерными признаками».

В публикации представлены первые рекомендации Организации Объединенных Наций касательно гендерных аспектов технологии искусственного интеллекта, которые побуждают компании и правительства:

  1. перестать давать цифровым помощникам женские голоса по умолчанию;
  2. изучить возможность разработки нейтрального «компьютерного пола» для голосовых помощников, который не будет ни мужским, ни женским;
  3. программировать цифровых помощников возражать в ответ на оскорбительные выражения по признаку пола;
  4. обеспечивать совместимость устройств, чтобы пользователи могли менять цифровых помощников по желанию;
  5. требовать, чтобы операторы голосовых помощников на базе ИИ с самого начала взаимодействия с пользователями объясняли, что эта технология не является человеческим существом.


© UNESCO

ЮНЕСКО приводит пример цифровых голосовых помощников, чтобы показать, что для решения проблемы гендерных предрассудков в области ИИ, команды, разрабатывающие подобные технологии, должны иметь более сбалансированный в гендерном отношении состав. На сегодняшний день только 12% исследователей ИИ и 6% разработчиков программного обеспечения – женщины. Кроме того, женщины в 13 раз реже чем мужчины подают заявки на патенты в области ИКТ (информационных и коммуникационных технологий). Преодоление этих гендерных различий требует предоставления равных возможностей мужчинам и женщинам в области обучения навыкам цифровых технологий. В отдельном разделе публикации представлены пятнадцать рекомендаций о том, каким образом можно воплотить в жизнь поставленную цель.

Наконец, публикация «Я бы покраснела, если бы могла» проливает свет на неожиданный вывод: в государствах, которые наиболее близки к достижению гендерного равенства в целом, например, в Европейских странах, наименьшее количество женщин изучают передовые навыки, необходимые для построения карьеры в технологическом секторе. И наоборот, в странах с низким уровнем гендерного равенства, таких как страны арабского региона, самый большой процент женщин получают высшее образование в области технологий. Например, в Бельгии только 6% выпускников в области ИКТ составляют женщины, в то время как в Объединенных Арабских Эмиратах этот показатель составляет 58%. Этот парадокс подчеркивает необходимость принятия мер по содействию обучению женщин навыкам в области цифровых технологий во всех странах.