Press release

Значительный прогресс ЮНЕСКО в разработке первого глобального нормативного документа по этическим аспектам искусственного интеллекта

17/09/2020
03 - Good Health & Well Being
10 - Reduced Inequalities
16 - Peace, Justice and Strong Institutions

Когда в ноябре 2019 года государства-члены ЮНЕСКО приняли решение начать процесс разработки глобальной рекомендации по этическим аспектам искусственного интеллекта, Генеральный секретарь ООН Антониу Гутерриш выразил признательность ЮНЕСКО за то, что она взялась за решение этой задачи, и заявил, что «искусственный интеллект является важнейшей передовой задачей для всей системы ООН и мира в целом».

Таким образом, в марте прошлого года ЮНЕСКО поручила 24 известным специалистам, обладающим многодисциплинарным опытом в области этики искусственного интеллекта, подготовить проект рекомендации по этическим аспектам искусственного интеллекта.

Впоследствии ЮНЕСКО начала процесс комплексных консультаций с целью выяснения мнений широкого круга заинтересованных сторон: экспертов из 155 стран, общественности (посредством глобального онлайн-опроса), учреждений ООН и крупных отраслевых компаний, таких как Google, Facebook и Microsoft, а также академического сектора – от Стэнфордского университета до Китайской академии науки. Они смогли обменяться мнениями и внести вклад в подведение итогов проекта.

Данный проект рекомендации только что был разослан 193 государствам-членам ЮНЕСКО. Теперь он станет предметом ряда переговоров с целью его окончательного принятия 193 государствами-членами на Генеральной конференции ЮНЕСКО в ноябре 2021 года.

«Мы должны проявлять бдительность для обеспечения того, чтобы развитие искусственного интеллекта продолжалось в наших интересах, а не в ущерб нам», - заявила Одрэ Азуле, Генеральный директор ЮНЕСКО. «Нам необходима прочная база этических принципов для обеспечения того, чтобы искусственный интеллект служил общему благу. Мы сделали этот процесс как можно более инклюзивным, поскольку этот вопрос носит универсальный характер», - добавила г-жа Азуле.

За последние несколько лет, а тем более с момента начала эпидемии COVID-19, появились решения, основанные на искусственном интеллекте (ИИ), в частности, для ускорения поиска вакцины и выявления случаев контакта с людьми, у которых тест на вирус оказался положительным. Искусственный интеллект также способствовал развитию телемедицины и дистанционного обучения. Кроме того, ИИ был использован для мобилизации беспилотных летательных аппаратов для доставки медицинского оборудования. Таким образом, появилось больше областей применения этой науки, и вместе с этим выросла потребность в глобальном нормативном документе. 

Потенциал искусственного интеллекта, нашедший отражение в научных публикациях, а также в художественных произведениях, порождает опасения, что машины могут начать принимать решения за человека, нарушать права человека на неприкосновенность частной жизни и подвергать пользователей манипуляциям, тем самым ставя под угрозу основные свободы и права человека. Поэтому в связи с огромным объемом данных, собираемых и анализируемых ежедневно, возникают серьезные проблемы: конфиденциальность, неприкосновенность частной жизни, риск воспроизведения дискриминационной практики и распространение стереотипов.

Рекомендация ЮНЕСКО вводит ряд ключевых понятий:

  • Соразмерность: технологии искусственного интеллекта не должны превышать заранее установленные границы для достижения законных целей или задач и должны соответствовать контексту;
  • Надзор и решимость со стороны человека: люди несут этическую и юридическую ответственность на всех этапах жизненного цикла систем ИИ.
  • Защита окружающей среды и мира: системы искусственного интеллекта должны способствовать мирному взаимодействию всех живых существ и уважать природную среду, в особенности при добыче природных ресурсов;
  • Гендерная интеграция: технологии ИИ не должны воспроизводить гендерное неравенство, существующее в реальном мире, особенно в том, что касается заработной платы, представительства, доступа и стереотипов. Политические меры, включая меры позитивной дискриминации, необходимы для того, чтобы избежать этих серьезных проблем.

Вышеупомянутые ключевые концепции будут подкреплены конкретными политическими действиями, направленными на оказание помощи правительствам в преодолении проблем, связанных с участием широкого круга заинтересованных сторон, от предприятий до гражданского общества, а также широкой общественности. ЮНЕСКО будет оказывать помощь государствам-членам в разработке их собственных систем оценки этического воздействия и в выработке стратегий предотвращения рисков, а также мер по смягчению последствий и мониторингу.

Помимо формирования международного консенсуса по данному вопросу, эксперты ЮНЕСКО предлагают государствам-членам и заинтересованным сторонам в области искусственного интеллекта повышать уровень информированности широкой общественности и подчеркивать важность просвещения каждого человека в области цифровых прав.

****

Контакты для СМИ: c.o-hagan@unesco.org
+44 7715 991279

Дополнительная информация о проекте Рекомендации