Редакционная статья

В поддержку международных этических норм в области искусственного интеллекта

cou_03-18_dg_itw_02.jpg

Необходимо предотвратить эксцессы в использовании ИИ.

В последние годы в области искусственного интеллекта (ИИ) был совершен колоссальный прорыв. Новые изобретения позволяют воплотить в жизнь то, что еще совсем недавно казалось фантастикой. Современные компьютеры и роботы способны самообучаться, совершенствовать свою работу и даже принимать решения. И хотя сегодня действиями машины руководят написанные человеком алгоритмы, а не собственное сознание, смотреть на будущее без тревоги невозможно, а в голове рождается множество вопросов. Может ли компьютер мыслить? На что способен ИИ на данном этапе развития? Насколько велика степень автономии интеллектуальных систем? Останется ли окончательное решение за человеком?

Мы стоим на пороге четвертой промышленной революции. Однако человечество ждет и культурная революция: вне всякого сомнения, ИИ изменит привычный нам образ жизни, хотя и сложно предугадать, как именно. Неудивительно, что он завораживает нас и пугает одновременно.

«Курьер ЮНЕСКО» попытался разобраться в этой непростой теме на пересечении информатики, инженерии и философии и внести ясность в некоторые моменты. Прежде всего, спешим уверить наших читателей: на текущем этапе развития технологий даже самая продвинутая из интеллектуальных систем не способна мыслить, и мы весьма далеки от того, чтобы загрузить человека в компьютер. Роботы действуют в соответствии с алгоритмами, позволяющими ему взаимодействовать с человеком в четко установленных рамках, и не способны устанавливать полноценные социальные связи.

Несмотря на это, применение ИИ в некоторых областях вызывает неоднозначную реакцию. Это относится, в частности, к сбору персональных данных, который ставит под угрозу неприкосновенность частной жизни, к алгоритмам распознавания лиц, предназначенным для выявления агрессивного поведения или отражающим в себе расовые предрассудки, к беспилотным летательным аппаратам военного назначения, автономным боевым системам и многому другому. Использование ИИ создает целый ряд этических проблем, масштабы которых, вероятнее всего, со временем только вырастут.

Исследования, затрагивающие технические стороны ИИ, продвигаются стремительными темпами, тогда как изучение этических аспектов применения ИИ идет очень медленно. Несмотря на беспокойство в научных кругах и серьезные обсуждения этого вопроса в ряде стран, на сегодняшний день не существует международных правовых рамок, которые служили бы ориентиром для дальнейших исследований в этой области. «Мы обязаны провести всемирное и просвещенное обсуждение этой проблемы с тем, чтобы встретить новую эпоху с открытыми глазами, не жертвуя нашими ценностями, и привести к общему знаменателю наши моральные принципы», – считает Генеральный директор ЮНЕСКО Одрэ Азуле.

Для того чтобы разработки в области ИИ велись ответственно, необходимо выработать международный нормативный документ, и у ЮНЕСКО есть все необходимое для выполнения этой задачи. «Курьер ЮНЕСКО» поддерживает Организацию в данной инициативе и предлагает различные направления для размышления в этом номере.

Приятного чтения!