И трава зеленее: ажиотаж вокруг Искусственного Интеллекта удерживает нас в прошлом

Под Искусственным Интеллектом (или ИИ) разные люди могут подразумевать разные вещи, но все они, так или иначе, затрагивают взаимоотношения между современными технологиями и женщинами и меньшинствами, и то, как эти технологии адаптируются к нам — или нет.

Наше сегодняшнее отношение к ИИ напоминает былую стратегию книжных издательств для продажи своих товаров женщинам, любовных романов в особенности. Формула сюжетов была незамысловата: помести женщину на пути таинственного успешного незнакомца и смотри как она теряет голову.

Курс по нейронным сетям
Идет набор в группу 4 200₽ в месяц

Романтика на продажу

Все эти загадочные незнакомцы обязательно оказывались успешными хирургами, пилотами или юристами – иными словами, представителями «элиты», недоступными для большинства женщин. Кроме того, персонажи подавались как обворожительные обладатели безупречных рыцарских манер, и очень немногим женщинам удавалось найти подобные востребованные экземпляры в реальной жизни, а не на страницах книги. Неудивительно, что такие профессии как стюардесса или секретарша стали чрезвычайно востребованы. Близость к элитному мужскому обществу, где можно было найти мужа, пользовалась большим спросом.

Но этому пришел конец. 60-е годы столкнули книгоиздателей с новой аудиторией — женщинами-первопроходцами в мире “элитных” профессий. Вместе с эмансипацией женщины получили доступ к этому ранее исключительно мужскому миру, а также к мужчинам, которые этому миру принадлежали.

Читательницам надоели штампованные “высокие, таинственные и статные” герои, им хотелось чего-то отличного от историй любви между офисными работниками. Романы о сильных и недоступных мужчинах потеряли свою привлекательность, когда завеса тайны вокруг их мира оказалась приоткрыта.

В поисках нового идола

Угроза потенциального провала в продажах подталкивала издателей к поискам новых сюжетов. И они изобрели новый жанр — мистический любовный роман.

Вампиры, оборотни, викинги и боги стали героями нового жанра, который обещал побег от реальности в виде плохих шуток, запаха изо рта и кривой осанки обыкновенных мужчин. Эта “мистическая романтика” стала жанром, который приносит более ста миллионов долларов ежегодно и продолжает поражать аудиторию, несмотря на то, что в нем ничего не меняется.

Такие маркетинговые приемы отлично известны тем, кто сейчас работает в области современных технологий. IT-индустрия постоянно подается посторонним зрителям как некий элитный сектор, окутанный тайной. Снаружи мы видим только нескончаемый парад технических новаторов, обязательно “гениев”, которые чаще всего оказываются мужчинами одного и того же типажа.

Но так же как и во время спада популярности традиционных любовных романов, когда женщины получили доступ к IT-индустрии, они приподняли завесу тайны над миром инноваций и венчурных инвестиций.

Но в отличии от книжных издательств, которые продолжают пытаться продать надоевшую фантазию, у IT-индустрии есть козыри в рукаве: IPO на миллиарды долларов и технология, подчеркнуто далекая от человеческих изъянов – искусственный интеллект.

И сейчас ИИ делает для индустрии современных технологий то, что жанр «паранормальной романтики» сделал для продавцов любовных романов. В основе популярности ИИ лежит идея о том, что он опирается исключительно на данные. Другими словами, столь же далек от ошибок, свойственных людям, как вампир от чокнутого коллеги.

Инвесторы приняли с распростертыми объятиями все, что связано с ИИ. Во всем мире активно внедряются продукты, услуги и системы, связанные с этим новым увлечением. Но использование ИИ не ограничивается экспериментальными отраслями техники. Оно затрагивает многие сферы повседневной жизни. И иногда не тем образом, как нам бы хотелось.

Вероятно, пришло время взглянуть на ИИ так, словно мы с ним находимся в настоящих интимных отношениях. Я романтик, но ситуация с алгоритмами ИИ начинает напоминать об абьюзивных отношениях, только теперь без миллиардера, вертолета и стоп-слов.

Роман с Искусственным Интеллектом

Технология распознавания лиц — краеугольный камень искусственного интеллекта — уже оказала огромное влияние на жизнь людей. И если смотреть внимательно, то можно увидеть как ИИ уже демонстрирует свои плохие манеры и неприятный запах изо рта.

Курс по Machine Learning
Идет набор в группу 3 800₽ в месяц

Достаточно взглянуть на технологию FaceID на iPhoneX. Большинство людей были в восторге от того, что она позволяет легко разблокировать телефон и получить доступ к записям вызовов, электронным письмам и сообщениям. Среди тех, кто восторг не разделял, были пользователи iPhoneX в Китае. Потому что это все достаточно здорово, но только пока ваш начальник или коллега не сможет разблокировать ваш мобильный телефон.

В качестве другого примера, давайте посмотрим, скажем, на чернокожих людей. Они могут избегать использования iPhoneX, но многие не смогут избежать алгоритмов камер наблюдения, которые плохо работают в этой демографии.

«Плохо» при этом может означать, что полиция арестует вас по ошибке, потому что их программное обеспечение неправильно идентифицирует темнокожих мужчин, женщин и детей. Что будет, если такие ошибки не помешают полиции начать применять ИИ более активно?

Без каких-либо гайдлайнов касаемо точности алгоритмов ИИ не будет работать одинаково для вас и для меня.

И если ИИ – это отражение прошлого (и слепых зон тех, кто его создает), то нам следует подумать о том, что мы можем оказаться опять подвергнутыми стигматизации и стереотипам, что нам может быть причинен вред – и все это из-за алгоритмов ИИ.

Отсутствие стандартов в отрасли объясняет, например, почему Amazon прекратил использование алгоритма найма, основанный на ИИ. Выяснилось, что он просто исключает женщин из процесса найма — только за то, что они женщины. Зато алгоритм найма не оказал никакого негативного влияния на мужчин. И по какой-то причине никто не заметил предвзятости ИИ, пока она не затронула потенциальных кандидатов.

И это не просто случайный пример. Буквально в прошлом году я сама пострадала от ИИ. Чтобы получить предварительно одобренный кредит, я отправила отсканированное водительское удостоверение, фотографию паспорта и мое селфи крупной компании, которая выпускает кредитные карты. И все это только для того, чтобы мне сказали, что они не смогли «удостоверить мою личность» по какой-то причине.

Никаких альтернативных способов сделать это, в случае ошибок системы, не предполагалось. Моих водительских прав, паспортных данных и фото не хватило, чтобы убедить ИИ в том, что я – это я. Все, что я получила после передачи моих данных в систему – это беседы с представителями компании, которые не могли объяснить, что делают их алгоритмы или почему они не работают.

ИИ пытается решить, получишь ли ты работу, ИИ решает, получишь ли ты доступ к медицинскому лечению — и если мы ошибемся где-то, то будут реальные последствия,» — Джой Буоламвини, основатель «Algorithmic Justice League».

Мы должны поднять вопрос о том, кто может использовать информацию о нас, чтобы подобраться к нам ближе, чем нам бы хотелось. Но нам следует не только задуматься о том, как информация о нас может быть использована:

1. Развеять тайну вокруг ИИ.

Я основала некоммерческую организацию FrauenLoop в Берлине с целью демистифицировать современные технологии для женщин. Начав с курса по веб-разработке, мы углубились в анализ данных, а затем в тестирование программного обеспечения, машинное обучение, вплоть до знакомства с нейронными сетями, на которых основан искусственный интеллект.

2. Убедиться в существовании разнообразных баз данных.

Отсутствие качественных глобальных баз данных — вот почему FaceID не может отличить одного азиата от другого. Вот почему «умные» машины и алгоритмы финансовой проверки не всегда распознают людей с темной кожей. Это также одна из причин, по которой алгоритм найма Amazon исключает всех женщин, когда им предлагается выбирать между любым мужчиной и одной из них.

3. Требовать прозрачности

Мы должны поставить под сомнение роль алгоритмов искусственного интеллекта в вопросах найма, здравоохранения, продвижения по службе или финансов. Были ли они обучены кем-то, кто не учел и не позаботился о включении данных по вашей демографии?

Когда ИИ не может правильно распознать мои данные — это моя проблема. Но когда он не распознает людей старшего возраста, людей с лишним весом, загаром или кудрявыми волосами, моя проблема может быстро стать и вашей.

Кодекс чести для героя

Я не призываю нас всех срочно переучиваться на специалистов по искусственному интеллекту. Но нам нужно удостовериться, что по умолчанию решения принимаются не алгоритмами, а их прогнозы и рекомендации подвергаются сомнению и проверяются.

Вы скорее всего не согласитесь с тем, что вампир из романа «Сумерки» реален и способен выбирать лучших кандидатов в колледжи. Поручать алгоритмам ИИ принятие ключевых решений без процесса проверки на ошибки — это абсолютно то же самое.

Не существует такой вещи, как непредвзятая и независимая от человека технология, и чем раньше мы это признаем, тем меньше вероятность того, что мы получим пинок под зад от алгоритмов.

Создание этических принципов, принципов конфиденциальности и добросовестного использования для систем и услуг, основанных на ИИ, имеет решающее значение. Мы должны быть разумнее и не сходить с ума от восторга, как фанаты любовных романов, от «сверхчеловеческой» технологии. Спросите любую читательницу таких книг, и она скажет вам, что под маской любого героя обычно скрывается обычный парень.

Многие люди, которые занимаются обучением в сфере технологий, борются против романтизации ИИ. И они бьют тревогу. Среди них:

Algorithmic Justice League

Data & Society

Berkman Klein Center for Internet & Society при Гарвардском университете

Чтобы получить дополнительную информацию о техническом образовании для женщин в Берлине, посетите frauenloop.org

Оригинал: How Artificial Intelligence Hype Keeps Us Stuck in “The Good Old Days”

Перевод: Ухарова Елена

Поделиться:
Опубликовано в рубрике Machine LearningTagged ,

SkillFactory.Рассылка