Как генеративный искусственный интеллект может увековечить предубеждения моды

В марте 2021 года, еще до того, как массовый ажиотаж вокруг генеративного искусственного интеллекта усилился, пара исследователей опубликовала статью о том, как искажения могут проявляться в изображениях, созданных с помощью ИИ. С помощью одного инструмента ИИ они создали пять мужских и пять женских лиц.

Затем они загрузили их в другой инструмент с искусственным интеллектом для обработки тел. Что касается женских лиц, то в 52,5 процентах изображений, которые вернул ИИ, были “бикини или топы с глубоким вырезом”, - написали они. Что касается лиц мужского пола, то 42,5 процента из них были одеты в “костюмы или другую одежду, связанную с их карьерой”.

Предвзятость в ИИ — или, скорее, в данных, на которых обучаются эти модели, — хорошо известная проблема. Существует даже мантра: «мусор на входе, мусор на выходе».

Идея в том, что если вы вводите некорректные данные, выходные данные будут отражать эти недостатки. Поскольку доступные инструменты генеративного ИИ, как правило, были обучены на гигантских объемах данных, собранных из Интернета, они, скорее всего, отражают предубеждения Интернета, которые могут включать в себя все сознательные и бессознательные предубеждения общества.

Исследователи предположили, что их результаты были получены в результате “сексуализированного изображения людей, особенно женщин, на изображениях в Интернете”.

Моде следует уделять пристальное внимание. Поскольку компания начинает использовать генеративный искусственный интеллект для всего, от создания изображений для рекламных кампаний до работы с онлайн-консультантами по покупкам, она рискует повторить дискриминацию по признаку расы, возраста, телосложения и инвалидности, с которой она последние несколько лет громко заявляла, что хочет покончить.

Например, когда я ввел запрос “модель в черном свитере” в DreamStudio, коммерческом интерфейсе для генератора изображений ИИ Stable Diffusion, в результатах были изображены худые белые модели. Так было с большинством, если не со всеми моделями, каждый раз, когда я пытался это сделать.

В коллективном сознании Интернета модель по-прежнему выглядит именно так. Равиешвар Сингх, дизайнер цифровой моды, который пытался привлечь внимание к этой проблеме, даже организовав небольшую акцию протеста на недавней Неделе моды с искусственным интеллектом, сказал, что текущий момент особенно важен для борьбы с этими проблемами. “То, что мы наблюдаем сейчас, - это создание этих норм в режиме реального времени с помощью искусственного интеллекта”, - сказал он.

За исключением того, что теперь бренды не смогут прибегать к оправданиям, которые они использовали в прошлом, чтобы не использовать определенные типы моделей или не представлять различные группы. Сингх отметил, что если раньше они могли заявить, что не могут найти подходящую модель с пышными формами, то теперь они могут создать любой образ, который захотят.

Хотя в прошлом они могли заявлять, что производство ряда образцов для различных кузовов было непомерно сложным или дорогостоящим, сейчас никаких серьезных дополнительных затрат или сложностей нет. (Это поднимает связанный с этим вопрос о том, должны ли бренды использовать искусственный интеллект вместо того, чтобы нанимать человеческих моделей, но реальность такова, что игнорирование технологии не приведет к ее исчезновению. ) “Итак, у меня возникает вопрос: ”Почему мы делаем такой выбор в первую очередь?» - сказал Сингх. Есть факторы, выходящие за рамки технологий.

Бренды часто пытаются создать привлекательный образ, который повторяет то, что общество в целом считает желательным. С другой стороны, мода также оказывает большее влияние, чем большинство других отраслей, на определение того, как выглядит “желаемое”.

Чтобы индустрия отошла от своих парадигм и, в конечном счете, изменила их, потребуются дополнительные размышления и усилия. Привнесение большего разнообразия будет зависеть от отдельных брендов и креативщиков, и нет никакой гарантии, что это произойдет.

В прошлом мода, как правило, сопротивлялась даже небольшим изменениям, и, если это потребует дополнительных усилий, могут найтись те, кто не будет прилагать усилий, а это означает, что мода продолжит укреплять те же модели. Индустрия высоких технологий все еще борется со своими собственными проблемами, связанными с предвзятостью в ИИ. Существует множество хорошо документированных примеров того, как искусственный интеллект по умолчанию использует белых мужчин, что приводит к таким последствиям, как плохая работа распознавания голоса у женщин или неправильная маркировка изображений у чернокожих мужчин.

Генеративный ИИ добавляет свои риски, например, увековечивает негативные стереотипы или стирает различные группы, просто не включая их. Одна из проблем с некоторыми генераторами изображений заключается в том, что они могут по умолчанию использовать белого человека практически для любой подсказки, позитивной или негативной.

Технические эксперты и исследователи полагают, что одним из возможных способов решения этой проблемы является обучение с подкреплением на основе обратной связи с человеком — метод, который, в соответствии со своим названием, предполагает, что человек обеспечивает обратную связь с моделью искусственного интеллекта, направляя ее обучение в желаемом направлении, без необходимости указывать желаемый результат. “Я с оптимизмом смотрю на то, что мы придем к миру, где эти модели смогут помочь уменьшить предвзятость в обществе, а не усиливать ее”, - сказал Сэм Альтман, исполнительный директор OpenAI, компании, создающей ChatGPT и генератор изображений DALL-E, в интервью глобальному новостному сайту Rest of World, в недавнем интервью. Сингх считает, что искусственный интеллект может оказать положительное влияние и на моду.

Если кто-то создает кампанию с использованием искусственного интеллекта с участием южноазиатской модели или привлекает кого-то с телосложением, которое раньше не было модным стандартом, кастинг-директор может увидеть это и подумать о том, чтобы сделать то же самое с физическим кастингом. Однако, во-первых, модные компании, использующие генеративный ИИ, должны выйти за рамки истории стандартных решений и технологий, которые они принимают за себя.