Как Школы моды борются со слепыми зонами Искусственного Интеллекта

Джулиенн Девита, преподаватель программы будущих исследований Parsons, находится в середине разработки своего курса на весенний семестр “Проектирование с помощью искусственного интеллекта. ”На занятиях студенты познакомятся с междисциплинарной природой ИИ и получат практический опыт использования ряда инструментов ИИ, таких как Midjourney и Adobe Firefly.

Но научить их пользоваться этими программами - самая простая часть, - говорит Девита. Настоящая трудность заключается в том, чтобы подготовить ее учеников к предвзятости и недостаткам технологии. Например, доказано, что Midjourney воспроизводят стереотипы о цветных людях и гораздо чаще используют белые оттенки кожи при создании изображений людей. Недавнее исследование, проведенное Washington Post, показало, что при использовании общих подсказок, таких как “привлекательный человек” или “дом в Китае”, такие инструменты, как Stable Diffusion и Dall-E, как правило, поддерживают распространенные предубеждения.

Все привлекательные люди светлокожие. Каждый дом в Китае имеет традиционную изогнутую крышу - архитектурный стиль, которому уже тысячи лет. “[ИИ] опирается на свои прошлые прогнозы, которые, если они основаны на чем-то вредном, могут стать по-настоящему опасными”, - сказал Девита.

Девита - не единственный преподаватель, рассматривающий риски, связанные с ИИ. Преподаватели модных программ, в том числе Central Saint Martins University и Pace University, рассматривают способы включения мер по устранению предвзятости в свои учебные программы по ИИ или, по крайней мере, информируют своих студентов о недостатках технологии.

Некоторые из них даже участвуют в разработке решений для устранения этических недостатков ИИ. Один из подходов заключается в том, чтобы просто поговорить со студентами о склонности ИИ к стереотипам, вовлекая их в критический дискурс. Джефф Карли, еще один преподаватель моды в Parsons, сказал, что он предлагает студентам задавать вопросы, когда они демонстрируют и экспериментируют с программами ИИ на своем занятии “Цифровая студия и брендинг”. Карли сказал, что он учит своих студентов всегда указывать конкретные подсказки, касающиеся расы, пола, размера тела и типа волос, чтобы избежать стереотипных настроек ИИ по умолчанию.

На самом деле, он оценивает своих студентов за то, что они внимательно используют идентификаторы в своих заданиях, например, в проекте по фэшн-фотографии, который требует использования промежуточных занятий. Ободряющая беседа со студентами имеет ключевое значение, добавил Девита.

Задавая такие вопросы для обсуждения, как “Как этическая проблема генеративного ИИ влияет на опыт пользователей”, студенты могут лучше понять свою будущую роль и ответственность в преодолении предубеждений ИИ и продвижении индустрии моды вперед этичным путем. По словам Девиты, около половины ее занятий могли бы быть посвящены дискуссиям, в то время как остальные были бы сосредоточены на применении искусственного интеллекта в дизайне. “Я думаю, что для творческих людей очень важно быть любознательными, задавать вопросы и давать отпор”, - говорит Маргарита Лука, ведущая цифровой программы о моде в Central Saint Martins. “Мы несем ответственность перед нашими студентами, перед этим новым поколением молодых креативщиков, за то, чтобы обучить их не только сложным навыкам, но и мягким навыкам.

Для меня мягкие навыки - это способность критически мыслить, привносить философский подход”.

Генеративный ИИ не существует в вакууме. И важно, чтобы студенты знали о более широком социальном и культурном контексте, который лежит в основе этих инструментов.

Девита сказала, что планирует, чтобы ее студенты исследовали, как можно улучшить наборы данных, которые используются в ИИ. Их итоговый проект потребует от студентов рассмотрения этики ИИ и размышлений на такие темы, как лицензирование, создание наборов данных и творческое владение ими.

Некоторые преподаватели сами исправляют ошибки в наборах данных, которые обеспечивают создание ИИ. Кристель Шарфф, преподаватель факультета компьютерных наук Университета Пейс, рассказала, что она использует африканские восковые отпечатки и терминологию для расширения Fashion MNIST, популярного набора данных о моде, используемого системами машинного обучения.

Обучение студентов умению мыслить и действовать с помощью ИИ снижает риск того, что они будут проявлять предвзятость в своей работе. Но это также дает им знания, необходимые для решения этих проблем при поступлении на работу и борьбы с дискриминацией или проблемами инклюзивности, выходящими за рамки ИИ, - сказала Карли. “Мне хотелось бы думать, что это гарантирует, что следующее поколение профессионалов моды будет подходить к своему ремеслу с пониманием культурных особенностей”, - добавил он.