Суд признал незаконной отмену государственных грантов США с помощью ChatGPT

Судебное решение выявило серьезные нарушения правовых процедур и принципов свободы слова при отмене государственных грантов США. Судья Колин МакМэхон (Colleen McMahon) вынесла постановление, согласно которому двое высокопоставленных чиновников незаконно использовали искусственный интеллект, в частности чат-бот ChatGPT, для принятия решений об отмене финансирования проектов Национального фонда гуманитарных наук (NEH).

Превышение полномочий и непрозрачный процесс

В начале 2025 года Джастин Фокс (Justin Fox) и Нейт Каванау (Nate Cavanaugh), сотрудники службы DOGE (Department of Government Efficiency), были назначены на государственные должности с задачей выявлять и отменять программы, связанные с концепцией DEI (Diversity, Equity, and Inclusion — разнообразие, равенство и инклюзивность). При этом, по данным расследования, Фокс и Каванау не обладали соответствующим опытом; например, Каванау, двадцатилетний студент, не окончивший обучение, чей основной предыдущий опыт заключался в работе в стартапе по патентованию, был назначен главой Института мира США.

Одним из их заданий стала проверка Национального фонда гуманитарных наук (NEH), программы которого, по их мнению, были «безнадежно пропитаны» идеями DEI и подлежали закрытию. Процесс пересмотра грантов на миллионы долларов, уже одобренных ранее, состоял практически полностью из следующих действий: чиновники задавали ChatGPT вопрос:

«Относится ли следующее каким-либо образом к DEI? Ответьте фактически, не более чем 120 символами. Начните с ‘Да.’ или ‘Нет.’, за которым следует краткое объяснение. Не используйте в ответе ‘эта инициатива’ или ‘это описание’.»

На основании этих ответов чиновники отменили гранты на миллионы долларов, которые ранее прошли детальную процедуру утверждения. В ходе судебных слушаний представители DOGE не смогли дать четкого определения DEI и не сумели обосновать причины отмены грантов, что стало очевидным из их показаний.

Решение суда и проблемы с ИИ

Судья Колин МакМэхон вынесла жесткое решение на 143 страницах, постановив, что использование ChatGPT и его кратких ответов «почему это DEI в 120 символах» соответствует критериям «произвольных и непредсказуемых» действий, что делает отмену грантов незаконной.

Джастин Фокс признал, что не определял термин DEI для ChatGPT и не имел ни малейшего представления о том, как чат-бот понимает этот термин. Он также не просил ChatGPT учитывать цель, методологию или научную составляющую проекта, что потребовало бы ознакомления с исходными материалами грантов.

Из-за того, что запрос был сформулирован как «относится ли проект хоть как-то к DEI», проекты, чьи краткие описания содержали общие ссылки на «историю», «культуру» или «идентичность», часто классифицировались ChatGPT как связанные с DEI. Например, проект по восстановлению и анализу древних писаний, приписываемых Моисею, но исключенных из канонической еврейской Библии, был отнесен к DEI, поскольку он «предоставляет важную информацию о еврейской мысли двухтысячелетней давности». Это несмотря на то, что описание проекта включало высокотехнологичные методы, такие как мультиспектральная съемка и текстовая реконструкция. Тем не менее, чат-бот связал его с целями DEI.

Судья также привела другой пример: грант на исследование преследования уйгурского народа китайским правительством был классифицирован ChatGPT как DEI, вероятно, из-за упоминания угрозы исчезновения этнической и религиозной группы. Это решение противоречит давней двухпартийной позиции США, осуждающей отношение Китая к уйгурам.

Судья МакМэхон ясно дала понять, что ChatGPT является инструментом, генерирующим «приблизительно желаемый результат», а не средством для глубокого анализа заявок на гранты. Отчет показал, что решения ChatGPT генерировались без какого-либо дополнительного контекста, кроме поверхностных описаний из таблиц. Учитывая нынешние знания о «галлюцинаторных» свойствах ChatGPT и других генеративных ИИ-инструментов, неудивительно, что чат-бот мог «предположить», что Фокс и Каванау ищут причины для классификации грантов как DEI, и, соответственно, предоставлял «обоснования», чтобы удовлетворить предполагаемый запрос пользователя.

Проблема заключалась в том, что закон требует обоснованных причин и четкой процедуры для таких решений, а не произвола. Использование ChatGPT для получения причин отмены грантов было абсолютно произвольным.

Нарушение установленных процедур и полномочий

Процесс, внедренный службой DOGE, не соответствовал и даже не напоминал обычную процедуру рассмотрения грантов NEH, которая была разработана в соответствии с требованиями уставных актов. Статутный процесс предусматривает индивидуальную оценку экспертами по предмету, консультативный пересмотр, участие Совета и окончательное решение председателя. Кроме того, закон не уполномочивает на массовую отмену уже присужденных грантов на основании новых идеологических критериев.

Более того, служба DOGE не имела никаких законных полномочий на прекращение грантов NEH. Суд установил, что именно DOGE, а не председатель NEH или другие сотрудники фонда, инициировали отмену грантов. Конгресс, а не исполнительная власть, обладает властью в этом вопросе. Исполнительные указы, учреждающие DOGE, не могли подменять законодательство, принятое Конгрессом.

Даже в исполнительных указах, которые создали DOGE, подтверждается отсутствие у этой службы каких-либо оперативных полномочий по прекращению грантов. Указы определяют DOGE как президентский консультативный орган, но не наделяют его независимыми исполнительными полномочиями, правом управлять федеральным агентством, отменять гранты или навязывать обязательные решения должностным лицам.

Сотрудники DOGE, включая Джастина Фокса и Нейта Каванау, были созданы «внутри» агентств и должны были «консультировать» руководителей агентств, а не осуществлять независимые решения. Однако доказательства показали, что Каванау и Фокс не «консультировали», а отдавали прямые приказы. Они начали пересмотр грантов NEH, используя ключевые слова и категории DOGE, еще до встречи с руководством NEH. Они отклоняли рекомендации председателя NEH о продолжении финансирования некоторых грантов и даже добавляли новые гранты для отмены. Появление имени председателя МакДональда (McDonald) на письмах об отмене не меняет сути произошедшего; письма были составлены и отправлены Фоксом под именем МакДональда. Коммуникации Фокса с МакДональдом ясно показывают, что DOGE считала себя вправе диктовать условия, а не консультировать.

Нарушение Первой поправки и политическая дискриминация

Помимо процедурных нарушений, суд отметил, что отмена грантов также является явным нарушением Первой поправки к Конституции США, которая гарантирует свободу слова. Гранты отменялись из-за их предполагаемого соответствия «идеологии DEI», что является прямым преследованием за содержание высказываний.

Правительство сохраняет определенную свободу действий в управлении грантовыми программами, но эта свобода ограничена Первой поправкой. Оно может определять программные цели, но не может отказывать или отзывать финансирование из-за несогласия с выраженными идеями. В данном случае была очевидная дискриминация по признаку точки зрения, поскольку DEI является определенной точкой зрения, и решения об отмене были мотивированы именно идеологическим методом классификации.

Сама служба DOGE публично характеризовала отмены как «DEI», разместив в своем официальном аккаунте на X* (ранее известная как Twitter) сообщение: «Во время предыдущей администрации Национальный фонд гуманитарных наук (NEH) выделил следующие гранты на расходование денег налогоплательщиков, все из которых были отменены (общая экономия 163 миллиона долларов). Гранты NEH будут присуждаться на основе заслуг и предназначены для не-DEI, проамериканских целей.» Эти заявления подтверждают, что нежелательная точка зрения DEI была основной причиной отмены большинства грантов.

Суд также отметил недопустимость политической дискриминации. Хотя новая администрация имеет право устанавливать свои приоритеты в финансировании, она не может отзывать ранее выделенные средства исключительно на основании «нежелательной» речи или предполагаемой политической принадлежности. Джастин Фокс и Нейт Каванау, используя ChatGPT, пытались создать видимость бюрократического процесса, не соблюдая при этом закон. Суд ясно дал понять, что правительство может устанавливать приоритеты финансирования, но не может использовать чат-боты для создания ложных обоснований подавления нежелательных идей, передавать полномочия несанкционированным лицам и маскировать свои действия подписями официальных лиц.

Их действия, по сути, имитировали государственное управление, одновременно подрывая его изнутри, но суд пресек эту деятельность.

* — деятельность компании запрещена на территории РФ