Тайные риски ИИ: как неактуальные соглашения об обработке данных угрожают конфиденциальности компаний

Соглашения об обработке данных (СОД) — базовый юридический документ, на который компании полагаются при оценке того, как сторонние поставщики управляют персональными данными, — больше не могут считаться абсолютно надёжными. Таков основной и, возможно, самый тревожный вывод отчёта DataGrail «Тенденции конфиденциальности и ИИ за 2026 год», опубликованного недавно.

Платформа по обеспечению конфиденциальности DataGrail, расположенная в Сан-Франциско, проанализировала 2400 популярных поставщиков бизнес-программного обеспечения. Исследование показало, что 63,6% поставщиков, активно заявляющих о своих возможностях в области искусственного интеллекта (ИИ), не раскрывают информацию о сторонних субобработчиках ИИ в своей юридической документации. Это означает, что большинство компаний, приобретающих ПО с функциями ИИ, могут неосознанно предоставлять доступ к данным своих клиентов моделям и системам ИИ, которые они никогда не проверяли, не одобряли и о существовании которых даже не подозревают.

Соглашения не поспевают за технологиями ИИ

Соучредитель и генеральный директор DataGrail Даниэль Барбер в интервью изданию VentureBeat отметил, что все поставщики программного обеспечения стремятся перейти к ИИ-решениям, что вполне логично, но технологии развиваются быстрее, чем их может регулировать система управления ИИ. По его словам, соглашение об обработке данных (СОД) должно быть надёжным инструментом для оценки рисков, связанных с ИИ, но текущие данные показывают, что в 2026 году этого уже недостаточно.

Этот вывод сделан на фоне корпоративного ландшафта, где организации с высоким уровнем так называемого теневого ИИ (систем искусственного интеллекта, используемых без официального утверждения или контроля) уже несут средние затраты на устранение утечек данных в размере 4,63 миллиона долларов США. Это на 670 тысяч долларов США больше, чем у компаний с низким или отсутствующим теневым ИИ, согласно отчёту IBM «Стоимость утечки данных за 2025 год». Кроме того, в прошлом году штаты США выписали штрафы, связанные с конфиденциальностью, на общую сумму 3,425 миллиарда долларов США — больше, чем за предыдущие пять лет вместе взятых. Аналитики Gartner ожидают ускорения этого тренда к 2028 году.

Разрыв между контрактами и реальностью

Методология DataGrail, позволившая получить показатель в 63,6%, выходит за рамки простого чтения контрактов. Исследовательская группа компании сопоставляла информацию из соглашений об обработке данных с документацией по продуктам, данными из сред GitHub, сведениями о подключениях API и маркетинговыми материалами для каждого из 2400 поставщиков в базе данных. Даниэль Барбер пояснил, что команда использовала СОД в качестве отправной точки, но затем дополнительно анализировала среды GitHub, подключения API, документацию по продуктам и маркетинговые материалы. Такая «триангуляция» информации позволяет выявить расхождения: например, если в СОД указан один субобработчик, а в документации по продукту упоминаются другие, не отражённые в СОД.

По словам Барбера, уверенность в том, что эти расхождения представляют реальный риск теневого ИИ, а не использование поставщиками проприетарных технологий, очень высока. Он подчеркнул, что они тщательно изучали документацию по продуктам, среды GitHub и фактические подключения API, поскольку DataGrail сама интегрируется с этими системами и понимает, как они обрабатывают персональные данные. Это, как он отметил, результаты первичных исследований.

Представители DataGrail привели пример: компания инвестирует в ИИ-инструмент для подбора персонала. В соглашении об обработке данных этого инструмента в качестве базовой модели указана Claude. Компания добросовестно проводит проверку безопасности ИИ-системы Anthropic. Однако инструмент для подбора персонала незаметно использует также OpenAI и Gemini — модели, которые компания никогда не оценивала. Эти нераскрытые модели затем обрабатывают тысячи резюме и выполняют автоматизированные решения о найме. Компания, не зная того, предоставляет доступ к конфиденциальной персональной информации — домашним адресам, финансовым данным, возможно, номерам социального страхования — системам ИИ, которые она не проверяла, потенциально нарушая регулирование Федеральной торговой комиссии США (FTC) в отношении автоматизированного принятия решений при приёме на работу. По словам Барбера, то, как поставщики оценивают и выполняют такое автоматизированное принятие решений, может иметь катастрофические последствия для бизнеса.

Риски обработки конфиденциальных данных

Одного только разрыва в раскрытии информации было бы достаточно для беспокойства. Однако отчёт DataGrail добавляет ещё один вывод, который существенно усугубляет проблему: 32,8% систем ИИ, раскрывающих свои возможности, также указывают как минимум одну другую высокорисковую деятельность, такую как обработка конфиденциальной персональной информации или использование для автоматизированного принятия решений. Среди систем ИИ с заявленными факторами риска:

• 47,1% обрабатывают персональные данные;
• 20,7% потенциально могут использоваться для автоматизированного принятия решений;
• 16,5% обрабатывают конфиденциальные категории данных, такие как медицинская или финансовая информация;
• 7,5% обрабатывают биометрические данные.

В отчёте утверждается, что эти цифры почти наверняка занижают фактический уровень подверженности риску, поскольку они отражают только то, что поставщики официально раскрыли. Поставщики могут занижать сведения о доступе к персональным данным, а присущая ИИ гибкость означает, что даже добросовестные поставщики могут не предвидеть более рискованные способы использования своих инструментов пользователями.

Это имеет немедленные регуляторные последствия. Новое требование CCPA (Закона Калифорнии о конфиденциальности потребителей) по оценке рисков, вступающее в силу 1 января 2026 года, обязывает компании проводить и документировать оценки рисков для деятельности по обработке данных, представляющей значительные риски для конфиденциальности. Эти оценки должны быть представлены в CalPrivacy (Калифорнийское агентство по защите конфиденциальности) к апрелю 2028 года с подтверждением руководителей под присягой. Обработка конфиденциальной персональной информации с помощью ИИ или использование ИИ для автоматизированного принятия решений — это именно те действия, которые вызывают данное обязательство. Отчёт также показывает, что 42% компаний отказались от инициатив в области ИИ в 2025 году, причём проблемы конфиденциальности данных были названы основным препятствием (согласно исследованию S&P Global). Команды по конфиденциальности, которые на ранних этапах подключаются к проектам ИИ, по мнению Барбера, могут предотвратить такие потери, обеспечивая наличие защитных мер до запуска, при этом оценки рисков ИИ служат правильной отправной точкой.

Управление согласием: наиболее частая причина штрафов

В то время как теневой ИИ представляет собой относительно новую категорию угроз, отчёт ясно показывает, что традиционные проблемы конфиденциальности не исчезли, а усилились. Управление согласием было самой активной темой правоприменения в 2025 году. Только в Калифорнии публично сообщалось о выплатах в размере 4,3 миллиона долларов США по соглашениям об урегулировании споров, связанных с согласием на обработку данных в рамках CCPA, а в 2025 году было подано более 1400 коллективных исков о несанкционированном перехвате данных, инициированных частными фирмами, расследующими использование отслеживающих пикселей и программного обеспечения для записи сессий (Session Replay).

Несмотря на эту волну правоприменения, 63% из 5000 веб-сайтов, проверенных DataGrail, по-прежнему не соблюдают универсальные механизмы отказа, такие как сигнал Global Privacy Control (GPC), который позволяет пользователям отказаться от отслеживания. Хотя этот показатель представляет собой улучшение по сравнению с 75% несоблюдения в 2023 году, темпы улучшений остаются медленными относительно ускорения правоприменения.

В качестве примера отмечается случай с Todd Snyder, розничным продавцом мужской одежды, которому Калифорнийское агентство по защите конфиденциальности выписало штраф в размере 345 178 долларов США в мае 2025 года. Этот случай, по словам Барбера, демонстрирует, что правоприменение больше не ограничивается крупными технологическими компаниями. Он подчеркнул, что это бизнес с двумя или тремя магазинами по всей территории США и 300 сотрудниками, работающий с небольшой наценкой.

Генеральный прокурор Калифорнии также достиг соглашения на 2,75 миллиона долларов США с Disney из-за неспособности соблюдать сигналы отказа, в то время как Калифорнийское агентство по защите конфиденциальности предприняло принудительные действия против PlayOn Sports и Ford. Эта картина демонстрирует как широту, так и глубину регуляторной деятельности. Среди отслеживающих систем, которые продолжают работать даже после того, как пользователь отправляет сигнал GPC, отчёт выявил, что 27,1% приходятся на Google Analytics и 43,8% используются для целевой рекламы через такие платформы, как Meta* и Microsoft.

Среди пользователей, которые взаимодействуют с баннерами согласия, 48,3% нажимают «Принять всё», в то время как только 12,4% выбирают «Только необходимое» и 2,3% настраивают свои предпочтения. Целых 37% просто закрывают баннер, не сделав выбора. Практический вывод таков: менее 15% пользователей сознательно отказываются от отслеживания, что означает, что баннеры согласия представляют относительно низкий бизнес-риск при правильной настройке, но огромный регуляторный риск, если они настроены неверно.

Рост запросов на удаление данных: астрономические затраты

Объём запросов субъектов данных (DSR), которые позволяют пользователям запрашивать доступ, изменение или удаление своих персональных данных, достиг исторического максимума пятый год подряд. Запросы на удаление выросли на 567% с 2021 года и теперь составляют 87% от всех запросов DSR. Запросы на доступ, напротив, постепенно сокращаются, поскольку потребители пропускают этап видимости и сразу переходят к кнопке «Удалить».

Стоимость обработки таких запросов ошеломляет. Для организации среднего размера, принимающей 5 миллионов посетителей веб-сайта в год, отчёт оценивает, что ручное управление DSR теперь обходится примерно в 1,5 миллиона долларов США в год. Это основано на оценке Gartner в 1524 доллара США за ручную обработку одного запроса субъекта данных. Средняя стоимость выросла с 238 тысяч долларов США в 2021 году до 1,51 миллиона долларов США в 2025 году — такая траектория делает ручную обработку не просто неэффективной, но, как утверждается в отчёте, «безответственной».

Даниэль Барбер подчеркнул, что эти цифры отражают проверенные запросы от реальных людей, исключая ботов и спам-трафик, а также то, что сценарии с брокерами данных — которые столкнутся с собственным массивным притоком запросов в соответствии с Законом Калифорнии об удалении данных — сообщаются отдельно. По его словам, это естественный рост: «Если сейчас более 20 штатов США имеют регулирование конфиденциальности, маловероятно, что будет принят федеральный закон, хотя он и был предложен. И хотя мы не видим федеральной осведомлённости и регулирования, на уровне штатов мы видим более 20 штатов, и это может ещё больше повысить осведомлённость потребителей».

Он добавил красноречивую деталь о том, как компании реагируют на практике: «99% клиентов DataGrail обрабатывают эти запросы на удаление» даже для жителей штатов без законов о конфиденциальности, «просто потому, что на данном этапе это слишком сложно. Выяснять и даже сообщать человеку: ‘Эй, вы живёте в Монтане, извините, вам просто не повезло со штатом без регулирования’ — так поступать невозможно». Брокеры данных ощутили это наиболее остро: увеличение запросов на удаление на 398% по сравнению с 2024 годом и в среднем более 2000 запросов на удаление, обрабатываемых в месяц.

Регуляторы штатов: 3,4 миллиарда долларов штрафов и рост давления

Регуляторный ландшафт, лежащий в основе всех этих тенденций, фундаментально сместился от просвещения к наказанию. Почти половина штатов США теперь имеет комплексные законы о конфиденциальности, а также более 160 законов, специфичных для ИИ. Только в 2025 году законодательные органы штатов приняли 145 законов, связанных с ИИ, а ещё около тысячи были предложены или переработаны. По данным Gartner, более 50% населения США теперь охвачено комплексным законом штата о конфиденциальности, при этом ожидается, что ещё 24 штата примут такие законы в течение пяти лет. Штаты также начали объединять свои ресурсы: десять из них сформировали Консорциум регуляторов конфиденциальности в прошлом году и обязались координировать расследования между штатами.

По мнению Барбера, вопросы конфиденциальности по своей сути являются двухпартийными, что защищает их от меняющихся политических ветров текущей администрации. «Конфиденциальность в целом — это довольно двухпартийный вопрос», — отметил он. «Легко принимать законы о конфиденциальности, потому что избиратели в некоторой степени ожидают конфиденциальности в своей повседневной жизни. Если бы вы летели на самолёте, и вам сказали: ‘Хорошо, это место, если вы хотите уединения, вам придётся заплатить на 6 долларов США больше’, вы бы сказали: ‘Я полечу другой авиакомпанией’. На данном этапе это ожидаемая часть транзакции».

Он также предсказал, что другие штаты будут копировать модель правоприменения Калифорнии. «У Калифорнии есть своё подразделение по правоприменению, CalPrivacy. Эта группа имеет одну задачу: обеспечить соблюдение конфиденциальности в бизнесе. Вероятно ли, что другие штаты получат финансирование и поддержку для создания таких групп? Весьма вероятно. Штрафы — фактические выплаты — возвращаются нам как избирателям. Такую модель, можно представить, будет очень популярна по всей стране».

Сокращение штата в командах по конфиденциальности на фоне роста нагрузки

Возможно, самым парадоксальным выводом отчёта является то, что команды по конфиденциальности потеряли до 33% своих штатных сотрудников в прошлом году, хотя их рабочая нагрузка возросла по всем отслеживаемым показателям. Данные Cisco, приведённые в отчёте, показывают, что 90% программ по обеспечению конфиденциальности расширились в 2025 году из-за ИИ, в то время как только 12% программ управления ИИ считаются зрелыми. Между тем, 74% команд по конфиденциальности планировали применять ИИ для задач, связанных с конфиденциальностью, в 2026 году, согласно опросу ISACA «Состояние конфиденциальности 2026».

Барбер рассматривает это как часть более широкой макроэкономической тенденции, а не как признак того, что организации не ценят конфиденциальность. Он отметил, что это увлекательная макротенденция, вероятно, наблюдаемая во всех сферах бизнеса. «Компании повышают эффективность во всех своих подразделениях. Пять лет назад мы бы сказали: ‘Ну, регулирование усиливается, объём запросов на удаление увеличился на 500%, нам нужно больше людей’. Теперь стало ясно, что ИИ предоставляет возможности, которые могут выполнять работу для специалистов по конфиденциальности». Он привёл аналогию: «Пять лет назад у них могла быть команда дизайнеров из 20 человек, теперь у них команда из пяти, благодаря Claude Design или Gamma или любому другому инструменту. Я думаю, что мы наблюдаем то же самое и здесь».

DataGrail позиционирует своего собственного ИИ-агента Vera, запущенного в марте 2026 года, как часть решения. Vera встроена в существующую платформу DataGrail и призвана автоматизировать рабочие процессы конфиденциальности в различных юрисдикциях. Компания также была названа первым готовым к производству сервером Model Context Protocol для обеспечения конфиденциальности, использующим стандарт, созданный Anthropic, чтобы клиенты могли запускать инструменты DataGrail из любого приложения, в котором они уже работают, будь то Slack, электронная почта или Claude.

Можно ли доверять отчёту поставщика?

DataGrail, разумеется, является компанией, которая напрямую выигрывает от проблем, выявленных в её отчёте. Компания привлекла в общей сложности 84,2 миллиона долларов США в ходе пяти раундов финансирования, причём крупнейшим был раунд Серии C на 45 миллионов долларов США в октябре 2022 года под руководством Third Point Ventures. Её платформа решает именно те задачи по сопоставлению данных, автоматизации запросов субъектов данных, управлению согласием и оценке рисков, на которые обращает внимание отчёт.

Барбер прямо признал наличие этого противоречия. «Это справедливое заявление», — ответил он на вопрос о возможном скептицизме. «DataGrail не предоставляет услугу по обновлению СОД — это задача бизнеса, оценивать, как они работают с поставщиком. DataGrail помогает проводить оценки и автоматизировать эти оценки с помощью нашего ИИ-агента Vera, чтобы оценивать возросшие риски».

Он утверждал, что более нейтральная интерпретация данных носит структурный характер: «Это доказательство того, что СОД, к сожалению, не поспевает за технологиями и скоростью их инноваций. Это одновременно захватывающе, но мы также должны принять, что именно в такой ситуации мы находимся». Методология исследования придаёт определённую достоверность этому утверждению. Отчёт опирается на анонимизированные данные операций по обеспечению конфиденциальности от сотен корпоративных клиентов, базу данных отслеживания ИИ, охватывающую 2400 систем, и аудит согласия на 5000 веб-сайтах — источники, которые по крайней мере частично независимы от коммерческих интересов DataGrail. Более широкие выводы относительно расходов на правоприменение, тенденций объёма запросов субъектов данных и расширения регулирования тесно совпадают с независимо опубликованными данными от Gartner, Cisco и государственных правоохранительных органов.

Следующий рубеж: автономный ИИ

На вопрос о наиболее важной тенденции, не включённой в отчёт, Барбер указал на риск нового поколения, который расширяет проблему теневого ИИ на гораздо более опасную территорию: рабочие процессы автономного ИИ, или агентного ИИ (программные системы, способные самостоятельно выполнять задачи и принимать решения). Gartner прогнозирует, что к концу 2026 года 40% корпоративных приложений будут использовать ИИ-агенты для конкретных задач, по сравнению с менее чем 5% в 2025 году. Такие темпы внедрения могут быстро превзойти механизмы управления, которые компании только начинают создавать.

По словам Барбера, следующее направление исследований — это обработка агентами: «Как агенты используют эту информацию? Потому что последствия для бизнеса будут гораздо более серьёзными. Одна конкретная система использует теневой ИИ, бизнес не подозревает об этом, а затем агент распространяет эту информацию по множеству других мест. Механизмы контроля, когда мы с вами проверяем систему, будут слабее, чем то, что мы видели в прошлом с рабочими процессами агентов».

Он сформулировал различие в человеческих терминах: «Идентичность агента отличается от человеческой. Человек обдумывает, что я собираюсь здесь использовать, откуда эта информация, как она была собрана — это может не учитываться таким же образом для автономного рабочего процесса. Нам нужно решить корень проблемы, который заключается в том, как эти компании используют субобработчиков ИИ. Но это быстро превращается в проблему агентов, которая может быть гораздо более серьёзной».

Для руководителей по конфиденциальности и безопасности предприятий, которые ознакомились с этим отчётом, неудобная правда заключается в том, что базовые документы и процессы, на которые они полагались для управления рисками поставщиков в течение многих лет, разрушаются в реальном времени. СОД перестаёт быть надёжным инструментом. Государственное правоприменение ускоряется на двухпартийной основе. Команды по конфиденциальности сокращаются, даже когда их полномочия расширяются. И следующая волна систем автономного ИИ угрожает распространить непроверенную обработку данных по сетям автономных агентов, которые работают с ещё меньшим человеческим надзором, чем сегодняшние инструменты.

Пять лет назад, когда DataGrail опубликовала свой первый отчёт о тенденциях, запросы на удаление составляли лишь небольшую часть от сегодняшнего объёма, лишь несколько штатов имели законы о конфиденциальности, а фраза «теневой ИИ» не существовала. С тех пор каждый год отчёт предупреждал, что проблема усугубляется. И каждый год данные подтверждали это. Компании, которые переживут следующую главу, будут не те, у кого самые большие команды по соблюдению нормативов или самые толстые папки с политиками. Это будут те, кто примет дезориентирующую новую реальность: в 2026 году контракты, которые вы подписали, могут не описывать ИИ, который уже обрабатывает данные ваших клиентов — а к 2027 году автономные агенты могут решать, что с ними делать.

* — деятельность компании запрещена на территории РФ