Искусственный интеллект вне контроля: как бизнес борется с «теневым» разрастанием технологий

Искусственный интеллект проникает в корпоративную среду быстрее, чем ИТ-департаменты успевают его отслеживать и брать под управление. Согласно последнему отчету McKinsey о состоянии ИИ, уже 88% организаций используют эту технологию как минимум в одной бизнес-функции. Однако значительная часть этого процесса происходит стихийно, за пределами традиционных протоколов безопасности и официального надзора.

Для руководителей цифровой трансформации это означает смену парадигмы: они больше не управляют закрытой, централизованной средой. Современные технологии могут появиться в любом отделе, мгновенно распространиться и начать влиять на критические бизнес-процессы без предварительного одобрения сверху.

От планового внедрения к невидимой адаптации

То, что сейчас происходит внутри предприятий, мало напоминает скоординированное развертывание программного обеспечения. Это скорее распределенный сдвиг в самих методах работы. Сотрудники самостоятельно экспериментируют с ИИ-ассистентами и инструментами без написания кода (no-code), создавая приложения и автоматизируя рабочие задачи без уведомления ИТ-службы.

В предыдущие десятилетия внедрение новых технологий ограничивалось бюджетом и сложными процедурами согласования. Сегодня эти барьеры практически исчезли. Инструменты ИИ легкодоступны, недороги и часто уже знакомы пользователям по личному опыту. Если раньше количество доступных программных продуктов было конечным, то теперь сотрудники имеют доступ к практически бесконечному количеству облачных решений.

По мнению экспертов, финансовый аналитик может собрать работающее внутреннее приложение на базе генеративного ИИ всего за несколько дней. Раньше для этого требовалась команда разработчиков, формальное техническое задание и месяцы работы. Основная сложность заключается в том, что этот процесс происходит в разы быстрее, чем любые механизмы контроля.

Теневой ИИ сложнее обнаружить

Проблема «разрастания» ИИ отличается от обычного использования нелицензионного ПО. В эпоху облачных сервисов (SaaS) приложения были привязаны к конкретным поставщикам и контрактам. ИИ же проявляется фрагментарно: в виде скриптов, агентов или встроенных функций внутри уже существующих программ.

Многие вендоры добавляют возможности ИИ в продукты, которые компании уже используют. Часто эти функции включены по умолчанию или появляются после планового обновления. В результате ИИ проникает в организацию не только через закупки, но и как скрытая часть привычного софта. ИТ-команды часто не имеют инструментов для инвентаризации таких функций, а сотрудники могут скрывать использование сторонних сервисов, опасаясь, что доступ к ним будет заблокирован.

Риски растут быстрее, чем правила управления

Темпы инноваций в сфере ИИ значительно опережают развитие корпоративного управления. Основные риски включают:

• Утечка данных: сотрудники могут загружать в модели конфиденциальную информацию, включая финансовые отчеты и чертежи, не понимая, где эти данные будут храниться.
• «Галлюцинации» ИИ: системы могут выдавать фактически неверные, но убедительно звучащие ответы, которые затем попадают в отчеты и бизнес-решения.
• Неконтролируемые расходы: использование ИИ в разных отделах может привести к резкому росту затрат, которые трудно отследить и сопоставить с реальной ценностью для бизнеса.
• Проблема ответственности: если инструмент создан сотрудником самостоятельно и без документации, становится неясно, кто отвечает за его поддержку и аудит в случае сбоя.

Пять стратегий по возвращению контроля над ИИ

Для эффективного управления хаотичным внедрением технологий ИТ-директорам рекомендуется предпринять следующие шаги:

1. Создание динамической системы мониторинга. Обычных списков ПО недостаточно. Необходимо анализировать сетевой трафик и использовать системы идентификации, чтобы видеть, какие ИИ-сервисы реально используются сотрудниками.
2. Замена тотальных запретов на «защитные барьеры». Полная блокировка ИИ неэффективна. Вместо этого следует установить четкие правила работы с данными и технические ограничения, которые позволят экспериментировать безопасно.
3. Легализация успешных решений. Если сотрудники создали полезный инструмент «на коленке», ИТ-отдел должен помочь превратить его в официальный корпоративный актив с назначением ответственных и проведением аудита.
4. Создание внутренней инфраструктуры. Программное обеспечение теперь создается не только программистами. Организациям нужны внутренние платформы и стандарты, которые позволят любому сотруднику собирать ИИ-инструменты в защищенной среде.
5. Усиление контроля над поставщиками. ИИ часто попадает в компанию через сторонние сервисы. Необходимо обновлять контракты и добавлять специфические вопросы об алгоритмах ИИ в тендерную документацию, даже если поставщик не позиционирует себя как ИИ-компания.

Хаотичное распространение ИИ уже стало реальностью для большинства предприятий. Задача современного руководства состоит не в том, чтобы остановить этот процесс, а в том, чтобы направить его в управляемое русло, минимизируя риски без потери конкурентных преимуществ.