ИИ-угрозы усиливают давление на бизнес: как защититься от обхода KYC и дипфейков

Киберпреступники активно применяют искусственный интеллект (ИИ) в своих схемах, постоянно адаптируя методы. Недавнее исследование компании Flashpoint показало, что злоумышленники всё чаще используют ИИ для создания дипфейков, чтобы обходить системы верификации личности (KYC – «Знай своего клиента») и совершать мошенничество.

• ИИ широко применяется для обхода KYC с использованием дипфейков, предлагаются целые наборы инструментов, включающие синтетическое видео, клонирование голоса и поддельные документы.
• Преступники сосредоточены не на разработке новых ИИ-инструментов, а на совершенствовании методов обхода ограничений (jailbreak), рабочих процессов с запросами (промптами) и переходе на менее регулируемые модели, такие как VeniceAI. Фишинговые скрипты и промпты для имитации личности стали своего рода товаром.
• Эксперты подчеркивают, что ключевое значение для защиты имеет глубокое понимание развития этих методов, что позволяет раньше выявлять и более точно реагировать на активные мошеннические схемы.

Отчёт Flashpoint основан на анализе более 2,3 миллиона обсуждений в сети, посвящённых незаконному использованию ИИ. Было выявлено более 63 000 публикаций, где обсуждались методы обхода KYC с помощью ИИ, причём во многих случаях киберпреступники предлагали к продаже готовые комплексные наборы инструментов.

Мошенничество с ИИ становится «зрелой» индустрией

Flashpoint отмечает, что эти «решения» включают генерацию синтетического видео, имитирующего поведение при живой верификации, клонирование голоса, готовые сценарии взаимодействия и поддельные документы. Это позволяет злоумышленникам полностью создать фальшивую личность. Некоторые продавцы даже предлагают инструкции по адаптации своих продуктов к конкретным платформам или требованиям верификации, обновляя предложения в реальном времени на основе отзывов покупателей.

Согласно данным Flashpoint, хакерское сообщество «повзрослело»: оно больше не заинтересовано в создании новых ИИ-инструментов. Вместо этого акцент сместился на максимальное извлечение пользы из существующих решений. Это проявляется в активных обсуждениях методов «взлома» (jailbreak, позволяющего обойти ограничения моделей), обмене рабочими процессами для создания запросов (промптов) и переходе на альтернативные ИИ-модели, имеющие меньше защитных механизмов по сравнению с отраслевыми стандартами, такими как ChatGPT или Gemini. Отчёт особо отмечает рост популярности VeniceAI, что обусловлено появлением новых сообществ на Reddit и Discord, посвящённых этой платформе. Сами промпты превратились в ценный товар, киберпреступники активно обмениваются фишинговыми скриптами, пошаговыми инструкциями по имитации личности и другими материалами.

«Для команд по безопасности приоритетом является поддержание полного обзора того, как эти методы развиваются и где они применяются, — отмечают в Flashpoint. — Такая прозрачность способствует более раннему обнаружению, целенаправленному реагированию и более четкому пониманию того, какие методы активно используются.» В компании добавляют, что «мониторинг этих источников обеспечивает необходимый контекст, связывая наблюдаемую активность с лежащими в её основе методами и помогая отслеживать их развитие с течением времени.»