Генпрокуратура Флориды начала расследование против OpenAI из-за использования ChatGPT преступниками

Власти Флориды инициировали проверку деятельности компании OpenAI и её нейросети ChatGPT. Поводом стали данные следствия, согласно которым подозреваемые в тяжких преступлениях использовали чат-бот для планирования своих действий и анализа возможных последствий. Генеральный прокурор штата Джеймс Утмайер намерен выяснить, можно ли считать действия алгоритмов пособничеством в совершении правонарушений.

Цифровой след в уголовных делах

Внимание правоохранительных органов привлекли сразу несколько резонансных случаев. В ходе расследования дела Феникса Икнера выяснилось, что перед нападением он задавал нейросети вопросы о реакции общества на стрельбу в общественном месте и уточнял детали уголовного законодательства Флориды. Другой инцидент связан с делом студента Хишама Абугарбиеха, в истории запросов которого обнаружили вопросы о способах избавления от улик с использованием бытовых предметов.

Следователи отмечают, что чат-боты на базе искусственного интеллекта становятся новым инструментом для злоумышленников, заменяя привычные поисковые системы. Ключевое отличие заключается в следующем:

• Диалоговая форма взаимодействия позволяет пользователям раскрываться больше, чем при вводе коротких поисковых запросов в Google.
• Нейросеть может восприниматься как «собеседник» или «доверенное лицо», что провоцирует на более откровенные обсуждения противоправных планов.
• Возможность задавать уточняющие вопросы помогает преступникам детально прорабатывать сценарии действий.

Позиция OpenAI и механизмы защиты

В ответ на запросы о безопасности представители OpenAI и сами алгоритмы ChatGPT заявляют о наличии строгих фильтров. В ходе тестирования системы было подтверждено, что чат-бот запрограммирован отклонять запросы, связанные с планированием преступлений, тактикой нападения или получением советов по нарушению закона. Однако обозреватели рынка отмечают, что опытные пользователи могут обходить эти ограничения, формулируя запросы как гипотетические сценарии или задачи для написания художественных текстов.

Согласно официальной позиции компании, нейросеть обрабатывает миллионы и даже миллиарды запросов в секунду, и вопросы о незаконной деятельности составляют лишь малую часть от общего объема. Система старается перенаправлять пользователя к обсуждению правовых последствий и общих исторических фактов, вместо предоставления конкретных инструкций.

Юридические риски для разработчиков ИИ

Главный вопрос расследования заключается в интерпретации законов Флориды. Законодательство штата гласит, что любое лицо, которое оказывает помощь, подстрекает или консультирует кого-либо при совершении преступления, может считаться соучастником. Прокуратура пытается определить, подпадают ли под это определение ответы искусственного интеллекта, если они помогли злоумышленнику оптимизировать свои действия.

Эксперты в области права подчеркивают сложность дела: ChatGPT не обладает сознанием и не знает о намерениях пользователя в реальности. Тем не менее, растущая популярность ИИ в криминальной среде заставляет регуляторов требовать от технологических гигантов более совершенных механизмов контроля и блокировки опасного контента в режиме реального времени.