Автономность ИИ недостаточна: что формирует по-настоящему надежные системы искусственного интеллекта

Для достижения высоких результатов в любой области – будь то спорт, управление компанией или разработка передовых технологий – необходимо учитывать взаимосвязь всех ключевых элементов системы. Обозреватель, имеющий многолетний опыт работы в различных сферах, отмечает, что невозможно оптимизировать один аспект, пренебрегая другими. Отдых, питание, физические нагрузки, образ мышления и социальная среда – это не отдельные опции, а единая система. Например, спортсмен, тренирующийся дважды в день, но спящий всего пять часов, не сможет показывать максимальные результаты. Соучредитель и генеральный директор Raynmaker, комментируя данную тему, подчеркивает, что руководитель с исключительной ясностью ума, но без физической выносливости в конечном итоге столкнется с ограничениями. Эти «столпы» зависят друг от друга: пренебрежение одним заставит остальные компенсировать это, пока не исчерпаются их ресурсы. Самый слабый элемент определяет максимально достижимый результат.

Подобный подход, как отмечается, применим и к агентскому искусственному интеллекту (ИИ) — системам, способным самостоятельно принимать решения и выполнять задачи.

Ловушка автономности

Последние два года индустрия активно обсуждала автономность ИИ: способность системы работать без участия человека, принимать решения, выполнять задачи и масштабироваться. Это, безусловно, важные вопросы. Однако автономность является лишь одним из ключевых аспектов. Система, опирающаяся только на одну составляющую, какой бы сильной она ни была, в конечном итоге обнаружит свои фундаментальные недостатки.

Возникает практическая проблема: хорошо оснащенные команды могут создать систему ИИ, которая выглядит весьма автономной. Она инициирует диалоги, реагирует в реальном времени, адаптирует язык и ведет клиентов через процесс покупки без вмешательства человека. Со стороны это может выглядеть как исполнение всех обещаний.

Однако зачастую за фасадом многих таких систем скрывается скорее сложный скрипт, нежели подлинный интеллект. Путь заранее определен, а результаты предсказуемы. Система стремится достичь конкретной цели, как правило, совершения сделки, не учитывая, насколько эта цель соответствует реальным потребностям человека, ведущего диалог.

Это автоматизированная версия «проблемы автосалона по продаже подержанных машин». Классический продавец подержанных автомобилей в узком техническом смысле обладал автономностью. Он принимал решения в реальном времени, адаптировался к словам клиента и работал без подсказок. Но вся архитектура такого разговора была детерминированной. Каждый путь вел к одной и той же цели. Видимость человеческого общения скрывала механизм, разработанный для заключения сделки, независимо от того, насколько она была выгодна покупателю.

Масштабирование такой архитектуры продаж не улучшает процесс, а лишь индустриализирует его худшие проявления. Искусственный интеллект исключительно хорошо справляется с тем, для чего он был разработан. Если изначальный дизайн ошибочен, негативные последствия быстро накапливаются.

Четыре столпа агентского искусственного интеллекта

Аналогично тому, как отдых, питание, физическая активность, образ мышления и социальная среда считаются неотъемлемыми столпами высокоэффективной жизни, обозреватель рассматривает эффективный агентский ИИ через четыре столь же важных измерения. Эта концепция получила название «Фреймворк MORE+», и ее основной принцип – взаимосвязанность всех четырех элементов. Самое слабое звено определяет общий потенциал системы.

Первый столп – автономность: способность действовать независимо в заданных рамках, инициировать и выполнять задачи, не требуя постоянного контроля со стороны человека. Индустрия справедливо уделяет этому элементу приоритетное внимание, и он, безусловно, важен. Однако, как отмечается, этого недостаточно.

Второй столп – когнитивные способности: подлинное ситуационное мышление, которое адаптируется к происходящему в конкретном взаимодействии, а не просто сопоставляет данные с заранее определенной схемой. Система, обладающая автономностью, но ограниченными когнитивными способностями, может быстро двигаться в неверном направлении. Она будет уверенно действовать, основываясь на ошибочном представлении о реальных потребностях человека. В диалогах, направленных на получение прибыли, это не только неэффективно, но и подрывает доверие именно тогда, когда оно наиболее критично.

Третий столп – человеческая связь: понимание того, что бизнес в конечном итоге строится между людьми, и ИИ, участвующий в диалоге о покупке, либо укрепляет, либо разрушает доверие с каждым взаимодействием. Этот аспект часто воспринимается как опциональный, как дизайнерское предпочтение, а не как базовое требование. Однако это не так. Система, которая технически совершенна, но лишена «теплоты», будет принята один раз, но в следующий раз ее предпочтут избегать.

Четвертый столп – сам диалог: и это то, что индустрия наиболее серьезно недооценивает. Диалог – это не просто канал связи; это механизм, посредством которого люди принимают решения, строят отношения с клиентами и берут на себя обязательства. Когда ИИ входит в это пространство, он не просто добавляет новую функцию; он принимает на себя ответственность.

Система, которая рассматривает диалог как интерфейс для оптимизации, а не как клиентский опыт, требующий уважения, всегда будет давать результаты, которые отлично выглядят на панели мониторинга, но ощущаются неправильными для людей, взаимодействующих с ней.

Что происходит при отсутствии одного из столпов

Аналогия со здоровьем справедлива и здесь. Отсутствие каждого из столпов приводит к узнаваемой модели сбоя:

• Автономность без когнитивных способностей приводит к уверенной некомпетентности: система решительно действует, ошибочно интерпретируя ситуацию, не замечает сигналы тревоги или сопротивления покупателя и оказывает давление там, где следовало бы предложить ясность.
• Когнитивные способности без человеческой связи порождают проблему «зловещей долины» (ситуация, когда робот или ИИ, внешне или по поведению очень похожий на человека, вызывает у наблюдателя чувство дискомфорта или отвращения): система точно понимает ситуацию, но общается клинически или сугубо транзакционно, правильно выстраивая логику, но упуская эмоциональную составляющую важного решения о покупке.
• Человеческая связь без целостности диалога ведет к самому опасному сбою из всех, потому что его труднее всего заметить. Система может быть «теплой», привлекательной и вызывать доверие, но при этом направлять покупателей к решениям, которые выгодны метрикам продавца, а не потребностям покупателя. Это автоматизированный эквивалент манипулятивного, но приятного в общении продавца, который хорошо показывает себя в опросах, но спустя шесть месяцев приводит к сожалениям.

Что должны требовать специалисты

Для руководителей в сфере технологий, которые оценивают агентский ИИ для диалогов в продажах и обслуживании, рамки этих «столпов» предлагают практический подход к аудиту. Демонстрация покажет автономность и беглость речи системы. Однако она не выявит, если не задать конкретные вопросы, как система реагирует, когда покупатель не уверен, когда правильнее замедлиться, а не форсировать события, или когда истинные интересы покупателя расходятся с метриками конверсии.

Необходимо запросить демонстрацию того, как система обрабатывает колебания. Уточнить, что она делает, когда покупатель выражает опасения по поводу бюджета, но еще не сказал явного «нет». Спросить, моделирует ли ИИ эмоции покупателя в реальном времени или следует фиксированному дереву решений. И выяснить, какие данные о результатах он генерирует после каждого диалога и как эти данные способствуют улучшению системы с течением времени.

Хорошо настроенный универсальный ИИ может вести вполне адекватный диалог о продажах. Он, возможно, не будет столь эффективен, как глубоко обученная специализированная система, созданная на основе реальных данных о тысячах взаимодействий. Однако он будет достаточно хорош для компаний, которые не знают, какие вопросы задавать.

Компании, которые задают правильные вопросы, смогут создать нечто трудноповторимое для конкурентов: растущее преимущество в доверии покупателей. Каждый диалог, который по-настоящему помогает клиенту, приводит к лучшим результатам, чем тот, что просто добивается неохотного согласия. Эти результаты укрепляют систему, которая, в свою очередь, совершенствуется. По мере накопления доверия оно превращается в мощную, постоянно усиливающуюся движущую силу.

Именно так выглядит высокая производительность в мире агентского ИИ: не одна исключительная способность, а целая система взаимосвязанных столпов, каждый из которых должен быть сильным и незаменимым.