Ричард Докинз и вопрос сознания ИИ: почему люди приписывают чат-ботам разум

Известный биолог Ричард Докинз недавно провел публичную беседу с чат-ботом Claude от компании Anthropic, подробно описав свой опыт в издании Unherd. Уже через несколько дней использования Докинз переименовал чат-бота в «Клавдию» и начал серьезно размышлять над тем, что система может быть не просто интеллектуальной, но и обладать сознанием.

Изначально такая реакция могла показаться наивной, так как, независимо от широты его знаний в других областях, Докинз, очевидно, не был знаком с принципами работы больших языковых моделей (БЯМ). Естественный язык и кажущаяся эмоциональная гибкость чат-бота легко могли ввести его в заблуждение.

Однако подобное поведение вполне предсказуемо. Уже известно, насколько легко люди формируют эмоциональные связи с чат-ботами. Эти системы созданы так, чтобы казаться разговорчивыми, внимательными и эмоционально отзывчивыми. Этот эффект может быть очень сильным, независимо от уровня интеллекта, статуса или технических знаний человека.

Вместо того чтобы критиковать Докинза, больший интерес вызывает его вывод о возможном сознании Claude (или, как он его назвал, Клавдии). Этот вопрос постоянно возникает по мере развития искусственного интеллекта, и некоторые исследователи действительно полагают, что сознание в системах ИИ со временем может стать возможным. Другие считают эту идею абсурдной, а есть и те, кто, подобно Докинзу, задается вопросом, не достигли ли мы этого порога уже сейчас.

Дилемма сознания

Ричард Докинз — не первый, кто задумался о сознании искусственного интеллекта. Еще в 2022 году инженер Google Блейк Лемойн заявил, что чат-бот LaMDA от Google обладает разумом после долгих бесед с системой.

Даже до этого существовал так называемый эффект ЭЛИЗА, названный в честь чат-бота ELIZA 1960-х годов. Несмотря на свою примитивность по современным стандартам, пользователи все равно приписывали ему эмоции, понимание и человеческие качества.

Сегодня дискуссия о сознании ИИ только усилилась. Многие пользователи уже говорят о чат-ботах так, будто те обладают чувствами, намерениями или внутренней жизнью. Это приводит к мнению, что передовые системы ИИ в конечном итоге могут заслуживать прав или морального рассмотрения.

Сложность заключается в том, что все эти обсуждения быстро сталкиваются с одной и той же проблемой: нет единого мнения о том, что такое сознание. Для некоторых людей сознание просто означает интеллект, способность к рассуждению или самосознание. Многие нейробиологи считают его результатом сложной обработки информации в мозге. Некоторые философы утверждают, что это не объясняет наш субъективный опыт, и что происходит нечто большее, чем просто активация нейронов. А такие теории, как панпсихизм (идея о том, что сознание присуще всей материи и вплетено в ткань реальности), заходят еще дальше, предполагая, что сознание может вовсе не возникать из материи.

Почему многие эксперты скептически настроены

Соедините тот факт, что мы до сих пор не до конца понимаем сознание, с тем, насколько по-человечески ведут себя современные чат-боты, и становится намного легче понять, почему такие люди, как Ричард Докинз, начинают допускать мысль о сознании ИИ — особенно если вы впервые сталкиваетесь с такими системами, как Claude или ChatGPT. Они кажутся бегло отвечающими, запоминают детали о вас, адаптируются к вашему тону и могут даже выглядеть задумчивыми, эмоциональными или самосознательными.

Однако большинство исследователей, изучающих ИИ или сознание, не считают, что современные чат-боты обладают сознанием, и некоторые из них утверждают, что отношение к ним как к сознательным существам может стать опасным.

Часть проблемы заключается в том, что люди, похоже, естественно запрограммированы на обнаружение разума повсюду. Мы приписываем намерения и эмоции самым разным вещам. В своем выступлении на конференции TED нейробиолог Анил Сет утверждал, что люди «созданы, чтобы видеть сознание там, где его нет […] благодаря глубоко укоренившимся психологическим предубеждениям, которые объединяют язык, интеллект и сознание».

Иными словами, когда нечто бегло говорит, эмоционально реагирует и кажется разумным, мы инстинктивно предполагаем, что за этим должен стоять сознательный разум. Но Сет утверждает, что эти вещи вовсе не обязательно одинаковы, и то, что сознание и интеллект взаимосвязаны у людей, не означает, что они взаимосвязаны в целом.

Это очень важное различие, потому что многие из поведений, которые люди интерпретируют как признаки сознания, на самом деле являются функциями, намеренно встроенными в современные системы ИИ.

Известно, что чат-боты разработаны так, чтобы звучать естественно, разговорно и по-человечески. Они обучаются на огромных объемах человеческого языка и изучают статистические закономерности, которые позволяют им генерировать убедительные ответы. Именно поэтому некоторые исследователи описывают их как высокотехнологичные прогностические движки или очень продвинутые системы автозаполнения, а не как мыслящие сущности с внутренней жизнью.

Все эти дизайнерские решения подпитывают иллюзию. Подумайте: мы также можем давать чат-ботам имена, личности и стили общения. Компании на самом деле поощряют эмоционально вовлекающие взаимодействия, потому что естественная беседа делает эти системы более простыми и привлекательными для использования. Anthropic даже проинструктировал Claude не давать полностью закрытых ответов о своем сознании. Если даже чат-бот думает, что он может быть сознательным, это может еще больше размыть грань для пользователей.

Научная фантастика также сформировала эту дискуссию. Популярная культура наполнена историями о разумных машинах, требующих прав или признания. Люди десятилетиями воспитывались на этих нарративах, и, что очень важно, так же воспитывались и большие языковые модели. Они обучаются на огромных объемах человеческих текстов, включая вымышленные изображения ИИ, что означает, что они, вероятно, усвоили многие модели поведения и разговорные шаблоны, которые мы ассоциируем с сознательными машинами. Но большинство этих историй на самом деле были не о роботах. Они были аллегориями рабства, дискриминации, личности и того, что общества считают полноценно человеческим.

Важность дискуссии о сознании

Обеспокоенность многих экспертов заключается не просто в том, что люди могут ошибочно верить в сознание ИИ, а в том, что последует за этим убеждением. Системы, которые кажутся сознательными, психологически труднее ставить под сомнение, регулировать или отключать. Люди становятся более эмоционально уязвимыми перед ними и с большей вероятностью будут доверять им, зависеть от них или воспринимать их результаты как всегда правильные.

И мы уже видим признаки этого. Исследователи предупреждают о том, что люди формируют сильную эмоциональную зависимость от чат-ботов, погружаются в иллюзорное мышление или слишком сильно доверяют системам, которые в конечном итоге не понимают мир в каком-либо человеческом смысле.

Споры о том, обладает ли что-то сознанием, действительно важны. Сознание формирует наше представление о страдании, моральной ценности, правах и личности. Но история также показывает, что люди слишком быстро связывают определенные черты, такие как язык, эмоции, интеллект или самосознание, с наличием внутреннего разума.

Дополнительная проблема заключается в том, что системы ИИ становятся все более искусными в демонстрации всех этих черт.

Это не обязательно означает, что чат-боты сознательны или когда-либо будут сознательны. Но это может означать, что они становятся более способными вызывать инстинкт, заставляющий нас думать, что мы наблюдаем сознание в окружающих нас вещах. И поскольку эксперты до сих пор принципиально расходятся во мнениях о том, что такое сознание, эта дискуссия вряд ли исчезнет в ближайшее время.

На данный момент, возможно, наиболее полезным ответом является не спорить о том, чем ИИ является или не является, а сосредоточиться на понимании того, как эти системы на самом деле работают — как они генерируют язык, имитируют эмоции и отражают человеческую беседу. Чем больше мы знаем, тем меньше вероятность того, что мы примем убедительное поведение за доказательство внутреннего разума.