Великобритания, США, ЕС и Китай подписали Декларацию о «катастрофической» опасности искусственного интеллекта

Великобритания, США, ЕС и Китай согласились с тем, что искусственный интеллект представляет потенциально катастрофическую опасность для человечества, в первой международной декларации, посвященной быстро развивающейся технологии. Двадцать восемь правительств подписали так называемую Блетчлийскую декларацию в первый день саммита по безопасности искусственного интеллекта, организованного британским правительством. Декларация не предусматривает создание международного центра тестирования в Великобритании, как надеялись некоторые в британском правительстве.

Но это действительно обеспечивает основу для международного сотрудничества в будущем, поскольку в настоящее время запланированы будущие саммиты по безопасности в Южной Корее через шесть месяцев и во Франции через год. В декларации говорится: “Существует потенциальная возможность нанесения серьезного, даже катастрофического, ущерба, как преднамеренного, так и непреднамеренного, в результате наиболее значительных возможностей этих моделей искусственного интеллекта”.

Премьер-министр Великобритании Риши Сунак приветствовал эту декларацию, назвав ее “знаковым достижением, которое показывает, что крупнейшие мировые державы в области искусственного интеллекта согласны с необходимостью понимания рисков, связанных с ИИ”.

Мишель Донелан, министр по технологиям Великобритании, заявила журналистам: “Впервые страны согласились с тем, что нам нужно не только самостоятельно, но и коллективно рассматривать риски, связанные с передовым ИИ”.

Frontier AI относится к самым передовым системам, которые, по мнению некоторых экспертов, могут стать умнее людей в решении целого ряда задач. Выступая в кулуарах саммита, технологический миллиардер Илон Маск предупредил: “Впервые мы сталкиваемся с ситуацией, когда есть нечто, что будет намного умнее самого умного человека … Мне не совсем ясно, сможем ли мы на самом деле контролировать такую вещь”.

Это коммюнике знаменует дипломатический успех Великобритании и, в частности, компании Sunak, которая решила провести саммит этим летом после того, как была обеспокоена быстрым развитием моделей искусственного интеллекта без какого-либо надзора.

Донелан открыла саммит, сказав своим коллегам-участникам, что развитие искусственного интеллекта “нельзя оставлять на волю случая, пренебрежения или только частным лицам”. На сцене к ней присоединились министр торговли США Джина Раймондо и заместитель министра науки и технологий Китая У Чжаохуэй, что стало редким проявлением глобального единства.

Китай подписал декларацию, в которой содержалось предложение: “Мы приветствуем усилия международного сообщества по сотрудничеству в области искусственного интеллекта для содействия инклюзивному экономическому росту, устойчивому развитию и инновациям, защиты прав человека и основных свобод, а также укрепления общественного доверия к системам искусственного интеллекта для полной реализации их потенциала”.

Ву сказал коллегам-делегатам: “Мы придерживаемся принципов взаимного уважения, равенства и взаимной выгоды. Страны, независимо от их размера, имеют равные права на разработку и использование искусственного интеллекта”.

Однако до сих пор на международном уровне практически нет согласия по поводу того, как может выглядеть глобальный свод правил в области искусственного интеллекта и кто должен их разрабатывать.

Некоторые британские чиновники надеялись, что другие страны согласятся усилить правительственную целевую группу по искусственному интеллекту, чтобы ее можно было использовать для тестирования новых моделей со всего мира, прежде чем они будут представлены широкой публике. Вместо этого Раймондо использовала саммит, чтобы объявить об учреждении отдельного американского института безопасности искусственного интеллекта в рамках Национального института науки и технологий США, который она назвала “нейтральной третьей стороной для разработки лучших в своем классе стандартов”, добавив, что институт разработает свои собственные правила безопасности и тестирований.

Ранее на этой неделе администрация Байдена опубликовала исполнительный приказ по ИИ, требующий от американских ИИ-компаний, таких как OpenAI и Google, делиться результатами своих тестов на безопасность с правительством, прежде чем выпускать свои модели ИИ. Позже в среду Камала Харрис, вице-президент, выступит с речью об ИИ в Лондоне, в которой расскажет о важности регулирования существующих моделей ИИ, а также более продвинутых в будущем. Тем временем ЕС находится в процессе принятия законопроекта об искусственном интеллекте, целью которого является разработка набора принципов регулирования, а также введение правил для конкретных технологий, таких как распознавание лиц в режиме реального времени.

Донелан предположил, что правительство не будет включать законопроект об искусственном интеллекте в речь короля на следующей неделе, заявив: “Нам нужно правильно понять проблему, прежде чем мы будем применять решения”.

Но она отрицала, что Великобритания отстает от своих международных коллег, добавив: “Мы созвали ”Мир вместе» – первый в истории глобальный саммит по искусственному интеллекту на передовой – и мы не должны преуменьшать или упускать это из виду».