Папа Римский призвал к этическому контролю над искусственным интеллектом

Глава Католической церкви выпустил новую энциклику — официальное послание — под названием Magnifica Humanitas («Величественное человечество»). В документе подчеркивается, что технологии никогда не бывают нейтральными, а развитие искусственного интеллекта (ИИ) требует от общества мужества и солидарности. По мнению понтифика, масштаб перемен, вызванных ИИ, сопоставим с промышленной революцией, и сегодня человечество стоит перед выбором: путь разобщения или восстановление общей человечности.

Выбор между Вавилонской башней и созиданием

В тексте энциклики приводится сравнение с библейским сюжетом о Вавилонской башне. В обзоре отмечается, что стремление к бесконечному росту без учета этических норм и человеческих интересов ведет к провалу и атомизации общества. В качестве альтернативы предлагается модель совместной ответственности, где восстановление связей между людьми предшествует строительству из камня. Эксперты подчеркивают, что ИИ не является некой стихийной силой или непостижимой сущностью — это коммерческий продукт, контроль над которым сейчас сосредоточен в руках узкой группы лиц.

Инвесторы берут на себя роль регуляторов

Пока государственные органы и международные организации не могут обеспечить полноценный надзор за отраслью, инициативу перехватывают институциональные инвесторы. В докладах по теме отмечается, что акционеры все чаще используют свое влияние для контроля над технологическими гигантами. Коалиции инвесторов, управляющие активами на сумму более 400 миллиардов долларов, требуют от компаний прозрачности и оценки рисков при внедрении ИИ.

Акционеры уже предъявили требования к ряду крупнейших корпораций, включая Alphabet, Amazon, Nvidia, Palantir и Uber, настаивая на том, чтобы технологии ИИ не использовались для нарушения прав человека или в военных целях. Поводом для серьезной обеспокоенности стали случаи использования алгоритмов для определения целей при ракетных ударах, что привело к массовым жертвам.

Основные направления контроля за ИИ

В современных реалиях акционеры и общественные организации фокусируются на нескольких критических аспектах развития технологий:

• Здравоохранение: Давление на компании CVS и UnitedHealth Group с целью не допустить использования ИИ для снижения качества медицинской помощи ради экономии.
• Экология: Требования к компаниям Meta* и Microsoft ограничить негативное влияние центров обработки данных на окружающую среду. Такие объекты потребляют огромное количество электроэнергии и водных ресурсов, необходимых для охлаждения оборудования.
• Творческие индустрии: Призывы к Disney, Netflix и Warner Bros. защитить человеческий фактор в кинопроизводстве и литературе, обеспечив прозрачность использования генеративных моделей.
• Прозрачность рынка: Ожидаемый выход на биржу компаний OpenAI, Anthropic и Grok даст инвесторам новые рычаги влияния на политику этих разработчиков.

Несмотря на отсутствие единого международного свода правил, многие эксперты придерживаются мнения, что использование ИИ в сфере общественных благ и фундаментальных прав человека должно подчиняться четким критериям. По словам обозревателей, текущий момент станет поворотным: либо человечество позволит узкой группе обогащаться за счет общего будущего, либо объединится для создания технологий, которые служат во благо общества.

* — деятельность компании запрещена на территории РФ