Папа Лев XIV опубликовал свою первую энциклику 25 мая — документ из 245 параграфов, посвящённый исключительно искусственному интеллекту и требующий более строгого надзора за Big Tech, а также классифицирующий данные как общий ресурс человечества. Документ Magnifica Humanitas («Великолепное человечество») был представлен в Синодальном зале Ватикана. Папа Лев подписал его 15 мая, в 135-ю годовщину Rerum Novarum — энциклики Папы Льва XIII 1891 года о правах трудящихся, которая стала основой современной католической социальной доктрины. Лев неизменно представлял ИИ как главный моральный вызов своего понтификата, сравнивая грядущее социальное потрясение с потрясением эпохи Industrial Revolution — эпохи Промышленной революции.
Технологии никогда не бывают нейтральными
В энциклике утверждается, что «технологии никогда не бывают нейтральными», потому что они впитывают ценности, слепые зоны и экономические стимулы тех, кто их создаёт. Каждый алгоритм отражает приоритеты людей, которые его разработали, профинансировали и внедрили. Документ рассматривает ИИ в войне, обезличивание людей, технократию, «цифровой колониализм данных», безопасность детей в онлайне, массовую безработицу, дезинформацию, автономное оружие и трансгуманизм. Главный аргумент, связывающий эти темы, таков: создание систем, которые притворяются нейтральными, не устраняет предвзятость — оно лишь скрывает её.
Данные как общее благо
Католическая социальная доктрина давно исходит из того, что природные ресурсы Земли предназначены для всего человечества, а не для частных владельцев. Энциклика напрямую распространяет этот принцип на цифровую экономику. Алгоритмы, платформы и данные должны управляться как общее благо, а не быть запертыми за коммерческими стенами у нескольких компаний. «Данные — продукт множества вкладчиков, и с ними не следует обращаться как с чем-то, что можно продать или передать на усмотрение избранным немногим», — пишет папа.
Субсидиарность и распределённое управление
Энциклика применяет субсидиарность — принцип, согласно которому решения должны приниматься на максимально местном уровне — именно к технологическим платформам. Вместо того чтобы призывать только к вертикальному регулированию сверху, документ выступает за прозрачные алгоритмы, независимые аудиты со стороны сообществ и реальную юридическую власть для людей, чтобы оспаривать автоматизированные системы, влияющие на их кредитные рейтинги, заявки на работу или оценки рисков в рамках уголовных дел. Без такого распределённого надзора, утверждает энциклика, управление ИИ превращается в форму цифрового авторитаризма, который заглушает те сообщества, которым, как утверждается, служит.
Против трансгуманизма
Энциклика обрушивается с критикой на трансгуманизм — идею о том, что человеческие ограничения и уязвимость являются дефектами, которые нужно «инженерно» устранить. Папа возражает, что конечность — это не баг; именно она делает возможными эмпатию, моральное суждение и подлинную заботу о других людях. Системы, построенные так, чтобы оптимизировать это изъятие, не создают «лучшего человека». Они производят нечто, что оценивает и исключает уязвимых более эффективно.
Папа осторожен и не пытается «очеловечить» технологию. ИИ-системы «не обладают телом, не испытывают радость или боль», говорится в энциклике. У ИИ нет прожитого опыта, который порождает реальное понимание. Он может имитировать эмпатию и выдавать убедительный язык, но не понимает то, что выводит. Когда алгоритм принимает решения о найме, устанавливает условия по кредитам или присваивает показатель риска в суде, его кажущаяся объективность скрывает выборы, заложенные дизайнерами. В энциклике отдельно предупреждается против передачи автоматизированным системам чувствительных решений, которые «не знают сострадания, милосердия, прощения», а также против обращения с результатом как с нейтральным только потому, что его выдал машина.
На ватиканском запуске выступает сооснователь Anthropic
Кристофер Олаф — сооснователь Anthropic и руководитель команды по исследованиям интерпретируемости — выступил в Синодальном зале на презентации вместе с двумя ватиканскими кардиналами и парой теологов. Олаф открыто заявил, что каждая крупная лаборатория ИИ «работает внутри набора стимулов и ограничений, которые иногда могут конфликтовать с тем, чтобы делать правильную вещь», и что внешний контроль — со стороны правительств, религиозных институтов и гражданского общества — не является опциональным. Он указал на вытеснение рабочих мест ИИ как на риск в ближайшей перспективе, который, если реализуется в масштабах, создаст «моральный императив исторических масштабов».
Папа уже изложил более жёсткую версию этого аргумента. «Недостаточно сделать ИИ более моральным», — говорится в энциклике, — если мораль за этим задаёт исключительно тот, кто контролирует данные и вычислительные мощности. Лев сделал тот же аргумент напрямую для руководителей Силиконовой долины в Ватикане в ноябре 2025 года.
Учреждена Комиссия Ватикана по ИИ
Ватикан утвердил новую внутреннюю комиссию по ИИ — Vatican AI Commission — 16 мая, задействовав семь департаментов, чтобы координировать работу по управлению ИИ across the Holy See going forward.
