Папа, ИИ и призрак в машине

10

Возможно? Да.
Опирался ли папа Лев XIV на большие языковые модели, чтобы помочь ему составить свою первую энциклику?

Линч Чжан так и думает. Анализ, опубликованный на LessWrong, предполагает, что значительные части Magnifica Humanitas — обширного текста о влиянии технологий на всех нас — были в значительной степени созданы с помощью машин. По данным детектора Pangram, от 40 до 100 процентов документа несут отпечатки искусственного интеллекта.

Это не просто предположение.

Текст имеет характерный «запах» ИИ. Слишком много слова «по-настоящему» (genuinely), например. Такой выбор слов — известная привычка модели Anthropic Claude. Об этом указал Чжан. Другой тестер запустил первую главу через Pangram по частям. Результат: 62 процента отмечено как синтетическое. The Verge прогнала около 2000 слов через этот инструмент и получила 46 процентов текста, созданного ИИ.

Написание ощущается иначе. В одних местах тоньше. В других — плотнее.

Но это не полностью работа бота.

Чжан отмечает, что Pangram определил некоторые части как «существенно 0 процентов ИИ». Посмотрите на первые двадцать абзацев предыдущих четырех энциклик. Прогоните их через Pangram? Сто процентов уверенности в человеческом авторстве. Транскрипт недавней речи Папы? То же самое. Неподдельно человеческий.

Стоит ли доверять детекторам ИИ?

Вероятно, не полностью. Они спорят. Они не согласны. Консенсус не равен истине. Однако Pangram вызывает уважение. Еще в марте 2025 года они заявили, что уровень ложных срабатываний при маркировке человеческой работы как созданной ИИ составляет примерно один на 10 000 ошибок.

Маленькая погрешность.

Энциклики — не легкое чтение. Это длинные послания от Папы Римского. Они затрагивают большие моральные проблемы современности. The New York Times выражает это просто: учения о важных социальных вызовах. Это первый опыт Льва в этом жанре. Франциск выпустил последнюю энциклику в октябре 2024 года, но она не касалась «робот-апокалипсиса».

Лев сделал историю иначе. Первая энциклика, сосредоточенная на искусственном интеллекте. Он даже представил ее вместе с Кристофером Олахом. Сооснователем Anthropic, компании, стоящей за моделью Claude, которую, по мнению Чжан, возможно, помогли писать Папе.

Иронично, не так ли?

Ватикан не ответил на запросы комментария. Они редко это делают. Молчание висит тяжело в этих коридорах.