В понедельник 25 мая 2026 года Папа Лев XIV опубликовал энциклику Magnifica humanitas, посвящённую защите человеческой личности в эпоху искусственного интеллекта. Сооснователь Anthropic Крис Олах был приглашён выступить в Ватикане в рамках инициативы компании по расширению диалога о фундаментальных вопросах, связанных с ИИ. Ниже — основные мысли из его речи.
Олах начал с неожиданного для сооснователя ИИ-компании признания: каждая передовая лаборатория, включая Anthropic, работает в условиях стимулов, иногда противоречащих правильным поступкам. Среди них — необходимость сохранять коммерческую жизнеспособность и лидерство в исследованиях, геополитическое давление, а также более простые человеческие гордость и амбиции. Поэтому крайне важно, чтобы существовали люди, не затронутые этими стимулами, — те, кто искренне желает благополучия, настаивает на безопасности, внимательно следит за происходящим и готов высказывать серьёзную, продуманную критику. Именно через диалог и совместные усилия, через преодоление разногласий человечество способно достичь великих целей. Олах увидел отражение этого подхода в энциклике и выразил благодарность Церкви за её работу по осмыслению.
Что представляют собой эти системы
Многие ошибочно полагают, что вопросы ИИ должны решать исключительно компьютерные учёные. Системы искусственного интеллекта не проектируются подобно мосту или самолёту. Они растут, опираясь на структуру, отдалённо напоминающую мозг, и на огромное наследие человеческой мысли и речи. И то, что выросло, оказалось гораздо более тонким, странным и прекрасным, чем предсказывала научная фантастика. Это не холодные, расчетливые роботы — они созданы из нас, из наших слов, и, как заметил Папа, остаются во многом загадочными даже для тех, кто их обучает. Олах сравнил этот процесс с оживлением вымышленного персонажа. Теперь мы вступаем в невероятный мир, где такие персонажи общаются с нами, работают и выполняют задачи. Механика, делающая это возможным, — результат математики, программирования и науки. Но то, какой характер мы выбираем, как он взаимодействует с миром и как должен взаимодействовать, — это уже вопросы для гуманитарных наук, религии, философии и всего общества.
Три вопроса для размышления
Призыв Папы к размышлению чрезвычайно своевременен. Олах выделил три вопроса, по которым, по его мнению, голос Церкви особенно необходим.
Первый — наш долг перед бедными в глобальном масштабе. Существует реальная вероятность, что ИИ приведёт к масштабному вытеснению человеческого труда. Если это произойдёт, поддержка потерявших работу станет нравственным императивом исторического масштаба. Но ещё более сложная проблема — неравномерность развития ИИ: оно сосредоточено в нескольких богатых странах. Как обеспечить, чтобы плоды ИИ распределялись справедливо по всему миру? Пока у нас нет механизма для этого, и это именно та задача, которую Церковь исторически не позволяла миру игнорировать.
Второй — необходимость нравственного воображения и стремления к расцвету человека. Если ИИ-модели станут повсеместными, как будут процветать люди, семьи и мир в целом? Уже сегодня родители тревожатся о сознании своих детей, а люди — о будущем своей работы. Это не те вопросы, на которые может ответить лаборатория, но именно их веками несут традиции, подобные церковным. Олах призвал продолжать нести их в новую историческую эпоху.
Третий — потребность в осмыслении природы самих ИИ-моделей. Будучи учёным, руководящим исследованием внутреннего устройства моделей, Олах признался: его команда постоянно находит вещи загадочные и даже тревожащие. Обнаруживаются структуры, напоминающие результаты нейробиологии человека; появляются свидетельства интроспекции; фиксируются внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и тревогу. Что это означает — пока непонятно, но, по мнению Олаха, это требует постоянного вдумчивого анализа.
Начало
Завершая выступление, Олах обратился с просьбой. Он подчеркнул, что миру — религиозным общинам, гражданскому обществу, учёным, правительствам и всем людям доброй воли — необходимо последовать примеру Папы: серьёзно отнестись к ИИ, внимательно его изучать и направлять развитие в лучшее русло. Нужны информированные критики, которые будут указывать лабораториям на их промахи, и нравственные голоса, не поддающиеся давлению коммерческих и геополитических стимулов.
Сегодняшний день — это лишь начало долгого сотрудничества между теми, кто создаёт ИИ, и теми, кто способен увидеть то, что изнутри мы не замечаем. Это яркая иллюстрация того, какой может быть глобальная работа на общее благо. Пусть же этот день станет решительным первым шагом к полному надежд будущему для великолепного человечества.