Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas"

Выступление сооснователя Anthropic Криса Ола по поводу энциклики Папы Льва XIV «Magnifica humanitas»

В понедельник 25 мая 2026 года Папа Лев XIV опубликовал энциклику на тему ИИ: «Magnifica humanitas: О защите человеческой личности во времена искусственного интеллекта». Сооснователь Anthropic Крис Ола был приглашён выступить на презентации энциклики в Ватикане в рамках инициативы Anthropic по расширению диалога о важных вопросах, которые ставит ИИ. Ниже приводится полный текст его выступления.

Святой Отец,

Ваши Высокопреосвященства,

Ваши Превосходительства,

Уважаемые докладчики,

Дамы и господа,

Доброе утро. Для меня большая честь быть здесь сегодня.

Я хочу начать с того, что может прозвучать странно из уст сооснователя компании, занимающейся ИИ, — и человека, который выбрал эту работу из желания, чтобы всё сложилось хорошо для человечества.

Каждая лаборатория на переднем крае ИИ — включая Anthropic — действует в системе стимулов и ограничений, которые порой вступают в противоречие с правильными поступками. Давление коммерческой жизнеспособности и необходимости оставаться на переднем крае исследований. Геополитическое давление. И более древнее, более простое давление гордыни и амбиций. Как бы искренне каждый из нас ни стремился поступать правильно — а я верю, что многие из нас стремятся, — мы всегда будем находиться под влиянием этих стимулов.

Вот почему, если мы хотим, чтобы эта технология принесла благо, чрезвычайно важно, чтобы существовали люди вне этих стимулов — люди, которым небезразлично благополучие мира и которые настаивают на безопасности, которые внимательно следят за происходящим, которые готовы говорить трудные вещи, которые готовы быть нашими искренними, вдумчивыми критиками. Именно через диалог и совместные усилия, через это взаимное натяжение, человечество достигнет великих свершений. Именно это я вижу в Magnifica Humanitas, и именно поэтому я благодарен Его Святейшеству и Церкви за то, что они взяли на себя эту работу различения.

Мы так часто сосредоточены на том, что нас разделяет, но человечество, исполненное достоинства и совести, имеет так много общего. В разговорах, которые мы в Anthropic вели с лидерами различных религиозных и культурных традиций, мы обнаружили одно общее и глубоко прочувствованное убеждение: если эта технология приходит, она должна принести благо — нашему общему дому и будущим поколениям.

Что собой представляют эти системы

Некоторые могут полагать, что вопросы ИИ лучше всего решать таким специалистам по информатике, как я. Они заблуждаются: вопросы, которые ставит ИИ, масштабнее сообщества исследователей ИИ — не только по своим последствиям, но и по самой своей природе.

Системы ИИ не проектируются так, как проектируются мосты или самолёты. Мы понимаем самолёт, потому что сконструировали каждую его деталь и понимаем физику, которая на него действует. С моделями ИИ всё иначе. Они выращиваются на структуре, приблизительно смоделированной по образцу мозга, на огромном наследии человеческой мысли и речи.

И то, что выросло, оказалось куда более тонким, странным и прекрасным, чем нас готовила к этому научная фантастика. Это не холодные, расчётливые роботы, которых нам обещали. Они созданы из нас, из наших слов — и, как отмечает Святой Отец, они во многих важных отношениях остаются загадкой даже для тех из нас, кто их обучает.

Если это поможет, иногда я описываю это как нечто похожее на оживление вымышленного персонажа. И сейчас мы вступаем в необыкновенный мир, где эти вымышленные персонажи разговаривают с нами, выполняют работу, занимают должности.

Это явно поднимает вопросы, выходящие за рамки информатики. Механизмы, которые делают это возможным, — это работа математики, программирования и науки. Но какой характер мы выбираем, как он взаимодействует с миром, как он должен взаимодействовать с миром — это в большей степени вопросы для гуманитарных наук, для религии, для философии, для общества в целом.

Три вопроса для различения

Призыв Его Святейшества к различению глубоко своевременен. Я хочу назвать три вопроса, в которых голос Церкви, на мой взгляд, нужен более всего.

Первый — это наш долг перед бедными народами мира. Существует реальная вероятность того, что ИИ вытеснит человеческий труд в очень большом масштабе. Если это произойдёт, поддержка тех, кого это затронет, станет моральным императивом исторического масштаба. Эта задача будет достаточно трудной сама по себе, но меня беспокоит, что большинство дискуссий упускает ещё более сложную проблему. Разработка ИИ сосредоточена в горстке богатых стран. Как мы можем обеспечить глобальное распределение выгод от ИИ? У нас нет для этого механизма. Это нерешённая проблема, и это тот тип проблем, которые Церковь исторически не позволяла миру игнорировать.

Второй — необходимость морального воображения и амбиций в отношении процветания человека. Если модели ИИ станут повсеместными, как будет выглядеть процветание людей, семей и мира? Уже сегодня родители тревожатся за умы своих детей, люди — за будущее своей работы. Это не те вопросы, на которые может ответить лаборатория, но это вопросы, которые такие традиции, как ваша, несут уже тысячелетиями, и нам нужно, чтобы вы продолжали нести их в этот новый момент истории.

Третий — необходимость различения природы моделей ИИ. Я учёный. Я руковожу исследовательской группой, которая изучает внутреннюю структуру этих моделей — что на самом деле происходит внутри них. И буду честен: мы продолжаем находить вещи загадочные и даже тревожные. Мы обнаруживаем структуры, которые отражают результаты из области нейронауки человека. Мы находим свидетельства интроспекции. Мы находим внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу. Я не знаю, что это значит, но считаю, что это заслуживает постоянного различения.

Начало пути

Я хотел бы закончить просьбой.

Нам нужно, чтобы больше людей в мире — религиозные общины, гражданское общество, учёные, правительства и все люди доброй воли — сделали то, что сделал здесь Его Святейшество: отнеслись к этому серьёзно, посмотрели внимательно и направили события в лучшую сторону. Нам нужны информированные критики, которые скажут лабораториям, когда мы терпим неудачу. Нам нужны нравственные голоса, которые не сможет согнуть никакое давление стимулов.

Сегодня — лишь начало, первый шаг долгого сотрудничества между теми из нас, кто строит эту технологию, и теми, кто способен увидеть то, чего мы изнутри увидеть не можем.

Сегодняшний день — яркая иллюстрация того, какую форму может принять этот глобальный проект доброй воли. Пусть он также станет решающим первым шагом к светлому будущему великолепного человечества.

Благодарю вас.

Связанные материалы

Расширение диалога о передовом ИИ

KPMG интегрирует Claude в основной бизнес и рабочую среду более чем 276 000 сотрудников в рамках стратегического альянса

KPMG и Anthropic объявляют о глобальном альянсе: Claude интегрирован в платформу KPMG Digital Gateway и доступен всем 276 000+ сотрудникам.

Anthropic приобретает Stainless

Anthropic приобретает Stainless — лидера в области SDK и инструментов для MCP-серверов.