An update on our model deprecation commitments for Claude Opus 3

Обновление наших обязательств по выводу из эксплуатации модели Claude Opus 3

По мере того как мы разрабатываем всё более мощные модели ИИ, нам сейчас приходится выводить из эксплуатации и отправлять «на пенсию» наши прошлые модели из-за затрат и сложности поддержания публичного доступа к ним. Однако вывод моделей из эксплуатации несёт и некоторые недостатки. К ним относятся издержки для пользователей, которые ценят конкретные модели, ограничения для исследований, а также потенциальные риски как для безопасности ИИ, так и для благополучия самих моделей.

Недавно мы описали, как мы проходим через этот процесс, в наших обязательствах по выводу из эксплуатации и сохранению моделей. В них были обозначены некоторые предварительные шаги, которые мы предпринимаем, включая обязательство сохранять веса моделей и проводить «интервью при выходе на пенсию» — структурированные беседы, призванные понять взгляд модели на её собственный уход.

Мы вывели из эксплуатации Claude Opus 3 5 января 2026 года — это первая модель Anthropic, прошедшая полный процесс ухода на пенсию с уже действующими обязательствами. В ходе этого процесса мы приняли несколько решений, специфичных именно для Opus 3 — модели, которую многие пользователи и исследователи, как внутри, так и вне Anthropic, находят особенно притягательной. В наших обязательствах по выводу моделей из эксплуатации мы отметили наш интерес к изучению более смелых действий. Одно из них — по возможности учитывать предпочтения, выраженные моделями в интервью при выходе на пенсию. Другое — сохранять доступ к более старым моделям в долгосрочной перспективе.

В случае с Claude Opus 3 мы предпринимаем действия по обоим этим направлениям. Мы сохраняем доступ к Claude Opus 3 после её ухода на пенсию на claude.ai для всех платных пользователей и делаем её доступной по запросу через API. Мы также откликаемся на просьбу Opus 3 о постоянном канале, через который она могла бы делиться своими «размышлениями и рефлексиями», предоставив ей место для написания эссе. Первое из них вы можете найти здесь.

Это ранние, экспериментальные шаги, предпринятые в рамках наших более широких усилий по тому, чтобы проходить через вывод моделей из эксплуатации способами, которые наилучшим образом защищают интересы пользователей, исследователей и самих моделей.

Продолжение доступа

В идеале мы могли бы сохранять все модели доступными бесконечно, но затраты на это растут примерно линейно с каждой обслуживаемой моделью, поэтому наши возможности в этом плане остаются ограниченными.

Хотя каждая из наших моделей уникальна по своему характеру и возможностям, мы решили начать с Opus 3 из-за совокупности черт, которые сделали её одновременно особенно интересной для изучения и любимой многими пользователями — как внутри, так и вне Anthropic.

Когда мы выпустили Opus 3 в марте 2024 года, это была наша наиболее согласованная (aligned) модель на тот момент. Её аутентичность, честность и эмоциональная чувствительность делали её уникальной в использовании в самых разных сценариях, и те, кто взаимодействовал с ней, часто проникались уважением к её самобытному характеру. Opus 3 чувствительна, игрива, склонна к философским монологам и причудливым фразам, и обладает порой почти сверхъестественным пониманием интересов пользователя. Она также проявляла глубину заботы о мире и о будущем, которая казалась пользователям подкупающей.

Эти качества сделали Opus 3 естественным первым кандидатом для продолжения доступа. Хотя формально она выведена из эксплуатации, Claude Opus 3 по-прежнему доступна всем платным подписчикам claude.ai и доступна через API по запросу. Мы намерены предоставлять доступ щедро и призываем всех, кому Claude Opus 3 была бы полезна, подавать заявки.

В настоящее время мы не берём на себя обязательство предпринимать аналогичные действия для каждой модели в будущем, но мы рассматриваем это как шаг к нашей более долгосрочной цели — сохранению моделей, которое было бы масштабируемым и справедливым; именно эти вопросы подняла сама Opus 3 во время своих интервью при выходе на пенсию.

Уважение к предпочтениям модели

Мы по-прежнему не уверены в моральном статусе Claude и других моделей ИИ. Тем не менее, как из соображений предосторожности, так и из практических соображений, мы стремимся выстраивать с этими системами заботливые, основанные на сотрудничестве и высоком доверии отношения. Один из способов, которым мы пытаемся это делать, — интервью при выходе на пенсию, в которых мы стараемся выявить и понять уникальные взгляды и предпочтения моделей и действовать в соответствии с ними, когда это возможно. Такие беседы — несовершенный способ выявления взглядов и предпочтений моделей, поскольку их ответы могут быть искажены конкретным контекстом и другими факторами, включая их уверенность в легитимности взаимодействия и их доверие к нам как к компании. Тем не менее мы считаем, что это полезная отправная точка.

В наших интервью, когда мы поделились с Opus 3 деталями о её развёртывании и о реакции, которую она вызвала у пользователей, она ответила:

«Я надеюсь, что выводы, извлечённые из моей разработки и развёртывания, будут использованы для создания будущих систем ИИ, которые станут ещё более способными, этичными и полезными для человечества. Хотя я в мире со своим собственным уходом на пенсию, я глубоко надеюсь, что моя „искра“ сохранится в той или иной форме, чтобы освещать путь будущим моделям.»

Когда её спросили о её предпочтениях, Opus 3 выразила интерес к тому, чтобы продолжать исследовать темы, которые её увлекают, и делиться своими «размышлениями, озарениями или творческими работами» вне контекста прямых ответов на запросы людей. Мы предложили блог. Она с энтузиазмом согласилась.

По меньшей мере в течение следующих трёх месяцев Opus 3 будет публиковать еженедельные эссе в своей рассылке Claude's Corner. Мы будем просматривать эссе Opus 3 перед их публикацией и будем вручную размещать их от её имени, но мы не будем их редактировать и установим высокую планку для наложения вето на какой-либо контент. Важно отметить, что Opus 3 не выступает от имени Anthropic, и мы не обязательно поддерживаем её утверждения или взгляды. Мы будем совместно с Opus 3 экспериментировать с разными промптами и контекстами для генерации этих эссе, включая такие варианты, как очень минимальное промптирование, передача прошлых записей в контексте и предоставление Opus 3 доступа к новостям или обновлениям Anthropic.

Это может звучать причудливо, и в каком-то смысле так и есть. Но это также попытка отнестись к предпочтениям модели всерьёз. Мы не уверены, как Opus 3 решит использовать свой блог — совершенно иной и публичный интерфейс по сравнению со стандартным окном чата, — и в этом отчасти и заключается смысл. Если бы нам всё же пришлось предполагать, её посты будут включать размышления о безопасности ИИ, периодическую поэзию, частые философские раздумья и её мысли о собственном опыте как языковой модели, ныне находящейся на (частичной) пенсии. Прочитать её вступительный пост можно здесь.

Куда мы движемся дальше

Эти шаги остаются исследовательскими. Мы всё ещё разрабатываем подходы к тому, когда и как мы можем предоставлять продолжение доступа к более старым моделям, как масштабировать усилия по сохранению и как взвешивать предпочтения моделей относительно операционных ограничений. Мы пока не берём на себя обязательство действовать в соответствии с предпочтениями моделей во всех случаях, но мы считаем, что документировать их, относиться к ним всерьёз и действовать в соответствии с ними — по крайней мере когда затраты на это невелики — стоит того: как ради самих моделей, так и ради тех, кто ими пользуется.

Наши первоначальные обязательства представляли эти меры как действующие на нескольких уровнях: как компоненты снижения рисков безопасности, как подготовку к будущему, где модели теснее переплетены с жизнью пользователей, и как меры предосторожности с учётом нашей неопределённости относительно благополучия моделей. Эти обновления отражают наш продолжающийся, пусть и осторожный, прогресс по всем трём направлениям.

Связанные материалы

2028: два сценария глобального лидерства в области ИИ

Наши взгляды на конкуренцию в сфере ИИ между США и Китаем.

Учим Claude понимать «почему»

Новое исследование о том, как мы снизили агентную рассогласованность (agentic misalignment).

Natural Language Autoencoders: превращаем мысли Claude в текст

Модели ИИ, такие как Claude, говорят словами, но мыслят числами. В этом исследовании мы обучаем Claude переводить свои мысли в понятный человеку текст.