Focus areas for The Anthropic Institute

Направления исследований The Anthropic Institute

В The Anthropic Institute (TAI) мы будем использовать информацию, доступную нам изнутри передовой лаборатории, чтобы изучать влияние ИИ на мир, и делиться полученными выводами с обществом. Здесь мы рассказываем о вопросах, которые движут нашей исследовательской повесткой.

Наша повестка сосредоточена на четырёх направлениях исследований:

Экономическая диффузияУгрозы и устойчивостьИИ-системы «в дикой природе»ИИ-управляемые исследования и разработки

В материале Core Views on AI Safety мы писали, что эффективные исследования в области безопасности требуют тесного контакта с передовыми ИИ-системами. Та же логика применима и к эффективным исследованиям влияния ИИ на безопасность, экономику и общество.

В Anthropic мы видим ранние свидетельства того, что такие профессии, как разработка ПО, радикально меняются. Мы наблюдаем, как начинает сдвигаться внутренняя экономика Anthropic, как из создаваемых нами систем возникают новые угрозы, и ранние признаки того, что ИИ ускоряет исследования и разработку самого ИИ. Чтобы в полной мере реализовать преимущества прогресса ИИ, мы хотим делиться этой информацией в максимально возможном объёме. Мы исследуем, как эта динамика может формировать внешний мир и как общество может помочь направлять эти изменения.

В TAI мы будем изучать реальное влияние ИИ с нашей позиции внутри передовой лаборатории, а затем публиковать эти выводы, чтобы помочь внешним организациям, правительствам и обществу принимать более взвешенные решения о развитии ИИ.

Мы будем делиться исследованиями, данными и инструментами, чтобы отдельным исследователям и институтам было проще работать над этими вопросами. В частности, мы поделимся:

Более детальной информацией из The Anthropic Economic Index, публикуемой чаще, о том, что мы наблюдаем во влиянии на рынок труда и в использовании ИИ. Мы постараемся служить системой раннего предупреждения о значимых изменениях и потрясениях.Исследованиями о тех сферах общества, которые больше всего нуждаются в инвестициях в устойчивость перед лицом новых рисков безопасности, связанных с ИИ.Более подробной информацией о том, как наша работа в Anthropic ускорилась благодаря новым ИИ-инструментам, и соображениями о последствиях возможного рекурсивного самоулучшения ИИ-систем.

TAI будет влиять на решения, которые принимает Anthropic. Это может выражаться в том, что компания делится с миром данными, которые иначе не раскрыла бы (как Economic Index), или иначе подходит к выпуску технологий (как анализ киберугроз, который ложится в основу инициатив вроде Project Glasswing).

Мы ожидаем, что работа The Anthropic Institute будет всё активнее служить важными входными данными для Long-Term Benefit Trust (LTBT) компании Anthropic. Миссия LTBT — обеспечивать, чтобы Anthropic постоянно оптимизировала свои действия ради долгосрочного блага человечества. Мы разработали эту исследовательскую повестку совместно с LTBT, а также с сотрудниками по всей Anthropic.

Это живая, а не фиксированная повестка. Мы продолжим уточнять эти вопросы по мере накопления данных и ожидаем, что появятся новые вопросы, не отражённые здесь сегодня. Мы приветствуем отзывы об этой повестке и будем пересматривать её в свете того, что узнаём в ходе наших обсуждений.

Если вам интересно помочь нам ответить на некоторые из этих вопросов, мы будем рады вашей заявке на участие в программе Anthropic Fellow. Эта программа — четырёхмесячная финансируемая возможность поработать над одним или несколькими из этих вопросов под наставничеством членов команды TAI. Узнать больше и подать заявку на следующий набор можно здесь.

Наша исследовательская повестка:

Последнее обновление: 7 мая 2026 г.

Экономическая диффузия

Крайне важно понимать, как развёртывание всё более мощных ИИ-систем меняет экономику. Нам также необходимо развить нужные экономические данные и предсказательную способность, чтобы можно было осознанно выбирать развёртывание ИИ способами, выгодными для общества.

Чтобы ответить на вопросы этого направления наших исследований, мы будем дальше развивать данные внутри The Anthropic Economic Index. Мы также изучим другие методы, чтобы уточнить наши модели того, как мощный ИИ может повлиять на общество — через потерю рабочих мест, беспрецедентный экономический рост или иные эффекты.

Внедрение и диффузия ИИ

Кто внедряет ИИ? Разработка ИИ сосредоточена в небольшом числе компаний в небольшом числе стран, но развёртывание носит глобальный характер. Что определяет, может ли страна, регион или город получить доступ к ИИ? А если может, то как извлекает из ИИ экономическую ценность? Какие политики и бизнес-модели значимо смещают этот баланс? Как бесплатные модели или модели с открытыми весами влияют на эту динамику?Внедрение в компаниях: Что вызывает внедрение ИИ на уровне компании и каковы его последствия? Как ИИ меняет масштаб, при котором компания или команда наиболее эффективна? Насколько концентрированно использование ИИ между компаниями? Как изменения в концентрации внедрения ИИ выливаются в наценки и долю труда в доходе? Если команда или компания из 3 человек теперь может делать то, что раньше требовало 300, что происходит с организацией отраслей? Или, если компаниям проще централизовать знания и есть выгоды от этого в масштабе, увидим ли мы более крупные, более экспансивные компании с большим стимулом систематически следить за работниками?Является ли ИИ технологией общего назначения? Следует ли ИИ модели предыдущих «технологий общего назначения», где внедрение быстрее всего идёт в высокомаржинальных коммерческих приложениях и медленнее всего там, где общественная отдача превышает частную? Существуют ли политики или решения, способные изменить эту динамику?

Производительность и экономический рост

Рост производительности: Какое влияние ИИ окажет на темпы инноваций и рост производительности в экономике?Распределение выгод: Какие пред- или перераспределительные механизмы могли бы эффективно распространить выгоды от разработки и развёртывания ИИ более широко?Транзакционные издержки на рынках: Как ИИ влияет на системы обмена и транзакционные издержки на рынках? Когда доступ к агентам, способным вести переговоры от вашего имени, повышает эффективность рынка и справедливость исходов? А когда нет?

Широкое влияние на рынок труда

ИИ и рабочие места: Как ИИ изменит рабочие места и занятость в разных частях экономики? Какие новые задачи и профессии могут появиться по мере того, как ИИ автоматизирует существующие части экономики? Как эти изменения будут различаться по регионам и странам? Наш Anthropic Economic Index Survey будет ежемесячно давать сигналы о том, как люди воспринимают влияние ИИ на свою работу и чего они ожидают в будущем. Мы также обновляем Economic Index, чтобы делиться более высокочастотными и детализированными данными.Можно ли модулировать диффузию ИИ? Центральные банки стремятся сдерживать инфляцию с помощью «рычагов» вроде ключевой ставки и опережающих указаний (forward guidance). Существуют ли аналогичные рычаги, которые ИИ-компании (на уровне отрасли, в партнёрстве с государством) могли бы повернуть, чтобы контролировать темпы диффузии ИИ по секторам? Была бы очевидная общественная выгода от того, чтобы их повернуть?

Будущее профессий и рабочих мест

Взгляды работников на свою работу: Как работники по всей экономике переживают изменения в своих профессиях? Какое влияние они имеют на эти изменения и можно ли сохранить или преобразовать «власть работника»?Профессиональный конвейер: Многие профессии опираются на младшие роли (например, помощники юристов, младшие аналитики и младшие разработчики), которые служат обучением для будущих старших специалистов. Если ИИ возьмёт на себя задачи, исторически формировавшие экспертизу, то как люди вообще будут становиться экспертами? Что это означает для долгосрочного предложения зрелого профессионального суждения в той или иной области?Учёба ради будущего: Что людям стоит изучать сегодня, чтобы быть хорошо подготовленными к будущему? Каковы профессии будущего? Как ИИ меняет то, что значит чему-то учиться и развивать экспертизу?Роль оплачиваемого труда: Если ИИ существенно снизит центральную роль оплачиваемого труда в человеческой жизни, какие условия позволят людям перераспределить своё время и усилия в сторону других источников смысла, и чему мы можем научиться у исторических или современных сообществ, где работа была дефицитной или необязательной? Как общества проходят через этот переход?

Угрозы и устойчивость

ИИ-системы, как правило, развивают множество способностей одновременно, в том числе способности двойного назначения. ИИ-система, которая становится лучше в биологии, также становится лучше в создании биологического оружия. ИИ-системы, эффективные в программировании, также становятся лучше во взломе компьютеров. Если мы сможем лучше понять потенциал усиления угроз ИИ-системами, обществу будет легче стать устойчивым к этому изменившемуся ландшафту угроз.

Мы задаём эти вопросы, чтобы помочь развитию партнёрств для повышения устойчивости мира перед лицом трансформирующего ИИ и для создания систем раннего предупреждения о новых возникающих угрозах. Многие из этих вопросов будут двигать исследовательскую повестку нашей Frontier Red Team.

Оценка риска и способностей двойного назначения:

Технологии двойного назначения: Мощный ИИ по своей природе имеет двойное назначение: те же инструменты, что улучшают здравоохранение и образование, могут обеспечивать слежку и репрессии. Можем ли мы создать инструменты наблюдаемости, чтобы понимать, происходит ли это и как именно?Корректное ценообразование риска: Каковы эффективные, рыночные подходы к повышению устойчивости общества к ожидаемым угрозам со стороны ИИ-систем? Можем ли мы разработать новые способы ценообразования риска или технические инструменты и человеческие организации для повышения устойчивости заблаговременно до прихода предсказуемых угроз (вроде улучшенных способностей ИИ к кибератакам)?Баланс нападения и защиты: Будут ли способности, усиленные ИИ, структурно давать преимущество атакующему в таких областях, как кибер и био? Когда ИИ применяется в более традиционных сферах, например при растущей интеграции в системы командования и управления, даёт ли это преимущество атакующему? В более общем смысле, как ИИ изменит характер человеческих конфликтов?

Создание механизмов снижения риска:

Планирование кризисных сценариев: Во время холодной войны у американского президента была горячая линия напрямую с Кремлём — на случай ядерного кризиса. Какая геополитическая инфраструктура понадобилась бы в случае кризисного сценария с участием ИИ-систем? Эта инфраструктура не обязательно должна быть «государство — государство»; она может быть «компания — государство» или «компания — компания».Более быстрые защитные механизмы: Способности ИИ могут продвигаться за месяцы. Регуляторные, страховые и инфраструктурные реакции действуют в масштабах лет. Как нам сократить этот разрыв? Могут ли защитные механизмы — вроде автоматического патчинга, обнаружения угроз с помощью ИИ или заранее размещённых средств реагирования — соответствовать темпу и масштабу усиленного ИИ нападения? Или эта асимметрия структурна? И как развернуть эти защитные механизмы максимально эффективно?

Разведывательные способности для слежки

Влияние ИИ на слежку: Как ИИ меняет работу слежки? Сделает ли он слежку дешевле, или эффективнее, или и то, и другое?

ИИ-системы «в дикой природе»

Взаимодействие людей и организаций с ИИ-системами станет крупным источником общественных изменений. Понимание того, как ИИ-системы могут менять людей и институты, которые с ними взаимодействуют, — ключевое направление работы нашей команды Societal Impacts. Чтобы изучать эти изменения, мы развиваем существующие инструменты и создаём новые для проведения исследований — от ПО для лучшей наблюдаемости нашей платформы до инструментов для проведения масштабных качественных опросов.

Влияние ИИ на отдельных людей и общества:

Групповая эпистемология: Когда значительная доля населения обращается к одним и тем же немногим моделям, что происходит с нашей эпистемологией? Можем ли мы найти способы измерять масштабные изменения в убеждениях, стиле письма и подходах к решению задач, обусловленные совместным использованием ИИ?Критическое мышление: По мере того как ИИ-системы становятся более способными и вызывают больше доверия, как нам выявлять и предотвращать деградацию навыков критического мышления у людей, которая может возникнуть из-за растущего полагания на суждения ИИ?Технологические интерфейсы: Интерфейсы технологий могут определять, как люди с ними взаимодействуют: телевизоры делают людей пассивными зрителями, а компьютеры могут облегчать людям роль созидающих творцов. Какие интерфейсы можно построить, чтобы ИИ-системы улучшали и продвигали человеческую субъектность (agency)? Управление человеко-ИИ-системами: Как люди могут эффективно управлять командами, состоящими из смеси людей и ИИ-систем? И как это может быть перевёрнуто — как ИИ-системы могут управлять командами, состоящими из людей, ИИ или их сочетания?

Выявление значимых эффектов от ИИ:

Поведенческие эффекты: Подобно тому, как социальные сети привели к поведенческим изменениям у людей, ИИ может формировать человеческое поведение. Какие виды мониторинга или измерения могут информировать исследователей об этой динамике?Обеспечение возможности исследований: Существуют ли режимы прозрачности и инструменты, которые позволили бы широкому кругу людей, а не только передовым ИИ-компаниям, легко изучать реальное использование ИИ?

Понимание ИИ-моделей и управление ими:

«Ценности» систем: Каковы выражаемые «ценности» ИИ-систем и как они связаны с тем, как эти системы обучались? Если конкретнее, как мы можем измерить влияние «конституции» ИИ на поведение модели после развёртывания? Мы расширим наши предыдущие исследования по этим вопросам.Управление автономными агентами: Какие аспекты существующих законов, систем управления и механизмов подотчётности можно было бы адаптировать к автономным ИИ-агентам? Например, то, как морское право обходится с брошенными судами, имеет отношение к тому, как право могло бы обходиться с агентами, работающими без человеческого надзора. И наоборот, есть ли аспекты существующего права, которые уже применимы к ИИ-агентам, но не должны быть?Надёжность агентов: Какие аспекты автономных ИИ-агентов можно адаптировать так, чтобы они вписывались в существующие законы, системы управления и механизмы подотчётности? Например, можем ли мы обеспечить, чтобы ИИ-агенты обладали уникальной идентичностью, которую они надёжно выдают, даже в отсутствие прямого человеческого контроля?ИИ-управление ИИ: Насколько эффективно мы можем использовать ИИ для управления ИИ-системами? В каких областях надзора за ИИ у людей есть сравнительное преимущество либо юридическое или нормативное требование быть «в контуре» (in the loop)?Взаимодействие агентов: Какие нормы возникают в том, как ИИ-агенты взаимодействуют друг с другом? Как разные агенты могут выражать разные предпочтения и как это может влиять на других агентов?

ИИ-управляемые исследования и разработки

По мере того как ИИ-системы становятся мощнее, учёные используют их для выполнения всё большей части своих исследований. Это означает, что всё больше научных исследований происходит автономно или полуавтономно при всё меньшем активном надзоре со стороны людей. В самих исследованиях ИИ всё более мощные системы могут использоваться для помощи в разработке своих преемников. Иногда мы называем это «ИИ-управляемыми исследованиями и разработками ИИ».

ИИ-управляемые исследования и разработки ИИ могут оказаться «естественным дивидендом» создания более умных и более способных систем. Подобно тому как успехи в способностях к программированию привели к кибер-способностям двойного назначения, а успехи в научных способностях могут привести к био-способностям двойного назначения, успехи в сложной технической работе могут естественным образом порождать ИИ-системы, способные разрабатывать ИИ-системы.

ИИ-управляемые исследования и разработки ИИ таят в себе потенциал значительной опасности. По мере того как политики оценивают доступные им рычаги, будет крайне важно понимать, как меняется темп прогресса ИИ, и может ли исследование ИИ начать давать накапливающуюся отдачу.

ИИ для исследований и разработок ИИ

Управление исследованиями и разработками ИИ: Если ИИ-системы используются для автономной разработки и улучшения самих себя, как люди сохраняют осмысленную видимость этих систем и контроль над ними? Что в конечном счёте будет управлять этими системами?Сценарии «пожарных учений»: Как провести «пожарные учения» на случай интеллектуального взрыва? Как выглядела бы штабная игра (tabletop exercise), которая действительно проверяет процесс принятия решений руководством лабораторий, советами директоров и правительствами?Телеметрия для исследований и разработок ИИ: Как нам измерять совокупную скорость исследований и разработок ИИ? Какие виды телеметрии и базовых технических возможностей должны существовать, чтобы собирать эту информацию? Как метрики, связанные с исследованиями и разработками ИИ, могли бы служить сигналами раннего предупреждения о рекурсивном самоулучшении? Контроль ускорения ИИ: Если интеллектуальный взрыв уже наступил, какие точки вмешательства помогли бы замедлить или иначе изменить темп взрыва? Если предположить, что люди могут вмешаться, то какие субъекты должны обладать этой возможностью — правительства? Компании?

ИИ для исследований и разработок в целом — то есть ИИ-управляемые исследования в других областях:

Дерево технологий: ИИ ускоряет одни науки гораздо быстрее, чем другие, в зависимости от доступности данных, оценочных сигналов и того, насколько знание является неявным или институционально закрытым. Насколько неравномерен этот градиент и что меняющийся состав научного прогресса означает для того, какие человеческие проблемы решаются в первую очередь?Зазубренный фронтир: Способности моделей сильнее в одних областях, чем в других. Области с большими положительными внешними эффектами — вроде разработки лекарств и материаловедения — получают меньше инвестиций, чем оправдывает их ценность. Рынки направляют развитие моделей в соответствии с частной отдачей, но можем ли мы улучшить то, как модели работают, для решения задач с социальными внешними эффектами?

Связанные материалы

2028: Два сценария глобального лидерства в ИИ

Наши взгляды на конкуренцию в области ИИ между США и Китаем.

Обучаем Claude понимать «почему»

Новое исследование о том, как мы снизили агентную рассогласованность (agentic misalignment).

Natural Language Autoencoders: превращаем мысли Claude в текст

ИИ-модели вроде Claude говорят словами, но мыслят числами. В этом исследовании мы обучаем Claude переводить свои мысли в понятный человеку текст.