Introducing The Anthropic Institute

Представляем The Anthropic Institute

Мы запускаем The Anthropic Institute — новую инициативу, призванную противостоять наиболее значимым вызовам, которые мощный ИИ поставит перед нашим обществом. The Anthropic Institute будет опираться на исследования всей Anthropic, чтобы предоставлять информацию, которой смогут пользоваться другие исследователи и общественность во время перехода к миру с гораздо более мощными ИИ-системами.

За пять лет с момента основания Anthropic прогресс ИИ шёл невероятно быстро. Нам потребовалось два года, чтобы выпустить первую коммерческую модель, и всего ещё три года, чтобы разработать модели, способные обнаруживать серьёзные уязвимости в кибербезопасности, браться за широкий спектр реальной работы и даже начинать ускорять темпы самой разработки ИИ.

Мы прогнозируем, что в ближайшие два года последует гораздо более драматичный прогресс. Одно из ключевых убеждений нашей компании заключается в том, что разработка ИИ ускоряется: улучшения, которые мы делаем, накапливаются со временем. Из-за этого чрезвычайно мощный ИИ, подобный тому, что наш CEO Dario Amodei описывает в эссе Machines of Loving Grace, придёт гораздо раньше, чем многие думают.

Если это так, обществу вскоре придётся столкнуться с множеством масштабных вызовов. Как мощные ИИ-системы изменят наши рабочие места и экономики? Какие возможности для повышения общественной устойчивости они нам дадут? Какие угрозы они усилят или привнесут? Каковы выраженные «ценности» ИИ-систем и как общество поможет компаниям определить, какие ценности являются подходящими? И если рекурсивное самосовершенствование ИИ-систем действительно начнётся, кто в мире должен быть об этом проинформирован и как такими системами следует управлять?

Цель The Anthropic Institute — рассказывать миру о том, что мы узнаём об этих вызовах, создавая передовые ИИ-системы, и сотрудничать с внешними аудиториями, чтобы помочь справиться с рисками, с которыми нам предстоит столкнуться. От того, смогут ли наши общества справиться с этим, будет зависеть, принесёт ли трансформирующий ИИ те радикальные положительные изменения, которые, как мы считаем, возможны в науке, экономическом развитии и человеческой автономии.

Институт возглавляет наш сооснователь Jack Clark, который примет новую должность Head of Public Benefit в Anthropic. В нём работает междисциплинарный штат из инженеров машинного обучения, экономистов и социологов, объединяющий и расширяющий три исследовательские команды Anthropic: Frontier Red Team, которая проводит стресс-тесты ИИ-систем для понимания крайних границ их текущих возможностей; Societal Impacts, которая изучает, как ИИ используется в реальном мире; и Economic Research, которая отслеживает его влияние на рабочие места и экономику в целом. Институт также будет создавать новые команды и в настоящее время работает над направлениями прогнозирования прогресса ИИ и более глубокого понимания того, как мощный ИИ будет взаимодействовать с правовой системой.

У Института уникальная точка обзора: у него есть доступ к информации, которой обладают только создатели передовых ИИ-систем. Он будет в полной мере использовать это преимущество, откровенно сообщая о том, что мы узнаём о форме создаваемой нами технологии. В то же время Институт — это улица с двусторонним движением. Он будет взаимодействовать с работниками и отраслями, которым грозит вытеснение, и с людьми и сообществами, ощущающими, как будущее надвигается на них, но не уверенными, как реагировать. То, что мы узнаём, будет определять, что изучает Институт и как наша компания в целом решает действовать.

The Anthropic Institute сделал несколько ключевых наймов на старте:

Matt Botvinick, Resident Fellow в Yale Law School и ранее Senior Director of Research в Google DeepMind и профессор нейронных вычислений в Princeton, присоединяется к Институту, чтобы возглавить его работу по ИИ и верховенству права. Anton Korinek присоединяется к команде Economic Research, временно покинув должность профессора экономики в University of Virginia, чтобы возглавить направление, изучающее, как трансформирующий ИИ может изменить саму природу экономической деятельности. Zoë Hitzig, ранее изучавшая социальное и экономическое влияние ИИ в OpenAI, присоединяется, чтобы связать нашу экономическую работу с обучением и разработкой моделей.

Мы также нанимаем сотрудников. The Anthropic Institute формирует небольшой аналитический штат, который будет работать над тем, чтобы объединять различные части нашей исследовательской повестки и доносить нашу работу до мира. Подробнее можно прочитать здесь.

Расширение команды Public Policy в Anthropic

Наряду с запуском The Anthropic Institute мы расширяем нашу организацию Public Policy.

Public Policy сосредоточена на областях, в которых Anthropic определила приоритеты и позиции, включая безопасность и прозрачность моделей, защиту плательщиков за энергию, инвестиции в инфраструктуру, экспортный контроль и демократическое лидерство в ИИ. Sarah Heck, пришедшая в Anthropic на должность Head of External Affairs, возглавит эту команду в качестве Head of Public Policy. До Anthropic Sarah была Head of Entrepreneurship в Stripe, финтех-компании, а ранее руководила политикой в области глобального предпринимательства и публичной дипломатии в Совете национальной безопасности Белого дома.

Мы расширяем нашу команду Public Policy, чтобы помогать формировать и направлять управление ИИ по всему миру. Этой весной мы открываем наш первый офис в Вашингтоне и быстро расширяем наше глобальное политическое присутствие. Текущие открытые вакансии можно посмотреть здесь.

Связанные материалы

PwC внедряет Claude для создания технологий, проведения сделок и переосмысления корпоративных функций для клиентов

PwC развернёт Claude Code и Cowork, начиная с команд в США и расширяя охват до глобальной рабочей силы из сотен тысяч специалистов, создаст совместный Center of Excellence, а также обучит и сертифицирует 30 000 специалистов PwC по работе с Claude.

Anthropic заключает партнёрство с Gates Foundation на 200 миллионов долларов

Представляем Claude for Small Business

Мы запускаем Claude for Small Business — пакет коннекторов и готовых к запуску рабочих процессов, которые встраивают Claude в инструменты, которыми малый бизнес пользуется каждый день.