Anthropic is donating $20 million to Public First Action
Anthropic направляет $20 млн в Public First Action — новую двухпартийную организацию 501(c)(4), которая займётся просвещением об ИИ, продвижением мер безопасности и сохранением лидерства США в гонке ИИ. Компания подчёркивает, что возможности моделей растут стремительно — от простых чат-ботов в 2023 году до сегодняшних «агентов», выполняющих сложные задачи, — а решения в области политики ИИ затронут рынок труда, защиту детей и национальную безопасность. По данным опроса, 69% американцев считают, что правительство недостаточно регулирует ИИ, однако федеральной рамки пока нет. Public First Action, основанная стратегами-республиканцами и демократами, будет добиваться прозрачности frontier-разработчиков, надёжной федеральной системы управления ИИ, экспортного контроля над чипами и точечного регулирования наиболее острых рисков — биооружия и кибератак. Anthropic подчёркивает, что эти меры подразумевают больший, а не меньший контроль над такими компаниями, как она сама.
Anthropic жертвует $20 миллионов организации Public First Action
ИИ принесёт огромные преимущества — для науки, технологий, медицины, экономического роста и многого другого. Но столь мощная технология несёт и значительные риски.
Эти риски могут исходить от злоупотребления моделями: ИИ уже используется для автоматизации кибератак; в будущем он может помогать в производстве опасных видов оружия. Риски могут исходить и от самих моделей: мощные системы ИИ способны совершать вредоносные действия вопреки намерениям пользователей — и вне их контроля.
Возможности моделей ИИ растут головокружительными и всё ускоряющимися темпами — от простых чат-ботов в 2023 году до сегодняшних «агентов», выполняющих сложные задачи. В Anthropic нам пришлось несколько раз переделывать печально известный сложный технический тест при найме программистов, поскольку каждая новая модель ИИ побеждала очередную его версию. Темпы прогресса не ограничатся разработкой ПО — многие другие профессии уже ощущают на себе влияние.
Следовательно, решения в области политики ИИ, которые мы примем в ближайшие несколько лет, затронут почти все стороны общественной жизни — от рынка труда до защиты детей в интернете, национальной безопасности и баланса сил между государствами.
В таких условиях нам нужна хорошая политика: гибкое регулирование, которое позволит нам пожинать плоды ИИ, держать риски под контролем и сохранять лидерство Америки в гонке ИИ. Это означает не допускать попадания критически важных ИИ-технологий в руки противников Америки, поддерживать значимые меры защиты, способствовать росту занятости, защищать детей и требовать настоящей прозрачности от компаний, создающих самые мощные модели ИИ.
Мы не хотим оставаться в стороне, пока эта политика формируется. По этой причине Anthropic жертвует $20 миллионов Public First Action — новой двухпартийной организации 501(c)(4), которая будет содействовать общественному просвещению об ИИ, продвигать меры защиты и обеспечивать лидерство Америки в гонке ИИ.
Недавний опрос показал, что 69% американцев считают, что правительство «делает недостаточно для регулирования использования ИИ». Мы согласны. ИИ внедряется быстрее любой технологии в истории, и окно для выработки правильной политики закрывается. При этом официальных ограничений нет, а федеральная нормативная рамка не просматривается на горизонте.
На сегодняшний день существует мало организованных усилий, помогающих мобилизовать людей и политиков, которые понимают, что поставлено на карту в развитии ИИ. Напротив, огромные ресурсы текут в политические организации, которые противостоят этим усилиям.
Public First Action работает над тем, чтобы заполнить этот пробел. Основанная и возглавляемая как республиканскими, так и демократическими стратегами, она работает поверх партийных границ, поддерживая политику в области управления ИИ.
Организация будет работать с республиканцами, демократами и независимыми, разделяющими одни и те же приоритеты политики:
Настаивать на мерах прозрачности моделей ИИ, которые дадут общественности больше видимости — и, как следствие, большей уверенности — в том, что компании, разрабатывающие frontier-модели ИИ, ответственно управляют рисками; поддерживать надёжную федеральную систему управления ИИ — и выступать против вытеснения законов штатов, если только Конгресс не примет более строгих мер защиты; поддерживать разумный экспортный контроль над ИИ-чипами, который позволит Америке оставаться впереди её авторитарных противников; добиваться целенаправленного регулирования наиболее острых ближайших рисков: биологического оружия и кибератак, основанных на ИИ.
Эта политика не является партийной. Она также не направлена на выгоду Anthropic как разработчика ИИ — эффективное управление ИИ означает больший, а не меньший контроль над такими компаниями, как наша. И это не попытка сдержать менее крупных или менее обеспеченных ресурсами разработчиков: наша позиция заключается в том, что регулирование прозрачности, например, должно применяться только к компаниям, разрабатывающим самые мощные (и самые опасные) модели ИИ.
Компании, создающие ИИ, несут ответственность за то, чтобы эта технология служила общественному благу, а не только их собственным интересам. Наш вклад в Public First Action — это часть нашей приверженности управлению, которое позволит раскрыть преобразующий потенциал ИИ и соразмерно справиться с его рисками.
Связанные материалы
PwC внедряет Claude для создания технологий, проведения сделок и переосмысления корпоративных функций для клиентов
PwC начнёт развёртывание Claude Code и Cowork с команд в США и расширит его до глобального штата из сотен тысяч специалистов, создаст совместный Центр компетенций, а также обучит и сертифицирует 30 000 специалистов PwC по работе с Claude.
Anthropic формирует партнёрство на $200 миллионов с Gates Foundation
Представляем Claude for Small Business
Мы запускаем Claude for Small Business — пакет коннекторов и готовых к запуску рабочих процессов, которые встраивают Claude в инструменты, используемые малым бизнесом каждый день.