Statement from Dario Amodei on our discussions with the Department of War

Заявление Дарио Амодея о наших переговорах с Министерством войны

Я глубоко убеждён в экзистенциальной важности применения ИИ для защиты США и других демократий, а также для победы над нашими автократическими противниками.

Поэтому Anthropic проактивно работала над развёртыванием своих моделей в Министерстве войны и разведывательном сообществе. Мы стали первой передовой ИИ-компанией, развернувшей свои модели в засекреченных сетях правительства США, первыми развернули их в Национальных лабораториях и первыми предоставили кастомные модели для заказчиков из сферы национальной безопасности. Claude широко применяется в Министерстве войны и других ведомствах нацбезопасности для критически важных задач: разведывательного анализа, моделирования и симуляций, оперативного планирования, киберопераций и многого другого.

Anthropic также действовала ради защиты лидерства Америки в ИИ, даже когда это противоречило краткосрочным интересам компании. Мы отказались от нескольких сотен миллионов долларов выручки, прекратив использование Claude фирмами, связанными с Коммунистической партией Китая (некоторые из них были отнесены Министерством войны к китайским военным компаниям), пресекли кибератаки, спонсируемые КПК, в попытках злоупотребить Claude, и выступали за жёсткий экспортный контроль над чипами, чтобы обеспечить преимущество демократий.

Anthropic понимает, что военные решения принимает Министерство войны, а не частные компании. Мы никогда не возражали против конкретных военных операций и не пытались ограничивать использование наших технологий ad hoc.

Однако в узком наборе случаев мы считаем, что ИИ может подрывать, а не защищать демократические ценности. Некоторые применения также просто выходят за пределы того, что сегодняшние технологии могут безопасно и надёжно выполнять. Два таких сценария никогда не входили в наши контракты с Министерством войны, и мы убеждены, что их не следует включать и сейчас:

Массовая внутренняя слежка. Мы поддерживаем применение ИИ для законных задач внешней разведки и контрразведки. Но использование этих систем для массовой внутренней слежки несовместимо с демократическими ценностями. Массовая слежка на основе ИИ создаёт серьёзные, принципиально новые риски для наших основополагающих свобод. Если подобная слежка сегодня законна, то лишь потому, что законодательство ещё не догнало стремительно растущие возможности ИИ. Например, по нынешнему закону правительство может покупать подробные сведения о перемещениях американцев, истории веб-сёрфинга и связях из открытых источников без получения судебного ордера — практика, которая, по признанию самого разведсообщества, вызывает опасения по части приватности и встретила двухпартийную оппозицию в Конгрессе. Мощный ИИ позволяет автоматически и в массовом масштабе собирать эти разрозненные, по отдельности безобидные данные в исчерпывающую картину жизни любого человека.Полностью автономное оружие. Частично автономное оружие, такое как применяемое сегодня на Украине, жизненно важно для защиты демократии. Даже полностью автономное оружие (которое полностью убирает человека из контура принятия решений и автоматизирует выбор и поражение целей) может оказаться критически важным для нашей национальной обороны. Однако сегодня передовые ИИ-системы попросту недостаточно надёжны, чтобы управлять полностью автономным оружием. Мы не станем сознательно предоставлять продукт, ставящий под угрозу американских военнослужащих и мирных жителей. Мы предложили Министерству войны напрямую сотрудничать в R&D ради повышения надёжности таких систем, но они это предложение не приняли. Кроме того, без надлежащего надзора на полностью автономное оружие нельзя рассчитывать в том, чтобы оно проявляло то критически важное суждение, которое каждый день демонстрируют наши высокопрофессионально подготовленные военнослужащие. Его необходимо разворачивать с надлежащими ограничителями, которых сегодня не существует.

Насколько нам известно, эти два исключения до сих пор не были препятствием для ускоренного внедрения и использования наших моделей в вооружённых силах.

Министерство войны заявило, что будет заключать контракты только с теми ИИ-компаниями, которые согласятся на «любое законное использование» и снимут защитные меры в упомянутых выше случаях. Они угрожали исключить нас из своих систем, если мы сохраним эти меры; они также грозили присвоить нам ярлык «риска цепочки поставок» — статус, зарезервированный для противников США и никогда прежде не применявшийся к американской компании — и применить Defense Production Act, чтобы принудительно снять эти меры. Последние две угрозы внутренне противоречивы: одна объявляет нас угрозой безопасности; другая объявляет Claude необходимым для национальной безопасности.

Тем не менее эти угрозы не меняют нашу позицию: мы не можем по совести согласиться на их требование.

Право Министерства — выбирать подрядчиков, наиболее соответствующих его видению. Но учитывая значительную ценность, которую технологии Anthropic дают нашим вооружённым силам, мы надеемся, что они пересмотрят своё решение. Наше явное предпочтение — продолжать обслуживать Министерство и наших военнослужащих, сохраняя две запрошенные нами защитные меры. Если же Министерство решит прекратить работу с Anthropic, мы обеспечим плавный переход к другому поставщику, не допуская сбоев в текущем военном планировании, операциях и иных критически важных миссиях. Наши модели будут доступны на тех широких условиях, которые мы предложили, столько, сколько потребуется.

Мы по-прежнему готовы продолжать работу в поддержку национальной безопасности Соединённых Штатов.

Связанные материалы

PwC развёртывает Claude для создания технологий, заключения сделок и переосмысления корпоративных функций в интересах клиентов

PwC начнёт внедрение Claude Code и Cowork с команд в США с последующим расширением на глобальный штат из сотен тысяч специалистов, создаст совместный Центр компетенций, а также обучит и сертифицирует 30 000 специалистов PwC по работе с Claude.

Anthropic заключает партнёрство с Фондом Гейтсов на сумму 200 млн долларов

Представляем Claude for Small Business

Мы запускаем Claude for Small Business — набор коннекторов и готовых к запуску рабочих процессов, встраивающих Claude в инструменты, которые малый бизнес использует каждый день.