Expanding Project Glasswing

Расширение Project Glasswing

Project Glasswing — это наша совместная инициатива по защите наиболее важного в мире программного обеспечения. В начале апреля мы объявили, что около 50 первоначальных партнёров получили доступ к Claude Mythos Preview, и с тех пор они применяют модель для сканирования своих кодовых баз на уязвимости. Недавно мы рассказали, как эти партнёры к настоящему моменту нашли более 10 000 уязвимостей высокой или критической степени серьёзности.

Теперь мы расширяем Project Glasswing. После нескольких недель тесного сотрудничества с партнёрами Project Glasswing, индустрией безопасности, мейнтейнерами открытого ПО и правительством США мы распространяем партнёрство примерно на 150 новых организаций. Каждая из них должна будет соответствовать нашим требованиям к безопасности, прежде чем получит доступ.

Организации в этой новой группе расположены более чем в 15 странах, и большинство из них обеспечивает критическую инфраструктуру во многих других. (В будущем мы намерены значительно расширить наш географический охват.) Группа охватывает несколько отраслей, которые были слабо представлены в нашей первоначальной когорте, таких как энергетика, водоснабжение, здравоохранение, связь и производство оборудования. И многие из новых партнёров — это вендоры: компании или некоммерческие организации, которые поддерживают кодовые базы, на которые полагается множество других организаций по всему миру, включая правительства.

Что объединяет всех партнёров — это то, что успешная атака на их кодовую базу могла бы стать катастрофической. Для большинства партнёров, по нашим оценкам, крупная атака могла бы затронуть более 100 миллионов человек, с серьёзными последствиями как для глобальной, так и для национальной безопасности.

Это расширение — следующий шаг к нашим долгосрочным целям: чтобы ИИ сделал всё программное обеспечение более безопасным и чтобы мы помогли индустрии адаптироваться к тому, как ИИ может изменить многие фундаментальные предпосылки кибербезопасности.

Роль Project Glasswing

Project Glasswing и возможности Claude Mythos Preview спровоцировали широкие дискуссии — как внутри индустрии ПО, так и с правительствами — о том, как ИИ меняет кибербезопасность. Эти дискуссии повлияли на то, как мы расширяли программу. Они также сформировали наше понимание самого предназначения Project Glasswing.

Дешёвые и быстрые ИИ-модели с мощными кибервозможностями уже не за горами. Мы хотим, чтобы Project Glasswing подталкивал институты к нормам работы, отражающим эту реальность.

Mythos Preview продолжает долгосрочную тенденцию, о которой мы уже давно предупреждаем: в течение 6–12 месяцев мы ожидаем, что у многих других ИИ-компаний появятся модели класса Mythos, и они могут выпустить их без защитных механизмов, предотвращающих злоупотребление. В таком мире кибератаки могли бы происходить гораздо чаще и принимать гораздо более непредсказуемые формы. Крайне важно, чтобы киберзащитники адаптировались, чтобы не отставать.

Свою роль мы видим двоякой. Во-первых, помочь индустрии ПО адаптироваться, безопасно предоставляя широкий доступ к более совершенным моделям, инструментам и общей инфраструктуре. Во-вторых, постепенно смещать предоставляемую нами поддержку — от поиска уязвимостей к их раскрытию, исправлению и развёртыванию пропатченного ПО. Теперь мы рассмотрим каждое из этих направлений по очереди.

Поддержка киберзащитников

К настоящему моменту компании, некоммерческие организации, мейнтейнеры и исследователи действовали быстро. В первые же недели Project Glasswing каждый участник начал применять Mythos Preview в больших масштабах, делиться информацией и лучшими практиками с другими партнёрами, а также работать со сторонними организациями для сортировки находок модели. Методы адаптации этих организаций к новым инструментам могут и должны быть широко тиражированы среди миллионов организаций и разработчиков, уязвимых для кибератак.

Чтобы поддержать это, мы недавно выпустили Claude Security — продукт, который использует наши новейшие публичные передовые модели, такие как Claude Opus 4.8, для сканирования кодовых баз и предложения патчей. Мы также предоставляем — по запросу, доверенным командам по безопасности — инструменты, которые мы разработали, чтобы помочь партнёрам Project Glasswing быстрее находить уязвимости.

Мы намерены пойти гораздо дальше: наша более долгосрочная цель — поддержать индустрию в создании новых инициатив, стандартов и инфраструктуры для эпохи мощных кибермоделей.

Ускорение патчинга и остальной части безопасности

Как мы уже обсуждали ранее, узким местом в кибербезопасности теперь стала проверка, раскрытие и исправление огромного числа уязвимостей, которые могут выявлять модели класса Mythos.

Сам Mythos Preview может в этом помочь. Многие партнёры Project Glasswing теперь используют модель для написания патчей, а также для предрелизных проверок, предотвращающих появление уязвимостей с самого начала. Модели вроде Mythos Preview можно также применять для тестирования на проникновение (симуляции кибератаки, чтобы выявить, как могут эксплуатироваться уязвимости), автоматизации обнаружения угроз и реагирования на них, а также для переписывания устаревших кодовых баз на языках с безопасной работой с памятью — наряду со множеством других защитных задач.

Мы ведём переговоры со сторонними организациями о том, как можно существенно масштабировать проверку и исправление уязвимостей в открытом ПО. Мы также работаем над тем, чтобы делиться идеями и лучшими практиками раскрытия уязвимостей мейнтейнерам открытого ПО, стремясь сделать эти отчёты более удобными для сортировки и реагирования.

Путь вперёд

Чтобы справиться с масштабом этого надвигающегося вызова, сотням тысяч организаций, исследователей и мейнтейнеров, вероятно, потребуется доступ к самым передовым кибервозможностям и инструментам из доступных.

Мы работаем настолько быстро, насколько можем, чтобы безопасно выпустить возможности уровня Mythos в общий доступ. Для этого нам понадобятся исключительно надёжные защитные механизмы, предотвращающие злоупотребление кибервозможностями модели, — механизмы, которые мы (и, насколько нам известно, все остальные разработчики ИИ) ещё не создали. Поскольку кибербезопасность имеет как полезные, так и разрушительные применения, создание защитных механизмов, одновременно достаточно сильных и точных, — это серьёзная задача.

Тем временем мы планируем расширять Project Glasswing ещё дальше — отдавая приоритет дополнительным поставщикам критически важной инфраструктуры, мейнтейнерам критического открытого ПО и тестировщикам безопасности. Мы намерены, чтобы будущие расширения охватывали организации как в США, так и за рубежом, как и нынешнее. Мы также намерены масштабировать нашу программу Cyber Verification, которая предоставляла бы возможности класса Mythos гораздо большему числу организаций для конкретных задач киберзащиты.

В будущем выпуски передовых моделей будут становиться всё более ответственными. Возможности продолжат расти во всех областях, включая многие из тех, что — подобно кибербезопасности — могут одинаково усиливать и атакующих, и защитников. Это не последний раз, когда нам придётся столкнуться с вызовом, подобным этому. Но Project Glasswing многому научил нас в том, как реагировать, когда модели пересекают важные пороги возможностей. Если у нас получится, мы надеемся обеспечить постоянное преимущество для защитников.

Связанные материалы

Anthropic конфиденциально подала черновик S-1 в SEC

Anthropic конфиденциально подала черновик регистрационного заявления S-1 в Комиссию по ценным бумагам и биржам

Anthropic привлекла $65 млрд в раунде Series H при оценке $965 млрд post-money

Anthropic привлекла $65 миллиардов в раунде финансирования Series H под руководством Altimeter Capital, Dragoneer, Greenoaks и Sequoia Capital.

Представляем Claude Opus 4.8

Обновление нашего класса моделей Opus, с более высокой производительностью в программировании, агентных задачах и профессиональной работе, а также с устойчивостью для выполнения длительных задач.