Project Glasswing: An initial update

Project Glasswing: первый отчёт

В прошлом месяце мы запустили Project Glasswing — совместную инициативу по защите самого критически важного ПО в мире до того, как всё более способные AI-модели могут быть обращены против него.

С тех пор мы и около 50 наших партнёров использовали Claude Mythos Preview, чтобы найти более десяти тысяч уязвимостей высокой или критической степени серьёзности в самом системно важном ПО мира. Раньше прогресс в безопасности ПО ограничивался тем, как быстро мы могли находить новые уязвимости. Теперь он ограничен тем, как быстро мы можем проверить, раскрыть и закрыть большое количество уязвимостей, найденных AI.

В этом посте мы обсуждаем, что узнали об этом ключевом вызове для кибербезопасности в первые недели Project Glasswing. Мы сосредотачиваемся на ранних публичных свидетельствах работы Mythos Preview, на первых результатах нашего сканирования тысяч open-source проектов и на том, что этот прогресс означает для киберзащитников сегодня. Мы также рассказываем, чего ждать дальше от Project Glasswing и как мы думаем о выпуске моделей класса Mythos в будущем.

Наши первые результаты

Наш подход к обсуждению находок Mythos Preview

В индустрии ПО давно принято раскрывать новые уязвимости спустя 90 дней после их обнаружения (или, если патч создан раньше, примерно через 45 дней после его выхода). Это даёт пользователям время обновить ПО до того, как уязвимостью смогут воспользоваться злоумышленники. Наша собственная политика скоординированного раскрытия уязвимостей следует тому же подходу.

Однако это означает, что раскрытые уязвимости — это запаздывающий индикатор ускоряющегося фронтира киберспособностей AI-моделей: мы пока не на том этапе, когда можем полностью описать находки наших партнёров с Mythos Preview, не подвергая пользователей риску. Вместо этого мы приводим иллюстративные примеры работы модели и агрегированную статистику нашего прогресса. Когда патчи для уязвимостей, обнаруженных Mythos Preview, будут широко развернуты, мы предоставим намного больше деталей о том, что узнали.

Свидетельства от партнёров и внешних тестировщиков

Первоначальные партнёры Project Glasswing создают и поддерживают ПО, фундаментальное для работы интернета и другой важнейшей инфраструктуры. Исправление недостатков в их коде снижает риск для множества других организаций, которые на него полагаются, и тем самым снижает риск для миллиардов конечных пользователей.

За месяц большинство партнёров нашли по сотням уязвимостей критической или высокой степени серьёзности в своём ПО. В совокупности они нашли более десяти тысяч. Некоторые сообщили нам, что скорость поиска багов выросла более чем в десять раз. Например, Cloudflare нашла 2000 багов (из которых 400 — высокой или критической серьёзности) в своих системах критического пути, причём с показателем ложных срабатываний, который команда Cloudflare считает лучше, чем у живых тестировщиков.

Это согласуется с опытом внешних тестировщиков работы Mythos Preview и с недавними дополнительными оценками модели:

AI Security Institute Великобритании сообщает, что Mythos Preview — первая модель, которая полностью прошла обе их киберполигона (симуляции многошаговых кибератак) от начала до конца;Mozilla нашла и исправила 271 уязвимость в Firefox 150 в ходе тестирования Mythos Preview — более чем в десять раз больше, чем нашла в Firefox 148 с Claude Opus 4.6;XBOW, независимая платформа безопасности, сообщает, что Mythos Preview — это «значительный шаг вперёд по сравнению со всеми существующими моделями» на их бенчмарке веб-эксплойтов, и обеспечивает «абсолютно беспрецедентную точность» в пересчёте на токен;ExploitBench и ExploitGym — два недавно выпущенных академических бенчмарка для измерения способностей моделей к разработке эксплойтов — показывают Mythos Preview как сильнейшего исполнителя. Подробнее о том, что эти бенчмарки говорят о модели, мы обсуждаем в блоге Frontier Red Team.

В целом мы видим, что патчи к ПО теперь выкатываются гораздо быстрее. Последний релиз Palo Alto Networks включал более чем впятеро больше патчей, чем обычно. Microsoft сообщила, что количество новых патчей, которые они выпускают, «будет продолжать расти ещё какое-то время». А Oracle находит и исправляет уязвимости в своих продуктах и облаке в несколько раз быстрее, чем раньше.

Mythos Preview также оказалась полезной и для других видов работы по безопасности. Например, в одном из наших банков-партнёров по Glasswing Mythos Preview помогла выявить и предотвратить мошеннический банковский перевод на $1,5 млн после того, как злоумышленник скомпрометировал email клиента и сделал поддельные телефонные звонки.

Open-source ПО

В последние несколько месяцев Anthropic использовала Mythos Preview, чтобы просканировать более 1000 open-source проектов, которые в совокупности лежат в основе значительной части интернета — и нашей собственной инфраструктуры.

На данный момент Mythos Preview нашла в этих проектах, по её оценкам, 6202 уязвимости высокой или критической степени серьёзности (из 23 019 в общей сложности, включая те, что она оценивает как средние или низкие).

1752 из этих уязвимостей с оценкой «высокая» или «критическая» уже тщательно изучены одной из шести независимых компаний, специализирующихся на исследованиях безопасности, или в небольшом числе случаев нами самими. Из них 90,6% (1587) оказались истинно положительными, а 62,4% (1094) подтверждены как уязвимости высокой или критической серьёзности. Это значит, что даже если Mythos Preview больше не найдёт ни одной уязвимости, при текущих показателях истинно положительных после триажа модель на пути к тому, чтобы выявить почти 3900 уязвимостей высокой или критической серьёзности в open-source коде — в дополнение к тем, что она нашла для партнёров Project Glasswing. Уточним: мы намерены продолжать сканирование open-source кода ещё какое-то время, поэтому ожидаем, что это число вырастет.

Один из примеров open-source уязвимости, обнаруженной Mythos Preview, был в wolfSSL — open-source криптографической библиотеке, известной своей безопасностью и используемой миллиардами устройств по всему миру. Mythos Preview сконструировала эксплойт, который позволил бы злоумышленнику подделать сертификаты так, чтобы он мог (например) разместить фейковый сайт банка или почтового сервиса. Сайт выглядел бы для пользователя совершенно легитимно, несмотря на то что контролировался бы злоумышленником. Мы выпустим полный технический разбор этой уже закрытой уязвимости (которой присвоен CVE-2026-5194) в ближайшие недели.

Как мы отметили выше, узкое место в исправлении подобных багов — это человеческая пропускная способность для триажа, отчётности, разработки и развёртывания патчей. Само же их обнаружение с Mythos Preview стало радикально проще. Мы создали дашборд по open-source уязвимостям, которые мы просканировали (он ниже): на нём показаны разные шаги нашего процесса раскрытия и будет отслеживаться наш прогресс со временем. Дашборд показывает уязвимости всех уровней серьёзности, а не только те, что изначально оценены Mythos Preview как высокие или критические. Обратите внимание на резкое падение на каждой стадии — оно отражает объём ручной работы, необходимой для проверки и исправления каждой уязвимости.

Наш процесс триажа уязвимостей очень трудоёмок. Сначала мы или одна из внешних компаний по безопасности, с которыми мы работаем, воспроизводим найденную Mythos проблему и заново оцениваем её серьёзность. Убедившись, что уязвимость реальна, мы проверяем, не существует ли уже исправлений, и пишем подробный отчёт мейнтейнерам ПО. Здесь мы действуем с большой осторожностью: помимо обычных трудностей с поддержкой open-source ПО, мейнтейнеры сегодня сталкиваются с потоком низкокачественных, сгенерированных AI отчётов о багах. Несколько мейнтейнеров рассказали нам, что сейчас сильно перегружены, а некоторые даже просили нас замедлить темпы раскрытия, потому что им нужно больше времени на разработку патчей. (В среднем баг высокой или критической серьёзности, найденный Mythos Preview, патчится за две недели.)

По просьбе мейнтейнеров мы иногда раскрываем баги напрямую, без дополнительной проверки. К настоящему моменту мы сообщили 1129 таких непроверенных багов, из которых Mythos Preview оценила 175 как высокие или критические по серьёзности.

По нашим оценкам, мы уже раскрыли мейнтейнерам 530 багов высокой или критической серьёзности. Эта оценка основана на суждении Claude о серьёзности в случае прямых раскрытий и на оценке мейнтейнеров или наших партнёров по безопасности, где она доступна. Есть ещё 827 подтверждённых уязвимостей (оценённых аналогичным образом как высокие или критические), которые мы стремимся раскрыть как можно быстрее.

75 из 530 высоко- или критически-серьёзных багов, о которых мы сообщили, уже закрыты патчами, и для 65 из них выпущены публичные advisory. Число патчей пока относительно невелико по трём причинам. Во-первых, мы ещё в начале 90-дневного окна, прописанного в нашей политике скоординированного раскрытия уязвимостей: мы ожидаем, что многие патчи появятся скоро. Во-вторых, мы, вероятно, недосчитываем патчи: некоторые уязвимости закрываются без публичного advisory, и в таких случаях нам приходится самим сканировать на наличие патчей с помощью Claude. В-третьих, низкое количество патчей отражает реальную проблему: даже при нашем относительно скромном темпе раскрытий Mythos Preview добавляет нагрузки и без того перегруженной экосистеме безопасности.

Относительная лёгкость поиска уязвимостей в сравнении со сложностью их исправления — это серьёзный вызов для кибербезопасности. Успешное противостояние этому вызову сделает наше ПО намного безопаснее, чем сейчас. Ниже мы обсуждаем некоторые способы, которыми киберзащитники могут адаптироваться.

Адаптация к новому этапу кибербезопасности

Модели с похожими на Mythos Preview киберспособностями скоро станут шире доступны. Очевидна необходимость более масштабных усилий по всей индустрии ПО, чтобы справляться с объёмом находок, которые такие модели будут генерировать.

Сегодня между обнаружением уязвимости, созданием патча и его широким развёртыванием конечными пользователями часто проходит большой промежуток времени. Это оставляет значительное окно для атакующих, чтобы эксплуатировать критическое ПО. Модели класса Mythos значительно сокращают время и затраты, необходимые для поиска и эксплуатации уязвимостей, усиливая риски, связанные с этими задержками. В конечном счёте модели класса Mythos позволят разработчикам создавать намного более безопасное ПО, отлавливая баги ещё до его развёртывания. Но этот переходный период — пока уязвимости находятся быстро, а патчатся медленно — несёт новые риски.

Разработчикам ПО и пользователям следует действовать уже сейчас, чтобы снизить свою подверженность этим рискам. Приведённые ниже советы не новы, и многие исследователи (включая Anthropic) сейчас работают над более надёжными решениями. А пока важно правильно сделать базовые вещи:

Разработчикам ПО следует сокращать циклы патчинга и выпускать исправления безопасности как можно быстрее. В этом могут помочь продуманное применение публично доступных AI-моделей; мы создаём инструменты и делимся исследованиями для поддержки этого (подробнее ниже). Разработчикам стоит также помогать пользователям держать ПО в актуальном состоянии, делая установку обновлений максимально простой; и, по возможности, быть настойчивее с теми, кто продолжает использовать ПО с известными уязвимостями.Сетевым защитникам следует сокращать сроки тестирования и развёртывания патчей. Критические меры контроля, изложенные такими организациями, как National Institute of Standards and Technology и британский National Cyber Security Centre, сейчас особенно важны, поскольку они повышают безопасность независимо от того, успеет ли тот или иной патч. Среди них — упрочнение дефолтных конфигураций сетей, обязательная многофакторная аутентификация и ведение полных логов для детектирования и реагирования.

Инструменты для киберзащиты с публично доступными AI-моделями

Многие общедоступные модели уже способны находить большое количество уязвимостей в ПО, пусть даже они не находят самые сложные уязвимости и не эксплуатируют их так же эффективно, как Claude Mythos Preview. Project Glasswing уже подтолкнул многие другие организации действовать в отношении своих кодовых баз с помощью таких общедоступных моделей; мы работаем над тем, чтобы это стало значительно проще.

Для начала мы выпустили Claude Security в публичной бете для клиентов Claude Enterprise. Это инструмент, который помогает командам сканировать свои кодовые базы на уязвимости и может предлагать варианты исправлений. За три недели с момента запуска Claude Opus 4.7 был использован для патчинга более 2100 уязвимостей. (Это быстрее, чем патчинг в open-source, описанный выше, в значительной мере потому, что предприятия исправляют собственный код, тогда как open-source-исправления обычно требуют участия волонтёров-мейнтейнеров, работающих через скоординированное раскрытие.)

Мы также запустили Cyber Verification Program, которая позволяет специалистам по безопасности, использующим наши модели в легитимных кибербезопасных целях (исследование уязвимостей, тесты на проникновение, red-team), делать это без некоторых ограничений, рассчитанных на предотвращение злоупотреблений в кибер-контексте.

Теперь мы делаем инструменты, которые мы и наши партнёры использовали с Mythos Preview, доступными по запросу командам безопасности квалифицированных клиентов. Наша цель — упростить получение максимальной отдачи от высоко способных публичных моделей без долгой настройки. В этот релиз входит:

skills (кастомные инструкции для повторяющейся работы), которые мы и наши партнёры построили и которыми поделились;harness, помогающий Claude картировать кодовую базу, поднимать сканирующих subagent-ов, проводить триаж их находок и писать отчёты;builder моделей угроз, который картирует кодовую базу, чтобы выявить потенциальные цели для атаки и соответственно расставить приоритеты в работе модели.

Cisco, один из наших партнёров по Project Glasswing, недавно также открыла исходный код своего Foundry Security Spec, чтобы помочь другим защитникам выстроить систему оценки, похожую на ту, которую они используют сами.

Поддержка экосистемы

Мы заключили партнёрство с проектом Alpha-Omega от Open Source Security Foundation, которое будет поддерживать усилия фонда по помощи мейнтейнерам в обработке и триаже багрепортов. Мы также продолжаем публиковать исследования о том, как способности фронтирных моделей могут наилучшим образом поддерживать киберзащитников.

Мы также поддержали разработку ExploitBench и ExploitGym — двух новых бенчмарков, которые позволяют исследователям отслеживать способности фронтирных AI-моделей к разработке эксплойтов во времени; подробнее об этом мы рассказываем здесь. Мы поддерживаем разработку и других качественных количественных бенчмарков через нашу External Researcher Access Program. Наконец, Claude for Open Source поддерживает мейнтейнеров и контрибьюторов, и мы обязуемся сканировать любой open-source пакет, который мы сами начнём использовать в будущем.

Что дальше у Project Glasswing

Темп прогресса AI означает, что модели, столь же способные, как Mythos Preview, скоро будут разработаны многими разными AI-компаниями. Сейчас ни одна компания — включая Anthropic — не разработала достаточно сильных мер защиты, чтобы предотвратить злоупотребление такими моделями и потенциально серьёзный вред. Именно поэтому мы пока не выпустили модели класса Mythos в публичный доступ. Но именно поэтому мы и начали Project Glasswing: если аналогично способная модель будет выпущена без таких защит, для почти любого человека в мире вскоре станет резко дешевле и проще эксплуатировать уязвимое ПО.

Glasswing помогает самым системно важным киберзащитникам получить асимметричное преимущество. Однако существует неотложная необходимость в том, чтобы как можно больше организаций укрепляли свою киберзащиту. Мы надеемся, что наши общедоступные модели, а также новые инструменты, ресурсы и исследования, которые мы предоставляем вместе с ними, помогут этим организациям улучшить состояние своей кибербезопасности.

Дальше мы будем работать с критически важными партнёрами — включая правительства США и союзников — чтобы расширить Project Glasswing на новых участников. А в ближайшем будущем, когда мы разработаем намного более сильные защитные механизмы, мы рассчитываем сделать модели класса Mythos доступными в рамках общего релиза.

По ту сторону этих рисков нас ждёт обнадёживающий мир: мир, в котором важный код защищён намного лучше, чем сегодня, а взломы случаются куда реже. Препятствий немало, но мы тем не менее уверены, что Project Glasswing может помочь нам туда прийти.

Связанные материалы

2028: Два сценария мирового лидерства в AI

Наши взгляды на конкуренцию в области AI между США и Китаем.

Учим Claude почему

Новое исследование о том, как мы снизили агентское misalignment-поведение.

Natural Language Autoencoders: переводим мысли Claude в текст

AI-модели вроде Claude говорят словами, но думают числами. В этом исследовании мы обучаем Claude переводить свои мысли в текст, понятный человеку.