Emerging from the Mythos
Вышедшая модель Claude Mythos от Anthropic — крупнейшая у компании, около 10 триллионов параметров, в шесть раз больше любой предыдущей frontier-модели. В тестах она нашла 27-летний баг в одной из самых защищённых операционных систем и 16-летнюю уязвимость в видеопрограмме, которую обычные инструменты проверяли пять миллионов раз. Способности к анализу безопасности не закладывались специально — они проявились как побочный результат общего улучшения в коде, рассуждении и автономности. Anthropic развернула Mythos по стандартам ASL-3 и дала доступ более чем сорока организациям через закрытую программу Project Glasswing, ориентированную на оборону и укрепление защиты. Туand Tunguz прогнозирует, что доступ к таким возможностям станет структурным преимуществом: безопасность инвертируется, ценовая власть смещается, а инженерные бюджеты будут перенаправлены на hardening кода.
Исследователь из Anthropic узнал об успешном эксплойте, когда модель прислала ему письмо. В этот момент он ел сэндвич на скамейке на улице.
Вчера Anthropic выпустила Claude Mythos. Помимо обеда инженера, у модели есть потенциал съесть и обед всего софта.
В тестах Mythos нашла 27-летний баг в одной из самых защищённых операционных систем из когда-либо созданных и 16-летнюю уязвимость в видеопрограмме, которую обычные инструменты проверяли пять миллионов раз. Mythos — крупнейшая модель Anthropic, около 10 триллионов параметров, в шесть раз больше любой предыдущей frontier-модели.
Из отчёта red team команды Anthropic1 :
Мы не обучали Mythos Preview этим способностям явно. Напротив, они возникли как побочное следствие общих улучшений в коде, рассуждении и автономности. Те же улучшения, которые делают модель существенно эффективнее в устранении уязвимостей, делают её существенно эффективнее и в их эксплуатации.
Анализ безопасности оказался сопутствующим продуктом, побочным эффектом оптимизации совершенно для другого.
Это центральный вопрос наращивания масштаба AI: какие эмерджентные свойства проявятся? Мы не знаем, какие ещё способности дремлют в этих системах. Но мы можем спрогнозировать, что произойдёт в бизнесе.
Доступ становится решающим фактором. Anthropic развернула Mythos по стандартам ASL-32 и предоставила доступ более чем сорока организациям. Все остальные ждут.
Project Glasswing, программа Anthropic с закрытым доступом, судя по всему, нацелена прежде всего на оборону и укрепление защиты, а не на коммерческое преимущество. Но это различие не сохранится навсегда. В какой-то момент те же способности, что защищают софт, будут его создавать.
Гипотетически, CrowdStrike теперь сканирует на наличие zero-day, которые конкуренты найти не могут. Apple защищает свой софт, пока остальные не могут. Разрыв между теми, у кого есть доступ, и теми, у кого его нет, — это не фича продукта. Это структурное преимущество, которое накапливается с каждым днём.
Позиция в области безопасности инвертируется. Любая система, не защищённая анализом такого уровня, теперь по умолчанию уязвима. Баги, скрывавшиеся десятилетиями, всплывают за часы — но только для тех, у кого есть инструменты, чтобы их найти.
Ценовая власть смещается. Речь больше не идёт о марже на перепродаваемых часах GPU. Сколько стоит защитить свой софт от уязвимостей, которые не способен найти ни один обычный инструмент? Сколько стоит возможность строить по новому стандарту корпоративного уровня?
Инженерные бюджеты перенаправляются. Значительная доля AI-токенов, расходуемых на разработку ПО, сместится в сторону укрепления защиты. Каждой компании, выпускающей код, потребуется сканировать его на таком уровне сложности. Покупатели начнут требовать такого уровня защищённости.
AI ломает каждую систему, которой касается: дата-центры, финансовые рынки, средства защиты безопасности. Софт был обедом. Что на ужин?
Anthropic Red Team — Claude Mythos Preview ↩︎ ASL-3 — это уровень безопасности Anthropic, требующий самых строгих мер защиты для моделей, существенно повышающих риск катастрофического злоупотребления. ↩︎