The Shape of the Thing

The Shape of the Thing

The Shape of the Thing

Where we are right now, and what likely happens next

Где мы находимся прямо сейчас и что, вероятно, будет дальше

In October of 2023, I wrote about the “Shape of the Shadow of the Thing,” speculating on the Thing that AI might turn into in the coming years. I think we can see the Thing much more clearly now, and some of the consequences that come with it. As I have been discussing in recent posts, we have entered a new phase of AI. After ChatGPT was introduced, human-AI work took the form of what I called co-intelligence, where humans would prompt AI back-and-forth to get help on tasks. Starting in late 2025, we entered a new era thanks to AI agents like Claude Code, OpenAI’s Codex, and OpenClaw. These are AI systems that you can just give work to, sometimes hours of human work, and get back reasonable and useful results in minutes. This is an era of managing AIs, rather than working with them.

В октябре 2023 года я писал о «Форме тени Этой Штуки», размышляя о том, во что ИИ может превратиться в ближайшие годы. Думаю, теперь мы видим Эту Штуку гораздо яснее — как и некоторые сопутствующие последствия. Как я уже обсуждал в недавних постах, мы вступили в новую фазу развития ИИ. После появления ChatGPT совместная работа человека и ИИ приняла форму того, что я назвал коинтеллектом: человек в режиме диалога подсказывал ИИ, чтобы получить помощь в задачах. С конца 2025 года мы вступили в новую эру благодаря ИИ-агентам, таким как Claude Code, Codex от OpenAI и OpenClaw. Это ИИ-системы, которым можно просто поручить работу — иногда часы человеческого труда — и получить разумные и полезные результаты за минуты. Это эра управления ИИ, а не работы вместе с ними.

This new approach to AI is the outcome of the rapid exponential improvement in AI abilities. That means you can’t understand where we are, and where we might be going, without understanding the increasing capability of AI.

Этот новый подход к ИИ — следствие стремительного экспоненциального роста его возможностей. А значит, нельзя понять, где мы находимся и куда можем двигаться дальше, не понимая растущих способностей ИИ.

Riding up the Exponential

Поднимаясь по экспоненте

Exponential improvements are hard to visualize, so rather than charts or graphs, I want to start with otters. If you have followed my writing on AI, you know about my Otter Test, where I challenge various AI image models to show a picture of an “otter on a plane using wifi.” As you can see below, the progress from 2022 (the year ChatGPT launched) to 2025 was rapid and remarkable.

Экспоненциальный рост трудно представить наглядно, поэтому вместо диаграмм и графиков я хочу начать с выдр. Если вы следите за моими текстами об ИИ, вы знаете о моём тесте с выдрами, в котором я предлагаю разным ИИ-моделям для генерации изображений показать картинку «выдра в самолёте пользуется wifi». Как видно ниже, прогресс с 2022 года (года запуска ChatGPT) по 2025-й был быстрым и впечатляющим.

So, what has happened in the time since that April, 2025 image? With nearly perfect images, video has become the new frontier and has also seen exponential gains. To demonstrate, I gave the most advanced (and still unreleased in the US) AI video model from TikTok maker Bytedance, the prompt: A documentary about how otters view Ethan Mollick's "Otter Test" which judges AIs by their ability to create images of otters sitting in planes. This is the very first result — definitely turn on your sound:

Итак, что же произошло за время с момента того изображения в апреле 2025 года? Когда картинки стали почти идеальными, новым фронтиром стало видео — и здесь тоже наблюдается экспоненциальный рост. Чтобы это продемонстрировать, я дал самой продвинутой (и до сих пор не выпущенной в США) ИИ-видеомодели от создателя TikTok, компании Bytedance, такой промпт: Документальный фильм о том, как выдры воспринимают «тест с выдрами» Итана Моллика, который оценивает ИИ по их способности создавать изображения выдр, сидящих в самолётах. Это самый первый результат — обязательно включите звук:

Aside from a single pronunciation mistake, this is pretty perfect, down to the fact that the otters are animated to have human-like expressions. Of course, video models are cool, but they are not necessarily indicative of what useful agentic AI can do. So, what if we look at the benchmarks of AI ability, do we see the same exponential curve?

Если не считать единственной ошибки в произношении, результат почти безупречен — вплоть до того, что выдры анимированы с человекоподобной мимикой. Конечно, видеомодели — это здорово, но они не обязательно показательны для того, на что способен полезный агентный ИИ. Итак, что если посмотреть на бенчмарки способностей ИИ — увидим ли мы ту же экспоненциальную кривую?

We certainly do in the most famous evaluation in AI today, the METR Long Tasks graph. It tries to measure AI progress by seeing how much human work an AI can complete autonomously with some measure of reliability. It has attracted its share of critics, and even METR has pointed out potential issues. But if you don’t like the METR graph, you will find most graphs of AI ability have that same curve.

Безусловно, увидим — в самой известной на сегодня оценке в сфере ИИ, графике METR Long Tasks. Он пытается измерить прогресс ИИ, оценивая, сколько человеческого труда ИИ может выполнить автономно с определённой степенью надёжности. У него есть свои критики, и даже сама METR указывала на возможные проблемы. Но если вам не нравится график METR, вы обнаружите, что большинство графиков способностей ИИ имеют ту же самую кривую.

As an example, I picked four hard and diverse AI tests and graphed progress over time in the image below. In the upper left are the scores on the Google-Proof Q&A benchmark, a test of knowledge where graduate students using Google only score 34% outside their field and 70% or so inside of it, but the best AIs now score 94%. Or look at GDPval, where industry experts judge AI versus experienced human performance on complex tasks, and where the latest AIs now reach or exceed parity with top-performing humans 82% of the time. The same pattern holds for Humanity’s Last Exam, a set of very hard problems written by college professors that require considerable expertise to answers. Or we can even use the ability of AI to solve puzzles (you can try the puzzles here, they are fun!). Each shows a similar rapid gain in ability with few signs of slowdown, at least until they reach the top possible score on the test.

В качестве примера я выбрал четыре сложных и разных теста ИИ и построил график их прогресса во времени на изображении ниже. В левом верхнем углу — результаты на бенчмарке Google-Proof Q&A, тесте на знания, где аспиранты, пользуясь только Google, набирают лишь 34% за пределами своей области и около 70% внутри неё, тогда как лучшие ИИ сейчас набирают 94%. Или взгляните на GDPval, где отраслевые эксперты сравнивают работу ИИ с работой опытных людей над сложными задачами и где новейшие ИИ теперь достигают или превосходят уровень лучших специалистов в 82% случаев. Та же картина наблюдается и в Humanity’s Last Exam — наборе очень сложных задач, составленных университетскими профессорами и требующих значительной экспертизы для решения. Или мы можем даже использовать способность ИИ решать головоломки (попробовать их можно здесь, это весело!). Каждый из них демонстрирует похожий быстрый рост способностей почти без признаков замедления — по крайней мере, пока они не достигают максимально возможного результата на тесте.

Exponential graphs aside, it is important to recognize that all of these tests have their own flaws, and that AI remains jagged, capable of some tasks at a high level, while messing up others. Further, despite these amazing capabilities in tests, companies are still very early in adopting AI, meaning that, as of yet, remarkably little has changed in most organizations. But “most organizations” doesn’t mean every organization. We are already starting to see the first appearances of new approaches to organizing that take advantage of the new abilities of AI agents.

Оставив в стороне экспоненциальные графики, важно признать, что у всех этих тестов есть свои недостатки и что ИИ остаётся «зазубренным»: он способен выполнять одни задачи на высоком уровне, ошибаясь при этом в других. Более того, несмотря на эти поразительные возможности в тестах, компании всё ещё находятся на очень ранней стадии внедрения ИИ, а значит, на сегодняшний день в большинстве организаций изменилось удивительно мало. Но «большинство организаций» не означает «все организации». Мы уже начинаем видеть первые проявления новых подходов к организации работы, использующих новые способности ИИ-агентов.

Radical Changes to Work

Радикальные изменения в работе

A few weeks ago, a three-person team at StrongDM, a security software company focusing on access control, announced they had built a Software Factory — a way of working with AI agents that relied entirely on the AI to write, test, and ship production software without human involvement. The process included two (quite radical) rules: “Code must not be written by humans” and “Code must not be reviewed by humans.” To power the factory, each human engineer is expected to spend amounts equivalent to their salary on AI tokens, at least $1,000 a day.

Несколько недель назад команда из трёх человек в StrongDM, компании по разработке софта для безопасности с фокусом на контроле доступа, объявила, что построила Software Factory — способ работы с ИИ-агентами, полностью полагающийся на ИИ для написания, тестирования и выпуска продакшен-софта без участия человека. Процесс включал два (весьма радикальных) правила: «Код не должен писаться людьми» и «Код не должен проверяться людьми». Чтобы питать эту фабрику, каждый инженер-человек, как ожидается, тратит на ИИ-токены сумму, эквивалентную своей зарплате, — не менее $1000 в день.

The basic idea of the Factory is that it takes future product roadmaps, written by humans, and turns those into products. Coding agents use those roadmaps to build software while testing agents try out the software in a simulated customer environment (which the testing agents build as needed). The sets of agents provide feedback to each other, looping back-and-forth until the results satisfy the AI. Then humans review the finished product and the results are shipped to customers without anyone every touching, or even seeing, the underlying code.

Базовая идея Фабрики в том, что она берёт будущие продуктовые дорожные карты, написанные людьми, и превращает их в продукты. Кодинг-агенты используют эти дорожные карты, чтобы создавать софт, а тестирующие агенты опробуют софт в симулированной клиентской среде (которую тестирующие агенты создают по мере необходимости). Наборы агентов дают друг другу обратную связь, циклически взаимодействуя туда-сюда, пока результаты не удовлетворят ИИ. Затем люди проверяют готовый продукт, и результаты отправляются клиентам, причём никто никогда не касался и даже не видел исходного кода.

There are obviously a lot of details here that make this approach work, and the StrongDM team has shared a lot of them publicly. They also invited in some smart outside observers to watch the Factory in operation and comment on what they saw, so you can read the accounts of Simon Willison and Dan Shapiro to get a better sense of the strengths and weaknesses of their approaches. In many ways, however, the particular details of the Software Factory matter less than the fact that such radical experimentation into how we work is now not only possible, but likely necessary. AI is good enough to change how organizations operate, and the experimentation is just getting started, even as models continue to improve.

Очевидно, здесь множество деталей, благодаря которым этот подход работает, и команда StrongDM публично поделилась многими из них. Они также пригласили нескольких толковых сторонних наблюдателей понаблюдать за работой Фабрики и прокомментировать увиденное, так что вы можете прочитать отчёты Simon Willison и Dan Shapiro, чтобы лучше понять сильные и слабые стороны их подходов. Однако во многом конкретные детали Software Factory важны меньше, чем сам факт того, что столь радикальное экспериментирование с тем, как мы работаем, теперь не только возможно, но и, вероятно, необходимо. ИИ уже достаточно хорош, чтобы менять то, как функционируют организации, и эксперименты только начинаются — даже несмотря на то, что модели продолжают совершенствоваться.

Rolling Disruption

Накатывающая волна потрясений

Practical agents, jagged exponential improvement, and the ability to radically experiment with the nature of work combine to form a sort of rolling and unpredictable environment for AI advances. As AI capability crosses thresholds, it unlocks radical new use cases that change people’s views, sometimes overnight, about what AI can do. At the same time, organizations experimenting with AI will figure out how to make it work for them, leading to sudden announcements about new strategies or large-scale shifts in which kinds of employees companies value most. Plus, as AI continues to improve, more policymakers will become interested in AI governance, creating conflicts with AI companies.

Практичные агенты, зазубренное экспоненциальное улучшение и возможность радикально экспериментировать с природой работы вместе образуют своего рода накатывающую и непредсказуемую среду для развития ИИ. Когда возможности ИИ пересекают пороги, это открывает радикально новые сценарии использования, которые меняют — иногда за одну ночь — представления людей о том, на что способен ИИ. В то же время организации, экспериментирующие с ИИ, разберутся, как заставить его работать на них, что приведёт к внезапным объявлениям о новых стратегиях или масштабным сдвигам в том, какие категории сотрудников компании ценят больше всего. Кроме того, по мере дальнейшего совершенствования ИИ всё больше политиков будет интересоваться его регулированием, создавая конфликты с ИИ-компаниями.

This isn’t speculation because we saw this all happen in a single week. On February 22nd, a little-known financial firm, Citrini Research, published a fictional scenario about how AI adoption might destroy a number of established businesses by 2028. There were many elements in the piece that were clearly farfetched, but it struck a nerve on Wall Street, leading to major stock market price shifts. On February 26, financial services company Block announced 40% layoffs, implying this was due to AI. It is likely that the role of AI was greatly exaggerated, and AI was merely used as cover for large-scale layoffs. And then, to cap off the week, on February 27 a very public conflict occurred between the Pentagon and AI company Anthropic over who should be able to control the rules for how Claude could be used by the government.

Это не домыслы, потому что мы видели, как всё это произошло за одну неделю. 22 февраля малоизвестная финансовая фирма Citrini Research опубликовала вымышленный сценарий о том, как внедрение ИИ может разрушить ряд устоявшихся бизнесов к 2028 году. В этом материале было много элементов, которые явно притянуты за уши, но он задел за живое на Уолл-стрит, вызвав серьёзные сдвиги цен на фондовом рынке. 26 февраля компания финансовых услуг Block объявила о сокращении 40% штата, намекнув, что это связано с ИИ. Вероятно, роль ИИ была сильно преувеличена, и ИИ просто использовался как прикрытие для масштабных увольнений. И, наконец, чтобы завершить неделю, 27 февраля произошёл весьма публичный конфликт между Пентагоном и ИИ-компанией Anthropic по поводу того, кто должен контролировать правила использования Claude правительством.

In a lot of ways, each of those cases were not what they first appeared to be. The Citrini report was a fictional scenario, the Block layoffs were not about AI, and the conflict over AI at war revolved around a number of complicated issues that are still not completely clear. But I think that single week is a good illustration of what the near future will feel like. Sudden revelations about AI capability leading to rapid market reactions. Increasingly real impacts of AI on jobs (even if there is a lot of debate over whether those impacts will be good or bad in the short term). And increasing entanglement between AI companies and policymaking around the world. As the stakes go up, it is likely things will feel even more unstable.

Во многом каждый из этих случаев оказался не тем, чем выглядел на первый взгляд. Отчёт Citrini был вымышленным сценарием, увольнения в Block не были связаны с ИИ, а конфликт вокруг ИИ на войне вращался вокруг ряда сложных вопросов, которые до сих пор не до конца прояснены. Но я думаю, что эта одна неделя — хорошая иллюстрация того, каким будет ощущаться ближайшее будущее. Внезапные откровения о возможностях ИИ, ведущие к быстрым реакциям рынка. Всё более реальное влияние ИИ на рабочие места (даже если идёт много споров о том, будет ли это влияние хорошим или плохим в краткосрочной перспективе). И растущее переплетение ИИ-компаний с выработкой политики по всему миру. По мере того как ставки растут, всё, вероятно, будет ощущаться ещё более нестабильным.

It is possible, of course, that things settle down. Maybe AI improvement hits a wall, organizations absorb the changes gradually, and the rolling disruptions become more manageable as people learn what AI can and can’t do. History is full of technologies that were supposed to change everything overnight but instead took decades to fully reshape the economy.

Конечно, возможно, что всё успокоится. Может быть, улучшение ИИ упрётся в стену, организации постепенно усвоят изменения, а накатывающие потрясения станут более управляемыми по мере того, как люди узнают, что ИИ может и чего не может. История полна технологий, которые должны были изменить всё за одну ночь, но вместо этого десятилетиями перестраивали экономику.

But I wouldn’t bet on it.

Но я бы на это не ставил.

One reason is that AI companies are telling us, fairly explicitly, what comes next: recursive self-improvement, or RSI. This is the idea that AI systems are increasingly being used to build better AI systems, creating a feedback loop that could accelerate the very curves I showed you above. At Davos in January, Anthropic’s Dario Amodei explained that if you make models that are good at coding and good at AI research, you can use them to build the next generation of models, speeding up the loop. He noted that engineers within Anthropic barely write code themselves anymore. When OpenAI released its latest Codex model in February, the company stated it was “our first model that was instrumental in creating itself.” And Google DeepMind’s Demis Hassabis acknowledged at the same Davos panel that closing the self-improvement loop is something all the major labs are actively working on, even as he warned there are still missing capabilities and real risks.

Одна из причин в том, что ИИ-компании довольно явно говорят нам, что будет дальше: рекурсивное самоулучшение, или RSI. Это идея о том, что ИИ-системы всё чаще используются для создания более совершенных ИИ-систем, формируя петлю обратной связи, которая может ускорить те самые кривые, что я показал выше. В Давосе в январе Дарио Амодеи из Anthropic объяснил, что если вы создаёте модели, которые хороши в программировании и хороши в исследованиях ИИ, вы можете использовать их для создания следующего поколения моделей, ускоряя эту петлю. Он отметил, что инженеры внутри Anthropic уже почти не пишут код сами. Когда в феврале OpenAI выпустила свою новейшую модель Codex, компания заявила, что это «наша первая модель, которая сыграла важную роль в создании самой себя». А Демис Хассабис из Google DeepMind на той же давосской панели признал, что замыкание петли самоулучшения — это то, над чем активно работают все крупные лаборатории, даже хотя он и предупредил, что всё ещё не хватает ряда возможностей и существуют реальные риски.

We don’t know how far this goes. RSI has been a theoretical concept for decades, and the labs may hit bottlenecks, whether in compute, in data, or in the sheer difficulty of AI research. We also don’t know whether LLM-based AIs will eventually hit a ceiling where they cannot get any better, or where the jagged frontier never smooths out. I don’t think we know anything for certain, but I also think we are past the point where recursive self-improvement is science fiction. Instead, it is an explicit item on the roadmap of every major AI company. If the loop does close, the exponential curves we’ve been watching would get steeper, with an uncertain endpoint.

Мы не знаем, как далеко это зайдёт. RSI оставалось теоретической концепцией на протяжении десятилетий, и лаборатории могут упереться в узкие места — будь то вычислительные мощности, данные или сама по себе сложность исследований ИИ. Мы также не знаем, упрутся ли в конце концов ИИ на основе LLM в потолок, за которым они уже не смогут становиться лучше, или где зазубренный фронтир так и не сгладится. Не думаю, что мы хоть что-то знаем наверняка, но также думаю, что мы прошли точку, за которой рекурсивное самоулучшение остаётся научной фантастикой. Напротив, это явный пункт в дорожной карте каждой крупной ИИ-компании. Если петля действительно замкнётся, экспоненциальные кривые, за которыми мы наблюдали, станут круче — с неопределённой конечной точкой.

So here is where we are today: the instability of that single week in February was a preview of what it feels like when the increasing ability of AI starts to interact with markets, jobs, and governments all at once. That feeling of uncertainty will likely only spread further. But uncertainty is not the same as helplessness. When a technology is this powerful and this unsettled, the choices that individuals and organizations make right now matter more. We can see the shape of the Thing now, but we can still influence the Thing itself, and what it means for all of us. We clearly don’t have rules or role models for how AI gets used at work, in schools, or in government. That’s a problem, but it also means that every organization figuring out a good way to use AI right now is setting a precedent for everyone else. The window to shape the Thing may not last long, but it is here now.

Итак, вот где мы находимся сегодня: нестабильность той одной недели в феврале была предвестником того, как ощущается момент, когда растущие способности ИИ начинают одновременно взаимодействовать с рынками, рабочими местами и правительствами. Это ощущение неопределённости, скорее всего, будет распространяться всё шире. Но неопределённость — это не то же самое, что беспомощность. Когда технология настолько мощна и настолько неустоялась, выбор, который отдельные люди и организации делают прямо сейчас, имеет ещё большее значение. Мы уже можем видеть форму Этой Штуки, но мы по-прежнему можем влиять на саму Эту Штуку и на то, что она значит для всех нас. У нас явно нет ни правил, ни образцов для подражания в том, как ИИ используется на работе, в школах или в правительстве. Это проблема, но это также означает, что каждая организация, которая прямо сейчас находит хороший способ использовать ИИ, создаёт прецедент для всех остальных. Окно для того, чтобы сформировать Эту Штуку, может продлиться недолго, но оно открыто прямо сейчас.

Share

Поделиться