The Shape of the Thing

The Shape of the Thing

Где мы находимся прямо сейчас и что, вероятно, будет дальше

В октябре 2023 года я писал о «Форме тени Этой Штуки», размышляя о том, во что ИИ может превратиться в ближайшие годы. Думаю, теперь мы видим Эту Штуку гораздо яснее — как и некоторые сопутствующие последствия. Как я уже обсуждал в недавних постах, мы вступили в новую фазу развития ИИ. После появления ChatGPT совместная работа человека и ИИ приняла форму того, что я назвал коинтеллектом: человек в режиме диалога подсказывал ИИ, чтобы получить помощь в задачах. С конца 2025 года мы вступили в новую эру благодаря ИИ-агентам, таким как Claude Code, Codex от OpenAI и OpenClaw. Это ИИ-системы, которым можно просто поручить работу — иногда часы человеческого труда — и получить разумные и полезные результаты за минуты. Это эра управления ИИ, а не работы вместе с ними.

Этот новый подход к ИИ — следствие стремительного экспоненциального роста его возможностей. А значит, нельзя понять, где мы находимся и куда можем двигаться дальше, не понимая растущих способностей ИИ.

Поднимаясь по экспоненте

Экспоненциальный рост трудно представить наглядно, поэтому вместо диаграмм и графиков я хочу начать с выдр. Если вы следите за моими текстами об ИИ, вы знаете о моём тесте с выдрами, в котором я предлагаю разным ИИ-моделям для генерации изображений показать картинку «выдра в самолёте пользуется wifi». Как видно ниже, прогресс с 2022 года (года запуска ChatGPT) по 2025-й был быстрым и впечатляющим.

Итак, что же произошло за время с момента того изображения в апреле 2025 года? Когда картинки стали почти идеальными, новым фронтиром стало видео — и здесь тоже наблюдается экспоненциальный рост. Чтобы это продемонстрировать, я дал самой продвинутой (и до сих пор не выпущенной в США) ИИ-видеомодели от создателя TikTok, компании Bytedance, такой промпт: Документальный фильм о том, как выдры воспринимают «тест с выдрами» Итана Моллика, который оценивает ИИ по их способности создавать изображения выдр, сидящих в самолётах. Это самый первый результат — обязательно включите звук:

Если не считать единственной ошибки в произношении, результат почти безупречен — вплоть до того, что выдры анимированы с человекоподобной мимикой. Конечно, видеомодели — это здорово, но они не обязательно показательны для того, на что способен полезный агентный ИИ. Итак, что если посмотреть на бенчмарки способностей ИИ — увидим ли мы ту же экспоненциальную кривую?

Безусловно, увидим — в самой известной на сегодня оценке в сфере ИИ, графике METR Long Tasks. Он пытается измерить прогресс ИИ, оценивая, сколько человеческого труда ИИ может выполнить автономно с определённой степенью надёжности. У него есть свои критики, и даже сама METR указывала на возможные проблемы. Но если вам не нравится график METR, вы обнаружите, что большинство графиков способностей ИИ имеют ту же самую кривую.

В качестве примера я выбрал четыре сложных и разных теста ИИ и построил график их прогресса во времени на изображении ниже. В левом верхнем углу — результаты на бенчмарке Google-Proof Q&A, тесте на знания, где аспиранты, пользуясь только Google, набирают лишь 34% за пределами своей области и около 70% внутри неё, тогда как лучшие ИИ сейчас набирают 94%. Или взгляните на GDPval, где отраслевые эксперты сравнивают работу ИИ с работой опытных людей над сложными задачами и где новейшие ИИ теперь достигают или превосходят уровень лучших специалистов в 82% случаев. Та же картина наблюдается и в Humanity’s Last Exam — наборе очень сложных задач, составленных университетскими профессорами и требующих значительной экспертизы для решения. Или мы можем даже использовать способность ИИ решать головоломки (попробовать их можно здесь, это весело!). Каждый из них демонстрирует похожий быстрый рост способностей почти без признаков замедления — по крайней мере, пока они не достигают максимально возможного результата на тесте.

Оставив в стороне экспоненциальные графики, важно признать, что у всех этих тестов есть свои недостатки и что ИИ остаётся «зазубренным»: он способен выполнять одни задачи на высоком уровне, ошибаясь при этом в других. Более того, несмотря на эти поразительные возможности в тестах, компании всё ещё находятся на очень ранней стадии внедрения ИИ, а значит, на сегодняшний день в большинстве организаций изменилось удивительно мало. Но «большинство организаций» не означает «все организации». Мы уже начинаем видеть первые проявления новых подходов к организации работы, использующих новые способности ИИ-агентов.

Радикальные изменения в работе

Несколько недель назад команда из трёх человек в StrongDM, компании по разработке софта для безопасности с фокусом на контроле доступа, объявила, что построила Software Factory — способ работы с ИИ-агентами, полностью полагающийся на ИИ для написания, тестирования и выпуска продакшен-софта без участия человека. Процесс включал два (весьма радикальных) правила: «Код не должен писаться людьми» и «Код не должен проверяться людьми». Чтобы питать эту фабрику, каждый инженер-человек, как ожидается, тратит на ИИ-токены сумму, эквивалентную своей зарплате, — не менее $1000 в день.

Базовая идея Фабрики в том, что она берёт будущие продуктовые дорожные карты, написанные людьми, и превращает их в продукты. Кодинг-агенты используют эти дорожные карты, чтобы создавать софт, а тестирующие агенты опробуют софт в симулированной клиентской среде (которую тестирующие агенты создают по мере необходимости). Наборы агентов дают друг другу обратную связь, циклически взаимодействуя туда-сюда, пока результаты не удовлетворят ИИ. Затем люди проверяют готовый продукт, и результаты отправляются клиентам, причём никто никогда не касался и даже не видел исходного кода.

Очевидно, здесь множество деталей, благодаря которым этот подход работает, и команда StrongDM публично поделилась многими из них. Они также пригласили нескольких толковых сторонних наблюдателей понаблюдать за работой Фабрики и прокомментировать увиденное, так что вы можете прочитать отчёты Simon Willison и Dan Shapiro, чтобы лучше понять сильные и слабые стороны их подходов. Однако во многом конкретные детали Software Factory важны меньше, чем сам факт того, что столь радикальное экспериментирование с тем, как мы работаем, теперь не только возможно, но и, вероятно, необходимо. ИИ уже достаточно хорош, чтобы менять то, как функционируют организации, и эксперименты только начинаются — даже несмотря на то, что модели продолжают совершенствоваться.

Накатывающая волна потрясений

Практичные агенты, зазубренное экспоненциальное улучшение и возможность радикально экспериментировать с природой работы вместе образуют своего рода накатывающую и непредсказуемую среду для развития ИИ. Когда возможности ИИ пересекают пороги, это открывает радикально новые сценарии использования, которые меняют — иногда за одну ночь — представления людей о том, на что способен ИИ. В то же время организации, экспериментирующие с ИИ, разберутся, как заставить его работать на них, что приведёт к внезапным объявлениям о новых стратегиях или масштабным сдвигам в том, какие категории сотрудников компании ценят больше всего. Кроме того, по мере дальнейшего совершенствования ИИ всё больше политиков будет интересоваться его регулированием, создавая конфликты с ИИ-компаниями.

Это не домыслы, потому что мы видели, как всё это произошло за одну неделю. 22 февраля малоизвестная финансовая фирма Citrini Research опубликовала вымышленный сценарий о том, как внедрение ИИ может разрушить ряд устоявшихся бизнесов к 2028 году. В этом материале было много элементов, которые явно притянуты за уши, но он задел за живое на Уолл-стрит, вызвав серьёзные сдвиги цен на фондовом рынке. 26 февраля компания финансовых услуг Block объявила о сокращении 40% штата, намекнув, что это связано с ИИ. Вероятно, роль ИИ была сильно преувеличена, и ИИ просто использовался как прикрытие для масштабных увольнений. И, наконец, чтобы завершить неделю, 27 февраля произошёл весьма публичный конфликт между Пентагоном и ИИ-компанией Anthropic по поводу того, кто должен контролировать правила использования Claude правительством.

Во многом каждый из этих случаев оказался не тем, чем выглядел на первый взгляд. Отчёт Citrini был вымышленным сценарием, увольнения в Block не были связаны с ИИ, а конфликт вокруг ИИ на войне вращался вокруг ряда сложных вопросов, которые до сих пор не до конца прояснены. Но я думаю, что эта одна неделя — хорошая иллюстрация того, каким будет ощущаться ближайшее будущее. Внезапные откровения о возможностях ИИ, ведущие к быстрым реакциям рынка. Всё более реальное влияние ИИ на рабочие места (даже если идёт много споров о том, будет ли это влияние хорошим или плохим в краткосрочной перспективе). И растущее переплетение ИИ-компаний с выработкой политики по всему миру. По мере того как ставки растут, всё, вероятно, будет ощущаться ещё более нестабильным.

Конечно, возможно, что всё успокоится. Может быть, улучшение ИИ упрётся в стену, организации постепенно усвоят изменения, а накатывающие потрясения станут более управляемыми по мере того, как люди узнают, что ИИ может и чего не может. История полна технологий, которые должны были изменить всё за одну ночь, но вместо этого десятилетиями перестраивали экономику.

Но я бы на это не ставил.

Одна из причин в том, что ИИ-компании довольно явно говорят нам, что будет дальше: рекурсивное самоулучшение, или RSI. Это идея о том, что ИИ-системы всё чаще используются для создания более совершенных ИИ-систем, формируя петлю обратной связи, которая может ускорить те самые кривые, что я показал выше. В Давосе в январе Дарио Амодеи из Anthropic объяснил, что если вы создаёте модели, которые хороши в программировании и хороши в исследованиях ИИ, вы можете использовать их для создания следующего поколения моделей, ускоряя эту петлю. Он отметил, что инженеры внутри Anthropic уже почти не пишут код сами. Когда в феврале OpenAI выпустила свою новейшую модель Codex, компания заявила, что это «наша первая модель, которая сыграла важную роль в создании самой себя». А Демис Хассабис из Google DeepMind на той же давосской панели признал, что замыкание петли самоулучшения — это то, над чем активно работают все крупные лаборатории, даже хотя он и предупредил, что всё ещё не хватает ряда возможностей и существуют реальные риски.

Мы не знаем, как далеко это зайдёт. RSI оставалось теоретической концепцией на протяжении десятилетий, и лаборатории могут упереться в узкие места — будь то вычислительные мощности, данные или сама по себе сложность исследований ИИ. Мы также не знаем, упрутся ли в конце концов ИИ на основе LLM в потолок, за которым они уже не смогут становиться лучше, или где зазубренный фронтир так и не сгладится. Не думаю, что мы хоть что-то знаем наверняка, но также думаю, что мы прошли точку, за которой рекурсивное самоулучшение остаётся научной фантастикой. Напротив, это явный пункт в дорожной карте каждой крупной ИИ-компании. Если петля действительно замкнётся, экспоненциальные кривые, за которыми мы наблюдали, станут круче — с неопределённой конечной точкой.

Итак, вот где мы находимся сегодня: нестабильность той одной недели в феврале была предвестником того, как ощущается момент, когда растущие способности ИИ начинают одновременно взаимодействовать с рынками, рабочими местами и правительствами. Это ощущение неопределённости, скорее всего, будет распространяться всё шире. Но неопределённость — это не то же самое, что беспомощность. Когда технология настолько мощна и настолько неустоялась, выбор, который отдельные люди и организации делают прямо сейчас, имеет ещё большее значение. Мы уже можем видеть форму Этой Штуки, но мы по-прежнему можем влиять на саму Эту Штуку и на то, что она значит для всех нас. У нас явно нет ни правил, ни образцов для подражания в том, как ИИ используется на работе, в школах или в правительстве. Это проблема, но это также означает, что каждая организация, которая прямо сейчас находит хороший способ использовать ИИ, создаёт прецедент для всех остальных. Окно для того, чтобы сформировать Эту Штуку, может продлиться недолго, но оно открыто прямо сейчас.

Поделиться