Sequoia Ascent 2026 summary
Андрей Карпатый в беседе со Стефани Жан на Sequoia Ascent 2026 описывает декабрь 2025 как переломную точку: агенты вроде Claude Code и Codex стали выдавать большие связные куски кода без правок, и программист превращается в оркестратора агентов. Он формулирует Software 3.0 — программирование LLM через контекст, промпты и инструменты — и на примерах MenuGen и LLM-вики показывает, что часть приложений просто исчезает, когда нейросеть напрямую преобразует входные данные в выходные. Ключевой тезис: традиционный софт автоматизирует то, что можно специфицировать, а LLM с RL — то, что можно верифицировать; отсюда «рваный» интеллект, зависящий от верифицируемости задачи и внимания лабораторий. Карпатый разводит vibe coding (поднимает пол) и agentic engineering (поднимает потолок), советует основателям искать ценные верифицируемые домены, недообученные фронтир-лабораториями, и строить agent-native инфраструктуру с сенсорами и актуаторами. Он называет LLM не «животными», а «призраками» — статистическими симуляциями без внутренней мотивации, и завершает мыслью: мышление можно делегировать, но понимание — нет; именно понимание остаётся бутылочным горлышком человека-директора.
Sequoia Ascent 2026 summary
Конспект Sequoia Ascent 2026
30 апреля 2026
I did a fireside chat at Sequoia Ascent 2026. The YouTube video is here:
Я провёл fireside chat на Sequoia Ascent 2026. Видео на YouTube здесь:
As an experiment, I fed an LLM all of my recent blog posts and tweets, then I had it read this video's transcript and produce 1) a summary and 2) a cleaned up transcript (correcting all transcription mistakes, getting rid of fill words, etc). I am posting both of these below. These can be useful for both people who may want to just read the summary in text format, but also for LLMs so that my content is legible and available to them.
В качестве эксперимента я скормил LLM все свои недавние посты в блоге и твиты, затем дал ей прочитать транскрипт этого видео и попросил подготовить 1) конспект и 2) очищенный транскрипт (с исправлением всех ошибок распознавания, удалением слов-паразитов и т.д.). Я выкладываю и то и другое ниже. Это может быть полезно как людям, которые хотят просто прочитать конспект в текстовом виде, так и LLM — чтобы мой контент был для них читаемым и доступным.
AI generated content below for this talk follows. I used a top capability model (in this case Codex 5.5) and read the content and it reads ok without glaring mistakes.
Ниже идёт сгенерированный ИИ контент по этому выступлению. Я использовал топовую модель (в данном случае Codex 5.5), прочитал материал — он читается нормально, без явных ошибок.
Sequoia Ascent 2026: Software 3.0, Agentic Engineering, and Jagged Intelligence
Sequoia Ascent 2026: Software 3.0, agentic engineering и «рваный» интеллект
I recently joined Stephanie Zhan for a fireside chat at Sequoia Ascent 2026, speaking with founders about the recent shift in AI agents, what it means for software, and how I think about the next wave of AI-native companies.
Я недавно присоединился к Stephanie Zhan для fireside chat на Sequoia Ascent 2026, чтобы поговорить с основателями о недавнем сдвиге в AI-агентах, о том, что это значит для софта, и о том, как я думаю о следующей волне AI-native компаний.
The transcript from the event is a bit noisy, so I wanted to write up the main intellectual content in a cleaner form. The short version is that I think we have crossed a new threshold. LLMs are no longer just chatbots or autocomplete. They are becoming a new programmable layer for digital work.
Транскрипт мероприятия немного шумный, поэтому я хотел изложить основное интеллектуальное содержание в более чистой форме. Короткая версия: я думаю, что мы перешли новый порог. LLM — это уже не просто чат-боты или автодополнение. Они становятся новым программируемым слоем для цифровой работы.
This is the compact version of the conversation.
Это сжатая версия беседы.
1. December 2025 Was an Agentic Inflection Point
1. Декабрь 2025 стал точкой агентного перелома
I said recently that I have never felt more behind as a programmer.
Я недавно сказал, что никогда не чувствовал себя настолько отставшим как программист.
The reason is not that programming became harder in the old sense. It is that the default workflow changed. For much of 2025, tools like Claude Code, Codex, and Cursor-like agents were useful but still required frequent correction. Around December 2025, I felt a step change: the generated chunks got larger, more coherent, and more reliable. I started trusting the agents with more of the work.
Причина не в том, что программирование стало сложнее в старом смысле. Дело в том, что изменился рабочий процесс по умолчанию. Большую часть 2025 года такие инструменты, как Claude Code, Codex и агенты в духе Cursor, были полезны, но всё ещё требовали частых правок. Около декабря 2025 я почувствовал ступенчатый скачок: сгенерированные куски стали больше, связнее и надёжнее. Я начал доверять агентам всё больше работы.
The unit of programming changed from typing lines of code to delegating larger "macro actions":
Единица программирования изменилась: вместо набора строк кода — делегирование более крупных «макродействий»:
Реализуй эту функцию. Отрефактори эту подсистему. Изучи эту библиотеку. Подними этот сервис. Напиши тесты, прогони их и почини падения. Сравни подходы и предложи план.
This is why I think the profession is being refactored. The programmer is increasingly not just a code writer, but an orchestrator of agents.
Именно поэтому я считаю, что профессия перестраивается. Программист всё больше становится не просто автором кода, а оркестратором агентов.
2. Software 3.0: The Context Window as the New Program
2. Software 3.0: контекстное окно как новая программа
I think of this as the next step in a sequence:
Я воспринимаю это как следующий шаг последовательности:
Software 1.0: люди пишут явный код. Software 2.0: люди создают датасеты, цели и нейронные сети; программа выучивается в виде весов. Software 3.0: люди программируют LLM через промпты, контекст, инструменты, примеры, память и инструкции.
In Software 3.0, the context window becomes the main lever. The LLM is an interpreter over that context, performing computation over digital information.
В Software 3.0 контекстное окно становится главным рычагом. LLM — это интерпретатор над этим контекстом, выполняющий вычисления над цифровой информацией.
One example is installation. In the old world, installing a complex tool across many environments required a brittle shell script full of conditionals. In the Software 3.0 world, the installer can be a block of instructions you paste into an agent. The agent reads the local environment, debugs errors, adapts to the machine, and completes the setup.
Один из примеров — установка. В старом мире установка сложного инструмента в разных окружениях требовала хрупкого shell-скрипта, забитого условиями. В мире Software 3.0 установщик может быть блоком инструкций, который вы вставляете в агент. Агент читает локальное окружение, отлаживает ошибки, адаптируется к машине и завершает установку.
That is a different kind of program. It is less precise, but more adaptive.
Это программа другого типа. Менее точная, но более адаптивная.
3. MenuGen and the Moment Software Disappears
3. MenuGen и момент, когда софт исчезает
I used MenuGen as an example of a deeper shift.
Я использовал MenuGen как пример более глубокого сдвига.
MenuGen was a traditional web app: take a picture of a restaurant menu, OCR the dish names, generate images of the dishes, and render the result in a UI. It required frontend code, APIs, image generation, deployment, auth, payments, secrets, and infrastructure.
MenuGen был традиционным веб-приложением: сфотографировать меню ресторана, распознать названия блюд, сгенерировать изображения блюд и показать результат в UI. Требовался фронтенд-код, API, генерация изображений, деплой, авторизация, платежи, секреты и инфраструктура.
But later, I saw the Software 3.0 version: take a photo of the menu, give it to a multimodal model, and ask it to render dish images directly onto the menu image.
Но позже я увидел версию в духе Software 3.0: сфотографируй меню, отдай мультимодальной модели и попроси отрисовать изображения блюд прямо поверх изображения меню.
In that version, much of the app disappears. The neural network directly transforms input media into output media. The old software stack was scaffolding around a transformation the model can now perform directly.
В этой версии большая часть приложения исчезает. Нейросеть напрямую преобразует входные медиа в выходные медиа. Старый стек был лесами вокруг преобразования, которое модель теперь может выполнить напрямую.
This is one of the most important founder implications: AI is not just a faster way to build the old apps. Some apps should stop existing as apps.
Это один из важнейших выводов для основателей: AI — это не просто более быстрый способ строить старые приложения. Некоторые приложения должны перестать существовать как приложения.
4. The New Opportunity Is Not Just Faster Programming
4. Новая возможность — это не просто более быстрое программирование
The shift is broader than coding. LLMs automate forms of information processing that were not previously programmable.
Сдвиг шире, чем кодинг. LLM автоматизируют формы обработки информации, которые раньше не поддавались программированию.
My LLM Wiki pattern is the clearest example. Instead of using retrieval-augmented generation to answer questions from raw documents each time, an agent incrementally compiles raw sources into a persistent Markdown wiki: summaries, entity pages, concept pages, contradictions, cross-links, logs, and evolving synthesis.
Мой паттерн LLM Wiki — самый наглядный пример. Вместо того чтобы каждый раз отвечать на вопросы из сырых документов через RAG, агент инкрементально компилирует сырые источники в постоянную Markdown-вики: саммари, страницы сущностей, страницы концептов, противоречия, перекрёстные ссылки, логи и эволюционирующий синтез.
No classical program could robustly maintain that kind of knowledge base across messy human documents. But an LLM can.
Ни одна классическая программа не смогла бы устойчиво поддерживать такую базу знаний поверх грязных человеческих документов. А LLM может.
The lesson: do not only ask, "What existing workflow can AI speed up?" Also ask, "What information transformation was impossible before, but is now natural?"
Урок: не спрашивайте только «какой существующий рабочий процесс AI может ускорить?». Спрашивайте также: «какое преобразование информации было невозможно раньше, но теперь стало естественным?»
5. Verifiability Explains Where AI Moves Fastest
5. Верифицируемость объясняет, где AI движется быстрее всего
My core automation framework is:
Моя ключевая рамка автоматизации такова:
Традиционный софт автоматизирует то, что можно специфицировать. LLM и reinforcement learning автоматизируют то, что можно верифицировать.
If a task has an automatic reward or success signal, models can practice it. This is why math, coding, tests, benchmarks, games, and many engineering tasks improve so quickly. They are resettable, repeatable, and rewardable.
Если у задачи есть автоматическая награда или сигнал успеха, модели могут на ней тренироваться. Именно поэтому математика, кодинг, тесты, бенчмарки, игры и многие инженерные задачи так быстро улучшаются. Они сбрасываемы, повторяемы и вознаграждаемы.
This also explains why coding agents feel dramatically better than many ordinary chatbot experiences. Coding gives the model feedback: tests pass or fail, programs run or crash, diffs can be inspected, benchmarks can be measured.
Это также объясняет, почему агенты для кодинга ощущаются драматически лучше, чем многие обычные чат-боты. Кодинг даёт модели обратную связь: тесты проходят или падают, программы запускаются или крашатся, диффы можно осмотреть, бенчмарки можно измерить.
6. Jagged Intelligence Has Two Axes: Verifiability and Training Attention
6. «Рваный» интеллект имеет две оси: верифицируемость и внимание при обучении
The interview added an important refinement to the verifiability thesis.
Интервью добавило важное уточнение к тезису о верифицируемости.
Model capability is not only about whether a task is verifiable. It also depends on whether the task was emphasized by labs during training, post-training, synthetic data generation, and reinforcement learning.
Способности модели зависят не только от того, верифицируема ли задача. Они также зависят от того, делали ли лаборатории акцент на этой задаче во время тренировки, post-training, генерации синтетических данных и reinforcement learning.
A rough formula:
Грубая формула:
capability spike ~= verifiability x training attention x data coverage x economic value
capability spike ~= verifiability x training attention x data coverage x economic value
Chess is a good example. When GPT-4 improved at chess, that was not necessarily because general intelligence smoothly improved everywhere. It may also have been because much more chess data was included in the training mix.
Шахматы — хороший пример. Когда GPT-4 улучшилась в шахматах, это не обязательно означало, что общая интеллектуальность плавно выросла повсюду. Возможно, дело было в том, что в обучающую смесь добавили гораздо больше шахматных данных.
This matters because frontier models do not come with a manual. They are artifacts of pretraining mixtures, RL environments, benchmark pressure, product priorities, and economic incentives. They spike in some places and behave strangely in others.
Это важно, потому что фронтир-модели не идут с инструкцией. Они — артефакты смеси предобучения, RL-сред, давления бенчмарков, продуктовых приоритетов и экономических стимулов. Они выбиваются вверх в одних местах и ведут себя странно в других.
So the practical question for a founder is: are you on the model's rails?
Поэтому практический вопрос для основателя такой: вы на рельсах модели или нет?
If your task sits inside a region that is verifiable and heavily trained, the model may fly. If not, it may fail in surprisingly basic ways. You may need better context, tools, fine-tuning, your own evals, or your own reinforcement learning environment.
Если ваша задача находится в области, которая верифицируема и плотно натренирована, модель может полететь. Если нет — она может проваливаться на удивление базовым образом. Возможно, вам понадобятся более качественный контекст, инструменты, fine-tuning, собственные evals или собственная среда reinforcement learning.
7. Vibe Coding vs. Agentic Engineering
7. Vibe coding против agentic engineering
I distinguish two related but different ideas:
Я различаю две связанные, но разные идеи:
Vibe coding поднимает пол. Он позволяет почти любому создавать софт, описывая словами то, что он хочет. Agentic engineering поднимает потолок. Это профессиональная дисциплина координации ошибающихся агентов с сохранением корректности, безопасности, вкуса и поддерживаемости.
Vibe coding is fine for prototypes and personal tools. Agentic engineering is what serious teams need.
Vibe coding годится для прототипов и личных инструментов. Agentic engineering — то, что нужно серьёзным командам.
The agentic engineer does not blindly accept generated code. They design specs, supervise plans, inspect diffs, write tests, create evaluation loops, manage permissions, isolate worktrees, and preserve quality.
Agentic-инженер не принимает сгенерированный код вслепую. Он проектирует спеки, контролирует планы, проверяет диффы, пишет тесты, создаёт циклы оценки, управляет правами, изолирует worktree и сохраняет качество.
My MenuGen payment bug is a useful example. The agent tried to match Stripe purchases to Google accounts using email addresses. That is plausible code, but bad system design: the Stripe email and Google login email can differ. A human needs enough product and engineering judgment to insist on persistent user IDs.
Мой баг с оплатой в MenuGen — полезный пример. Агент пытался сопоставлять покупки в Stripe с Google-аккаунтами по email-адресам. Это правдоподобный код, но плохой системный дизайн: email в Stripe и email в Google-аккаунте могут отличаться. Человеку нужно достаточно продуктового и инженерного суждения, чтобы настоять на постоянных user ID.
The frontier skill is not memorizing every API detail. Agents can remember whether a tensor library uses dim, axis, keepdim, reshape, or permute. The human still needs to understand the underlying concepts: storage, views, memory copies, invariants, identity, security boundaries, and the shape of the system.
Фронтир-навык — это не запоминание каждой детали API. Агенты могут помнить, использует ли тензорная библиотека dim, axis, keepdim, reshape или permute. Человеку всё ещё нужно понимать основополагающие концепции: хранилище, представления, копирование памяти, инварианты, идентичность, границы безопасности и форму системы.
8. Hiring Should Change
8. Найм должен измениться
If agentic engineering is the new professional skill, hiring should test it directly.
Если agentic engineering — это новый профессиональный навык, найм должен тестировать его напрямую.
Traditional coding puzzles are increasingly mismatched. A better interview might be: build a substantial project with agents, deploy it, make it secure, and then have adversarial agents try to break it.
Традиционные кодинг-головоломки всё хуже подходят. Лучшее интервью может выглядеть так: построить с агентами серьёзный проект, задеплоить его, сделать его защищённым, а затем дать состязательным агентам попытаться его сломать.
This tests the real skill:
Это тестирует настоящий навык:
Может ли кандидат декомпозировать работу для агентов? Может ли он писать полезные спеки? Может ли он сохранять качество, двигаясь быстро? Может ли он ревьюить сгенерированную работу? Может ли он защитить и закалить систему? Может ли он использовать агентов как рычаг, а не штамповать мусор?
The old "10x engineer" idea may become much more extreme. People who master agentic workflows may outperform others by far more than 10x.
Старая идея «10x-инженера» может стать гораздо более экстремальной. Люди, освоившие agentic-воркфлоу, могут опережать остальных гораздо больше чем в 10 раз.
9. Founders Should Look for Valuable Verifiable Environments
9. Основателям стоит искать ценные верифицируемые среды
For founders, one important opportunity is finding domains that are valuable, verifiable, and undertrained by frontier labs.
Для основателей одна из важных возможностей — найти домены, которые ценны, верифицируемы и недостаточно натренированы фронтир-лабораториями.
If you can create a domain-specific environment where models can try actions and receive reliable rewards, you may be able to improve performance with fine-tuning or reinforcement learning even if the base model is not already excellent there.
Если вы можете создать доменно-специфичную среду, где модели могут пробовать действия и получать надёжные награды, вы можете улучшить производительность через fine-tuning или reinforcement learning, даже если базовая модель там пока не блестящая.
The most obvious domains, like coding and math, are already heavily targeted by labs. But many economically important domains may have latent verifiable structure that has not yet been exploited.
Самые очевидные домены, такие как кодинг и математика, уже активно охвачены лабораториями. Но многие экономически важные домены могут иметь скрытую верифицируемую структуру, которая пока не освоена.
That is a startup wedge.
Это стартап-клин.
10. Agent-Native Infrastructure: Build for the Agent, Not Just the Human
10. Agent-native инфраструктура: стройте для агента, а не только для человека
Most software is still built for humans clicking through screens.
Большая часть софта всё ещё построена под людей, кликающих по экранам.
Docs say things like "go to this URL, click this button, open this settings panel." But increasingly the user is not the human directly. The user is the human's agent.
В документации пишут вещи вроде «зайди по этой ссылке, нажми эту кнопку, открой эту панель настроек». Но всё чаще пользователь — не сам человек напрямую. Пользователь — это агент человека.
This means products need agent-native surfaces:
Это значит, что продуктам нужны agent-native поверхности:
Markdown-документация. CLI. API. MCP-серверы. Структурированные логи. Машиночитаемые схемы. Готовые к вставке инструкции для агентов. Безопасные права доступа. Аудируемые действия. Безголовые сценарии настройки.
I think about this in terms of sensors and actuators. A sensor turns some state of the world into digital information. An actuator lets an agent change something. The future stack is agents using sensors and actuators on behalf of people and organizations.
Я думаю об этом в терминах сенсоров и актуаторов. Сенсор превращает какое-то состояние мира в цифровую информацию. Актуатор позволяет агенту что-то изменить. Стек будущего — это агенты, использующие сенсоры и актуаторы от имени людей и организаций.
The MenuGen deployment story remains a useful benchmark. Building the app was easy compared to wiring Vercel, auth, payments, DNS, secrets, and production settings. In a mature agent-native world, I should be able to say "build MenuGen" and have the agent deploy the whole thing without manual clicking.
История с деплоем MenuGen остаётся полезным мерилом. Построить приложение было легко по сравнению с обвязкой Vercel, авторизации, платежей, DNS, секретов и продакшен-настроек. В зрелом agent-native мире я должен иметь возможность сказать «построй MenuGen» — и агент задеплоит всё целиком без ручных кликов.
11. Ghosts, Not Animals
11. Призраки, а не животные
My Animals vs. Ghosts framing is a way to avoid bad intuitions.
Моя рамка Animals vs. Ghosts — способ избегать плохих интуиций.
LLMs are not animals. They do not have biological drives, embodied survival pressure, curiosity, play, or intrinsic motivation in the animal sense. They are statistical simulations of human artifacts, shaped by pretraining, post-training, RL, product feedback, and economic incentives.
LLM — не животные. У них нет биологических драйвов, телесного давления выживания, любопытства, игры или внутренней мотивации в животном смысле. Это статистические симуляции человеческих артефактов, сформированные предобучением, post-training, RL, продуктовой обратной связью и экономическими стимулами.
This matters because anthropomorphic expectations mislead us. These systems can be brilliant in one moment and bizarrely dumb in the next. They are not smooth human minds. They are jagged, alien tools.
Это важно, потому что антропоморфные ожидания вводят нас в заблуждение. Эти системы могут быть гениальными в один момент и нелепо тупыми в следующий. Это не плавные человеческие умы. Это рваные, чужеродные инструменты.
The right posture is neither dismissal nor blind trust. It is empirical familiarity: learn where they work, where they fail, what they were trained for, and how to build guardrails around them.
Правильная позиция — ни презрение, ни слепое доверие. Это эмпирическая привычка: узнайте, где они работают, где проваливаются, под что их тренировали и как построить вокруг них ограничители.
12. Education: You Can Outsource Thinking, But Not Understanding
12. Образование: мышление можно делегировать, понимание — нет
We ended on education. There is a line I keep returning to:
Мы завершили на теме образования. Есть фраза, к которой я постоянно возвращаюсь:
You can outsource your thinking, but you can't outsource your understanding.
Мышление можно делегировать, но понимание — нельзя.
Even if agents do more of the work, the human still needs understanding to direct them. You need to know what is worth building, what question matters, what result is suspicious, and what tradeoff is acceptable.
Даже если агенты делают больше работы, человеку всё ещё нужно понимание, чтобы их направлять. Нужно знать, что стоит строить, какой вопрос важен, какой результат подозрителен и какой компромисс приемлем.
This is why I am interested in LLM knowledge bases. They are not just answer machines. They are tools for transforming information into understanding.
Именно поэтому мне интересны базы знаний на LLM. Это не просто машины ответов. Это инструменты для превращения информации в понимание.
This also connects to my tiny microGPT project: a complete GPT training and inference implementation in a single dependency-free Python file. The educational artifact becomes small enough for both humans and agents to inspect. The human expert contributes the distilled artifact and the taste behind it; the agent can then explain it interactively to each learner.
Это также связано с моим маленьким проектом microGPT: полная реализация обучения и инференса GPT в одном Python-файле без зависимостей. Образовательный артефакт становится достаточно маленьким, чтобы и люди, и агенты могли его осмотреть. Эксперт-человек вкладывает дистиллированный артефакт и стоящий за ним вкус; агент затем может интерактивно объяснять его каждому ученику.
The Big Picture
Большая картина
The main thesis of the conversation is that AI is becoming a new operating layer for digital work.
Главный тезис беседы — AI становится новым операционным слоем для цифровой работы.
The scarce thing is shifting:
Дефицитное смещается:
Менее дефицитно: генерация кода, отзыв API, шаблонный код, первые черновики, повторяющаяся настройка, простые преобразования. Более дефицитно: понимание, вкус, проектирование evals, безопасность, границы системы, оркестрация агентов, доменно-специфичные циклы обратной связи и умение замечать, когда модель сошла с рельсов.
For founders, the most important questions are:
Для основателей самые важные вопросы:
Что становится возможным, когда основной пользователь — агент, действующий от имени человека? Какие воркфлоу можно перестроить вокруг сенсоров, актуаторов и верифицируемых циклов? Какой софт должен исчезнуть, превратившись в прямые преобразования модели? Какие домены ценны и верифицируемы, но ещё плотно не натренированы фронтир-лабораториями? Какое человеческое суждение должно оставаться в петле, чтобы сохранить качество?
My current worldview is not that AI simply makes everyone faster at the old work. It is that the work itself is being reorganized around agents. Software, research, education, infrastructure, and knowledge work are all becoming variations of the same pattern:
Моё нынешнее мировоззрение — не в том, что AI просто делает всех быстрее в старой работе. Сама работа реорганизуется вокруг агентов. Софт, исследования, образование, инфраструктура и работа со знаниями — все становятся вариациями одного и того же паттерна:
define the context define the tools define the feedback loop define the guardrails let agents work preserve human understanding
определи контекст определи инструменты определи цикл обратной связи определи ограничители дай агентам работать сохрани человеческое понимание
Sequoia Ascent 2026: Andrej Karpathy in Conversation with Stephanie Zhan
Sequoia Ascent 2026: Andrej Karpathy в беседе со Stephanie Zhan
Edited transcript. Lightly cleaned for readability, with obvious transcription errors corrected, filler removed, and a few relevant links added.
Отредактированный транскрипт. Слегка причёсан для читаемости, очевидные ошибки транскрипции исправлены, слова-паразиты удалены, добавлено несколько уместных ссылок.
Introduction
Вступление
Konstantine: Someone you all know, someone who has become, in this AI revolution, a teacher of AI. In every revolution there is the technologist, but there is also the teacher, the person who actually informs and instructs how this transformation is going to happen. Andrej has become that teacher to the world.
Konstantine: Тот, кого вы все знаете. В этой AI-революции он стал учителем AI. В каждой революции есть технолог, но есть и учитель — человек, который реально объясняет и направляет это превращение. Andrej стал таким учителем для всего мира.
Early at Autopilot at Tesla, co-founder of OpenAI, he left it all to start Eureka Labs, where he leaned into the idea of an AI that was a true instructor. We're happy to have Andrej Karpathy with our partner Stephanie Zhan.
Он работал над Autopilot в Tesla, был сооснователем OpenAI и оставил всё это, чтобы основать Eureka Labs, где сделал ставку на идею AI как настоящего наставника. Мы рады, что Andrej Karpathy здесь с нашим партнёром Stephanie Zhan.
Stephanie: Hi everyone. We're excited for our first special guest. He has helped build modern AI, explain modern AI, and occasionally rename modern AI.
Stephanie: Привет всем. Мы рады нашему первому особому гостю. Он помог построить современный AI, объяснять современный AI и время от времени переименовывать современный AI.
He helped co-found OpenAI. He helped get Autopilot working at Tesla. And he has a rare gift for making the most complex technical shifts feel both accessible and inevitable.
Он сооснователь OpenAI. Он помог запустить Autopilot в Tesla. И у него редкий дар делать самые сложные технические сдвиги одновременно понятными и неизбежными.
You all know him for having coined the term vibe coding last year. But just in the last few months, he said something even more startling: he has never felt more behind as a programmer. That's where we're starting today. Thank you, Andrej, for joining us.
Вы все знаете его как автора термина vibe coding, придуманного в прошлом году. Но всего пару месяцев назад он сказал ещё более поразительную вещь: он никогда не чувствовал себя настолько отставшим как программист. С этого мы и начнём. Спасибо, Andrej, что присоединился.
Andrej: Hello. Excited to be here and to kick us off.
Andrej: Привет. Рад быть здесь и открывать конференцию.
The December 2025 Agentic Inflection
Агентный перелом декабря 2025
Stephanie: A couple of months ago, you said you've never felt more behind as a programmer. That's startling to hear from you, of all people. Can you help us unpack that? Was that feeling exhilarating or unsettling?
Stephanie: Пару месяцев назад ты сказал, что никогда не чувствовал себя настолько отставшим как программист. От тебя такое слышать поразительно. Можешь распаковать это? Это ощущение было воодушевляющим или тревожным?
Andrej: A mixture of both, for sure.
Andrej: Точно смесь и того и другого.
Like many of you, I've been using agentic tools like Claude Code, Codex, and adjacent things for a while, maybe over the last year. They were very good at chunks of code, but sometimes they would mess up and you had to edit them. They were helpful.
Как и многие из вас, я какое-то время — наверное, последний год — пользовался агентными инструментами: Claude Code, Codex и смежными. Они были очень хороши на кусках кода, но иногда промахивались, и приходилось править. В целом — помогали.
Then I would say December was a clear point. I was on a break, so I had more time. I think many other people were similar. I started to notice that with the latest models, the chunks just came out fine. Then I kept asking for more and they still came out fine. I couldn't remember the last time I corrected it. I started trusting the system more and more.
А декабрь стал явной точкой. У меня были каникулы, так что было больше времени. Думаю, у многих других было похоже. Я начал замечать, что с последними моделями куски стали выходить нормально. Я просил ещё — и они продолжали выходить нормально. Я не мог вспомнить, когда в последний раз правил их. Я стал доверять системе всё больше и больше.
I do think it was a stark transition. A lot of people experienced AI last year as a ChatGPT-adjacent thing, but you really had to look again as of December, because things changed fundamentally, especially in this agentic, coherent workflow. It really started to work.
Я считаю, что это был резкий переход. Многие пережили AI в прошлом году как нечто типа ChatGPT, но к декабрю стоило посмотреть заново, потому что всё изменилось фундаментально, особенно в этом агентном, связном воркфлоу. Оно реально заработало.
That realization sent me down the rabbit hole of infinite side projects. My side-projects folder is extremely full with random things. I was coding all the time. That happened in December, and I've been looking at the repercussions since.
Это осознание утащило меня в кроличью нору бесконечных пет-проектов. Моя папка с side-проектами забита всякой всячиной. Я кодил всё время. Это случилось в декабре, и с тех пор я разбираюсь с последствиями.
Software 3.0
Software 3.0
Stephanie: You've talked about LLMs as a new computer. It isn't just better software; it's a new computing paradigm. Software 1.0 was explicit rules. Software 2.0 was learned weights. Software 3.0 is this. If that is true, what does a team build differently the day they actually believe it?
Stephanie: Ты говорил о LLM как о новом компьютере. Это не просто лучший софт, это новая вычислительная парадигма. Software 1.0 — это явные правила. Software 2.0 — выученные веса. Software 3.0 — вот это. Если это правда, что команда должна делать иначе в тот день, когда реально в это поверит?
Andrej: Software 1.0 is writing code. Software 2.0 is programming by creating datasets and training neural networks. Programming becomes arranging datasets, objectives, and neural network architectures.
Andrej: Software 1.0 — это писать код. Software 2.0 — это программирование через создание датасетов и обучение нейронных сетей. Программирование становится организацией датасетов, целей и архитектур нейросетей.
Then what happened is that if you train GPT models or LLMs on a sufficiently large set of tasks, implicitly, because the internet contains many tasks, these models become programmable computers in a certain sense.
Затем произошло вот что: если ты обучаешь GPT-модели или LLM на достаточно большом наборе задач — а интернет, неявно, содержит огромное число задач — эти модели в определённом смысле становятся программируемыми компьютерами.
Software 3.0 is about programming through prompting. What's in the context window is your lever over the interpreter, and the interpreter is the LLM. It interprets your context and performs computation in digital information space.
Software 3.0 — это программирование через промпт. То, что находится в контекстном окне, — это твой рычаг над интерпретатором, а интерпретатор — это LLM. Она интерпретирует твой контекст и выполняет вычисления в пространстве цифровой информации.
A few examples drove this home for me. When OpenClaw came out, to install it you would normally expect a shell script. But to target many platforms and many kinds of computers, shell scripts usually balloon and become extremely complex. You're stuck in the Software 1.0 universe of wanting to write exact code.
Несколько примеров помогли мне это прочувствовать. Когда вышел OpenClaw, для его установки обычно ожидался бы shell-скрипт. Но чтобы покрыть много платформ и разных машин, shell-скрипты обычно раздуваются и становятся крайне сложными. Ты застрял во вселенной Software 1.0 с желанием прописать точный код.
The OpenClaw installation was instead a block of text that you copy and paste into your agent. It is like a little skill: copy this, give it to your agent, and it will install OpenClaw. That is more powerful because you're working in the Software 3.0 paradigm. You don't have to spell out every detail. The agent has intelligence. It looks at your environment, performs intelligent actions, and debugs in the loop.
Установка OpenClaw вместо этого была блоком текста, который копируешь и вставляешь в свой агент. Это что-то вроде маленького скилла: копируешь это, отдаёшь агенту — и он установит OpenClaw. Это мощнее, потому что ты работаешь в парадигме Software 3.0. Тебе не надо прописывать каждую деталь. У агента есть интеллект. Он смотрит на твоё окружение, выполняет разумные действия и отлаживает в цикле.
That is a different way of thinking. What is the piece of text to copy-paste into your agent? That is now part of the programming paradigm.
Это другой способ мышления. Какой кусок текста скопировать-вставить в твой агент? Это теперь часть парадигмы программирования.
Another example is MenuGen. You sit down at a restaurant, get a menu, and there are no pictures. I don't know what many of these things are. I wanted to take a photo of the menu and get pictures of what those dishes might look like in a generic sense.
Другой пример — MenuGen. Ты садишься в ресторане, получаешь меню, и там нет картинок. Я многих этих блюд не знаю. Я хотел сфотографировать меню и получить картинки того, как эти блюда могут примерно выглядеть.
So I built an app. You upload a photo, it OCRs all the titles, uses an image generator to get pictures, and shows them to you. It runs on Vercel and rerenders the menu.
Так я построил приложение. Ты загружаешь фото, оно распознаёт все названия, использует генератор изображений, чтобы получить картинки, и показывает их тебе. Работает на Vercel и перерисовывает меню.
Then I saw the Software 3.0 version, which blew my mind. You take the photo, give it to Gemini, and say: use Nano Banana to overlay the things onto the menu. It returns an image of the menu I took, but with pictures rendered into the pixels.
Затем я увидел версию Software 3.0, которая меня поразила. Ты берёшь фото, отдаёшь его Gemini и говоришь: используя Nano Banana, наложи это на меню. Он возвращает изображение того меню, которое я снял, но с пририсованными изображениями блюд.
All of MenuGen is spurious in that framing. It is working in the old paradigm. That app shouldn't exist. In the Software 3.0 paradigm, the neural network does more of the work. Your prompt or context is the image, and the output is an image. There is no need for all the app machinery in between.
Весь MenuGen становится излишним. Он работает в старой парадигме. Этого приложения не должно существовать. В парадигме Software 3.0 нейросеть делает бо́льшую часть работы. Твой промпт или контекст — это изображение, выход — тоже изображение. Не нужна вся прокладка приложения между ними.
People have to reframe. Don't only work in the existing paradigm and think of AI as a speedup of what exists. New things are available now.
Людям нужно переосмыслить. Не работай только в существующей парадигме и не думай об AI как об ускорителе существующего. Доступны новые вещи.
And it is not just programming becoming faster. This is more general information processing that is now automatable. Previous code worked over structured data. You wrote code over structured data.
И речь не только о том, что программирование стало быстрее. Это более общая обработка информации, которая теперь автоматизируема. Предыдущий код работал над структурированными данными. Ты писал код над структурированными данными.
With my LLM knowledge bases project, you get LLMs to create wikis for your organization or for you personally. This is not a program in the old sense. There was no code that could create a knowledge base based on a bunch of messy facts. But now you can take documents, recompile them, reorder them, and create something new and interesting as a reframing of the data.
С моим проектом LLM knowledge bases ты заставляешь LLM создавать вики для твоей организации или лично для тебя. Это не программа в старом смысле. Не было кода, который мог бы создать базу знаний из кучи грязных фактов. Но теперь ты можешь брать документы, перекомпилировать их, переупорядочивать и создавать что-то новое и интересное как переосмысление данных.
These are new things that weren't possible before. I keep trying to come back to that: not only what can we do faster, but what couldn't be possible before? That is more exciting.
Это новые вещи, которые раньше были невозможны. Я постоянно возвращаюсь к этому: не только что мы можем делать быстрее, а что было невозможно раньше? Это интереснее.
Neural Computers
Нейронные компьютеры
Stephanie: I love the MenuGen progression. If you extrapolate further, what is the 2026 equivalent of building websites in the 90s, mobile apps in the 2010s, or SaaS in the cloud era? What will look obvious in hindsight that is still mostly unbuilt today?
Stephanie: Мне нравится прогрессия MenuGen. Если экстраполировать дальше, что в 2026 году станет эквивалентом построения веб-сайтов в 90-х, мобильных приложений в 2010-х или SaaS в эпоху облаков? Что задним числом будет казаться очевидным, но сегодня почти не построено?
Andrej: Going with the MenuGen example, a lot of this code shouldn't exist. The neural network should be doing most of the work.
Andrej: Если идти по примеру MenuGen — большая часть этого кода не должна существовать. Нейросеть должна делать бо́льшую часть работы.
The extrapolation looks very weird. You could imagine completely neural computers in a certain sense. Imagine a device that takes raw video or audio into a neural net and uses diffusion to render a UI unique for that moment.
Экстраполяция выглядит очень странно. Можно представить полностью нейронные компьютеры в определённом смысле. Представь устройство, которое подаёт сырое видео или аудио в нейросеть и использует диффузию, чтобы отрендерить UI, уникальный для этого момента.
In the early days of computing, people were a little confused about whether computers would look like calculators or neural nets. In the 1950s and 1960s, it was not obvious which way it would go. We went down the calculator path and built classical computing.
В ранние дни компьютеров люди были немного запутаны, будут ли компьютеры похожи на калькуляторы или на нейросети. В 1950-х и 1960-х было неочевидно, куда оно пойдёт. Мы пошли по пути калькулятора и построили классические вычисления.
Neural nets are currently running virtualized on existing computers. But you can imagine a flip where the neural net becomes the host process and CPUs become coprocessors. Intelligence compute and neural-network compute become the dominant spend of FLOPs.
Нейросети сейчас работают виртуализованно на существующих компьютерах. Но можно представить переворот, в котором нейросеть становится хост-процессом, а CPU — сопроцессорами. Вычисления интеллекта и нейросетевые вычисления становятся доминирующей тратой FLOPs.
You can imagine something foreign, where neural nets do most of the heavy lifting and use tools as a historical appendage for deterministic tasks. What is really running the show is neural nets networked in some way.
Можно представить нечто чужеродное, где нейросети делают основную тяжёлую работу и используют инструменты как исторический привесок для детерминированных задач. На самом деле всё это вертят сетевые нейросети.
That is the extrapolation, but I think we will get there piece by piece.
Это экстраполяция, но, думаю, мы будем приходить туда по частям.
Verifiability and Jagged Intelligence
Верифицируемость и «рваный» интеллект
Stephanie: I'd love to talk about verifiability: the idea that AI will automate faster and more easily in domains where the output can be verified. If that framework is right, what work is about to move much faster than people realize? And what professions do people think are safe, but are actually highly verifiable?
Stephanie: Я бы хотела поговорить о верифицируемости — идее, что AI быстрее и проще автоматизирует те домены, где результат можно верифицировать. Если эта рамка верна, какая работа сейчас движется намного быстрее, чем люди понимают? И какие профессии люди считают безопасными, хотя на самом деле они высоко верифицируемы?
Andrej: Traditional computers automate what you can specify in code. This latest round of LLMs can automate what you can verify.
Andrej: Традиционные компьютеры автоматизируют то, что можно специфицировать в коде. Нынешнее поколение LLM может автоматизировать то, что можно верифицировать.
When frontier labs train these LLMs, they train them in giant reinforcement learning environments with verification rewards. Because of that, models progress and become jagged entities. They peak in capability in verifiable domains like math, code, and adjacent areas, and they stagnate or remain rough around the edges where things are not in that space.
Когда фронтир-лаборатории обучают эти LLM, они тренируют их в гигантских средах reinforcement learning с верифицируемыми наградами. Из-за этого модели прогрессируют и становятся рваными сущностями. Они выбиваются в верифицируемых доменах — математика, код и смежное — и застывают или остаются грубыми по краям там, где эти условия не выполняются.
I wrote about verifiability because I was trying to understand why these things are so jagged. Some of it has to do with how labs train the models. Some of it also has to do with what labs focus on and what they put into the data distribution. Some things are significantly more valuable economically, so labs create more environments for those settings. Code is a good example.
Я написал о верифицируемости, потому что пытался понять, почему эти штуки настолько рваные. Часть связана с тем, как лаборатории обучают модели. Часть — с тем, на чём лаборатории фокусируются и что попадает в распределение данных. Некоторые вещи значительно ценнее экономически, поэтому лаборатории создают больше сред под них. Код — хороший пример.
There are probably many verifiable environments that you could think about that did not make it into the mix because they are not as economically useful to have capability around.
Вероятно, есть множество верифицируемых сред, о которых можно подумать, которые не попали в обучающий микс, потому что они менее экономически полезны для развития способностей.
One favorite example for a while was: how many letters are in "strawberry"? Models famously got this wrong. That has now been patched. The newer example is: I want to go to a car wash to wash my car, and it's 50 meters away. Should I drive or walk? State-of-the-art models may tell you to walk because it's close.
Один из любимых примеров одно время — сколько букв в слове «strawberry». Модели знаменито это ошибались. Сейчас это пропатчено. Новый пример: я хочу поехать на автомойку помыть машину, она в 50 метрах. Ехать или идти пешком? State-of-the-art модель может сказать тебе идти пешком, потому что это близко.
How is it possible that a state-of-the-art model can refactor a 100,000-line codebase or find zero-day vulnerabilities, yet tells me to walk to the car wash? That's jaggedness. To the extent models remain jagged, it means you need to be in the loop. You need to treat them as tools and stay in touch with what they are doing.
Как такое возможно, что state-of-the-art модель может отрефакторить кодовую базу в 100 000 строк или найти 0-day уязвимости, но при этом говорит мне идти на автомойку пешком? Это рваность. Пока модели остаются рваными, ты обязан быть в петле. Ты обязан относиться к ним как к инструментам и оставаться в курсе того, что они делают.
My writing on verifiability is trying to understand this pattern. I think it is some combination of "verifiable" plus "labs care."
Моё письмо о верифицируемости — попытка понять эту закономерность. Думаю, это какая-то комбинация «верифицируемо» плюс «лабораториям не всё равно».
Another anecdote is chess. From GPT-3.5 to GPT-4, people noticed that chess improved a lot. Some people thought that was just general capability progress. But I think it is public information that a large amount of chess data made it into the pretraining set. Because it was in the data distribution, the model improved much more than it would by default.
Ещё анекдот — шахматы. От GPT-3.5 к GPT-4 люди заметили, что шахматы сильно улучшились. Некоторые думали, что это просто прогресс общих способностей. Но я думаю, что публично известно: в pretraining попал большой объём шахматных данных. Поскольку это было в распределении данных, модель улучшилась гораздо сильнее, чем улучшилась бы по умолчанию.
Someone at OpenAI decided to add that data, and now there is a capability spike. That is why I stress this dimension: we are slightly at the mercy of what the labs do and what they put into the mix. You have to explore the model they give you. It has no manual. It works in some settings and not others.
Кто-то в OpenAI решил добавить эти данные, и теперь — скачок способностей. Поэтому я подчёркиваю это измерение: мы немного во власти того, что делают лаборатории и что они кладут в микс. Тебе приходится исследовать модель, которую тебе дают. У неё нет инструкции. Она работает в одних условиях и не работает в других.
If you are in the circuits that were part of reinforcement learning, you fly. If you are outside the data distribution, you struggle. You have to figure out which circuits your application is in. If you are not in those circuits, then you have to look at fine-tuning or doing some of your own work, because it may not come out of the LLM out of the box.
Если ты в схемах, которые были частью reinforcement learning, ты летишь. Если ты вне распределения данных, тебе тяжело. Тебе нужно выяснить, в каких схемах находится твоё приложение. Если нет — придётся смотреть в сторону fine-tuning или собственной работы, потому что это может не выйти из LLM «из коробки».
Startup Opportunities in Verifiable Domains
Стартап-возможности в верифицируемых доменах
Stephanie: If you were a founder today, and you were solving a tractable, verifiable problem, but you looked around and saw that the labs have started getting to escape velocity in obvious domains like math and coding, what would your advice be?
Stephanie: Если бы ты был сегодня основателем, решал какую-то посильную, верифицируемую задачу, но оглянулся бы и увидел, что лаборатории начали достигать второй космической в очевидных доменах вроде математики и кодинга, — какой бы у тебя был совет?
Andrej: Verifiability makes something tractable in the current paradigm because you can throw a huge amount of reinforcement learning at it.
Andrej: Верифицируемость делает задачу решаемой в текущей парадигме, потому что ты можешь обрушить на неё огромный объём reinforcement learning.
That remains true even if the labs are not focusing on it directly. If you are in a verifiable setting where you can create reinforcement learning environments or examples, then you can potentially do your own fine-tuning and benefit from it. That technology fundamentally works. If you have diverse datasets or RL environments, you can use a fine-tuning framework, pull the lever, and get something that works pretty well.
Это остаётся верным, даже если лаборатории на этом напрямую не сфокусированы. Если ты в верифицируемой постановке, где можешь создавать среды RL или примеры, ты потенциально можешь делать свой fine-tuning и получать выгоду. Технология фундаментально работает. Если у тебя есть разнообразные датасеты или RL-среды, ты можешь использовать фреймворк fine-tuning, дёрнуть за рычаг и получить что-то, что работает довольно хорошо.
I don't want to give away specific examples, but there are valuable reinforcement learning environments that people could think of that are not part of the current frontier-lab mix.
Не хочу выдавать конкретные примеры, но есть ценные среды reinforcement learning, о которых можно подумать и которые сейчас не входят в микс фронтир-лабораторий.
Stephanie: On the flip side, what still feels automatable only from a distance? What domains or professions are safer than others?
Stephanie: С другой стороны, что пока кажется автоматизируемым только издалека? Какие домены или профессии безопаснее других?
Andrej: Ultimately, almost everything can be made verifiable to some extent, some things more easily than others. Even for writing, you can imagine having a council of LLM judges and getting something reasonable.
Andrej: В конечном счёте почти всё можно сделать верифицируемым в той или иной степени, какие-то вещи легче, какие-то — сложнее. Даже для письма можно представить совет LLM-судей и получить что-то разумное.
So it is more about what is easy or hard.
Так что вопрос скорее в том, что легко, а что сложно.
Vibe Coding vs. Agentic Engineering
Vibe coding против agentic engineering
Stephanie: Last year you coined the term vibe coding. Today we are in a world that feels more serious, more agentic engineering. What is the difference between the two, and what would you call what we are in today?
Stephanie: В прошлом году ты ввёл термин vibe coding. Сегодня мы в мире, который ощущается серьёзнее, более agentic engineering. В чём разница между ними и как бы ты назвал то, в чём мы сейчас находимся?
Andrej: Vibe coding is about raising the floor for everyone in terms of what they can do in software. Everyone can vibe code anything, and that is amazing.
Andrej: Vibe coding — про то, чтобы поднять пол для всех в плане того, что они могут делать в софте. Кто угодно может vibe-кодить что угодно, и это потрясающе.
Agentic engineering is about preserving the quality bar of professional software. You are not allowed to introduce vulnerabilities because of vibe coding. You are still responsible for your software, just as before. But can you go faster? Spoiler: you can. The question is how to do that properly.
Agentic engineering — про то, чтобы сохранить планку качества профессионального софта. Нельзя вносить уязвимости из-за vibe coding. Ты по-прежнему отвечаешь за свой софт, как и раньше. Но можешь ли ты двигаться быстрее? Спойлер: можешь. Вопрос — как делать это правильно.
I call it agentic engineering because it is an engineering discipline. You have agents, which are spiky entities. They are fallible and stochastic, but extremely powerful. How do you coordinate them to go faster without sacrificing your quality bar?
Я называю это agentic engineering, потому что это инженерная дисциплина. У тебя есть агенты — рваные сущности. Они ошибающиеся и стохастические, но крайне мощные. Как их координировать, чтобы идти быстрее, не жертвуя планкой качества?
Vibe coding raises the floor. Agentic engineering is about extrapolating the ceiling. I think there is a very high ceiling on agentic-engineer capability. People used to talk about the 10x engineer. I think this is magnified a lot more. 10x is not the speedup people can gain. People who are very good at this can peak much higher than that.
Vibe coding поднимает пол. Agentic engineering — про экстраполяцию потолка. Я думаю, что у способности agentic-инженера очень высокий потолок. Раньше говорили про 10x-инженеров. Думаю, тут это многократно усиливается. 10x — не тот ускоритель, который люди получат. Те, кто очень хороши в этом, могут уходить намного выше.
What AI-Native Coding Looks Like
Как выглядит AI-native кодинг
Stephanie: Last year Sam Altman came to Ascent and said people of different generations use ChatGPT differently. If you're in your 30s, you use it as a Google search replacement. If you're in your teens, ChatGPT is your gateway to the internet.
Stephanie: В прошлом году Sam Altman приходил на Ascent и говорил, что разные поколения используют ChatGPT по-разному. Если тебе за 30, ты используешь его как замену Google-поиску. Если ты подросток, ChatGPT — твоя дверь в интернет.
What is the parallel in coding? If we watched two people code using OpenClaw, Claude Code, or Codex, one mediocre and one fully AI-native, how would you describe the difference?
Какая аналогия в кодинге? Если бы мы смотрели на двух кодеров, использующих OpenClaw, Claude Code или Codex — одного посредственного и одного полностью AI-native, — как бы ты описал разницу?
Andrej: It is about getting the most out of the tools available, using their features, and investing in your own setup.
Andrej: Это про то, чтобы вытащить из доступных инструментов максимум, использовать их возможности и инвестировать в свою настройку.
Engineers have always done this with tools like Vim or VS Code. Now the tools are Claude Code, Codex, and so on. You invest in your setup and use what is available.
Инженеры всегда так делали с инструментами вроде Vim или VS Code. Теперь инструменты — это Claude Code, Codex и так далее. Ты вкладываешься в свою настройку и используешь то, что есть.
One related thought is hiring. Many people want to hire strong agentic engineers, but most hiring processes have not been refactored for agentic-engineer capability. If you are giving out small puzzles to solve, that is still the old paradigm.
Связанная мысль — найм. Многие хотят нанимать сильных agentic-инженеров, но большинство процессов найма не перестроены под способности agentic-инженера. Если ты раздаёшь маленькие головоломки — это всё та же старая парадигма.
Hiring should look more like: give someone a big project and see them implement it. For example, write a Twitter clone for agents, make it good and secure, then have agents simulate activity on it. Then I will use ten Codex agents to try to break the website you deployed, and they should not be able to break it.
Найм должен выглядеть скорее так: дать человеку большой проект и посмотреть, как он его реализует. Например, написать Twitter-клон для агентов, сделать его хорошим и защищённым, затем заставить агентов симулировать на нём активность. Потом я возьму десять Codex-агентов и попытаюсь сломать сайт, который ты задеплоил, — и они не должны его сломать.
Watching people in that setting, building a bigger project and using the tooling, is closer to what I would look for.
Смотреть на людей в такой постановке — как они строят более крупный проект и пользуются инструментами — ближе к тому, что я бы искал.
What Human Skills Become More Valuable?
Какие человеческие навыки становятся ценнее?
Stephanie: As agents do more, what human skill becomes more valuable, not less?
Stephanie: По мере того как агенты делают больше, какой человеческий навык становится ценнее, а не наоборот?
Andrej: Right now the agents are like interns. You still have to be in charge of aesthetics, judgment, taste, and oversight.
Andrej: Сейчас агенты — как интерны. Ты по-прежнему отвечаешь за эстетику, суждение, вкус и контроль.
One of my favorite examples is from MenuGen. You sign up with a Google account, but you purchase credits using Stripe. Both have email addresses. My agent tried to assign purchased credits by matching the Stripe email address to the Google email address.
Один из моих любимых примеров — из MenuGen. Ты регистрируешься через Google-аккаунт, но покупаешь кредиты через Stripe. У обеих систем есть email. Мой агент пытался начислять купленные кредиты, сопоставляя email из Stripe с email из Google-аккаунта.
But those can be different emails. The user might not get the credits they purchased. Why would you use email addresses to cross-correlate funds? You need a persistent user ID. This is the kind of mistake agents still make.
Но это могут быть разные email. Пользователь может не получить купленные кредиты. С какой стати использовать email для сопоставления денежных операций? Нужен постоянный user ID. Это типичная ошибка, которую агенты пока делают.
People have to be in charge of the spec and plan. I don't even fully like "plan mode" as a concept, though it is useful. There is something more general: you work with your agent to design a detailed spec, maybe basically the docs, and get agents to write them. You are in charge of oversight and the top-level categories. The agents do much of the work underneath.
Люди должны отвечать за спеку и план. Мне даже не очень нравится концепция «plan mode» как таковая, хотя она полезна. Есть что-то более общее: ты работаешь с агентом, чтобы спроектировать детальную спеку — это может быть, по сути, документация — и просишь агентов её написать. Ты отвечаешь за контроль и верхнеуровневые категории. Агенты делают много работы снизу.
As another example, with tensors in neural networks, there are many details across PyTorch, NumPy, pandas, and so on: dim versus axis, reshape, permute, transpose, keepdim. I don't remember this stuff anymore because I don't have to. These details are handled by the intern because agents have good recall.
Ещё пример: тензоры в нейросетях. Там много деталей в PyTorch, NumPy, pandas и так далее: dim против axis, reshape, permute, transpose, keepdim. Я этого больше не помню, потому что мне не нужно. Эти детали обрабатывает интерн, потому что у агентов хорошая память.
But you still have to understand the fundamentals. You need to know that there is underlying tensor storage, that you can manipulate a view of the same storage, or create different storage, which is less efficient. You still need to know enough to avoid copying memory unnecessarily.
Но ты должен понимать фундамент. Ты должен знать, что есть нижележащее тензорное хранилище, что ты можешь манипулировать представлением того же хранилища или создать другое хранилище — что менее эффективно. Тебе нужно достаточно знать, чтобы не копировать память без необходимости.
So you are in charge of taste, engineering, design, and whether the system makes sense. You ask for the right things: for example, we tie everything to unique user IDs. The agents fill in the blanks.
Так что ты отвечаешь за вкус, инженерию, проектирование и за то, имеет ли система смысл. Ты просишь правильные вещи: например, мы привязываем всё к уникальным user ID. Агенты заполняют пробелы.
Stephanie: Do you think taste and judgment matter less over time, or does the ceiling just keep rising?
Stephanie: Как ты думаешь, вкус и суждение со временем становятся менее значимыми, или потолок просто продолжает расти?
Andrej: I hope it improves. The reason it does not improve right now is probably that it is not part of the reinforcement learning. There may be no aesthetics reward, or it is not good enough.
Andrej: Надеюсь, это улучшится. Сейчас оно не улучшается, видимо, потому что это не часть reinforcement learning. Возможно, награды за эстетику нет или она недостаточно хороша.
When I look at the code, sometimes I get a heart attack. It is not always amazing code. It can be bloated, copy-pasted, awkwardly abstracted, brittle. It works, but it is gross. I hope this improves in future models.
Когда я смотрю на код, иногда у меня инфаркт. Это не всегда классный код. Он может быть раздутым, копипастным, неудачно абстрагированным, хрупким. Он работает, но мерзкий. Надеюсь, это улучшится в будущих моделях.
A good example is my microGPT project, where I tried to simplify LLM training as much as possible. The models hate this. They can't do it. I kept trying to prompt an LLM to simplify more and more, and it just couldn't. You feel like you are outside the RL circuits. It feels like pulling teeth.
Хороший пример — мой проект microGPT, где я попытался максимально упростить обучение LLM. Модели это ненавидят. Они не могут. Я снова и снова просил LLM упрощать ещё и ещё, и она просто не могла. Чувствуешь, что ты вне RL-схем. Как зубы рвать.
So people remain in charge of this for now. But I don't think there is anything fundamental preventing improvement. The labs just haven't done it yet.
Так что люди пока остаются ответственными за это. Но я не думаю, что есть что-то фундаментальное, мешающее улучшениям. Лаборатории просто пока этого не сделали.
Ghosts, Not Animals
Призраки, а не животные
Stephanie: I'd love to come back to jagged forms of intelligence. You wrote a thought-provoking piece around Animals vs. Ghosts: we are not building animals, we are summoning ghosts. These are jagged forms of intelligence shaped by data and reward functions, but not by intrinsic motivation, fun, curiosity, or empowerment in the way evolution shaped animals.
Stephanie: Хочу вернуться к рваным формам интеллекта. Ты написал провокационный текст Animals vs. Ghosts: мы строим не животных, мы вызываем призраков. Это рваные формы интеллекта, сформированные данными и функциями награды, а не внутренней мотивацией, удовольствием, любопытством или эмпауэрментом так, как эволюция формировала животных.
Why does that framing matter? What does it change about how you build, deploy, evaluate, or trust them?
Почему эта рамка важна? Что она меняет в том, как ты строишь, разворачиваешь, оцениваешь или доверяешь им?
Andrej: I wrote about it because I am trying to wrap my head around what these things are. If you have a good model of what they are and are not, you will be more competent at using them.
Andrej: Я написал об этом, потому что пытаюсь понять, что это вообще такое. Если у тебя есть хорошая модель того, чем они являются и не являются, ты будешь компетентнее их использовать.
I don't know if the framing has direct practical power. It is a little philosophical. But it is about coming to terms with the fact that these things are not animal intelligence. If you yell at them, they are not going to work better or worse. They are statistical simulation circuits. The substrate is pretraining, then reinforcement learning bolted on top.
Не знаю, есть ли у этой рамки прямая практическая сила. Это слегка философское. Но это о том, чтобы примириться с фактом, что это не животный интеллект. Если ты на них орёшь — они от этого не будут работать ни лучше, ни хуже. Это статистические симуляционные схемы. Субстрат — это предобучение, потом сверху прикручен reinforcement learning.
It is a mindset: what am I interacting with, what is likely to work, what is not likely to work, and how do I modify it? I don't have five obvious outcomes that make your system better. It is more about being suspicious of the system and figuring it out empirically over time.
Это вопрос установки: с чем я взаимодействую, что вероятно сработает, что нет и как мне это модифицировать? У меня нет пяти очевидных рекомендаций, которые сделают твою систему лучше. Скорее это про подозрительность к системе и эмпирическое выяснение со временем.
Agent-Native Infrastructure
Agent-native инфраструктура
Stephanie: You are deep in working with agents that do not just chat. They have real permissions, local context, and actually take action on your behalf. What does the world look like when we all live in that world?
Stephanie: Ты глубоко работаешь с агентами, которые не просто болтают. У них реальные права, локальный контекст, и они реально совершают действия от твоего имени. Как выглядит мир, когда мы все живём в таком мире?
Andrej: A lot of people here are probably excited about what the agent-native environment looks like. Everything has to be rewritten. Most things are still fundamentally written for humans.
Andrej: Многим здесь, вероятно, интересно, как выглядит agent-native окружение. Всё нужно переписать. Большинство вещей всё ещё фундаментально написаны для людей.
When I use frameworks or libraries, the docs are still written for humans. This is my favorite pet peeve. Why are people still telling me what to do? I don't want to do anything. What is the thing I should copy-paste to my agent?
Когда я пользуюсь фреймворками или библиотеками, документация всё ещё написана для людей. Это моё любимое раздражение. Почему мне всё ещё рассказывают, что делать? Я ничего не хочу делать. Что мне скопировать-вставить в моего агента?
Every time I am told "go to this URL" or "click here," I think: no. The industry has to decompose workloads into sensors and actuators over the world. How do we make things agent-native? How do we describe them to agents first, and build automation around data structures that are legible to LLMs?
Каждый раз, когда мне говорят «зайди по этому URL» или «кликни здесь», я думаю: нет. Индустрия должна разложить нагрузки на сенсоры и актуаторы над миром. Как сделать вещи agent-native? Как описывать их в первую очередь агентам и строить автоматизацию вокруг структур данных, читаемых для LLM?
I hope there is a lot of agent-first infrastructure. With MenuGen, the hard part was not writing the code. The trouble was deploying it on Vercel, wiring services, settings, DNS, auth, payments, secrets, and production configuration.
Я надеюсь, что появится много agent-first инфраструктуры. С MenuGen сложной частью было не написать код. Проблема была в деплое на Vercel, подключении сервисов, настройках, DNS, авторизации, платежах, секретах и продакшен-конфигурации.
I would hope I could prompt an LLM: build MenuGen. Then I don't touch anything, and it is deployed on the internet. That would be a good test of whether our infrastructure is becoming agent-native.
Я бы хотел сказать LLM: построй MenuGen. И дальше я ничего не трогаю — и он развернут в интернете. Это был бы хороший тест на то, становится ли наша инфраструктура agent-native.
Ultimately, I do think we are going toward a world where people and organizations have agent representation. My agent will talk to your agent to figure out meeting details and other tasks. That is roughly where things are going.
В конечном счёте я думаю, что мы идём к миру, где у людей и организаций будет агентское представительство. Мой агент будет говорить с твоим агентом, чтобы согласовать детали встречи и другие задачи. Туда всё примерно и идёт.
Education and Understanding
Образование и понимание
Stephanie: We have to end on education. You are probably one of the best in the world at making complex technical concepts simple, and you think deeply about education. What remains worth learning deeply when intelligence gets cheap?
Stephanie: Мы обязаны закончить на образовании. Ты, наверное, один из лучших в мире в том, чтобы делать сложные технические концепции простыми, и ты глубоко думаешь об образовании. Что остаётся стоящим того, чтобы изучать вглубь, когда интеллект становится дешёвым?
Andrej: There was a tweet that blew my mind recently, and I keep thinking about it:
Andrej: Недавно я наткнулся на твит, который меня поразил, и я постоянно о нём думаю:
You can outsource your thinking, but you can't outsource your understanding.
Мышление можно делегировать, но понимание — нельзя.
That is nicely put. I am still part of the system. Information still has to make it into my brain. I am becoming the bottleneck of even knowing what we are trying to build, why it is worth doing, and how to direct my agents.
Хорошо сказано. Я по-прежнему часть системы. Информация всё ещё должна доходить до моего мозга. Я становлюсь бутылочным горлышком даже в том, чтобы понимать, что мы пытаемся построить, почему это стоит делать и как направлять моих агентов.
Something still has to direct the thinking and processing. That is constrained by understanding.
Что-то всё равно должно направлять мышление и обработку. И это ограничено пониманием.
This is one reason I am excited about LLM knowledge bases. They are a way for me to process information. Whenever I see a different projection onto information, I feel like I gain insight. It is synthetic data generation over fixed data.
Одна из причин, по которой я воодушевлён базами знаний на LLM, — это способ обработать информацию для меня. Каждый раз, когда я вижу другую проекцию на информацию, я ощущаю, что получаю инсайт. Это генерация синтетических данных поверх фиксированных данных.
When I read an article, I have my wiki being built up from those articles. I love asking questions about it. Ultimately these are tools to enhance understanding. Understanding is still the bottleneck because you cannot be a good director if you do not understand.
Когда я читаю статью, моя вики надстраивается из этих статей. Я обожаю задавать ей вопросы. В конечном счёте это инструменты для усиления понимания. Понимание остаётся бутылочным горлышком, потому что нельзя быть хорошим директором, не понимая.
The LLMs do not fully excel at understanding. You are still uniquely in charge of that. Tools that enhance understanding are incredibly interesting and exciting.
LLM не полностью преуспевают в понимании. Ты по-прежнему уникально за это отвечаешь. Инструменты, усиливающие понимание, невероятно интересны и захватывающи.
Stephanie: I'm excited to come back here in a couple of years and see if we have been fully automated out of the loop, and whether they take care of understanding as well. Thank you so much, Andrej.
Stephanie: Мне не терпится через пару лет вернуться сюда и посмотреть, полностью ли нас автоматизировали из петли и взяли ли они на себя и понимание. Огромное спасибо, Andrej.
Andrej: Thank you.
Andrej: Спасибо.
Konstantine: Stephanie, Andrej, thank you so much.
Konstantine: Stephanie, Andrej, огромное спасибо.