Verifiability
Андрей Карпати проводит аналогию между ИИ и новой вычислительной парадигмой, поскольку оба связаны с автоматизацией обработки цифровой информации. В прежней парадигме (Software 1.0 — написанные вручную программы) ключевым признаком автоматизируемости задачи была её специфицируемость: можно ли механически преобразовывать информацию по простому алгоритму. С приходом ИИ (Software 2.0 — программы, найденные через градиентный спуск под заданную цель) главным признаком становится проверяемость (verifiability): задача оптимизируема, если среду можно сбрасывать, она эффективна и допускает автоматическое вознаграждение попыток. Чем более задача проверяема, тем легче её автоматизировать — именно это формирует «зубчатую» границу прогресса LLM: проверяемые задачи (математика, код, головоломки с верными ответами) развиваются стремительно, а творческие, стратегические и требующие здравого смысла отстают. Итог: Software 1.0 автоматизирует то, что можно специфицировать, а Software 2.0 — то, что можно проверить.
Проверяемость
17 ноября 2025
ИИ сравнивали с различными историческими прецедентами: электричеством, промышленной революцией и т. д. Я считаю, что самая сильная аналогия — это ИИ как новая вычислительная парадигма, поскольку и то, и другое по своей сути связано с автоматизацией обработки цифровой информации.
Если бы вы взялись прогнозировать влияние вычислительной техники на рынок труда примерно в 1980-х, самым предсказательным признаком задачи/работы, на который стоило бы смотреть, была бы специфицируемость, то есть просто ли вы механически преобразуете информацию по заученному, легко формализуемому алгоритму (примеры — печатание текстов, бухгалтерия, люди-вычислители и т. д.)? Тогда это был тот класс программ, который позволяли писать (вручную) вычислительные возможности той эпохи. Написанные вручную программы я называю «Software 1.0».
С появлением ИИ мы теперь можем писать новые программы, которые раньше и надеяться не могли написать вручную. Мы делаем это, задавая цели (например, точность классификации, функции вознаграждения), и ищем в пространстве программ с помощью градиентного спуска нейросети, которые хорошо работают под эту цель. Это мой пост в блоге про Software 2.0, написанный некоторое время назад. И в этой новой парадигме программирования самым предсказательным признаком, на который стоит смотреть, становится проверяемость. Если задача/работа проверяема, то её можно оптимизировать напрямую или через обучение с подкреплением, и нейросеть можно натренировать работать чрезвычайно хорошо. Речь о том, в какой мере ИИ способен «практиковаться» в чём-то. Среда должна быть:
сбрасываемой (вы можете начать новую попытку), эффективной (можно сделать множество попыток) и вознаграждаемой (есть некий автоматический процесс, выдающий вознаграждение за любую конкретную сделанную попытку).
Чем более задача/работа проверяема, тем легче она поддаётся автоматизации в новой парадигме программирования. Если она непроверяема, остаётся надеяться на магию обобщения нейросети, скрестив пальцы, или на более слабые средства вроде имитации. Именно это движет «зубчатой» границей прогресса LLM. Проверяемые задачи продвигаются стремительно, возможно, даже превосходя способности лучших экспертов (например, математика, код, время, проведённое за просмотром видео, всё, что выглядит как головоломки с правильными ответами), тогда как многие другие в сравнении отстают (творческие, стратегические задачи, задачи, сочетающие знания о реальном мире, состояние, контекст и здравый смысл).
Software 1.0 легко автоматизирует то, что вы можете специфицировать. Software 2.0 легко автоматизирует то, что вы можете проверить.